문제 해결
접속 실패는 요청이 지나가는 순서대로 확인했습니다.
AWS 개인 PoC에서 EC2 Nginx → EKS 요청이 504로 실패했습니다. 워커 노드 보안 그룹을 고친 뒤에도 실패가 남아 요청 경로를 다시 따라가 보니, Nginx가 클러스터 안에서만 통하는 주소로 요청하고 있었습니다. 원인을 하나씩 나눠 확인하고 복구했습니다.
AWS 문제 해결 과정 →소개
클라우드 인프라를 구현하고
연결 문제를 해결해 왔습니다.
신입 클라우드 인프라/DevOps 직무에 지원하는 김종원입니다. 임베디드시스템을 전공하고, 학부연구에서 LLM 문서 질의응답(RAG)을 연구하며 교내 GPU 서버의 모델을 API로 연결했습니다. 이후 메가존클라우드 MSP 과정과 개인 프로젝트에서 AWS 네트워크, Kubernetes, GKE 배포를 직접 구현했습니다.
인프라를 만든 뒤 실제 요청이 끝까지 처리되는지 확인하고, 문제가 생기면 원인을 설명할 수 있는 엔지니어가 되고자 합니다. 각 프로젝트 페이지에 직접 맡은 범위와 코드, 실행 기록을 함께 정리했습니다.
작업 방식
일하는 방식 네 가지
사용자와 협업
팀원이 만든 집계 데이터와 제가 만든 조회 코드를 맞췄습니다.
Aegis-Pi에서는 데이터/대시보드 인프라와 관제 화면을 맡았습니다. 팀원의 5분 집계와 제 조회 코드를 연결할 때 평균과 최솟값의 의미를 맞추고, 데이터가 없는 구간을 위험 점수 0으로 계산하지 않는지 테스트로 확인했습니다. 팀원과는 매일 아침 진행 상황과 설계를 함께 맞췄습니다.
Aegis-Pi 문제 해결 과정 →정직과 책임
확인한 것과 아직 확인하지 않은 것을 나눠 적습니다.
Stock에서는 run_id 하나로 요청부터 Job 실행, MySQL 저장까지 따라가며 확인했습니다. 재지 않았던 동시 요청 처리량은 나중에 로컬 클러스터에서 직접 재서, 병목과 측정 조건을 함께 기록했습니다.
Stock 실행 기록 →도전과 AI 활용
새 일은 직접 해 보고, AI 결과는 테스트로 확인합니다.
MSP 과정의 필수 과제가 아닌 AWS, GCP 실습도 과정 자료로 혼자 끝까지 진행해 장애 원인과 복구 과정을 기록했습니다. Stock 개발에서는 AI 코딩 도구가 지킬 규칙 10가지(엔진 수정 금지, API 형식 유지, run_id 로깅 등)를 CLAUDE.md에 적어 두고, AI가 만든 변경은 테스트 83개와 CI로 확인한 뒤 반영했습니다.
Stock AI 작업 규칙 →입사하면 이렇게 일하겠습니다
- 바꾸기 전에 무엇을 확인할지 먼저 정하고, 확인한 결과를 남기겠습니다.
- 반복되는 점검과 배포 작업은 코드와 스크립트로 옮기겠습니다.
- 모르는 것은 빨리 묻고, 배운 것은 팀이 다시 쓸 수 있게 문서로 남기겠습니다.
학부연구
LLM 문서 질의응답(RAG)을 1년 반 연구했습니다
2024.04 ~ 2025.09, 인천대학교 임베디드소프트웨어설계 실험실. 파인튜닝에서 시작해 RAG, PDF RAG, 그래프 검색, 질문을 나눠 검색하는 CoT-RAG로 방법을 바꿔 가며 실험했습니다. 결과와 막힌 곳, 다음 계획은 개인 작성 보고서와 발표 자료 40여 건으로 남겼습니다.
논문은 학회 양식 초안을 함께 고쳐 쓰는 데까지 참여했고, 게재되지는 않았습니다. 연구 자료 원본은 연구실 내부 자료라 공개하지 않습니다.
모델 조합별 F1과 API 비용
HotpotQA 200문항, 2025.03 실험 기록. F1은 정답과 답을 정규화해 단어가 겹치는 정도로 잰 점수(0~1)이고, 비용은 200문항 전체입니다.
| 구성 | F1 | API 비용 |
|---|---|---|
| 기본 RAG | 0.12 | $0.11 |
| GPT-4o 단독 (검색 없음) | 0.23 | $0.13 |
| CoT-RAG: GPT-4o + GPT-3.5-turbo | 0.35 | $0.67 |
| CoT-RAG: GPT-4o + GPT-4o-mini | 0.56 | $0.54 |
| CoT-RAG: 모두 GPT-4o | 0.54 | $4.19 |
세부 질문 생성에만 GPT-4o를 쓰고 나머지 단계를 GPT-4o-mini로 바꾸니, F1은 모두 GPT-4o를 쓴 경우와 비슷했고 비용은 약 87% 낮았습니다. 한 번씩 실행한 결과라 0.02 차이는 비슷하다고만 봅니다.
2024.07
임베딩 차원 불일치
임베딩 모델(384차원)과 RAG 모델 기본값(768차원)이 달라 학습이 멈췄습니다. 설정만 바꿔서는 풀리지 않아 assert로 단계마다 차원을 찍어 좁혔고, 768차원 임베딩 모델로 바꿔 학습을 이어 갔습니다.
2024.09
PDF 파서 선택 기준
같은 PDF를 pypdf는 1.4초, 표와 이미지까지 나눠 주는 partition_pdf는 9.7초에 읽었습니다. 글 위주 문서와 표가 많은 문서에 쓸 파서를 나누는 기준을 세웠습니다.
2024.10
표가 많은 문서에서 드러난 한계
잘 동작하던 문서 대신 표가 많은 공시 문서로 바꿔 시험했고, 표 안의 내용이 답변에 반영되지 않는 것을 찾아 그대로 보고했습니다.
2025.03
API 대신 로컬 LLM
Mistral-7B를 4-bit, 8-bit 양자화로 실행했습니다. 출력 형식이 일정하지 않아 프롬프트로 형식을 고정하고, 정규식으로 필요한 부분만 뽑도록 고쳐 나갔습니다.
입문자용 NumPy 실습 자료
프레임워크 없이 NumPy만으로 DNN, RNN, LSTM, GRU를 구현하는 실습 자료를 만들었습니다. 수식, 그 수식을 옮긴 코드, 단계별 중간값 순서로 구성하고, 공공 전력거래량 데이터로 네 모델의 예측을 실제 값과 비교했습니다.