심예설
AI 서비스를 만들고 운영하는 엔지니어 · 2024 – 현재
문서 AI 서비스의 모델을 만들고, 그 모델이 실제 서비스에서 돌아갈 학습·서빙 환경까지 직접 설계했습니다. OCR과 NER 두 단계로 구조를 나눠 모델을 선정하고, 전처리와 후처리, 파인튜닝으로 인식률을 끌어올렸습니다.
그 아래의 AWS 인프라도 함께 운영합니다. 서비스가 죽지 않게 하는 일, 죽었을 때 빨리 알아채는 일, 그리고 왜 죽었는지 끝까지 밝히는 일에 시간을 씁니다. 사내 통합 포털을 새로 구축했고, 멀티채널 알림과 보안 감사 체계를 만들었으며, HA·DR 전환을 직접 실측해 검증했습니다.
해결한 것들은 블로그에 기록해 두었습니다.
Projects
문서 AI 서비스 개발 및 AI 플랫폼 구축
물류 문서에서 필드를 자동 추출하는 AI 서비스의 모델과 학습·서빙 환경을 만들었습니다. OCR·NER 2단계 구조를 설계해 모델을 선정하고, 전처리·후처리·청킹과 파인튜닝으로 인식률을 올렸습니다. 학습과 추론을 인스턴스 사양별로 테스트해 서빙 사양을 정했고, 추론은 별도 워커로 분리해 서비스 응답과 격리했습니다.
인프라 통합 모니터링 및 보안 감사 체계
이메일 하나에 의존하던 알림을 심각도별 다채널 체계로 바꾸고, 자원 접근 이력과 보안 설정을 자동으로 점검하는 감사 체계를 만들었습니다. 컨테이너 JVM 관측 환경을 구축해 메모리가 반납되지 않던 원인(GC 방식)을 찾아 전환했습니다.
사내 통합 포털 AWS 인프라 설계 및 구축
CloudFront·ALB·ECS Fargate 구조를 설계하고, 리전 간 DR 구성과 WAF 기반 접근 통제를 적용했습니다. 컨테이너 확장 시 권한 정보가 어긋나던 문제는 공유 캐시 구조로 해결했고, 계층별 관측과 장애 대응 가이드까지 갖췄습니다.
자사 EDI 서비스·고객사 전용 인프라 운영
네트워크와 컨테이너, 스토리지를 운영하며 장애 원인을 추적해 구조를 바꿔왔습니다. 트래픽 급증 시 다른 인터페이스까지 타임아웃되던 원인을 찾아 수신 로직을 분리했고, 스토리지가 2개월 만에 약 9배 늘어난 원인을 삭제 작업 로그로 추적해 정리 범위 버그를 찾았습니다.
HA / DR 체계 설계 및 실측 검증
상용 HA 솔루션을 AWS 네이티브 방식으로 대체하는 과제를 맡아, 격리된 테스트 환경에서 자동 페일오버를 구현하고 실측했습니다. 전환 지연의 대부분이 장애 감지 구간임을 규명하고 감지 방식 개선안을 설계했습니다.
DB 이중화 및 복제 튜닝
MariaDB 버전업과 Master-Replica 이중화를 진행하고, GTID 기반 병렬 복제와 워커 큐를 조정해 복제 지연을 줄였습니다.
Ongoing
인프라 이슈 대응
EC2, ECS Task, 사내 물리 서버, S3 등 운영 자원 전반
인프라 최적화
DB 이전, S3 Gateway Endpoint 점검, EBS 볼륨 조정
보안 관리
IAM 정책, S3 접근 제어, AWS Health 알람 정책
비용 최적화
유휴 리소스 정리, 예약 인스턴스 검토, 비용 모니터링
IaC 관리
Terraform 기반 인프라 코드 및 버전 관리
Skills
AI / ML
PaddleOCR · LayoutLMv3 · PyTorch · HuggingFace · MLflow · Label Studio
AI 플랫폼
SageMaker 학습 환경 · 추론 워커 분리 · 모델 버전/롤백 · 서빙 사양 실측
Cloud / Infra
AWS (EC2, ECS Fargate, S3, IAM, CloudFront, Lambda) · Terraform · Docker
Monitoring
CloudWatch · Prometheus · Grafana · AWS Config · CloudTrail + Athena
Security
IAM Role 기반 인증 · IMDSv2 · WAF · OAC · 접근 감사
Database
MariaDB 이중화 · GTID 복제 · 병렬 복제 튜닝
DevOps
Jenkins · GitHub Actions · Linux 서버 운영
Principles
구조 우선
문제를 손대기 전에 구조부터 이해합니다. 원인을 모른 채 고친 것은 고친 게 아니라고 생각합니다.
끝까지 추적
작아 보이는 이슈도 근본 원인이 나올 때까지 파고듭니다. 대부분의 장애는 그 지점에서 갈립니다.
기록 습관
해결 과정을 남깁니다. 같은 문제를 두 번 겪지 않기 위해서, 그리고 다음 사람을 위해서.
Contact