
AI국민비서: 공공 특화 에이전트 구축하기
공공 특화 에이전트인 AI국민비서 구축 경험과 노하우를 공유한 발표 글입니다. 모델 선택, 속도 최적화, Safety 대응, 평가 체계까지 다뤘습니다.

공공 특화 에이전트인 AI국민비서 구축 경험과 노하우를 공유한 발표 글입니다. 모델 선택, 속도 최적화, Safety 대응, 평가 체계까지 다뤘습니다.

캔버스 에디터 드래그 성능 저하의 원인을 React가 아닌 Layout Thrashing으로 분석했습니다. Read와 Write를 분리한 4-Phase 배칭으로 reflow를 줄여 60fps를 회복했습니다.

AI 에이전트가 실제 업무를 수행하려면 프롬프트만이 아니라 실행 환경 설계가 중요하다고 설명했습니다. 도구, 권한, 테스트, 로그, 승인 흐름까지 포함한 하네스 엔지니어링을 강조했습니다.

AWS Unified Operations는 주요 핵심 워크로드를 위해 사전 예방과 신속 대응을 결합한 운영 지원 체계입니다. 전담 전문가와 AI 인사이트로 마이그레이션, 보안, 최적화까지 함께 지원했습니다.

VictoriaMetrics의 내부 구조를 수집, 저장, 쿼리 흐름 중심으로 소개했습니다. 대규모 분산 메트릭 시스템 운영 관점의 이해 포인트를 정리했습니다.


현대오토에버가 GenAI Sandbox와 해커톤으로 전사 GenAI 실험 환경을 구축했습니다. 14개 팀이 참여해 업무 자동화와 생산성 향상 사례를 만들었습니다.

KBO 리그 이닝 교체 때 몰리는 광고 요청을 분산하기 위해 prefetching과 내부 캐시 구조를 적용했습니다. 그 결과 외부 광고 서버 부하와 지연을 줄이고 버퍼링 지표도 개선했습니다.

Kafka 파티션 수를 처리량과 컨슈머 catch-up 기준으로 계산하는 산정식을 정리했습니다. 운영 환경 실측값을 반영해 토픽별 초기 파티션 수를 일관되게 정하는 방법을 제안했습니다.


EKS Auto Mode와 Bifrost, Langfuse를 조합해 자체 관리형 Agentic AI 플랫폼을 구축하는 방법을 소개했습니다. 멀티모델 라우팅과 2계층 관측성으로 운영 안정성과 비용 최적화를 함께 확보했습니다.
내부 PyPI 프록시 앞단에 얇은 프록시를 두어 CodeArtifact를 PyPI처럼 사용하도록 구성했습니다. 또한 PEP 691의 upload-time을 활용해 cooldown 정책을 중앙에서 적용했습니다.

담보 심사 업무를 작업 체인과 비동기 처리로 바꿔 대기 시간을 줄였습니다. 전용 대시보드와 재처리 구조로 운영 가시성과 안정성도 높였습니다.

음성 AI 모델 Kanana-O를 프로덕션에 올리기 위한 서빙 최적화 여정을 다루는 글입니다. 발췌에는 모델 개요만 있어 세부 내용은 확인되지 않았습니다.