
왓챠 추천 서비스 MLOps 적용기 Part1
왓챠 추천 서비스에 MLOps를 적용한 배경과 기존 EC2 기반 파이프라인의 문제를 정리했습니다. 도커·쿠버네티스, 온프레미스 GPU, S2S VPN으로 학습 환경과 운영 안정성을 개선했습니다.


왓챠 추천 서비스에 MLOps를 적용한 배경과 기존 EC2 기반 파이프라인의 문제를 정리했습니다. 도커·쿠버네티스, 온프레미스 GPU, S2S VPN으로 학습 환경과 운영 안정성을 개선했습니다.

USC 학생들의 Cramify 사용 후기를 모아 시험 준비와 과제 정리에 도움이 됐다는 반응을 소개했습니다. AI 기반 요약, 문제 생성, 개인화 학습 지원 기능에 대한 기대도 함께 전했습니다.


대학생의 시험 준비 비효율을 해결하기 위해 생성형 AI 학습 도구 Cramify를 만들게 된 배경을 소개했습니다. 학생 인터뷰와 문제 데이터베이스, LLM을 바탕으로 약 2개월 만에 MVP를 완성했습니다.

생성형 AI가 교육을 개인화된 대화형 학습으로 바꾸는 흐름을 소개했습니다. QANDA의 Qutor 사례를 통해 질문 응답 보완과 학습 경험 개선 가능성을 설명했습니다.

Mergekit으로 공개 LLM을 병합하는 방법과 YAML 설정, 실행 절차를 정리했습니다. 병합 결과를 허깅페이스에 올려 활용하는 흐름까지 소개했습니다.

차량 주행 소리를 AI로 분석해 도로 노면 상태를 검지하는 ARHIS를 소개했습니다. 4단계 처리와 음향 전처리, 이중 AI 모델로 높은 검지 성능과 운영 장점을 설명했습니다.

카카오뱅크 금융기술연구소 3주년 기념행사와 전시회 구성을 소개했습니다. 생성형 AI를 활용한 체험형 프로그램으로 연구 성과를 선보였습니다.

XAI 알고리즘 개발과 실제 적용 사례를 통해 모델 결과를 해석하는 방법을 다뤘습니다. AI 신뢰성과 성능 개선 관점에서 XAI 활용 포인트를 소개했습니다.


검색 품질 평가는 질의와 결과 유형에 따라 기준이 달라져 단일 지표로 다루기 어렵습니다. 사용자 로그와 만족도 레이블을 결합한 머신러닝 지표로 이를 해결했습니다.


Buzzflow는 YAML·래퍼·MLflow로 ML 파이프라인 개발과 모델 저장소를 표준화했습니다. 로컬 디버깅, CI 권한 관리, Airflow 기반 실행과 실패 모니터링도 구성했습니다.


버즈빌의 머신러닝 플랫폼 Buzzflow를 소개하며, 모델 개발과 관리를 위한 파이프라인과 저장소 구성을 설명했습니다. 모델 배포 방식은 다음 글에서 이어서 다룰 예정입니다.

RLHF를 중심으로 LLM 성능을 높이는 SFT, Reward Model, PPO, DPO를 정리했습니다. 사람 선호를 반영하되 학습 불안정성과 보상 해킹에 주의해야 합니다.

LangChain을 활용해 LLM 애플리케이션을 만드는 방법을 소개했습니다. 또한 LangSmith, Retrieval, Agent, 서빙까지 개발 흐름을 예제로 정리했습니다.


후기 이미지의 흐림 탐지 정확도를 높이기 위해 CNN 학습과 데이터 증강을 실험했습니다. 라플라시안 윤곽선의 표준편차 기반 룰로 precision 약 90%를 달성했습니다.