AI로 통화의 미래를 열다: 에이닷 전화 통화요약 서비스의 핵심 기술(LLM) 소개
에이닷 전화 통화요약 서비스에 적용한 LLM 개발 과정을 소개했습니다. 자동·수동 데이터를 결합한 학습과 LoRA 기반 미세조정, 전문가 평가로 품질을 높였습니다.


에이닷 전화 통화요약 서비스에 적용한 LLM 개발 과정을 소개했습니다. 자동·수동 데이터를 결합한 학습과 LoRA 기반 미세조정, 전문가 평가로 품질을 높였습니다.

AI가 자동차 산업 전반을 자율주행과 개인화, 예측 유지보수로 바꾸는 흐름을 소개했습니다. 또한 에이닷 오토의 진화 방향과 차량 내 AI 비서 고도화 계획을 설명했습니다.

온디바이스 음성인식으로 서버 기반 처리의 지연과 비용 문제를 줄이는 방법을 다뤘습니다. EPD, FSA, ASR를 통합한 SDK와 모델 최적화 과정을 소개했습니다.

수능 이후 수험생의 관심사와 방문 지역을 데이터로 분석해 마케팅 인사이트를 도출했습니다. 또한 bertopic과 LLM으로 세그먼트를 나누고 특징 요약을 자동화하는 방법을 소개했습니다.

2024 OpenAI Dev Day 싱가포르 참가 후기를 통해 Sora, structured output, distillation, realtime API 데모를 정리했습니다. 또한 AGI, o1-preview, OpenAI의 제품·조직 문화에 대한 현장 인상을 함께 남겼습니다.

공개 한국어 표 데이터와 InternVL2-1B로 멀티모달 LLM을 직접 학습한 사례를 소개했습니다. 작은 모델과 적은 데이터로도 표 이해 챗봇 시나리오를 검증할 수 있었습니다.

TAG를 활용해 CSV 테이블 기반 영화 추천 서비스를 구현하고 RAG와 비교했습니다. 정형 데이터에서는 TAG가 더 정확한 질의 처리와 비용 효율성을 보였습니다.

RAG는 LLM의 한계를 보완하며 실무에서 빠르게 활용할 수 있는 방식으로 정리했습니다. 다만 성능은 문서 추출과 임베딩, 커스터마이징 이해도에 크게 좌우된다고 보았습니다.

OpenAI Assistant API의 개념과 핵심 구성 요소를 정리했습니다. 파일 검색, 코드 실행, 함수 호출로 맞춤형 AI 어시스턴트를 구축하는 활용 예시를 소개했습니다.

사전 학습, 지도 미세 조정, RLHF, DPO를 통해 LLM 정렬 전략을 설명했습니다. 특히 선호 데이터와 기각 샘플링, DPO의 장점을 중심으로 비교했습니다.

허깅페이스 트랜스포머의 기본 개념과 사용 흐름을 정리했습니다. 모델 로딩, 토크나이징, 데이터셋 준비, 학습, 추론까지 한 번에 살펴볼 수 있었습니다.

AI가 채팅창을 넘어 로봇의 인지, 판단, 행동을 담당하는 흐름을 정리했습니다. 휴머노이드와 로봇 파운데이션 모델의 최신 사례도 함께 소개했습니다.

벡터 내적과 Linear Layer를 MNIST 분류 예제로 풀어 설명했습니다. 학습이 진행되며 가중치가 숫자 이미지와 닮아가는 과정을 통해 원리를 이해하도록 돕습니다.

토크나이저가 LLM 성능과 비용에 미치는 영향을 설명하고, 언어별 차이와 한국어 최적화 사례를 소개했습니다. SKT의 Telco LLM이 한국어에서 더 효율적인 토크나이저를 설계한 배경과 비교 결과를 다뤘습니다.

YOLO 시리즈의 버전별 변화와 핵심 개선점을 정리한 글입니다. 실시간 객체 탐지의 속도·정확도 균형과 생태계 변화를 함께 살펴보았습니다.

안드로이드에서 Gemma2 파인튜닝 모델을 실행하는 과정을 파인튜닝, MediaPipe 변환, 온디바이스 실행 순서로 설명했습니다. 한국어 요약 모델 예시와 파인튜닝 전후 비교, 긴 입력 시 제약도 함께 다뤘습니다.

에이닷 3.1에 한국어 최적화 음성모드를 도입한 내용을 소개했습니다. 스트리밍 응답을 문장 단위로 나눠 TTS 지연을 줄인 구현 방식도 다뤘습니다.

허깅페이스 Trainer API로 KLUE/ynat 텍스트 분류 모델을 학습하고 평가하는 과정을 정리했습니다. 또한 학습한 모델을 허브에 업로드하고 pipeline으로 추론하는 방법도 함께 소개했습니다.
