AI
이젠 AI도 하이브리드 시대 - 카카오T On-Device AI 개발기
두줄요약
카카오T에 On-Device AI와 Cloud AI를 결합한 하이브리드 전략을 적용한 개발 과정을 공유했습니다.\n주소 자동 입력 기능에 적용해 사용자 처리 시간 단축과 완료율 향상 성과를 확인했습니다.
핵심 내용
- 카카오T에 Android의 Gemini Nano와 iOS의 자체 ML 모델을 적용한 On-Device AI 개발 과정
- 응답 지연, 네트워크 의존성, 개인정보 보호 한계를 Cloud AI와의 하이브리드 전략으로 보완한 구조
- 서버 동적 프롬프트 구성, AICore 추상화, Remote Config 기반 전환으로 운영 유연성 확보
- 카카오T 퀵 주소 자동 입력에 적용해 접수 시간 단축과 완료율 상승 성과 확인
적용해볼 점
- 디바이스별 성능과 정책 차이를 고려한 분기 설계 필요
- 온디바이스와 클라우드의 역할 분리 및 상호보완 구조 검토 필요
- 실제 서비스 지표로 AI 기능의 효과 검증 필요
