

효과적인 Telco LLM 구축을 위한 토크나이저의 역할
토크나이저가 LLM 성능과 비용에 미치는 영향을 설명하고, 언어별 차이와 한국어 최적화 사례를 소개했습니다. SKT의 Telco LLM이 한국어에서 더 효율적인 토크나이저를 설계한 배경과 비교 결과를 다뤘습니다.


토크나이저가 LLM 성능과 비용에 미치는 영향을 설명하고, 언어별 차이와 한국어 최적화 사례를 소개했습니다. SKT의 Telco LLM이 한국어에서 더 효율적인 토크나이저를 설계한 배경과 비교 결과를 다뤘습니다.


안드로이드에서 Gemma2 파인튜닝 모델을 실행하는 과정을 파인튜닝, MediaPipe 변환, 온디바이스 실행 순서로 설명했습니다. 한국어 요약 모델 예시와 파인튜닝 전후 비교, 긴 입력 시 제약도 함께 다뤘습니다.


에이닷 3.1에 한국어 최적화 음성모드를 도입한 내용을 소개했습니다. 스트리밍 응답을 문장 단위로 나눠 TTS 지연을 줄인 구현 방식도 다뤘습니다.
![[11월 2주차 위클리 업데이트] 이번 주 발표된 Google for Developers 최신 소식을 확인하세요! (AI 코딩 어시스턴트 개선)](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjNGleuvh_5ifDsOtW0kzXLCkvY7XYc-F06GUikEOdMjiDeZsbnDjz7RhXeyMREp6l4AX_VrQECkz67VDXvH2KJwDtPG8qlSCJiMy9yu3ttxNDMKwl8e_ukSr63dHzE44eKCWEslxqyNog/s1600/lockup_google_developers_horizontal_knockout_wht.png)
Google for Developers의 이번 주 주요 업데이트를 정리해 안내했습니다. Gemini, Android, Firebase 관련 최신 소식과 개발자 프로필 혜택을 소개했습니다.

네이버 홈피드 썸네일을 AI와 VLM으로 개선해 CTR을 높인 사례를 소개했습니다. 기술 적용과 함께 예쁜 썸네일의 기준을 분석한 점이 핵심입니다.

LLM 시퀀스 생성 구조를 분석해 애플리케이션 지연 시간을 줄이는 방안을 소개합니다. 캐릭터 페르소나 구현 경험을 바탕으로 실시간 응답 성능 최적화 전략을 공유합니다.


T멤버십 영화예매 에이전트에 LLM Workflow를 적용한 과정을 소개했습니다. 엔티티 추출, 상태 관리, 개인화 반영으로 멀티턴 대화 품질을 높인 사례입니다.
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.


멀티모달 LLM의 대표 아키텍처와 instruction tuning, RLHF 계열 정렬 기법을 정리했습니다. LLaVA 기반 사례와 데이터셋 구성을 함께 살펴볼 수 있습니다.


Node.js와 llama-node로 로컬에서 동작하는 간단한 AI 텍스트 생성 서버를 구성했습니다. 복잡한 설정 없이 프롬프트 입력과 응답 생성을 빠르게 시험해볼 수 있습니다.


숙소 리뷰에서 핵심 정보만 뽑아 보여주기 위해 Gen AI 기반 리뷰 하이라이트를 구현했습니다.전처리와 프롬프트 개선, 사람의 검수를 거쳐 숙소별 TOP 키워드를 자동 추출했습니다.

서비스용 LLM을 성능 저하 없이 소형화하는 경량화 레시피를 소개했습니다. 제목 추천과 키워드 추출 사례로 실무 적용 방식을 다뤘습니다.


은퇴 계산기를 통해 현재 자산과 지출, 수익률을 바탕으로 미래를 수치로 점검했습니다. 다만 물가와 수명 같은 변수가 많아 계산은 참고용에 가깝다고 정리했습니다.

생성형 AI를 QA 업무에 적용해 요구 사항 분석과 테스트 케이스 작성, 결함 분석의 효율을 높이는 방법을 소개했습니다. 다만 복합 케이스와 최종 검증은 수작업 보완이 필요하다고 정리했습니다.
![[에이닷 미디어 에이전트] 대화형 콘텐츠 탐색은 어디까지 왔을까](https://devocean.sk.com/thumnail/2024/10/31/3ae82ea55358fe590deb04dd7f3fc5c5017c61a18a2863712d1a416ac10aa6a3.jpg)

에이닷 미디어 에이전트의 대화형 콘텐츠 탐색 구조와 핵심 기술을 설명했습니다. LLM, RAG, 선제 추천을 활용해 개인화된 검색 경험을 강화했습니다.