별점 뒤에 숨겨진 리뷰의 온도, LLM으로 한 끗 차이가 다른 추천 만들기
별점 뒤에 숨겨진 리뷰의 온도, LLM으로 한 끗 차이가 다른 추천 만들기
LLM으로 리뷰의 진심을 점수화해 별점만으로는 보이지 않던 맛집 변별력을 높였습니다. 지식 증류와 개인화 리랭킹을 더해 추천 품질과 전환율을 함께 개선했습니다.
#LLM#지식 증류
92005분
새로운 기술 블로그가 추가되었어요
필터 1
메신저용 온디바이스 이미지 모델 학습기 2편: 초저지연 비자기회귀(non-autoregressive) 캡션 생성 전략
모바일 메신저용 이미지 캡션 생성을 위해 비자기회귀 디코딩과 지식 증류를 적용했습니다. 캡션 재생성과 다단계 정제로 200~400ms 지연과 실사용 가능한 품질을 달성했습니다.
#ML#지식 증류
49005분
메신저용 온디바이스 이미지 모델 학습기 1편: 지식 증류로 확장한 다국어 이미지 검색
네트워크 없이 모바일 기기에서 동작하는 메신저용 이미지 이해 기능을 만들고 지식 증류로 다국어 검색을 구현했습니다. 또한 LiteRT 변환과 벡터 DB 튜닝으로 온디바이스 배포와 실사용 성능을 맞췄습니다.
#지식 증류#검색
48005분
Amazon Bedrock으로 해보는 Nova 모델 지식 증류, 배포, 평가
Amazon Bedrock에서 Nova 모델 지식 증류와 온디맨드 배포, 평가 흐름을 실험 사례로 정리했습니다. 표준 벤치마크와 LLM as a Judge를 함께 활용해 성능과 비용 효율을 비교했습니다.
#Amazon Bedrock#지식 증류
41005분
호텔 검색, 어떻게 달라졌을까요? 2편 - 지식 증류
호텔 검색, 어떻게 달라졌을까요? 2편 - 지식 증류
호텔 검색에서 LLM을 sLLM으로 옮기기 위해 지식 증류를 적용한 과정을 다뤘습니다. 성능과 효율을 함께 확보하기 위한 모델 선정, 데이터 구성, 학습 기법 개선을 설명했습니다.
#LLM#NLP
79005분
DeepSeek-R1 기술 분석
DeepSeek-R1의 구조와 학습 방식, GRPO와 지식 증류의 특징을 OpenAI o1과 비교해 정리했습니다. 비용 절감과 추론 성능 강점, 한국어 적용 시 주의점도 함께 살펴봤습니다.
#LLM#ML
57005분
AI 추론 능력을 극대화하는 DeepSeek-R1의 혁신
DeepSeek-R1의 강화 학습 기반 추론 향상 방식과 지식 증류 전략을 정리했습니다. 또한 API 활용, 소형 모델 성능, 향후 개선 과제까지 함께 살펴봤습니다.
#LLM#ML
25005분
[DAN 24] 검색과 피드의 만남: LLM으로 완성하는 초개인화 서비스 ② 사용자 검색 의도 세분화
[DAN 24] 검색과 피드의 만남: LLM으로 완성하는 초개인화 서비스 ② 사용자 검색 의도 세분화
검색어와 문서를 함께 고려해 사용자 의도를 세분화하는 LLM 기반 모델을 설계했습니다. 이를 통해 추천의 맥락 정확도를 높이고 CTR도 개선했습니다.
#LLM#검색
35005분
[DAN 24] 검색과 피드의 만남: LLM으로 완성하는 초개인화 서비스 ③ 사용자 관심 주제 추출
[DAN 24] 검색과 피드의 만남: LLM으로 완성하는 초개인화 서비스 ③ 사용자 관심 주제 추출
홈피드 추천 고도화를 위해 LLM으로 사용자 관심 주제를 세분화하는 분류기와 선호도 추출 방식을 소개했습니다. 데이터 증강과 지식 증류, 가이드 생성으로 안정성과 클릭률 개선 효과를 확인했습니다.
#LLM#검색
37005분
[DAN 24] LLM의 Re-Ranking Ability 검색에 이식하기 1편 - LLM 이식 방법
[DAN 24] LLM의 Re-Ranking Ability 검색에 이식하기 1편 - LLM 이식 방법
롱테일 질의의 검색 랭킹을 개선하기 위해 LLM의 재순위화 능력을 경량 랭커로 이식한 방법을 다루었습니다. 정답 데이터셋 구축과 지식 증류로 성능과 추론 효율을 함께 확보했습니다.
#LLM#검색
44005분