LLM은 언제 "모른다"고 말해야 하는가
LLM은 정답을 맞히는 능력만큼, 모를 때 멈추는 능력도 중요하다고 정리했습니다. 모델 크기나 추론 강화만으로는 부족해, 별도의 평가와 정렬 설계가 필요했습니다.
#LLM#NLP#hallucination
5620

hallucination 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
2개 표시
LLM은 정답을 맞히는 능력만큼, 모를 때 멈추는 능력도 중요하다고 정리했습니다. 모델 크기나 추론 강화만으로는 부족해, 별도의 평가와 정렬 설계가 필요했습니다.

검색 오타 보정의 기존 로그 기반 방식 한계를 줄이기 위해 번역 모델과 멀티태스크 학습을 도입했습니다. 검색 실패율을 낮추고 CTR을 유지하는 성과와 함께 후속 개선 과제도 정리했습니다.