목록 보기
Luda Gen 1, 더 재미있고 자연스러운 대화로 돌아온 루다 2편 - 생성 모델을 챗봇으로 빚어내기
AI

Luda Gen 1, 더 재미있고 자연스러운 대화로 돌아온 루다 2편 - 생성 모델을 챗봇으로 빚어내기

스캐터랩 핑퐁
스캐터랩 핑퐁
2023년 5월 24일

두줄요약

생성 챗봇의 단답형·페르소나·안전성 문제를 좋은 응답 기준과 추가학습으로 개선했습니다. SFT와 스타일 제어를 평가해 품질과 안전성 균형이 높은 SFT를 백본으로 선택했습니다.

문제 상황

  • 다음 토큰 예측 특성으로 인한 진부한 단답형 응답 선호
  • 익명적 응답 생성으로 인한 루다 페르소나 반영 한계
  • 어뷰징 발화 학습 잔존 및 부적절한 대응 문제

해결 방법

  • 적합성·구체성·안전성·상대적 우수성의 좋은 응답 기준 정의
  • 고품질 응답 기반 SFT와 적합성·안전성 레이블 기반 Style Control 적용
  • 대화 지속성, 페르소나 일관성, 안전 대응 중심 추가학습

성능/운영 포인트

  • SFT 모델의 적합성·구체성 및 상대적 우수성 개선
  • 추가학습으로 응답 선택 모델과 유사한 안전 발화 비율 확보
  • Style Control의 일반 대화 문맥 이탈 부작용과 어뷰징 데이터 증량 효과 포화

선택 이유

  • 일반 대화 품질과 안전성의 균형을 보인 SFT를 백본 모델로 확정
  • 추가학습을 거친 모델 기반 루다 2.0 출시

다음 읽기

#LLM 주제를 이어서 읽기

Luda Gen 1, 더 재미있고 자연스러운 대화로 돌아온 루다 1편 - 생성 기반 챗봇

검색 기반 챗봇의 답변 DB 한계를 넘어 Luda Gen 1 생성 기반 챗봇을 도입했습니다.\n2.3B PLM과 시간·화자 정보를 활용해 자연스러운 문맥 대화 가능성을 높였습니다.

스캐터랩 핑퐁
스캐터랩 핑퐁
AI

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...