RLHF - 어떻게 LLM의 성능을 향상시킬 수 있을까?
RLHF를 중심으로 LLM 성능을 높이는 SFT, Reward Model, PPO, DPO를 정리했습니다. 사람 선호를 반영하되 학습 불안정성과 보상 해킹에 주의해야 합니다.
#LLM#RLHF#SFT
4800
태그
SFT 기술 블로그 글
SFT 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
전체 2개최신 2개 표시
관련 태그
최신 게시글
2개 표시
SFT 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
2개 표시
RLHF를 중심으로 LLM 성능을 높이는 SFT, Reward Model, PPO, DPO를 정리했습니다. 사람 선호를 반영하되 학습 불안정성과 보상 해킹에 주의해야 합니다.
생성 챗봇의 단답형·페르소나·안전성 문제를 좋은 응답 기준과 추가학습으로 개선했습니다. SFT와 스타일 제어를 평가해 품질과 안전성 균형이 높은 SFT를 백본으로 선택했습니다.
