모델 정렬을 위한 효과적인 학습 전략
사전 학습, 지도 미세 조정, RLHF, DPO를 통해 LLM 정렬 전략을 설명했습니다. 특히 선호 데이터와 기각 샘플링, DPO의 장점을 중심으로 비교했습니다.
#LLM#RLHF#DPO
2800
태그
PPO 기술 블로그 글
PPO 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
전체 4개최신 4개 표시
관련 태그
최신 게시글
4개 표시
RLHF - 어떻게 LLM의 성능을 향상시킬 수 있을까?
RLHF를 중심으로 LLM 성능을 높이는 SFT, Reward Model, PPO, DPO를 정리했습니다. 사람 선호를 반영하되 학습 불안정성과 보상 해킹에 주의해야 합니다.
#LLM#RLHF#SFT
4800
더 나은 생성모델을 위해 RLHF로 피드백 학습시키기
사람의 선호도를 보상으로 학습하는 RLHF의 SFT·리워드 모델·PPO 과정을 설명했습니다. 루다 적용 실험과 학습 불안정성, FSDP·DPO 등 최적화 및 대안을 소개했습니다.
#RLHF#LLM#PPO
100
강화학습으로 더 재미있는 게임 만들기
강화학습 퍼즐 봇으로 대규모 3매치 게임의 밸런싱 작업을 자동화했습니다.\nMock 환경과 PPO 모델을 활용해 업데이트 영향과 캐릭터 성능을 사전 정량화했습니다.
#강화학습#PPO#ResNet
3900
