핑퐁팀 ML 세미나, 그 세번째
ML 세미나 시즌 3에서 대화 상태 추적, 지식 증류, 텍스트 생성 관련 논문을 공유했습니다. Transformer 기반 생성 모델의 활용 가능성과 경량화 과제를 함께 짚었습니다.
#ML#NLP#Transformer
300

ML 세미나 시즌 3에서 대화 상태 추적, 지식 증류, 텍스트 생성 관련 논문을 공유했습니다. Transformer 기반 생성 모델의 활용 가능성과 경량화 과제를 함께 짚었습니다.
핑퐁팀이 Question Answering을 주제로 진행한 ML 세미나 발표 자료를 모았습니다. Attention 설계와 외부 지식 통합을 통한 챗봇 응답 고도화 방향을 다룹니다.
XLNet의 순열 언어 모델링과 two-stream attention으로 AR·AE의 한계를 보완한 방식을 리뷰했습니다. Transformer-XL 기반 긴 문맥 처리와 주요 NLP 과제의 성능 실험도 분석했습니다.
대화 시스템을 주제로 진행한 ML 리서치 팀의 첫 세미나 발표자료를 모았습니다. 소셜 챗봇, 개인화, 지식 기반 대화, 멀티턴 응답 선택과 생성 모델을 다뤘습니다.