국내 IT 기업 기술 블로그 최신 글

스캐터랩 핑퐁

2020년 5월 8일

AI

꼼꼼하고 이해하기 쉬운 ELECTRA 논문 리뷰

ELECTRA의 RTD 사전학습 구조와 MLM·GAN 대비 차이를 정리했습니다. 모든 토큰을 분류해 적은 계산량으로 높은 성능을 낸 실험 결과를 살펴봤습니다.