Velopers
모든 태그
태그

LSH 기술 블로그 글

LSH 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.

전체 2개최신 2개 표시
홈에서 필터

관련 태그

#LLM1,145#NLP102#Transformer50#Attention7#Apache Beam6#MinHash2#데이터셋2#Reformer1#AWS836#Kubernetes536#UI/UX484#cloud466

최신 게시글

2개 표시

AI

Deduplication - 학습 데이터에서 중복 제거하기

대규모 LLM 학습 데이터의 근접 중복을 효율적으로 제거하는 NearDedup 방식을 소개했습니다. LSH·자카드 유사도·편집 거리 필터를 Apache Beam으로 병렬 처리했습니다.

#LLM#Apache Beam#LSH
000

AI

꼼꼼하고 이해하기 쉬운 Reformer 리뷰

Reformer는 LSH Attention, Reversible Network, 청크 처리로 Transformer의 긴 입력 메모리 문제를 완화했습니다.\n실험을 통해 성능 저하를 작게 유지하며 Attention 복잡도를 선형 수준으로 개선했음을 살펴봤습니다.

#Transformer#Reformer#LSH
000