RAGAS: RAG 시스템 성능 평가, 이제는 제대로 해보자!
RAGAS를 통해 RAG 시스템을 정량적으로 평가하는 방법을 소개했습니다. 주요 지표와 Streamlit 데모, LangSmith 연동까지 함께 설명했습니다.
#RAG#LLM
44005분
필터 1
뱅크샐러드에서 테스트 데이터를 생성하는 방법 (feat. LLM)
X
#LLM#test
44005분
Harness를 이용해 LLM 애플리케이션 평가 자동화하기
LLM 애플리케이션의 변동성과 복잡성을 줄이기 위해 테스트와 평가를 자동화하는 방법을 소개했습니다. Harness를 커스텀해 프롬프트, 지표, 아웃풋별 평가를 동적으로 처리하는 파이프라인을 구성했습니다.
#LLM#test
52005분
AI, 채팅창을 벗어나 로봇의 두뇌가 되다
AI가 채팅창을 넘어 로봇의 인지, 판단, 행동을 담당하는 흐름을 정리했습니다. 휴머노이드와 로봇 파운데이션 모델의 최신 사례도 함께 소개했습니다.
#LLM#로봇
24005분
토스 프론트엔드 개발자들이 더 이상 문서를 찾지 않는 이유
토스 프론트엔드 팀은 문서를 찾아가는 대신 질문하면 바로 답을 받는 환경을 만들었습니다. RAG 챗봇과 자동 문서화 봇으로 지식이 흐르는 팀 문화를 구축했습니다.
#LLM#RAG
43005분
카카오의 AI 모델, 카나나 모델 패밀리를 소개합니다
X
#LLM#카카오
27005분
밑바닥부터 Kanana LLM 개발하기: Pre-training
X
#LLM#ML
24005분
밑바닥부터 Kanana LLM 개발하기: Post-training
X
#LLM#ML
50005분
나만의 프로필 이미지 생성 모델 개발기
X
#LLM#ML
9005분
효과적인 Telco LLM 구축을 위한 토크나이저의 역할
토크나이저가 LLM 성능과 비용에 미치는 영향을 설명하고, 언어별 차이와 한국어 최적화 사례를 소개했습니다. SKT의 Telco LLM이 한국어에서 더 효율적인 토크나이저를 설계한 배경과 비교 결과를 다뤘습니다.
#LLM#토크나이저
16005분
안드로이드에서 Gemma2 파인튜닝 모델 실행하기
안드로이드에서 Gemma2 파인튜닝 모델을 실행하는 과정을 파인튜닝, MediaPipe 변환, 온디바이스 실행 순서로 설명했습니다. 한국어 요약 모델 예시와 파인튜닝 전후 비교, 긴 입력 시 제약도 함께 다뤘습니다.
#Android#Gemma
25005분
나야, 에이닷 음성모드
에이닷 3.1에 한국어 최적화 음성모드를 도입한 내용을 소개했습니다. 스트리밍 응답을 문장 단위로 나눠 TTS 지연을 줄인 구현 방식도 다뤘습니다.
#LLM#TTS
29005분