2조 토큰을 카테고리 분류에 쓰면서 알게된 것들
2조 토큰을 카테고리 분류에 쓰면서 알게된 것들
당근에서 택소노미와 LLM 분류 파이프라인을 어떻게 운영했는지 정리한 글입니다. 정확도와 비용의 균형, 평가 체계, 확장 전략을 함께 다뤘습니다.
#LLM#BigQuery
143005분
당근에서 택소노미와 LLM 분류 파이프라인을 어떻게 운영했는지 정리한 글입니다. 정확도와 비용의 균형, 평가 체계, 확장 전략을 함께 다뤘습니다.

테스트를 불확실성을 줄이는 피드백 순환 고리로 설명하고, 비즈니스 리스크 감소와 연결해 정리했습니다. 또한 Go에서 Table Driven Test, testify, suite, go-cmp를 활용하는 방법을 소개했습니다.

버즈베네핏 백엔드 팀이 데이터 중심 설계와 확장 가능한 파이프라인, 모니터링 체계를 어떻게 구축했는지 소개했습니다. Feature Flag와 실험 지원으로 제품 검증 속도를 높인 사례도 함께 다뤘습니다.


Python 기반 에이전트 워크플로우 엔진을 Golang으로 전환한 사례를 소개했습니다. 고루틴과 채널로 스트리밍과 병렬 오케스트레이션을 구현해 응답 시간과 인프라 효율을 개선했습니다.