CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
Milvus 벡터 검색의 품질·처리량 기준으로 HNSW_SQ8을 선택하고 NUMA 배치를 최적화했습니다.\n같은 자원에서 QPS를 41% 높이고 검색 조건 기반 서버 사이징 기준을 만들었습니다.
#Milvus#벡터 검색
200
국내 IT 기업 기술 블로그 최신 글
새로운 기술 블로그가 추가되었어요
필터 1
CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
Milvus 벡터 검색에서 HNSW_SQ8과 NUMA 배치를 최적화해 품질을 유지하며 QPS를 41% 높였습니다. 검색 조건과 자원 측정값을 연결해 서버 사이징 기준을 만들었습니다.
#Milvus#벡터 검색
1000
“따뜻한 색감의 소재 찾아줘” — 자연어로 광고 소재 검색하기
자연어로 광고 소재 이미지를 검색하는 PoC의 설계와 실험 결과를 정리했습니다.이미지를 텍스트 설명으로 바꾸고, 쿼리 가중치와 프롬프트 편향을 실측으로 조정했습니다.
#LLM#검색
3800
Backoffice AI Agent 구축기 — RAG+MCP 기반 플레이스AI 특화 지식 검색 시스템
백오피스 문서 검색을 위해 RAG와 MCP 기반 지식 검색 에이전트를 구축했습니다.\n하이브리드 검색과 질의 정제로 응답 만족도와 운영 효율을 함께 높였습니다.
#RAG#MCP
20600
Milvus: LINE VOOM의 실시간 추천 시스템을 위한 대규모 벡터 DB 구축기
Milvus를 도입해 LINE VOOM 추천 시스템을 실시간 구조로 전환한 과정을 다뤘습니다. 카오스 테스트와 성능 테스트로 안정성과 성능을 검증해 즉시성을 크게 높였습니다.
#Milvus#벡터 DB
12900
Tech Week 2024, 도쿄에 다녀왔습니다.
LY Corporation Tech Week 2024 도쿄 참가 후기를 공유했습니다. 글로벌 기술 교류, 발표, 부스 운영, 해커톤 현장을 통해 배운 점을 정리했습니다.
#ML#추천
2200
쿠팡 파트너스
개발자를 위한 서적을 확인해 보세요
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
#개발서적#프로그래밍
Langchain을 통한 개인블로그 RAG 프로젝트
개인 블로그 기록을 RAG 데이터로 활용해 Streamlit과 LangChain으로 LLM 애플리케이션을 만들었습니다.\n운영 지표, 벡터 DB 연동, 개별 파일 업데이트 최적화까지 직접 겪은 고민을 정리했습니다.
#RAG#Langchain
2600