국내 IT 기업 기술 블로그 최신 글

필터 1
CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
토스
데브옵스

CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지

Milvus 벡터 검색의 품질·처리량 기준으로 HNSW_SQ8을 선택하고 NUMA 배치를 최적화했습니다. 같은 자원에서 QPS를 41% 높이고 검색 조건 기반 서버 사이징 기준을 만들었습니다.

#Milvus#벡터 검색
2400
CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
토스
데브옵스

CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지

Milvus 벡터 검색에서 HNSW_SQ8과 NUMA 배치를 최적화해 품질을 유지하며 QPS를 41% 높였습니다. 검색 조건과 자원 측정값을 연결해 서버 사이징 기준을 만들었습니다.

#Milvus#벡터 검색
2000
Amazon Aurora PostgreSQL에서 pgvector를 프로덕션 환경으로 운영하기
AWS
백엔드

Amazon Aurora PostgreSQL에서 pgvector를 프로덕션 환경으로 운영하기

Aurora PostgreSQL에서 pgvector를 프로덕션 RAG에 운영하는 방법을 정리했습니다. HNSW 선택, 거리 함수, 메모리 계획, 관측성까지 실무 기준으로 설명했습니다.

#PostgreSQL#pgvector
3000
Amazon Aurora PostgreSQL에서 pgvector 0.8.0을 통한 벡터 검색 성능 및 관련성 향상
AWS
AI

Amazon Aurora PostgreSQL에서 pgvector 0.8.0을 통한 벡터 검색 성능 및 관련성 향상

Amazon Aurora PostgreSQL에서 pgvector 0.8.0의 반복적 스캔과 비용 추정 개선을 소개했습니다. 필터링된 벡터 검색의 재현율과 지연 시간을 함께 개선하는 방법을 다뤘습니다.

#PostgreSQL#pgvector
6000
[Tech Series] kt cloud AI 검색 증강 생성(RAG) #4 : 임베딩(Embedding)과 벡터 인덱싱 기술
KT 클라우드
AI

[Tech Series] kt cloud AI 검색 증강 생성(RAG) #4 : 임베딩(Embedding)과 벡터 인덱싱 기술

RAG에서 임베딩과 벡터 인덱싱의 원리, 모델 선정 기준, 최적화 기법을 정리했습니다. 특히 한국어 환경에서는 다국어 적합성과 메모리 비용을 함께 검증해야 한다고 설명했습니다.

#RAG#임베딩
9900
SK하이닉스의 RAG 플랫폼 구축 및 성능 평가/분석 연구 사례
AWS
AI

SK하이닉스의 RAG 플랫폼 구축 및 성능 평가/분석 연구 사례

SK하이닉스가 AWS 환경에서 RAG 플랫폼을 구축하고 성능을 평가한 사례를 소개했습니다. 데이터셋 크기와 인덱스 메모리가 검색 지연과 TTFT에 미치는 영향을 분석했습니다.

#RAG#LLM
9100
실시간 반응형 추천 개발 일지 2부: 벡터 검색, 그리고 숨겨진 요구사항과 기술 도입 의사 결정을 다루는 방법
우아한 형제들
AI

실시간 반응형 추천 개발 일지 2부: 벡터 검색, 그리고 숨겨진 요구사항과 기술 도입 의사 결정을 다루는 방법

실시간 행동 이력과 위치 정보를 반영하는 추천 시스템의 요구사항을 기술 문제로 풀어냈습니다. 벡터 검색 도입 과정에서 pre filter와 ANN의 한계를 검토하고 후보군 실험을 진행했습니다.

#벡터 검색#추천
4000
쿠팡 파트너스

광고

개발자를 위한 서적을 확인해 보세요

이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

#개발서적#프로그래밍