생성과 검색의 하모니: RAG로 더 똑똑한 AI 만들기
생성과 검색의 하모니: RAG로 더 똑똑한 AI 만들기
RAG는 외부 문서를 검색해 LLM 답변에 반영하는 방식으로, 최신성 부족과 환각 문제를 보완했습니다. 실전 적용 시에는 데이터 품질, 검색 성능, 지연 시간, 보안까지 함께 고려해야 했습니다.
#RAG#LLM
13900
국내 IT 기업 기술 블로그 최신 글
새로운 기술 블로그가 추가되었어요
필터 1
Python Poetry 대신 UV를 써보면서 느낀 점들
Poetry와 UV를 실제로 비교하며 속도와 사용성을 점검했습니다.\nUV는 더 간결했지만 극적인 차이는 아니어서 신규 프로젝트부터 시험 도입하는 접근이 적합했습니다.
#Python#Poetry
10300
PIP를 대체하는 UV 사용법 가이드
UV를 PIP 대체 도구로 소개하며 설치와 기본 사용법, 주요 명령어를 정리했습니다. 가상환경 자동화와 빠른 성능, 의존성 및 Python 버전 관리 기능을 함께 설명했습니다.
#Python#uv
8200
FastAPI에서의 의존성 주입: 유연하고 확장 가능한 서비스 구조 만들기
FastAPI의 Depends()로 의존성 주입을 적용하는 방법을 설명했습니다. 비즈니스 로직과 구현체를 분리해 유연성과 테스트 용이성을 높이는 구조를 소개했습니다.
#FastAPI#Python
6800
FastAPI에 모듈화된 구조 적용을 통한 빠른 프로토타이핑
FastAPI와 SQLite로 사용자 관리 API를 빠르게 만들고, 모듈화된 구조로 기능을 분리하는 방법을 소개했습니다. 의존성 주입과 예외 처리, 자동 문서화를 활용해 유지 보수성과 프로토타이핑 속도를 높였습니다.
#FastAPI#SQLite
4600
FastAPI 프로젝트의 결합도 낮추기 전략
FastAPI 프로젝트에서 service와 router를 분리해 결합도를 낮추는 구조를 소개했습니다. 모듈 독립성과 테스트 용이성을 높여 유지보수성과 확장성을 개선하는 방법을 정리했습니다.
#FastAPI#Python
4400
쿠팡 파트너스
개발자를 위한 서적을 확인해 보세요
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
#개발서적#프로그래밍
쿠버네티스를 활용한 검색추천 시스템 구축과 미디어 에이전트 적용 사례
쿠버네티스로 검색추천 시스템을 컨테이너화하고 미디어 에이전트 서비스에 적용한 사례를 소개했습니다. 클러스터 구성, 배포, 모니터링, 운영 이슈 대응까지 함께 정리했습니다.
#Kubernetes#container
4200
LLM 기반 Chat application framework ＇Aide＇ 개발기
LLM 기반 대화형 애플리케이션을 위한 자체 프레임워크 Aide 개발 과정을 소개했습니다. 멀티턴 대화와 Workflow 추상화로 복잡성을 줄이고 확장성을 높인 점을 정리했습니다.
#LLM#OpenAI API
2200
LangChain: LLM 서비스를 어떻게 개발할 수 있을까?
LangChain을 활용해 LLM 애플리케이션을 만드는 방법을 소개했습니다. 또한 LangSmith, Retrieval, Agent, 서빙까지 개발 흐름을 예제로 정리했습니다.
#LangChain#LLM
3100
ML gpu model server 성능을 유지하며 cpu server로 전환한 경험 공유
GPU 모델 서버를 CPU 서버로 전환하면서 성능 저하를 막기 위해 worker, thread, IPEX, KD를 함께 최적화했습니다. 그 결과 서비스 품질을 유지하며 GPU 자원을 절감했습니다.
#ML#server
1900
이미지 처리를 위한 파이썬 서버 프레임워크 선정기 with Django, FastAPI, Sanic
얼굴 인식과 OCR을 위한 이미지 처리 서버 프레임워크 선정 과정을 다뤘습니다. Django, FastAPI, Sanic을 비교해 선택 기준을 정리했습니다.
#Python#Django
2400
AWS Inferentia를 이용한 모델 서빙 비용 최적화: 모델 서버 비용 2배 줄이기 2탄
AWS Inferentia 기반 TensorFlow 모델 서빙의 정합성 검증과 EKS 배포 과정을 소개했습니다. 토크나이저 분리와 동적 배치로 처리량을 높이고 비용 절감 가능성을 확인했습니다.
#AWS#Inferentia
000
로플랫의 서비스 개발팀을 소개합니다.
Wi-Fi 기반 실내 위치 인프라와 이를 활용한 오프라인 분석 서비스를 소개했습니다.\nPython·FastAPI와 React를 중심으로 대규모 트래픽과 데이터 집계를 운영합니다.
#위치정보#Python
1900