에이전트 내 자연어 검색 품질 향상 기법 : Entity RAG, Knowledge-aware retrieval
자연어 검색 에이전트의 품질을 높이기 위해 Entity RAG와 Knowledge-aware retrieval을 적용한 사례를 소개했습니다. 신규 개체 인식과 테마 질의 대응 성능이 개선되었고, 향후 적용 범위 확대도 제시했습니다.
#LLM#RAG
31005분
새로운 기술 블로그가 추가되었어요
필터 0
AI 응답성 최적화하기: Amazon Bedrock 지연 시간 최적화 추론에 대한 실용적인 가이드
Amazon Bedrock의 지연 시간 최적화 추론이 LLM 응답성 개선에 어떻게 기여하는지 정리했습니다. TTFT, OTPS, E2E 지표와 함께 프롬프트·아키텍처 최적화 방법도 살펴보았습니다.
#AWS#LLM
45005분
AI Agent 개발의 핵심: RAG와 LangChain, LangGraph 비교 분석
AI Agent 개발의 핵심: RAG와 LangChain, LangGraph 비교 분석
RAG와 LangChain, LangGraph의 역할과 구조를 비교해 AI Agent 개발 관점을 정리했습니다. 빠른 개발에는 LangChain, 복잡한 워크플로우에는 LangGraph가 적합하다고 설명했습니다.
#LLM#RAG
62005분
카카오의 언어모델, Kanana 테크니컬 리포트 공개
카카오가 서비스 적용에 최적화한 언어모델 Kanana의 테크니컬 리포트를 공개했습니다. 높은 성능, 비용 효율성, 안전성을 함께 고려한 자체 AI 모델 방향을 소개했습니다.
#LLM
27005분
LLM을 활용한 스마트폰 시세조회 서비스 구축
LLM으로 중고 스마트폰 게시글에서 시세 산정용 정보를 추출하고 후처리하는 서비스를 구축했습니다. BigQuery, MySQL, 벡터 DB를 조합해 시세 조회와 유사 게시글 추천을 구현했습니다.
#LLM#BigQuery
53005분
Amazon Bedrock을 이용한 Text API 구축하기
Amazon Bedrock을 이용한 Text API 구축하기
Amazon Bedrock과 Lambda, API Gateway를 연결해 긴 텍스트 요약 API를 구성하는 과정을 다루었습니다. 요청 전달, IAM 권한, 응답 처리와 테스트 방법까지 실습 중심으로 설명했습니다.
#Amazon Bedrock#API Gateway
29005분
비정형 데이터! Amazon Bedrock으로 제대로 활용하기
Amazon Bedrock의 비정형 데이터 처리 기능과 활용 사례를 정리했습니다. 멀티모달 처리와 GraphRAG로 RAG 품질을 높이는 방법을 소개했습니다.
#AWS#Amazon Bedrock
36005분
GPT를 활용한 카탈로그 아이템 생성
배달의민족은 GPT와 RAG를 활용해 상품 카탈로그 속성값 생성 자동화를 시도했습니다. 평가 모델을 보완해 작업 효율을 높이고 정확도도 개선했습니다.
#GPT#RAG
31005분
Amazon Bedrock과 Amazon Neptune으로 지식 그래프를 활용한 GraphRAG 애플리케이션 구축하기
Amazon Bedrock과 Amazon Neptune으로 GraphRAG 애플리케이션을 구축하는 방법을 소개했습니다. LlamaIndex와 NL2GraphQuery를 활용해 지식 그래프 검색과 개인화 추천을 연결했습니다.
#GraphRAG#Amazon Bedrock
50005분
SK하이닉스의 RAG 플랫폼 구축 및 성능 평가/분석 연구 사례
SK하이닉스가 AWS 환경에서 RAG 플랫폼을 구축하고 성능을 평가한 사례를 소개했습니다. 데이터셋 크기와 인덱스 메모리가 검색 지연과 TTFT에 미치는 영향을 분석했습니다.
#RAG#LLM
82005분
Auto 자동차 매뉴얼 특화 RAG 데모 시스템 개발
자동차 매뉴얼 검색을 위한 도메인 특화 RAG 데모 시스템을 개발했습니다. LLM과 메타 정보를 결합해 출처가 보이는 응답과 더 나은 사용자 경험을 제공했습니다.
#RAG#LLM
38005분
실험으로 알아보는 LLM 파인튜닝 최적화 가이드 Part 2.
LLM 파인튜닝에서 Optimizer, 학습률, 스케줄러, Warmup, 정밀도 선택 기준을 실험 결과로 정리했습니다.메모리와 안정성을 함께 고려해 AdamW 계열과 BF16, 1e-4 근처 학습률을 중심으로 검증하는 방법을 제시했습니다.
#LLM#파인튜닝
59005분