RAG 없이 20만 대 자동차와 실시간으로 대화하기 (1)
20만 대 차량의 실시간 데이터를 다루기 위해 RAG의 한계를 검토했습니다. 검색 기반보다 API로 직접 정보를 조합하는 아키텍처가 더 적합하다고 판단했습니다.
#RAG#LLM
25005분
필터 1
LLM 기반 내비게이션 에이전트 개발기: 에이닷과 함께 진화하는 대화형 모빌리티 AI
SK텔레콤이 에이닷과 티맵을 결합해 LLM 기반 대화형 내비게이션 에이전트를 개발했습니다. 규칙 기반 한계를 보완하기 위해 하이브리드 모델, 캐싱, 검증 로직을 적용했습니다.
#LLM#MCP
49005분
RabbitMQ Classic Queue 메모리 장애와 Quorum Queue 전환기
대량 쿠폰 발급 중 RabbitMQ Classic Queue 메모리 장애와 동기화 실패 원인을 분석했습니다. 긴급 복구 후 버전 업그레이드와 Quorum Queue 전환으로 안정성을 높였습니다.
#RabbitMQ#AWS
55005분
가맹점은 변함없이, 결제창 시스템 전면 재작성하기
레거시 결제창을 결제 도메인 중심 구조로 재설계한 사례를 다뤘습니다. 기능 추상화와 단계적 전환, 자동 롤백으로 가맹점 영향 없이 개편했습니다.
#Java#JSP
114005분
KPT 회고, 이렇게 했더니 스쿼드 문화가 바뀌었습니다: 올리브영 주문결제 스쿼드의 애자일 성장기
올리브영 주문결제 스쿼드가 KPT 회고로 문제를 실행 과제로 바꾸며 협업 문화를 개선했습니다. PR 템플릿, 데일리 스크럼, 장바구니 캐싱으로 코드 품질과 운영 안정성도 높였습니다.
#agile#회의
90005분
Chat DIC 프로젝트에서 AWS Bedrock Prompt Caching으로 성능 최적화하기
Chat DIC 프로젝트에서 AWS Bedrock Prompt Caching으로 성능 최적화하기
AWS Bedrock Prompt Caching으로 Chat DIC의 반복 프롬프트 재계산을 줄이고 응답 지연과 Throttling을 개선했습니다. 또한 system과 tools 문맥을 캐싱해 평균 응답 시간을 단축하고 비용도 절감했습니다.
#AWS#LLM
53005분
Redis New Connection 증가 이슈 돌아보기
Redis New Connection 증가 이슈 돌아보기
Redis 신규 커넥션 증가 현상을 추적해 파이프라이닝과 커넥션 풀, Elasticache timeout의 영향을 확인했습니다. FIFO 전환과 IDLE 커넥션 정리 방법도 함께 정리했습니다.
#Redis#Lettuce
45005분
GraphQL 커스텀 디렉티브로 만드는 선언적 지연 로딩
SSR에서 개인화 필드 동기화와 중복 요청 문제를 GraphQL 커스텀 디렉티브로 해결한 사례를 소개했습니다.\n`@lazy`로 필요한 필드만 재조회해 네트워크 비용을 줄이고 개발자 경험을 개선했습니다.
#GraphQL#Apollo Client
65005분
29CM 주문서 결제 혜택 UX 개편기:그래서 얼마에 살 수 있는 거에요?
주문서 결제 혜택을 더 직관적으로 보여주도록 UX와 상태 관리 구조를 개편했습니다. 그 결과 구매전환율과 혜택 사용 비중, 결제 속도가 함께 개선되었습니다.
#React#UI/UX
256005분
Next.js ISR 전환과 Redis 외부 캐싱 (SSR 지옥 탈출기 시리즈 1)
X
#Next.js#ISR
149005분
올리브영은 왜 선물하기를 개편했을까? Part - 2
선물하기 전시 영역의 캐시 적용 방식을 커스텀 모듈과 AoP로 재구성했습니다. Redis 분산 락을 더해 캐시 스탬피드까지 해결했습니다.
#Kotlin#Spring Boot
202005분
Distributed Cache 도입기 (3): RDB 조회 90% 감소시키기
Distributed Cache 도입기 (3): RDB 조회 90% 감소시키기
BillSetting 조회 부하를 줄이기 위해 로컬 캐시와 Redis 글로벌 캐시를 시도했지만 각각 한계와 병목을 겪었습니다. 이후 Redis Pub/Sub 기반 분산 캐시로 전환해 RDB 조회를 93% 줄였습니다.
#Redis#cache
0005분