검색엔진에 의존하지 않는 Reranking API 개발하기
ES에 의존하던 LTR 구조를 분리해 rerank API와 model API로 재구성했습니다. gRPC, 응답 압축, 2단계 캐싱으로 성능과 운영 리스크를 함께 개선했습니다.
#검색#Reranking
3700
필터 1
오글봇 AI 개발 사례 및 효과(부제: '무플방지위원회 오글봇 AI' 탄생기)
게시글 작성 시 ChatGPT로 첫 댓글을 생성해 무플을 방지하는 오글봇 AI 개발 사례를 소개했습니다. 외부 검색 API 연동과 대댓글 기능 확장으로 참여도와 정확도를 높였습니다.
#ChatGPT#gRPC
2700
광고 업체 유효성 검사 시스템 개선
광고 업체 유효성 검사 시스템을 직접 API 호출에서 캐시와 Kafka 기반 실시간 처리로 개선한 과정을 정리했습니다. gRPC와 표준화된 필드로 성능, 확장성, 유지보수성을 높였습니다.
#Kafka#gRPC
1800
광고 업체 유효성 검사 시스템 개선
광고 업체 유효성 검사 시스템을 API 중심 구조에서 배치와 Kafka 실시간 처리 구조로 단계적으로 개선한 사례입니다. MySQL, Redis, gRPC를 함께 활용해 확장성과 운영 효율을 높였습니다.
#API#Kafka
1800
![[10월 2주차 위클리 업데이트] 이번 주 발표된 Google for Developers 최신 소식을 확인하세요! (Google DeepMind의 노벨 화학상 수상)](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjNGleuvh_5ifDsOtW0kzXLCkvY7XYc-F06GUikEOdMjiDeZsbnDjz7RhXeyMREp6l4AX_VrQECkz67VDXvH2KJwDtPG8qlSCJiMy9yu3ttxNDMKwl8e_ukSr63dHzE44eKCWEslxqyNog/s1600/lockup_google_developers_horizontal_knockout_wht.png)
[10월 2주차 위클리 업데이트] 이번 주 발표된 Google for Developers 최신 소식을 확인하세요! (Google DeepMind의 노벨 화학상 수상)
Google for Developers의 10월 2주차 주요 업데이트를 분야별로 정리해 소개했습니다. AI, Android, Firebase, Google Pay 등 여러 제품의 새 소식과 프리뷰를 확인할 수 있습니다.
#ML#Android
800
아직도 포탈에서 검색?(LLM 검색 서비스를 알려드립니다. feat. 에이닷)
LLM 발전으로 검색 서비스가 어떻게 바뀌고 있는지 주요 서비스 사례를 중심으로 정리했습니다. 에이닷 멀티 LLM 에이전트에서 Perplexity와 다른 모델을 함께 쓰는 방식도 소개했습니다.
#LLM#검색
3200
Velopers 추천광고
쿠팡 파트너스
개발자를 위한 인기 상품을 확인해 보세요
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
#개발자#노트북#컴퓨터
생성형 AI 기반 실시간 검색 결과 재순위화 2편 - LLM 서빙
대규모 검색 재순위화를 위해 LLM 서빙 프레임워크와 최적화 방법을 비교하고, TRT-LLM과 Triton 조합을 채택했습니다. 양자화, 배치 조절, OpenTelemetry와 대시보드로 성능과 운영 가시성을 함께 확보했습니다.
#LLM#gRPC
2400
타입스크립트스럽게 성능과 생산성 두 마리 토끼 모두 잡기
웹 기반 게임 Admin의 gRPC 통신에서 FE와 BE용 API 중복 구현 문제를 Proxy로 해결한 사례를 소개했습니다. 코드 생성 결과를 JSON 메타데이터로 바꿔 부팅 부담도 줄였습니다.
#TypeScript#JavaScript
2500
회원 시스템 MSA 전환 도전기: MAU 1,900만 당근 유저를 위한 선택
당근의 회원·인증 시스템을 MSA로 분리한 과정을 소개했습니다. 레거시 분석, 신규 DB 재설계, Dual-Write와 Rollout으로 무중단 전환을 진행했습니다.
#MSA#migration
8000
gRPC가 뭔데?
gRPC는 마이크로서비스 환경에서 효율적인 서비스 간 통신을 위한 기술로 소개됩니다. MSA 도입이 늘면서 왜 gRPC가 주목받는지 개념과 강점을 살펴보는 글입니다.
#gRPC#MSA
2800
아키텍처에 대한 고민은 처음이라
계층형과 육각형 아키텍처를 실제 서비스 사례로 비교하며 적용 기준을 설명했습니다. 도메인 변화와 외부 의존성이 큰 환경에서는 육각형 아키텍처가 유리하다고 정리했습니다.
#Layered Architecture#Hexagonal Architecture
9900
mapstruct를 활용해 spring boot에서 gRPC 쉽게 사용하기
Endpoint API와 Recommend API 간 호출 지연을 줄이기 위해 gRPC를 도입하고, DTO와 gRPC message 매핑을 MapStruct로 단순화했습니다. Spring Boot 환경에서 proto와 Mapper를 구성해 반복 변환 코드를 줄이는 방법을 소개했습니다.
#Spring Boot#gRPC
4000
실시간 광고 사용자 ID 매핑
실시간 광고 사용자 ID 매핑 시스템의 설계와 처리 흐름을 소개했습니다. Kafka, Spark, gRPC, ZooKeeper와 트리 기반 매핑 알고리즘으로 확장성과 유연성을 확보한 사례입니다.
#gRPC#Spark Structured Streaming
2200
쿠버네티스 오퍼레이터를 Java로 개발해보기
Java와 Spring Boot로 쿠버네티스 오퍼레이터를 구현하는 과정을 정리했습니다. CRD, Reconciler, Dependent Resource 구성과 로컬 클러스터 테스트, 배포 방법까지 살펴봤습니다.
#Java#Kubernetes
2100