vLLM로 효율적인 모델 서빙하기
vLLM을 활용한 LLM 서빙 최적화 방법을 배치 전략, 어텐션 최적화, 추론 전략으로 나눠 설명했습니다. 온라인 서빙과 오프라인 서빙의 차이와 간단한 구현 예시도 함께 소개했습니다.
#vLLM#LLM
8600
필터 1
FastAPI에 모듈화된 구조 적용을 통한 빠른 프로토타이핑
FastAPI와 SQLite로 사용자 관리 API를 빠르게 만들고, 모듈화된 구조로 기능을 분리하는 방법을 소개했습니다. 의존성 주입과 예외 처리, 자동 문서화를 활용해 유지 보수성과 프로토타이핑 속도를 높였습니다.
#FastAPI#SQLite
4300
카드 청구금액 알림 서비스의 홀로서기 대모험
오픈뱅킹 단일 시스템에 있던 카드 청구금액 알림 서비스를 별도 시스템으로 분리한 이관 과정을 공유했습니다.외부 의존성과 재처리, 검증 전략 조정 과정을 통해 안정적으로 전환한 경험을 정리했습니다.
#REST API#Spring WebFlux
4000
GraphQL을 이용한 QueryFacade 개발기
GraphQL을 인메모리 QueryFacade로 활용해 복잡한 Aggregator 구조를 정리한 사례를 다뤘습니다. 필요한 의존성만 조회하고 부분 에러 처리와 캐시 제어를 붙여 성능도 개선했습니다.
#GraphQL#MSA
3400
자동화를 생활화 합시다. — Online DDL 테스트 자동화 이야기
온라인 DDL 테스트를 자동화해 알고리즘 선정과 사전 검증 과정을 표준화했습니다. 클론 생성, 비동기 실행, 히스토리 저장, Slack 알림으로 운영 효율과 안정성을 높였습니다.
#Python#Flask
3800
올리브영 결제수단 연동, 이렇게만 하면 끝!
올리브영 주문결제에 현대카드 리워드와 모바일 상품권을 API로 연동한 과정을 소개했습니다. 인증, 잔액 조회, 사용, 취소까지의 흐름과 협업의 중요성을 다뤘습니다.
#API#authentication
4800
당근 홈 피드, Server Driven UI로 실험 이터레이션 빠르게 돌리기
당근 홈 피드에 SDUI를 도입해 앱 업데이트 없이 UI 실험을 빠르게 진행할 수 있게 했습니다. 피드 아이템 카드와 제네레이터로 재사용성과 하위 호환성도 함께 높였습니다.
#server-driven UI#UI/UX
17300
Velopers 추천광고
쿠팡 파트너스
개발자를 위한 인기 상품을 확인해 보세요
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
#개발자#노트북#컴퓨터
영화 추천 여정으로 이해하는 Qdrant 벡터 데이터베이스
Qdrant의 Collection, Point, CRUD, 검색 기능을 영화 추천 예시로 설명했습니다. 벡터 검색과 필터, Scroll로 유사 영화 추천과 대용량 탐색을 다루었습니다.
#Qdrant#RAG
2500
해외파트너센터 개발 오픈기- 3.글로벌 대응을 위한 다국어 처리 작업
해외 파트너 센터에 다국어 처리를 적용한 과정과 i18next 선택 이유를 정리했습니다. Next.js 환경에서의 언어 감지, JSON 관리 방식, 유지보수 포인트도 함께 공유했습니다.
#i18next#react-i18next
11900
AI 기반 OK캐쉬백 자동 댓글봇(오글봇) 구현 사례
ChatGPT를 연동한 오글봇으로 게시글 첫 댓글과 대댓글 기능을 구현한 사례입니다.\n프롬프트 조정, 비동기 처리, Function call 연동으로 참여도와 응답 정확도를 높였습니다.
#ChatGPT#function call
1800
캐치테이블 글로벌 버전, MAU 두 배 성장의 비결! 다국어 서비스 개발기
캐치테이블 글로벌은 번역 마이크로서비스와 검수 어드민을 도입해 다국어 레이어를 구축했습니다. 또한 AWS DMS CDC와 Kafka를 활용해 기존 도메인 변경을 중앙에서 번역 요청하도록 설계했습니다.
#Kafka#REST API
16600
DevOps 효율성 극대화를 위한 데이터 시각화 전략
DevOps 효율을 높이기 위해 Jira, GitLab, Jenkins 데이터를 REST API로 수집하고 PostgreSQL에 저장하는 시각화 전략을 소개했습니다. 라인 차트, 산점도, 테이블을 활용해 현황을 한눈에 보고 분석과 보완을 반복하는 흐름을 제안했습니다.
#데이터 시각화#REST API
1100
카프카 커넥트와 오프셋 관리(2)
카프카 커넥트의 내부 오프셋 관리 방식과 REST API 기반 조작 방법을 설명했습니다. 예제로 오프셋을 되돌려 레코드를 다시 처리하는 과정을 보여주었습니다.
#Kafka#REST API
1800
REST API 데이터 모킹 도구 개발 이야기 ⚡
REST API가 준비되기 전에도 클라이언트가 테스트할 수 있는 데이터 모킹 도구를 소개했습니다. 복잡한 API 연동과 검증 과정의 커뮤니케이션 비용을 줄인 사례입니다.
#REST API#test
2800