오늘
서비스 개발에 집중할 수 있는 AI 플랫폼 만들기
토스의 AI 플랫폼이 모델 사용 검토부터 Gateway 호출·도구 권한 관리까지 연결한 구조를 소개했습니다. 예산·처리 용량·보안 로그를 통합 관리해 서비스 팀의 공통 운영 부담을 줄였습니다.
#LLM#MCP#Langfuse
1800
모든 블로그
대표 인기 포스트캐시를 적용하기 까지의 험난한 길 (TPS 1만 안정적으로 서비스하기)496 조회496 조회 AI 데브옵스
데브옵스 AI
프론트엔드
AI
프론트엔드
AI
프론트엔드
프론트엔드
AI
아키텍처
프론트엔드
AI 기타
기타 AI
AI
백엔드
AI
토스
도메인toss.tech
주요 카테고리 Else · Frontend · AI
활동 요약
- 최근 30일
- 12개
- 평균 조회
- 97
- 누적 조회
- 23,408
- 전체 글
- 242개
- 마지막 발행
- 2026. 10. 13.
최신 게시글 (20)
CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
Milvus 벡터 검색의 품질·처리량 기준으로 HNSW_SQ8을 선택하고 NUMA 배치를 최적화했습니다. 같은 자원에서 QPS를 41% 높이고 검색 조건 기반 서버 사이징 기준을 만들었습니다.
#Milvus#벡터 검색#HNSW
1000
CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
Milvus 벡터 검색에서 HNSW_SQ8과 NUMA 배치를 최적화해 품질을 유지하며 QPS를 41% 높였습니다. 검색 조건과 자원 측정값을 연결해 서버 사이징 기준을 만들었습니다.
#Milvus#벡터 검색#HNSW
1200
추천 후보는 많을수록 좋을까? TopK를 최적화해 전환율을 높인 방법
추천 후보 TopK를 정수계획법으로 최적화해 후보 수를 절반으로 줄이고 전환율을 높였습니다. 후속 실험으로 다양성 저하를 보완하며 사용자별 TopK 배정 가능성을 검토합니다.
#추천 시스템#TopK#정수계획법
6401
9인조 다람쥐 아이돌을 데뷔시켰습니다
적금 재방문을 높이기 위해 9종 다람쥐 캐릭터와 성장 중심 UI를 설계했습니다. AI 시안 탐색과 즉각적인 인터랙션으로 저금의 보람과 다음 방문 동기를 만들었습니다.
#UI/UX#design#prompt
6300
연 300시간을 아낀 AI 상담 서비스
전세대출 문의가 많아지던 문제를 AI 상담 서비스로 풀어낸 사례를 소개했습니다. 사용자가 자주 묻는 질문을 먼저 보여줘 상담 사용률과 전화 문의를 줄였습니다.
#UI/UX#ML#상담
6900
방해하지 않고, 눈에 띌 수 있을까
자산관리 리포트의 클릭률을 높이기 위해 표현보다 구조를 먼저 바꾼 디자인 사례를 다뤘습니다. 플로팅 카드와 인터랙션 조정으로 CTR과 CVR을 함께 3배 높였습니다.
#UI/UX#A/B test#CTR
6100
쉼 없이 도는 테스트, 사람이 어디까지 돌봐야 할까요? - 토스닥터(Toss Doctor)
매주 반복되던 스모크 테스트를 자동화하고, 실패 원인 분석과 복구까지 맡기는 토스닥터 V2를 소개했습니다. 사람은 검증할 대상과 자동화 범위 설계에 더 집중할 수 있게 됐습니다.
#test#자동화#LLM
13900
도메인 지식 없는 디자이너가 팀의 기준을 바꾼 방법
해외송금 디자인에서 수수료보다 큰 가치는 사용자의 불안을 줄이는 경험이라는 점을 발견했습니다. 인터뷰와 팀의 직접 경험을 통해 제품 기준을 바꾸고 송금 상태와 입력 과정을 단순화했습니다.
#UI/UX#API#server
5400
사용자를 위해 일부러 어렵게 만드는 경험, 어디까지 괜찮을까?
10대 저축을 돕는 잠금 저금통을 만들며, 일부러 어렵게 만드는 경험의 기준을 정리했습니다. 사용자에게 죄책감 대신 선택권과 응원을 남기는 설계를 강조했습니다.
#UI/UX#인터랙션#제품 디자인
8900
리더보드 1등 LLM, 토스에서도 1등일까? - Toss Benchmark 구축기
공개 리더보드만으로는 토스 서비스에 맞는 LLM을 고르기 어려워 Toss Benchmark를 구축했습니다. 한국어 입력, 추론 설정, 도메인 지식과 정책 준수까지 함께 평가해 실제 업무 적합성을 확인했습니다.
#LLM#벤치마크#한국어
5500
토스증권이 GPU-aware를 넘어 GPU-native 클러스터를 구축한 방법
토스증권은 쿠버네티스에서 GPU를 단순히 인식하는 수준을 넘어 운영 가능한 GPU-native 클러스터로 발전시키는 과정을 공유했습니다. GPU Ready 판정, 시범운행 검증, MIG 기반 배치 최적화로 서비스 투입과 자원 효율을 높였습니다.
#Kubernetes#GPU#container
3500
App Router의 장점은 우리에게도 장점일까요?
App Router와 RSC의 장점을 실제 서비스에 적용해 검토했지만, 전환과 운영 비용이 더 크다고 판단했습니다. 토스뱅크는 일부 이득보다 안정성과 기존 기능 호환성을 우선해 Pages Router를 유지하기로 했습니다.
#Next.js#React Server Components#SSR
12500
AI가 팀 규칙을 지키도록 하는 방법
코드 작성 직후와 종료 직전에 규칙을 다시 주입하는 Stylepack으로 Coding Agent의 컨벤션 준수를 높인 사례를 다뤘습니다. 반복 리뷰 코멘트를 규칙화하고, 모양으로 잡히는 문제와 런타임 문제를 나눠 대응했습니다.
#LLM#prompt#Python
15500
2. Beyond Our Expertise
기술 문서 작성 경험을 제품으로 전환해 내부 문서 플랫폼 todoc를 구축한 사례를 소개했습니다. 문서를 쉽게 쓰고 AI로 활용하며, 작업 과정에서 지식이 자연스럽게 축적되도록 설계했습니다.
#API#CLI#MCP
1800
1. Creating a Role That Didn’t Exist Before
기술문서 작성이 단순 문서 생산을 넘어 조직의 지식 시스템을 설계하는 역할로 확장된 과정을 소개했습니다. AI 시대에 맥락을 축적하고 전달하는 일이 왜 중요해졌는지 설명했습니다.
#documentation#자동화#knowledge management
3600
How Documents Find Developers at Toss
토스 프론트엔드 팀은 문서를 찾는 대신 문서가 개발자에게 찾아오게 만드는 시스템을 구축했습니다. RAG 챗봇과 자동 문서화 봇으로 지식의 축적과 검색을 연결했습니다.
#RAG#LLM#Cursor
6400
AI가 만든 코드가 어드민이 되기까지
AI가 만든 코드를 어드민 화면으로 보여 주기 위해 브라우저 기반 Preview Runtime을 구축한 과정을 소개했습니다. 가상 파일 시스템, esbuild-wasm, import map, 패키지 사전 빌드로 격리성과 속도를 함께 해결했습니다.
#React#esbuild#TypeScript
10000
1%가 겪은 버그 고쳐야할까요?
점진 배포 환경에서 1% 버그의 핫픽스 여부를 판단하는 기준과 운영 방식을 소개했습니다. 크래시 재현 자동화와 사후 기록, 재발 방지 추적으로 같은 사고를 줄이는 방법을 정리했습니다.
#QA#배포#핫픽스
11500
토스증권 추천과 검색은 어떻게 진화하고 있을까?
토스증권은 추천을 배치 중심에서 실시간 루프로, 검색을 키워드 기반에서 RAG와 그래프 RAG로 확장했습니다. 모델 성능뿐 아니라 데이터 갱신, 후보 선택, 운영 관측이 품질을 좌우한다고 정리했습니다.
#검색#RAG#graph RAG
8100