실행은 격리하고, 세션은 이어간다: 망분리 환경의 Agent Platform 설계기
망분리 환경에서 에이전트 코드를 격리하고 파일·네트워크 접근을 제한하는 플랫폼 구조를 소개합니다. PV와 하네스 상태, 공통 실행 기록을 분리해 Pod 교체 뒤에도 대화를 이어가는 방식을 설명합니다.
#Kubernetes#OpenSandbox#Linux
6300
모든 블로그
대표 인기 포스트캐시를 적용하기 까지의 험난한 길 (TPS 1만 안정적으로 서비스하기)499 조회499 조회 데브옵스 AI
AI
AI
백엔드 아키텍처 프론트엔드
프론트엔드
데브옵스 기타
AI
데브옵스
데브옵스 AI 프론트엔드
AI
프론트엔드
AI
토스
도메인toss.tech
주요 카테고리 프론트엔드 · AI
활동 요약
- 최근 30일
- 7개
- 평균 조회
- 98
- 누적 조회
- 24,617
- 전체 글
- 252개
- 마지막 발행
- 2026. 11. 10.
토스 기술 블로그 글 (252)
TASTE, 토스의 추천 파운데이션 플랫폼
TASTE는 공동학습으로 사용자 표현을 만들고, 예측 확률과 임베딩을 여러 추천·타기팅 모델에 제공합니다. 목적별 모델 분리와 TASTE Bench로 성능 및 전이 효과를 지속 검증했습니다.
#추천시스템#ML#임베딩
4300
손가락 튕기기로 LLM 비용 줄이기
SNAP은 LLM 로그를 작업별로 분류하고 소형 모델 학습 후보를 자동 발굴했습니다. 신뢰도 기반 폴백으로 품질을 유지하며 검증된 요청부터 LLM 비용을 줄였습니다.
#LLM#fine-tuning#Airflow
7200
머릿속에 있던 로그 정의 기준을 모두의 AI 스킬로 만들기
AI 스킬과 lctl 검증을 결합해 앱로그 명세 정의를 표준화했습니다. 사람의 최종 확정과 도메인 지식 축적으로 일관성을 높이고자 했습니다.
#logging#CLI#DataOps
9700
평균 CPU는 여유로운데, 커밋은 왜 느릴까?
평균 지표에 가려진 Oracle 커밋 지연을 CPU별 NIC 인터럽트와 LGWR 경합으로 분석했습니다. NIC 슬롯과 본딩 방식을 바꿔 인터럽트를 분산하고 CPU·SQL 성능을 개선했습니다.
#Oracle#Oracle RAC#NIC
6000
실행은 도메인별로, 문맥은 한 레포에
중앙 DW Airflow를 멈추지 않고 도메인별 클러스터와 dbt 선언형 파이프라인으로 단계적으로 이전했습니다. 단일 레포에 의존성·지표 문맥을 모아 운영 복잡도와 에이전트 탐색 비용을 낮췄습니다.
#Airflow#dbt#migration
6800
토스뱅크가 패키지를 관리하는 방식 #2: 토스뱅크 패키지의 세 가지 기준
패키지의 문법과 모듈 구조를 유지하고, 환경별 변환과 번들링은 호스트에 맡겼습니다. declaration sourcemap과 원본 파일을 제공해 사용처의 구현 확인과 디버깅을 지원합니다.
#TypeScript#JavaScript#ESM
3100
토스뱅크가 패키지를 관리하는 방식 #1: 패키지를 ESM으로만 제공하기로 했어요
ESM·CJS 이중 배포에서 발생하는 상태 분리와 타입 누락 문제를 분석했습니다. 사내 패키지를 ESM-only로 전환해 관리와 디버깅 복잡도를 줄였습니다.
#ESM#CommonJS#node.js
4800
Spark Connect on Kubernetes #2: Operator로 만드는 Control Plane
Spark Operator와 Tenant Operator를 분리해 Spark Connect 서버의 복구·교체를 제어했습니다. Blue-Green 전환, readiness 개선, glibc arena 제한으로 세션과 메모리 문제를 다뤘습니다.
#Spark#Kubernetes#Apache Spark Operator
2300
디자이너의 아이디어가 금융상품이 되기까지
디자이너 아이디어를 일일 스토리와 멀티엔딩을 갖춘 31일 적금으로 구체화했습니다. 사용자 테스트와 PO·DA 협업으로 입문형 금융상품의 팀 가치를 설득했습니다.
#UI/UX#사용자 테스트#금융상품
2500
서비스 개발에 집중할 수 있는 AI 플랫폼 만들기
토스의 AI 플랫폼이 모델 사용 검토부터 Gateway 호출·도구 권한 관리까지 연결한 구조를 소개했습니다. 예산·처리 용량·보안 로그를 통합 관리해 서비스 팀의 공통 운영 부담을 줄였습니다.
#LLM#MCP#Langfuse
10000
CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
Milvus 벡터 검색의 품질·처리량 기준으로 HNSW_SQ8을 선택하고 NUMA 배치를 최적화했습니다. 같은 자원에서 QPS를 41% 높이고 검색 조건 기반 서버 사이징 기준을 만들었습니다.
#Milvus#벡터 검색#HNSW
2300
CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
Milvus 벡터 검색에서 HNSW_SQ8과 NUMA 배치를 최적화해 품질을 유지하며 QPS를 41% 높였습니다. 검색 조건과 자원 측정값을 연결해 서버 사이징 기준을 만들었습니다.
#Milvus#벡터 검색#HNSW
1800
추천 후보는 많을수록 좋을까? TopK를 최적화해 전환율을 높인 방법
추천 후보 TopK를 정수계획법으로 최적화해 후보 수를 절반으로 줄이고 전환율을 높였습니다. 후속 실험으로 다양성 저하를 보완하며 사용자별 TopK 배정 가능성을 검토합니다.
#추천 시스템#TopK#정수계획법
7001
9인조 다람쥐 아이돌을 데뷔시켰습니다
적금 재방문을 높이기 위해 9종 다람쥐 캐릭터와 성장 중심 UI를 설계했습니다. AI 시안 탐색과 즉각적인 인터랙션으로 저금의 보람과 다음 방문 동기를 만들었습니다.
#UI/UX#design#prompt
8700
연 300시간을 아낀 AI 상담 서비스
전세대출 문의가 많아지던 문제를 AI 상담 서비스로 풀어낸 사례를 소개했습니다. 사용자가 자주 묻는 질문을 먼저 보여줘 상담 사용률과 전화 문의를 줄였습니다.
#UI/UX#ML#상담
7300
방해하지 않고, 눈에 띌 수 있을까
자산관리 리포트의 클릭률을 높이기 위해 표현보다 구조를 먼저 바꾼 디자인 사례를 다뤘습니다. 플로팅 카드와 인터랙션 조정으로 CTR과 CVR을 함께 3배 높였습니다.
#UI/UX#A/B test#CTR
8200
쉼 없이 도는 테스트, 사람이 어디까지 돌봐야 할까요? - 토스닥터(Toss Doctor)
매주 반복되던 스모크 테스트를 자동화하고, 실패 원인 분석과 복구까지 맡기는 토스닥터 V2를 소개했습니다. 사람은 검증할 대상과 자동화 범위 설계에 더 집중할 수 있게 됐습니다.
#test#자동화#LLM
14600