[클로바시선 #58] 속도와 비용의 열쇠: 멀티모달 AI 학습을 갉아먹는 ‘이미지 토큰 불균형’ 이야기
이미지 토큰 편차로 발생한 멀티모달 학습 GPU 부하 불균형을 분석했습니다. Pack 재배치와 통신 오버랩으로 품질 저하 없이 처리량을 13.3% 높였습니다.
성능 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
20개 표시
이미지 토큰 편차로 발생한 멀티모달 학습 GPU 부하 불균형을 분석했습니다. Pack 재배치와 통신 오버랩으로 품질 저하 없이 처리량을 13.3% 높였습니다.
공유 API 유무와 성능 이슈를 기준으로 MS 간 도메인 참조 방식을 구분했습니다. 기본은 ID 참조이며, 성능 문제가 확인될 때만 표시용 VO 동기화를 검토합니다.

React와 TypeScript 기반 SpreadJS Excel 상세 화면의 초기 로딩 지연을 단계별 측정으로 분석했습니다. 모든 시트에 바인딩하던 구조를 필요한 시트만 처리하도록 바꿔 로딩 시간을 약 40~50% 줄였습니다.

수만 건 Grid 화면에서 Cell 계산과 데이터 조합이 반복되며 Main Thread Blocking이 발생했습니다. 사전 집계와 계산 결과 재사용으로 반복 연산을 줄여 개선했습니다.

복잡한 배송 센터 결정 로직을 전략 패턴과 컴포지트로 분리해 확장성과 유지보수성을 높였습니다. DB 기반 룰 On/Off와 실행 순서 제어로 배포 없이 정책 변경과 성능 최적화도 가능하게 했습니다.
상담 메시지 저장 전에 개인정보를 자동 마스킹해 원문이 DB에 남지 않게 만든 사례를 다뤘습니다.정규식 오탐·성능·ReDoS 위험을 함께 고려해 저장 경로를 안전하게 통합했습니다.
선상-육상 메시지 재전송 파이프라인의 TPS 제한을 검증하기 위해 스파이크 테스트를 적용했습니다. 재발행 폭주와 즉시 재시도 때문에 유실이 발생했고, 속도 제한과 지수 백오프로 개선했습니다.

OpenSearch 3.3과 derived source로 미리캔버스 검색의 stored fields 병목과 세그먼트 병합 문제를 해결했습니다. 신규 클러스터 도메인 스위칭으로 무중단 전환하고 레이턴시와 IOPS를 크게 개선했습니다.

미리캔버스는 OpenSearch에서 시맨틱 벡터와 비주얼 벡터를 함께 쓰는 듀얼 벡터 검색을 도입했습니다. BM25 선필터와 메모리 최적화 인스턴스 전환으로 성능과 정확도를 함께 개선했습니다.

Redis OSS 6.x 캐시를 Valkey 9.0으로 전환해 성능과 비용을 함께 개선한 사례를 정리했습니다. 업그레이드 중 client 재연결과 클러스터 대응 검증이 핵심이었습니다.
Spring Data Redis Repository와 RedisTemplate의 실전 성능을 비교했습니다. 단순 캐시에는 RedisTemplate이 더 적합하며 CPU와 메모리 효율이 좋았습니다.
기획전 API의 중복 조회와 중첩 저장 구조를 분리해 성능을 개선한 사례를 다뤘습니다. 다만 구조 분리만으로는 충분하지 않아 실제 조회 패턴과 운영 부하까지 함께 고려해야 했습니다.
AWS DevOps Agent로 성능 테스트 분석을 자동화하는 활용 사례를 소개했습니다. JMeter 부하 테스트에서 병목 원인을 찾고 수정 후 재검증하는 흐름을 보여주었습니다.

Toss는 lodash의 한계를 보완한 현대적 유틸리티 라이브러리 es-toolkit을 만들고 OSS로 확산시켰습니다. 호환 레이어와 성능 개선으로 대형 프로젝트 채택과 주간 2천만 다운로드를 달성했습니다.
Android 웹뷰에서 무한 CSS 애니메이션이 앱 CPU를 크게 올리는 현상을 조사했습니다. transform 최적화만으로는 해결되지 않았고, 지속 애니메이션 자체를 줄이는 방향이 필요했습니다.
캔버스 에디터 드래그 성능 저하의 원인을 React가 아닌 Layout Thrashing으로 분석했습니다. Read와 Write를 분리한 4-Phase 배칭으로 reflow를 줄여 60fps를 회복했습니다.
Kafka 파티션 수를 처리량과 컨슈머 catch-up 기준으로 계산하는 산정식을 정리했습니다. 운영 환경 실측값을 반영해 토픽별 초기 파티션 수를 일관되게 정하는 방법을 제안했습니다.
AI가 위지윅 에디터 성능 개선을 반복 실험하도록 Auto Research 루프를 구성했습니다. 실제 체감 성능을 반영하는 벤치마크와 점수표 설계가 핵심이라는 점을 확인했습니다.
AI에게 에디터 성능 개선을 맡겨 Auto Research 루프를 실험했습니다.\n평가 지표 설계가 핵심이었고, 실제 체감 성능에 맞는 벤치마크가 중요하다고 정리했습니다.
TVING 쇼츠 플레이어의 단일 인스턴스 구조와 프리로드 최적화 과정을 정리한 글입니다. 메모리 문제와 VST 지연을 줄여 더 부드러운 시청 경험을 만들었습니다.