[클로바시선 #58] 속도와 비용의 열쇠: 멀티모달 AI 학습을 갉아먹는 ‘이미지 토큰 불균형’ 이야기
[클로바시선 #58] 속도와 비용의 열쇠: 멀티모달 AI 학습을 갉아먹는 ‘이미지 토큰 불균형’ 이야기
이미지 토큰 편차로 발생한 멀티모달 학습 GPU 부하 불균형을 분석했습니다. Pack 재배치와 통신 오버랩으로 품질 저하 없이 처리량을 13.3% 높였습니다.
#LLM#멀티모달
900
국내 IT 기업 기술 블로그 최신 글
새로운 기술 블로그가 추가되었어요
필터 1
Devlime 공유 도메인/MS 간 도메인 참조 설계
공유 API 유무와 성능 이슈를 기준으로 MS 간 도메인 참조 방식을 구분했습니다. 기본은 ID 참조이며, 성능 문제가 확인될 때만 표시용 VO 동기화를 검토합니다.
#MSA#API
1100
SpreadJS 엑셀 로딩 성능 최적화2
React와 TypeScript 기반 SpreadJS Excel 상세 화면의 초기 로딩 지연을 단계별 측정으로 분석했습니다. 모든 시트에 바인딩하던 구조를 필요한 시트만 처리하도록 바꿔 로딩 시간을 약 40~50% 줄였습니다.
#React#TypeScript
2600
Main Thread Blocking 개선 사례
수만 건 Grid 화면에서 Cell 계산과 데이터 조합이 반복되며 Main Thread Blocking이 발생했습니다. 사전 집계와 계산 결과 재사용으로 반복 연산을 줄여 개선했습니다.
#성능#Main Thread
3500
배송최적화 시스템 구축기 Part 02. 복잡한 비즈니스 로직에 유연한 디자인 패턴 입히기
복잡한 배송 센터 결정 로직을 전략 패턴과 컴포지트로 분리해 확장성과 유지보수성을 높였습니다. DB 기반 룰 On/Off와 실행 순서 제어로 배포 없이 정책 변경과 성능 최적화도 가능하게 했습니다.
#design패턴#Kotlin
12500
유저챗 개인정보 마스킹 개발기
상담 메시지 저장 전에 개인정보를 자동 마스킹해 원문이 DB에 남지 않게 만든 사례를 다뤘습니다.정규식 오탐·성능·ReDoS 위험을 함께 고려해 저장 경로를 안전하게 통합했습니다.
#보안#정규식
5100
쿠팡 파트너스
개발자를 위한 서적을 확인해 보세요
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
#개발서적#프로그래밍
스파이크 테스트를 활용한 TPS 검증
선상-육상 메시지 재전송 파이프라인의 TPS 제한을 검증하기 위해 스파이크 테스트를 적용했습니다. 재발행 폭주와 즉시 재시도 때문에 유실이 발생했고, 속도 제한과 지수 백오프로 개선했습니다.
#성능#k6
2300
Amazon OpenSearch 3.3 업그레이드로 미리캔버스의 검색 성능 개선
OpenSearch 3.3과 derived source로 미리캔버스 검색의 stored fields 병목과 세그먼트 병합 문제를 해결했습니다. 신규 클러스터 도메인 스위칭으로 무중단 전환하고 레이턴시와 IOPS를 크게 개선했습니다.
#OpenSearch#검색
14300
Amazon OpenSearch Service로 미리캔버스의 듀얼 벡터 검색 도입과 성능 최적화
미리캔버스는 OpenSearch에서 시맨틱 벡터와 비주얼 벡터를 함께 쓰는 듀얼 벡터 검색을 도입했습니다. BM25 선필터와 메모리 최적화 인스턴스 전환으로 성능과 정확도를 함께 개선했습니다.
#OpenSearch#검색
1500
Redis 6.x에서 Valkey 9.0으로: 운영 캐시 성능과 비용을 함께 개선한 전환기
Redis 6.x에서 Valkey 9.0으로: 운영 캐시 성능과 비용을 함께 개선한 전환기
Redis OSS 6.x 캐시를 Valkey 9.0으로 전환해 성능과 비용을 함께 개선한 사례를 정리했습니다. 업그레이드 중 client 재연결과 클러스터 대응 검증이 핵심이었습니다.
#Valkey#Redis
7720
Spring Data Redis: Repository vs RedisTemplate — 실전 성능 비교
Spring Data Redis: Repository vs RedisTemplate — 실전 성능 비교
Spring Data Redis Repository와 RedisTemplate의 실전 성능을 비교했습니다. 단순 캐시에는 RedisTemplate이 더 적합하며 CPU와 메모리 효율이 좋았습니다.
#Spring Data Redis#RedisTemplate
17400
이상적인 구조가 빠른 성능은 아닙니다
이상적인 구조가 빠른 성능은 아닙니다
기획전 API의 중복 조회와 중첩 저장 구조를 분리해 성능을 개선한 사례를 다뤘습니다. 다만 구조 분리만으로는 충분하지 않아 실제 조회 패턴과 운영 부하까지 함께 고려해야 했습니다.
#MongoDB#성능
2400
AWS DevOps Agent 를 활용한 성능 테스트 결과 분석
AWS DevOps Agent로 성능 테스트 분석을 자동화하는 활용 사례를 소개했습니다. JMeter 부하 테스트에서 병목 원인을 찾고 수정 후 재검증하는 흐름을 보여주었습니다.
#AWS#성능
5702
es-toolkit: How a Small Internal Library Became a Global Project
Toss는 lodash의 한계를 보완한 현대적 유틸리티 라이브러리 es-toolkit을 만들고 OSS로 확산시켰습니다. 호환 레이어와 성능 개선으로 대형 프로젝트 채택과 주간 2천만 다운로드를 달성했습니다.
#JavaScript#오픈소스
17800