“이번 달도 밤샘 정산입니다.” — 더 이상 밤샘하지 않아도 됩니다 (운영편)
“이번 달도 밤샘 정산입니다.” — 더 이상 밤샘하지 않아도 됩니다 (운영편)
MASS 정산 시스템을 단계적으로 오픈하며 실제 운영 데이터로 정합성을 검증했습니다. 수기 정산을 자동화해 마감 시간을 줄이고 재처리 상황에서도 안정성을 확보했습니다.
#정산#배치
90005분
새로운 기술 블로그가 추가되었어요
필터 1
vLLM로 효율적인 모델 서빙하기
vLLM을 활용한 LLM 서빙 최적화 방법을 배치 전략, 어텐션 최적화, 추론 전략으로 나눠 설명했습니다. 온라인 서빙과 오프라인 서빙의 차이와 간단한 구현 예시도 함께 소개했습니다.
#vLLM#LLM
86005분
무진장 블랙 프라이데이 가격 할인은 어떻게 할까?
무진장 블랙 프라이데이를 위해 가격 할인 구조와 운영 프로세스를 대규모로 개선했습니다. 세일 정보를 사전 등록하는 실시간 가격 API로 DB 부하와 오류를 줄이고 처리 성능을 크게 높였습니다.
#AWS#배치
69005분
쏘카의 대규모 인증토큰 트래픽 대응 : 개발기
쏘카는 인증 토큰 트래픽이 write DB에 몰리던 문제를 전담 서비스 분리와 읽기 분산으로 개선했습니다. 또한 만료 토큰 정리와 Redis 캐시 적용으로 조회 성능과 응답 속도를 높였습니다.
#cache#Redis
35005분