국내 IT 기업 기술 블로그 최신 글

필터 1
손가락 튕기기로 LLM 비용 줄이기
토스
AI

손가락 튕기기로 LLM 비용 줄이기

SNAP은 LLM 로그를 작업별로 분류하고 소형 모델 학습 후보를 자동 발굴했습니다. 신뢰도 기반 폴백으로 품질을 유지하며 검증된 요청부터 LLM 비용을 줄였습니다.

#LLM#fine-tuning
7500
채널톡이 글로벌 상담 Agent를 GPT-5.6 Luna로 갈아탄 이유
채널톡
AI

채널톡이 글로벌 상담 Agent를 GPT-5.6 Luna로 갈아탄 이유

글로벌 상담 AI Agent의 메인 모델을 GPT-5.6 Luna로 바꾼 이유를 자체 벤치마크로 설명했습니다. 공개 리더보드보다 실제 워크로드에서의 품질, 비용, 속도를 함께 보고 전환했습니다.

#LLM#벤치마크
8500
Amazon Bedrock 위에 사내 LLM Gateway 구축하기: Claude Code, Codex를 위한 인증·비용·거버넌스
AWS
아키텍처

Amazon Bedrock 위에 사내 LLM Gateway 구축하기: Claude Code, Codex를 위한 인증·비용·거버넌스

사내 LLM Gateway로 Claude Code와 Codex의 인증, 비용, 모델 접근을 중앙에서 통제하는 설계를 정리했습니다. Bedrock 기반 멀티 프로바이더 환경에서 예산 차단, 자동 다운그레이드, 감사 추적을 함께 구현한 사례입니다.

#Amazon Bedrock#LLM
3700
AI 코딩 도구 ROI를 정확히 측정하는 4가지 핵심 지표
인포그랩
AI

AI 코딩 도구 ROI를 정확히 측정하는 4가지 핵심 지표

AI 코딩 도구의 ROI를 비용과 품질 지표로 나눠 측정하는 방법을 정리했습니다. 각 지표의 의미와 한계를 함께 살펴보며 정확한 판단 기준을 제안했습니다.

#LLM#비용
10900
코드 생성 및 Agentic RAG 작업 중심의 특정 도메인을 위한 LLM 비교 평가【후편】
QueryPie
AI

코드 생성 및 Agentic RAG 작업 중심의 특정 도메인을 위한 LLM 비교 평가【후편】

코드 생성과 Agentic RAG에서 최적 LLM이 다르다는 점을 비교 평가로 정리했습니다. 이기종 파이프라인과 안정성·비용을 함께 고려한 모델 선택이 중요하다고 제시했습니다.

#LLM#RAG
2700
AWS 보안·비용·계정 관리, 지금 당장 해야 할 10가지 설정
농심NDS
데브옵스

AWS 보안·비용·계정 관리, 지금 당장 해야 할 10가지 설정

AWS에서 보안 사고와 비용 폭증을 막기 위한 기본 설정 10가지를 정리했습니다. 루트 계정, S3, 보안그룹, 알람, 예산 등을 바로 점검하라고 안내했습니다.

#AWS#보안
4500
쿠팡 파트너스

광고

개발자를 위한 서적을 확인해 보세요

이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

#개발서적#프로그래밍
Aurora Serverless 알아보기
여기어때
데브옵스

Aurora Serverless 알아보기

Aurora Serverless v2의 동작 방식과 Aurora MySQL 대비 특징, 성능 및 비용 차이를 정리했습니다. 트래픽 변동성이 큰 서비스에 적합하지만, 고정 부하에서는 비용 효율을 다시 검토해야 했습니다.

#AWS#Aurora
3600
[칼럼] 클라우드 비용, 안녕하십니까
가비아
데브옵스

[칼럼] 클라우드 비용, 안녕하십니까

클라우드 비용 낭비의 원인과 관리 어려움을 정리하고, 절감 방안을 제시했습니다. 하이브리드 클라우드와 Right Sizing, 유휴 자원 관리가 핵심이었습니다.

#cloud#AWS
3200