LLM 비용 64% 절감, 캐시 히트율 98% 달성기
LLM 비용 64% 절감, 캐시 히트율 98% 달성기
AWS Bedrock 기반 LLM 비용이 증가하자 API별 토큰 메트릭을 먼저 구축해 원인을 파악했습니다. 이후 Prompt Caching을 적용해 캐시 히트율 98%, 전체 비용 64% 절감을 달성했습니다.
#LLM#cache
34205분
새로운 기술 블로그가 추가되었어요
필터 0
[22. 11. 23] 에이아이트릭스, MEDICA에서 선정한 글로벌 TOP12 스타트업
[22. 11. 23] 에이아이트릭스, MEDICA에서 선정한 글로벌 TOP12 스타트업
에이아이트릭스의 AITRICS-VC가 MEDICA 스타트업 컴피티션 AI in healthcare 분야 TOP12에 선정되었습니다. 국내 유일 기업으로 뽑혀 식약처 허가 기술과 예측 기능도 함께 소개했습니다.
#ML#모니터링
6005분
AI 코드 리뷰, 3번 갈아엎고 배운 것
AI 코드 리뷰, 3번 갈아엎고 배운 것
AI 코드 리뷰를 세 번 운영하며 도구보다 기대와 역할 합의가 더 중요하다는 점을 배웠습니다. 기준을 문서화하고 사람과 AI의 역할을 나누자 노이즈가 줄었습니다.
#code review#Claude Code
27405분
캐시 전략으로 푼 응답 지연 문제
캐시 전략으로 푼 응답 지연 문제
메인 화면 응답 지연을 캐시 우선 렌더링과 백그라운드 갱신으로 개선했습니다. 메시지 큐로 조회 부하를 분산해 체감 속도와 운영 안정성을 함께 높였습니다.
#cache#비동기
15005분
OpenHTMLtoPDF 적용 경험
OpenHTMLtoPDF 적용 경험
OpenHTMLtoPDF를 검토하고 채택한 이유와 구현 구조를 정리했습니다. 한글 지원, 유지보수성, 보안 처리까지 함께 고려한 PDF 생성 경험입니다.
#Java#PDF
17005분
[AI 해커톤 후기] 코드와 문서만 읽은 LLM은 어떻게 사람과 같은 팀을 1위로 골랐을까
[AI 해커톤 후기] 코드와 문서만 읽은 LLM은 어떻게 사람과 같은 팀을 1위로 골랐을까
LLM을 평가자로 활용해 해커톤 제출물을 코드와 문서만으로 채점한 사례를 소개했습니다. 사람의 판단과 비교했을 때 업무 흐름을 끝까지 구현한 팀을 안정적으로 골라냈습니다.
#LLM#MVP
69005분
Redis와 Valkey를 해킹해 보자(Feat. CVE ID)
Redis와 Valkey를 해킹해 보자(Feat. CVE ID)
X
#Redis#cloud
18005분
MSA 품질관리 CI게이트로 풀어내기
MSA 품질관리 CI게이트로 풀어내기
MSA 품질관리를 CI 게이트로 옮겨 일관된 기준으로 강제하는 방법을 정리했습니다. 변경 범위 검증, 차단 강도 분리, immutable artifact 승격을 통해 운영 신뢰성을 높였습니다.
#MSA#CI/CD
29005분
Refine 실제 적용 사례(feat. 투표 플랫폼) — (2)
Refine 실제 적용 사례(feat. 투표 플랫폼) — (2)
TVING이 Refine과 AI Agent로 투표 플랫폼 운영 백오피스를 빠르게 구축한 사례를 소개했습니다. 명세와 GraphQL을 함께 활용해 정확도를 높이고 화면 제작 속도를 크게 개선했습니다.
#Refine#AI Agent
26005분
TVING의 새로운 백오피스 Refine 구축기 — (1)
TVING의 새로운 백오피스 Refine 구축기 — (1)
TVING이 Refine과 AI Agent를 활용해 백오피스 개발 속도를 높인 과정을 소개했습니다. 모노레포와 GraphQL, 자동화 규칙으로 컨벤션 기반 생산성을 강화했습니다.
#Refine#React
43005분
산업용 IoT의 표준, MQTT
산업용 IoT의 표준, MQTT
산업용 IoT에서 MQTT의 Publish/Subscribe 구조와 QoS, Topic 기반 관리 방식을 소개했습니다.\n제한된 네트워크 환경에서도 확장성과 실시간성을 확보하는 활용 포인트를 정리했습니다.
#MQTT#IoT
18005분
[22. 11. 16] 6주년 창립기념일 맞이한 에이아이트릭스 생일파티
[22. 11. 16] 6주년 창립기념일 맞이한 에이아이트릭스 생일파티
에이아이트릭스가 6주년 창립기념일을 맞아 임직원과 함께 생일파티를 열었습니다. 자발적 행사 준비와 전사 유급휴가 도입 소식을 전했습니다.
#세미나
5005분