Velopers
홈으로
최근 7일

주간 인기 게시글

카테고리별로 많이 읽힌 기술 블로그 게시글을 모았습니다.

6개 카테고리10개 게시글

AI

AI 조회수 기준 Top 10

1

AI

LLM 비용 64% 절감, 캐시 히트율 98% 달성기

AWS Bedrock 기반 LLM 비용이 증가하자 API별 토큰 메트릭을 먼저 구축해 원인을 파악했습니다. 이후 Prompt Caching을 적용해 캐시 히트율 98%, 전체 비용 64% 절감을 달성했습니다.

#LLM#cache#AWS Bedrock
20020
2

AI

[AI 해커톤 후기] AI 시대의 해커톤과 인간의 역할: AI의 계획과 사람의 전략

AI 해커톤 회고로, 같은 도구를 써도 결과를 가른 것은 사람의 전략과 선택이라고 정리했습니다. 경비 정산 자동화 사례에서 AI는 계획과 구현을 맡고 사람은 조율과 의사결정을 담당했습니다.

#LLM#OCR#FastAPI
4500
3

AI

AI 코드 리뷰, 3번 갈아엎고 배운 것

AI 코드 리뷰를 세 번 운영하며 도구보다 기대와 역할 합의가 더 중요하다는 점을 배웠습니다. 기준을 문서화하고 사람과 AI의 역할을 나누자 노이즈가 줄었습니다.

#code review#Claude Code#GitHub Actions
13040
4

AI

AI채팅 구축 사례: 725만 건 설계 자료를 AI로 검색하다, 서영엔지니어링

방대한 설계 자료를 자연어로 찾기 위해 사내 플랫폼에 AI채팅을 연동했습니다. 실무 검증에서 정답률 96%를 확인하고 검색 시간을 크게 줄였습니다.

#RAG#검색#API
2800
5

AI

LLM 자동번역: 중첩 객체와 목록 구조 확장

LLM 자동번역 대상을 엔티티 직접 필드에서 중첩 객체와 목록 구조까지 확장했습니다.사용자 API는 단순하게 유지하고, index 기반 번역은 안정성 문제로 제외했습니다.

#LLM#번역#event
1700
6

AI

AI 코드 리뷰 자동화, 판정은 왜 흔들릴까? 원인과 해결법 4가지

LLM 코드 리뷰는 같은 입력에도 판정이 달라질 수 있어 자동화에서 흔들림이 생길 수 있습니다. 이를 줄이기 위해 코드 위임, 출력 폭 좁히기, 다수결, 하네스 적용을 제안했습니다.

#LLM#자동화#하네스
1600
7

AI

Amazon Bedrock 모델 promptfoo 로 성능 평가하기

Amazon Bedrock 모델을 promptfoo로 비교 평가하는 방법을 소개했습니다. 프롬프트와 모델 변경 시 품질을 회귀 테스트처럼 검증할 수 있는 흐름을 설명했습니다.

#Amazon Bedrock#promptfoo#LLM
1600
8

AI

그 많던 토큰은 누가 다 먹었을까

에이전트형 도구에서는 프롬프트보다 도구 출력과 대화 기록이 토큰을 더 많이 소모했습니다. 필요한 정보만 사전 필터링하고 작업 범위를 좁히는 방식으로 컨텍스트를 관리해야 했습니다.

#LLM#MCP#Figma
8320
9

AI

통합 검색 임베딩 모델 개발기: 디자인 검색을 하나의 표현 공간으로 묶기

미리캔버스의 여러 검색 과제를 하나의 임베딩 공간으로 묶기 위한 모델 개발 과정을 소개했습니다. 태스크별 운영의 한계를 줄이고 디자인 도메인 특성에 맞게 학습한 방식이 핵심이었습니다.

#LLM#ML#검색
1600
10

AI

Hello AI World !

동적 CMS와 JSON 기반 관광 콘텐츠 관리 시스템에 LLM을 적용한 사례를 소개했습니다. 또한 할루시네이션과 보안, 비용을 고려한 AI-Native 개발의 주의점을 정리했습니다.

#LLM#prompt#JSON
1200