이커머스 부정 반품 요청, AI로 차단한다: Amazon Nova Fine-tuning으로 산업 특화 가드레일 구성하기
패션 이커머스의 부정 반품 요청을 차단하기 위해 Amazon Nova 2 Lite를 Fine-tuning해 도메인 특화 가드레일을 구축했습니다. 837개 샘플 학습으로 Unsafe 탐지 정확도를 94.6%까지 높였고, 소형 모델의 비용 효율성도 확인했습니다.
#LLM#RAG#fine-tuning
800
태그
fine-tuning 기술 블로그 글
fine-tuning 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
전체 10개최신 10개 표시
관련 태그
최신 게시글
10개 표시
AI서비스기획자를 위한 LLM 활용 방법과 에이닷 적용 사례
LLM 활용 방식별 특징과 장단점을 기획자 관점에서 정리한 글입니다. 에이닷 적용 사례를 통해 서비스에 맞는 LLM 선택과 구조 설계의 중요성을 설명했습니다.
#LLM#프롬프트 엔지니어링#RAG
8300
멀티모달 VLM 기술 동향
VLM의 개념과 최신 기술 동향, 주요 기업의 개발 흐름을 종합적으로 정리했습니다. 문서 AI 도입 시 특화 모델과 데이터 전략, 인프라 비용을 함께 고려할 필요가 있습니다.
#LLM#VLM#OCR
7000
sLLM, Gemma 파인튜닝 예
Gemma sLLM을 한국어 요약용으로 파인튜닝하는 과정을 Hugging Face와 QLoRA 기반으로 소개했습니다. 데이터셋 준비부터 프롬프트 구성, 학습, 병합 모델 추론까지의 흐름을 정리했습니다.
#LLM#Gemma#fine-tuning
11600
AI로 통화의 미래를 열다: 에이닷 전화 통화요약 서비스의 핵심 기술(LLM) 소개
에이닷 전화 통화요약 서비스에 적용한 LLM 개발 과정을 소개했습니다. 자동·수동 데이터를 결합한 학습과 LoRA 기반 미세조정, 전문가 평가로 품질을 높였습니다.
#LLM#NLP#fine-tuning
3500
Multimodal LLM을 직접 학습시켜 보자!
공개 한국어 표 데이터와 InternVL2-1B로 멀티모달 LLM을 직접 학습한 사례를 소개했습니다. 작은 모델과 적은 데이터로도 표 이해 챗봇 시나리오를 검증할 수 있었습니다.
#LLM#멀티모달#fine-tuning
3400
에이닷 뮤직 에이전트 Multi Prompt Fine-tuning 도전기 (feat. gpt-4o-mini)
에이닷 뮤직 에이전트에 Multi Prompt Fine-tuning을 적용하며 겪은 시행착오와 개선 과정을 공유했습니다. gpt-4o-mini 전환으로 한글 깨짐과 품질 문제가 크게 완화된 사례였습니다.
#LLM#Fine-tuning#gpt-4o-mini
1400
Long context LLM : 2부 RoPE Extension Method
RoPE 기반 LLM의 context length를 늘리는 Position Interpolation 방법을 소개했습니다. 제한 범위를 넘어갈 때의 attention score 폭발을 줄이고, 적은 finetuning으로 성능을 유지한 결과를 다뤘습니다.
#LLM#Transformer#RoPE
1500
에이닷, 주변 맛집 추천해줘!
에이닷 홈 에이전트에 function call을 도입해 음식점·카페 추천 기능을 강화한 사례를 다뤘습니다. 사용자 발화와 실시간 API를 연결해 맥락 기반 추천을 제공하기 위해 프롬프팅과 fine-tuning을 반복했습니다.
#LLM#function call#API
1600
언어 모델의 Fine-Tuning 성능 올리기
언어 모델의 fine-tuning 성능을 높이는 LoRA, TAPT, DAPT, Adversarial Training을 소개했습니다. 대규모 전체 학습보다 비용과 효율을 고려한 적용 방향을 정리했습니다.
#LLM#fine-tuning#LoRA
000
언어 모델의 Fine-Tuning 성능 올리기