에이닷은 어떻게 먼저 말을 걸어 오는 걸까?
에이닷의 선톡 기능을 Context 수집·가공·활용과 평가 시스템으로 구현한 방식을 소개했습니다. 사용자 반응과 피로도를 함께 고려해 먼저 말을 거는 개인화를 고도화했습니다.
#LLM#prompt
2300
AI 기술 블로그 최신 글
필터 0
Amazon SageMaker로 LLM 응답 Streaming 서빙하기
Amazon SageMaker 기반 LLM을 토큰 단위로 스트리밍 서빙하는 구성을 소개했습니다. Lambda Function URL과 CloudFront를 조합해 응답 스트리밍을 구현하는 방법을 설명했습니다.
#Amazon SageMaker#LLM
3700
LLM 모델이 LLM 성능을 평가한다. LLM-as-a-judge 알아보기
LLM이 다른 LLM의 응답 품질을 평가하는 LLM-as-a-Judge 방법을 소개했습니다. 프롬프트를 단순화하고 평가 이유를 요구하면 인간 평가와의 일치도가 크게 높아졌습니다.
#LLM#prompt
3000
개인화 보이스 생성 기술 소개
SKT의 개인화 보이스 생성 기술을 Instant, Custom, Professional 세 가지 방식으로 소개했습니다. 소량의 음성만으로도 맞춤형 음성을 만들 수 있으며, 목적에 따라 속도와 품질을 선택할 수 있습니다.
#LLM#음성 합성
3200
AI와 함께 생일 축하 카드를 만들어보자(feat.Claude, Adobe Firefly)
고객 생일에 맞춘 감성 MMS를 Claude와 Adobe Firefly로 제작한 사례를 소개했습니다. 83% 만족 결과와 함께 데이터 분석, 프롬프트 설계, 검수 과정을 함께 다뤘습니다.
#Claude#Adobe Firefly
4700
마이데이터 에이전트 개발 토이 프로젝트
마이데이터 정책과 기술 사양을 답하는 에이전트 토이 프로젝트를 소개했습니다. Spring AI, OpenAI, RAG, VectorStore를 활용한 구성과 흐름을 정리했습니다.
#Spring Boot#Spring AI
3900
[딥러닝 경량화] 딥러닝 네트워크 양자화(quantization)는 왜 필요할까?
딥러닝 네트워크 양자화가 왜 필요한지 소개하는 글입니다. 본문이 충분하지 않아 세부 내용은 확인할 수 없습니다.
#ML
3300
AI기반 음성 품질 개선 기술 - Dynamic RED PLC
에이닷 통화녹음 서비스의 mVoIP 품질 개선 기술과 지터·패킷 유실 대응 방식을 설명했습니다. AI 기반 Dynamic RED PLC로 약전계 환경에서도 안정적인 음성 품질을 목표로 했습니다.
#mVoIP#VoIP
3500
효과적인 LLM 품질 평가 : 도구, 기준, 그리고 적용기 톺아보기(SPeCTRA)
에이닷의 LLM 품질 평가 자동화와 SPeCTRA 기준 도입 사례를 소개했습니다. 사람 평가와 자동 평가를 병행해 QA 효율과 모델 개선 주기를 높였습니다.
#LLM#ChatGPT
4800
LoRA 모델 업그레이드하기
LoRA를 SDXL로 옮길 때 생기는 호환성 문제를 X-Adapter로 완화하는 방법을 소개했습니다. 기존 LoRA 자산을 재학습 없이 활용하는 방향을 설명했습니다.
#LLM#ML
3500
ICML 2024를 다녀와서..
ICML 2024에서 발표한 이상탐지 연구와 현장 경험, LLM 관련 주요 동향을 함께 정리했습니다. 라벨 없는 데이터의 이상탐지 알고리즘과 alignment·효율화·in-context learning 흐름을 간단히 소개했습니다.
#ICML#LLM
3800
SK플래닛 개발자들의 GitHub Copilot 활용기(AI-assisted Coding과 개발 생산성 향상 #2)
SK플래닛 개발자들의 GitHub Copilot 활용기(AI-assisted Coding과 개발 생산성 향상 #2)
SK플래닛의 GitHub Copilot 활용 사례와 생산성 실험 결과를 정리한 글입니다. 코드 생성, 리팩터링, 테스트, 데이터 처리에서의 효과와 유의사항을 함께 다루었습니다.
#GitHub Copilot#LLM
7400
양자컴퓨팅 알고리즘 개발 - 중첩상태의 이해
양자컴퓨팅 알고리즘 개발에서 중첩상태의 의미를 설명하는 글입니다. 고전 컴퓨터와 다른 양자컴퓨터의 연산 특성을 소개했습니다.
#양자 컴퓨팅
1400
LLM 기반 AI 플랫폼 개발에서의 LangChain을 활용한 RAG 구성하기
LLM 기반 AI 플랫폼에서 LangChain을 활용한 RAG 구성 방법을 소개합니다. RAG 파이프라인을 어떻게 구성하고 적용할지 다룹니다.
#LLM#LangChain
1700