새로운 기술 블로그가 추가되었어요

필터 1
Amazon SageMaker로 LLM 응답 Streaming 서빙하기
데보션
AI

Amazon SageMaker로 LLM 응답 Streaming 서빙하기

Amazon SageMaker 기반 LLM을 토큰 단위로 스트리밍 서빙하는 구성을 소개했습니다. Lambda Function URL과 CloudFront를 조합해 응답 스트리밍을 구현하는 방법을 설명했습니다.

#Amazon SageMaker#LLM
26005분
LLM 모델이 LLM 성능을 평가한다. LLM-as-a-judge 알아보기
데보션
AI

LLM 모델이 LLM 성능을 평가한다. LLM-as-a-judge 알아보기

LLM이 다른 LLM의 응답 품질을 평가하는 LLM-as-a-Judge 방법을 소개했습니다. 프롬프트를 단순화하고 평가 이유를 요구하면 인간 평가와의 일치도가 크게 높아졌습니다.

#LLM#prompt
21005분
LLM, 더 저렴하게, 더 빠르게, 더 똑똑하게
카카오
기타

LLM, 더 저렴하게, 더 빠르게, 더 똑똑하게

X

#LLM
11005분
개인화 보이스 생성 기술 소개
데보션
AI

개인화 보이스 생성 기술 소개

SKT의 개인화 보이스 생성 기술을 Instant, Custom, Professional 세 가지 방식으로 소개했습니다. 소량의 음성만으로도 맞춤형 음성을 만들 수 있으며, 목적에 따라 속도와 품질을 선택할 수 있습니다.

#LLM#음성 합성
21005분
AI와 함께 생일 축하 카드를 만들어보자(feat.Claude, Adobe Firefly)
데보션
AI

AI와 함께 생일 축하 카드를 만들어보자(feat.Claude, Adobe Firefly)

고객 생일에 맞춘 감성 MMS를 Claude와 Adobe Firefly로 제작한 사례를 소개했습니다. 83% 만족 결과와 함께 데이터 분석, 프롬프트 설계, 검수 과정을 함께 다뤘습니다.

#Claude#Adobe Firefly
27005분
효과적인 LLM 품질 평가 : 도구, 기준, 그리고 적용기 톺아보기(SPeCTRA)
데보션
AI

효과적인 LLM 품질 평가 : 도구, 기준, 그리고 적용기 톺아보기(SPeCTRA)

에이닷의 LLM 품질 평가 자동화와 SPeCTRA 기준 도입 사례를 소개했습니다. 사람 평가와 자동 평가를 병행해 QA 효율과 모델 개선 주기를 높였습니다.

#LLM#ChatGPT
39005분
LoRA 모델 업그레이드하기
스마일게이트AI
AI

LoRA 모델 업그레이드하기

LoRA를 SDXL로 옮길 때 생기는 호환성 문제를 X-Adapter로 완화하는 방법을 소개했습니다. 기존 LoRA 자산을 재학습 없이 활용하는 방향을 설명했습니다.

#LLM#ML
32005분
ICML 2024를 다녀와서..
데보션
AI

ICML 2024를 다녀와서..

ICML 2024에서 발표한 이상탐지 연구와 현장 경험, LLM 관련 주요 동향을 함께 정리했습니다.\n라벨 없는 데이터의 이상탐지 알고리즘과 alignment·효율화·in-context learning 흐름을 간단히 소개했습니다.

#ICML#LLM
26005분
SK플래닛 개발자들의 GitHub Copilot 활용기(AI-assisted Coding과 개발 생산성 향상 #2)
SK플래닛
AI

SK플래닛 개발자들의 GitHub Copilot 활용기(AI-assisted Coding과 개발 생산성 향상 #2)

SK플래닛의 GitHub Copilot 활용 사례와 생산성 실험 결과를 정리한 글입니다. 코드 생성, 리팩터링, 테스트, 데이터 처리에서의 효과와 유의사항을 함께 다루었습니다.

#GitHub Copilot#LLM
57005분
LLM 기반 AI 플랫폼 개발에서의 LangChain을 활용한 RAG 구성하기
베스핀글로벌
AI

LLM 기반 AI 플랫폼 개발에서의 LangChain을 활용한 RAG 구성하기

LLM 기반 AI 플랫폼에서 LangChain을 활용한 RAG 구성 방법을 소개합니다. RAG 파이프라인을 어떻게 구성하고 적용할지 다룹니다.

#LLM#LangChain
13005분
[신청 시작] 8월 우아한테크세미나: 생성AI로 똑똑하게 일하는 법
우아한 형제들
AI

[신청 시작] 8월 우아한테크세미나: 생성AI로 똑똑하게 일하는 법

8월 우아한테크세미나의 신청 안내와 세션 구성을 소개했습니다. 생성형 AI 활용법과 로컬 LLM 사례를 중심으로 발표 내용을 예고했습니다.

#LLM#생성형 AI
25005분
[8월 3주차 위클리 업데이트] 이번 주 발표된 Google for Developers 최신 소식을 확인하세요! (Gemini 모바일 AI 어시스턴트 기능 제공)
Google for Developers
AI

[8월 3주차 위클리 업데이트] 이번 주 발표된 Google for Developers 최신 소식을 확인하세요! (Gemini 모바일 AI 어시스턴트 기능 제공)

Google for Developers의 8월 3주차 주요 업데이트를 분야별로 정리해 소개했습니다. Gemini, Gemma, Android, Google Play, 보안 관련 최신 소식을 함께 확인할 수 있습니다.

#Gemini#LLM
7005분