데보션

도메인devocean.sk.com

주요 카테고리 AI · DevOps · 백엔드

활동 요약

최근 30일: 2개
평균 조회: 77
누적 조회: 37,237
전체 글: 486개
마지막 발행: 2026. 11. 10.

블로그 방문

데보션 기술 블로그 글 (269)

2024년 9월 30일

생성형 AI를 다루는 기술에 대하여

생성형 AI를 다루기 위한 LLM 원리와 프롬프트 엔지니어링의 핵심을 정리했습니다. 랭체인, RAG, ReAct 같은 확장 방법으로 더 지능적인 애플리케이션을 만드는 방향도 소개했습니다.

#LLM#prompt engineering#LangChain

4600

2024년 9월 30일

에이닷, 주변 맛집 추천해줘!

에이닷 홈 에이전트에 function call을 도입해 음식점·카페 추천 기능을 강화한 사례를 다뤘습니다. 사용자 발화와 실시간 API를 연결해 맥락 기반 추천을 제공하기 위해 프롬프팅과 fine-tuning을 반복했습니다.

#LLM#function call#API

2200

2024년 9월 27일

에이닷 RAG 기능 개발을 위한 Qdrant 벡터 DB 구축 (from source tarball)

에이닷 RAG 기능을 위해 온프레미스 Qdrant VectorDB를 소스 컴파일 방식으로 구축한 과정을 소개했습니다. Rust 환경 준비부터 클러스터 구성과 Web UI 배포까지의 절차를 정리했습니다.

#RAG#Qdrant#Kubernetes

3900

에이닷 RAG 기능 개발을 위한 Qdrant 벡터 DB 구축 (from source tarball)

2024년 9월 26일

안드로이드에서 On-Device로 Gemma 1 ＆ 2 실행하기

안드로이드에서 Gemma 1과 Gemma 2를 On-Device로 실행하는 방법을 정리했습니다. MediaPipe와 MLC LLM의 설정 절차, 모델 실행 방식, 장점도 함께 소개했습니다.

#Android#LLM#MediaPipe

4700

2024년 9월 26일

이제는 AI Agent 시대! RAG와 함께 Bedrock Agent를 활용해보자 - 2 (실습)

Amazon Bedrock Agent와 RAG로 EKS 클러스터를 조회하고 Trivy CIS 보고서를 요약하는 실습을 다뤘습니다. 지식 기반, Action Group, Lambda, OpenSearch Serverless를 연결해 한국어 자연어로 운영 자동화를 구현했습니다.

#LLM#RAG#Amazon Bedrock

4000

이제는 AI Agent 시대! RAG와 함께 Bedrock Agent를 활용해보자 - 2 (실습)

2024년 9월 24일

고등학생도 이해하는 Transformer (Deep Learning) #1

내적을 벡터의 유사도와 투영으로 설명하며 딥러닝 이해의 기초 개념으로 풀어냈습니다. 코사인 값과 그림자 비유를 통해 Transformer와 GPU 연산의 직관을 제시했습니다.

#Transformer#ML#내적

3000

고등학생도 이해하는 Transformer (Deep Learning) #1

2024년 9월 23일

GitHub Copilot 업무 활용기(AI-assisted Coding과 개발 생산성 향상 #2)

GitHub Copilot의 업무 활용 사례와 생산성 향상 효과를 SK플래닛 실험 결과와 함께 정리했습니다. 보안, 환각, 개발 역량 측면의 유의 사항과 함께 실무 적용 가능성도 살펴보았습니다.

#GitHub Copilot#LLM#refactoring

2900

GitHub Copilot 업무 활용기(AI-assisted Coding과 개발 생산성 향상 #2)

2024년 9월 19일

사실 GPT는 글을 잘 읽지 못합니다.

GPT는 이미지를 보고 글자를 정확히 읽는 데 한계가 있다는 점을 사례로 설명했습니다. OCR 같은 보완 방법을 시도했지만 완전한 해결책은 찾지 못했다고 정리했습니다.

#LLM#OCR#UI/UX

3800

2024년 9월 12일

Kubeflow Pipeline 소개 및 사용기

Kubeflow Pipelines의 구조와 주요 기능, 운영 개념을 소개한 글입니다. 다만 반복 실행 실패 대응과 파라미터 전달은 아쉬웠다고 정리했습니다.

#Kubeflow#Kubernetes#ML

2200

2024년 9월 11일

에이닷은 어떻게 먼저 말을 걸어 오는 걸까?

에이닷의 선톡 기능을 Context 수집·가공·활용과 평가 시스템으로 구현한 방식을 소개했습니다. 사용자 반응과 피로도를 함께 고려해 먼저 말을 거는 개인화를 고도화했습니다.

#LLM#prompt#API

2300

2024년 9월 11일

Amazon SageMaker로 LLM 응답 Streaming 서빙하기

Amazon SageMaker 기반 LLM을 토큰 단위로 스트리밍 서빙하는 구성을 소개했습니다. Lambda Function URL과 CloudFront를 조합해 응답 스트리밍을 구현하는 방법을 설명했습니다.

#Amazon SageMaker#LLM#Lambda

3700

2024년 9월 11일

LLM 모델이 LLM 성능을 평가한다. LLM-as-a-judge 알아보기

LLM이 다른 LLM의 응답 품질을 평가하는 LLM-as-a-Judge 방법을 소개했습니다. 프롬프트를 단순화하고 평가 이유를 요구하면 인간 평가와의 일치도가 크게 높아졌습니다.

#LLM#prompt#평가

3100

LLM 모델이 LLM 성능을 평가한다. LLM-as-a-judge 알아보기

2024년 9월 6일

개인화 보이스 생성 기술 소개

SKT의 개인화 보이스 생성 기술을 Instant, Custom, Professional 세 가지 방식으로 소개했습니다. 소량의 음성만으로도 맞춤형 음성을 만들 수 있으며, 목적에 따라 속도와 품질을 선택할 수 있습니다.

#LLM#음성 합성#Voice Cloning

3200

2024년 9월 6일

AI와 함께 생일 축하 카드를 만들어보자(feat.Claude, Adobe Firefly)

고객 생일에 맞춘 감성 MMS를 Claude와 Adobe Firefly로 제작한 사례를 소개했습니다. 83% 만족 결과와 함께 데이터 분석, 프롬프트 설계, 검수 과정을 함께 다뤘습니다.

#Claude#Adobe Firefly#LLM

4700

AI와 함께 생일 축하 카드를 만들어보자(feat.Claude, Adobe Firefly)

2024년 9월 3일

AI기반 음성 품질 개선 기술 - Dynamic RED PLC

에이닷 통화녹음 서비스의 mVoIP 품질 개선 기술과 지터·패킷 유실 대응 방식을 설명했습니다. AI 기반 Dynamic RED PLC로 약전계 환경에서도 안정적인 음성 품질을 목표로 했습니다.

#mVoIP#VoIP#PLC

3600

2024년 9월 2일

효과적인 LLM 품질 평가 : 도구, 기준, 그리고 적용기 톺아보기(SPeCTRA)

에이닷의 LLM 품질 평가 자동화와 SPeCTRA 기준 도입 사례를 소개했습니다. 사람 평가와 자동 평가를 병행해 QA 효율과 모델 개선 주기를 높였습니다.

#LLM#ChatGPT#prompt

4800

효과적인 LLM 품질 평가 : 도구, 기준, 그리고 적용기 톺아보기(SPeCTRA)

2024년 8월 30일

ICML 2024를 다녀와서..

ICML 2024에서 발표한 이상탐지 연구와 현장 경험, LLM 관련 주요 동향을 함께 정리했습니다. 라벨 없는 데이터의 이상탐지 알고리즘과 alignment·효율화·in-context learning 흐름을 간단히 소개했습니다.

#ICML#LLM#outlier detection

3900