Velopers
모든 블로그
데보션

데보션

도메인devocean.sk.com
주요 카테고리 AI · DevOps · 백엔드

활동 요약

대표 인기 포스트나의 새로운 주니어 개발자는 AI? LLM을 활용한 코드 리뷰 자동화744 조회
최근 30일
2개
평균 조회
77
누적 조회
37,237
전체 글
486개
마지막 발행
2026. 11. 10.
블로그 방문

데보션 기술 블로그 글 (269)

AI

RAG 시대, Vector DB 비교 가이드: Vespa vs Milvus vs Qdrant

RAG 구현에 필요한 벡터 DB로 Vespa, Milvus, Qdrant를 설치·사용성·성능 기준으로 비교했습니다. 프로젝트 규모와 검색 요구사항에 따라 적합한 선택지를 정리했습니다.

#RAG#Vector DB#벡터 검색
17200

AI

NVIDIA Dynamo: 차세대 분산 추론 프레임워크 리뷰

NVIDIA Dynamo는 분산 추론을 위한 오픈 소스 프레임워크로, Prefill·Decode 분리와 스마트 라우팅으로 성능을 높였습니다. KV cache 오프로딩과 NIXL 전송을 통해 GPU 자원 효율과 지연 시간 개선을 노렸습니다.

#LLM#Kubernetes#cache
7100

AI

RAG와 리랭커(Reranker): 검색 모델과 LLM의 상호작용

RAG에서 리랭커가 필요한 이유와 역할을 설명했습니다. 기존 방식과 LLM 기반 리랭킹, 적용 시 한계와 보완 방법도 함께 정리했습니다.

#RAG#LLM#검색
8500

AI

Gemma 모델과 프롬프트를 활용한 On-Device AI: 에이닷 오토 차량제어 프로토타입

Gemma와 MediaPipe로 차량 제어용 On-Device AI를 프롬프팅만으로 구현한 실험 과정을 공유했습니다. 기본 명령은 잘 처리했지만, area 인식과 응답 일관성 보완을 위해 파인튜닝이 필요했습니다.

#LLM#prompt#MediaPipe
10100

AI

안드로이드에서 온디바이스 AI로 스팸 분류하기

안드로이드에서 DistilKoBERT 기반 스팸 분류 모델을 온디바이스 AI로 구현한 과정을 정리했습니다. TFLite 변환과 양자화로 모델 크기와 추론 속도를 개선하고 단말 벤치마크 결과도 확인했습니다.

#Android#NLP#PyTorch
8800

AI

AI에서의 음향 서비스와 기술: AUTO야 잘들려?

AUTO의 차량 내 음성 서비스 품질을 높이기 위해 잡음과 왜곡 요인을 분석하고 평가했습니다. 또한 POLQA 같은 객관적 지표로 음성 품질 판단 신뢰도를 높였습니다.

#음성 품질#음향 기술#POLQA
7000

AI

난생처음 AI 경험기 - OpenAI API 를 사용한 Hello World 를 작성해 보기

AI 시대 흐름에 맞춰 LLM과 LangChain의 개념, 한계를 처음 정리한 글입니다. OpenAI API와 Colab으로 gpt-3.5-turbo를 호출하는 간단한 실습도 소개했습니다.

#LLM#LangChain#OpenAI API
19300

AI

Actionable Agent. 그리고 Open AI Operator

Actionable Agent와 OpenAI Operator의 개념, 동작 방식, 장단점을 정리한 글입니다. 반복 작업 자동화의 가능성과 현재 한계도 함께 살펴봅니다.

#LLM#자동화#AI agent
14400

AI

Chain-of-Draft(CoD): 더 적게 쓰고 더 빠르게 생각하면서 LLM 추론 성능을 높이는 기법에 대한 연구 (feat. Zoom)

Chain-of-Draft는 LLM이 핵심만 간결하게 추론하도록 유도해 토큰 사용량과 지연 시간을 줄이는 프롬프팅 기법을 소개했습니다. 다양한 벤치마크에서 CoT와 비슷한 정확도를 유지하면서도 효율을 높인 결과와 한계를 함께 정리했습니다.

#LLM#NLP#prompt
12200

AI

AI와 협업하는 프로그래밍, 바이브 코딩

AI와 협업해 코드를 생성하는 바이브 코딩의 개념과 장점을 설명했습니다. 다만 정확성, 의존성, 저작권 문제 같은 한계도 함께 짚었습니다.

#LLM#GitHub#Cursor
23300

AI

데이터가 세상을 지배하는 시대 : 두 번의 대전환

데이터와 AI의 발전을 두 번의 대전환으로 정리하며, 빅데이터의 양적 성장과 AI 결합의 흐름을 설명했습니다. 데이터 품질, 실시간 처리, 거버넌스의 중요성도 함께 짚었습니다.

#빅데이터#Kafka#ML
9400

AI

On-device로 작동하는 SLM기반 Voice-Phishing 탐지 모델을 만들어보자!

온디바이스에서 SLM으로 보이스 피싱을 탐지하는 구현 흐름을 소개했습니다. STT, LoRA 학습, 양자화, 모바일 구동까지의 절차와 한계를 함께 정리했습니다.

#LLM#모바일#mobile
8900

AI

Hugging Face API로 배우는 GPU 친화적 모델 학습

Hugging Face API를 활용해 GPU에서 딥러닝 모델을 학습하는 흐름과 메모리 사용 구조를 설명했습니다. 또한 Gradient Accumulation, Checkpointing, LoRA, QLoRA로 메모리를 줄이는 방법을 소개했습니다.

#Hugging Face#ML#GPU
10600

AI

AI Wearables Market: Challenges ＆ Opportunities. Bee Pioneer AI Device Review

AI 웨어러블 시장의 성장 가능성과 함께 배터리, 프라이버시, 정확도 같은 과제도 함께 다뤘습니다. Bee Pioneer 사례를 통해 저가형 손목형 AI 기기의 접근성과 사용성을 살펴보았습니다.

#LLM#AI Wearables#smart glasses
6100

AI

생각하는 AI? 추론 모델 빠르게 구현해 보기 (ft. S1)

S1의 Test-Time Scaling과 Budget Forcing으로 추론 모델을 구현하는 과정을 소개했습니다. 적은 데이터와 반복 자기검증만으로도 사고 성능을 끌어올리는 방법을 살펴보았습니다.

#LLM#ML#PyTorch
6500

AI

LLM Knowledge Distillation 훑어보기 - part 1

LLM 지식 증류의 개념과 주요 방법론을 정리한 글입니다. Teacher 모델의 지식을 Student 모델에 이전하는 방식과 구현 접근을 소개했습니다.

#LLM#Knowledge Distillation#gpt-4o-mini
8400

AI

에이닷의 AI 에이전트는 어디까지 발전할 수 있을까? Code Interpreter 가 가져올 AI 에이전트 패러다임의 혁신

LLM 기반 AI 에이전트의 Tool Calling 한계를 Code Interpreter로 확장하는 흐름을 설명했습니다. Docker 샌드박스와 LangGraph로 안전하게 적용하는 예시도 함께 다뤘습니다.

#LLM#Python#Docker
4000

AI

에이전트 내 자연어 검색 품질 향상 기법 : Entity RAG, Knowledge-aware retrieval

자연어 검색 에이전트의 품질을 높이기 위해 Entity RAG와 Knowledge-aware retrieval을 적용한 사례를 소개했습니다. 신규 개체 인식과 테마 질의 대응 성능이 개선되었고, 향후 적용 범위 확대도 제시했습니다.

#LLM#RAG#검색
4200