Velopers
모든 블로그
데보션

데보션

도메인devocean.sk.com
주요 카테고리 AI · DevOps · 백엔드

활동 요약

대표 인기 포스트나의 새로운 주니어 개발자는 AI? LLM을 활용한 코드 리뷰 자동화744 조회
최근 30일
2개
평균 조회
77
누적 조회
37,237
전체 글
486개
마지막 발행
2026. 11. 10.
블로그 방문

데보션 기술 블로그 글 (269)

AI

쉽게이해하는 GPT. 1편(다음단어 예측기. Base모델)

GPT를 다음 단어를 예측하는 모델로 쉽게 풀어 설명했습니다. Transformer 디코더만 사용하는 구조와 LLaMA 예시를 통해 Base Model 개념을 소개했습니다.

#LLM#Transformer#Huggingface
10600

AI

Qwen3 의 Hybrid thinking mode

Qwen3의 Hybrid Thinking mode를 소개하고, 추론 On/Off를 제어하는 두 가지 방식을 설명했습니다. `/think`·`/no_think`와 `enable_thinking`의 동작 차이도 정리했습니다.

#LLM#NLP#Huggingface
8000

AI

Reasoning 모델 기반의 AI 검색 고도화

Reasoning 모델의 개념과 학습 방법, 성능 특징을 정리하고 AI 검색 고도화 방향을 소개했습니다. 질문 특성에 따라 Reasoning과 Non-Reasoning 모델을 선택해 정확도와 속도를 함께 높이는 방안을 다뤘습니다.

#LLM#검색#ML
6700

AI

MLC LLM을 이용한 안드로이드 On-device AI 맛보기

안드로이드 기기에서 LLM을 직접 구동하는 MLC LLM 활용 방법을 소개했습니다. 환경 구축부터 샘플 앱 빌드, 모델 변환과 배포까지의 흐름을 정리했습니다.

#Android#LLM#Python
12900

AI

vLLM의 기술적 혁신과 성능 향상 이야기

vLLM의 핵심 기술과 성능 최적화 옵션, 그리고 v1 엔진의 구조 개선을 정리했습니다. 기능 호환성과 운영 단순성을 높이면서 성능을 끌어올린 흐름을 함께 설명했습니다.

#LLM#ML#LoRA
8500

AI

LLM 기반 서비스의 부하테스트

LLM 서비스는 TTFT, ITL, 토큰 처리량 같은 지표로 부하테스트해야 합니다. vLLM 예제를 통해 병목과 네트워크 문제를 점검하고 사용자 체감 성능을 개선할 수 있습니다.

#LLM#부하테스트#모니터링
11500

AI

AI ＆ Event Driven 오디오 데이터 LinkedIn 글 자동 발행 (feat. Apache Flink)

오디오를 텍스트로 바꾸고 GPT로 LinkedIn 글을 자동 생성하는 이벤트 기반 워크플로를 소개했습니다. 프론트엔드와 AI 처리를 분리해 확장성과 유지보수성을 높인 점이 핵심입니다.

#Next.js#OpenAI API#Kafka
6200

AI

Function Calling: LLM이 외부 세계와 소통하는 방법 (ft. Qwen, llama, Gemma)

Function Calling의 개념과 작동 원리를 설명하고, Qwen·Llama·Gemma로 구현 차이를 비교했습니다. LLM과 애플리케이션의 역할 분리 및 모델별 파싱 방식도 함께 정리했습니다.

#LLM#Function Calling#API
7400

AI

CUDA OOM 해결 사례 공유 - PyTorch all_gather_object 의 비밀

데이터셋 로딩 중 발생한 CUDA OOM의 원인을 `all_gather_object` 내부 동작에서 찾았습니다. 데이터를 chunk로 나눠 gather하도록 바꿔 GPU 메모리 사용량을 줄였습니다.

#CUDA#PyTorch#all_gather_object
4300

AI

OpenAI 기반 에이전트를 Gemini로 전환하는 실제 사례

OpenAI 기반 MCP 에이전트를 Gemini 기반으로 전환한 실전 사례를 공유했습니다. 스트리밍 미지원과 출력 렌더링 이슈를 정리하고 해결 방향도 제시했습니다.

#LLM#MCP#Gemini
6300

AI

Cursor AI 를 사용한 업무 자동화 해보기(/w Python)

Cursor AI를 활용해 Python 기반 업무 자동화를 실험한 사용기였습니다. 사내 웹서버 모니터링 자동화와 VDI 환경의 설치 문제 해결 과정을 함께 공유했습니다.

#Cursor#Python#ChatGPT
13200

AI

AI 시대에 로봇과 사람을 구별해야 한다면? WorldCoin 이 대세가 될까?

AI 시대에 사람과 로봇을 구별하는 방법으로 WorldCoin의 월드ID와 홍채 인식을 소개했습니다. 다만 정보보호법과 개인정보 이슈로 표준이 되기에는 제약이 있다고 보았습니다.

#WorldCoin#OpenAI#블록체인
5900

AI

Cursor는 신세계입니다!

Cursor IDE의 자동 코딩 기능으로 테트리스를 빠르게 만들고 수정한 경험을 공유했습니다. 신규 개발의 기획·설계와 반복 작업 자동화에 활용 가능성을 소개했습니다.

#Cursor#JavaScript#Generative AI
37100

AI

A2A × MCP: 도구와 협업을 모두 잇는 AI 연결고리

Google의 A2A와 MCP가 각각 에이전트 협업과 도구 연결을 어떻게 담당하는지 설명했습니다. 두 프로토콜을 함께 써서 멀티 에이전트 AI 시스템의 실용성을 높이는 방향을 소개했습니다.

#MCP#A2A#gRPC
7900

AI

데이터 지옥과 AI 천국을 오가는 여정

데이터가 AI의 기반이라는 점을 프로젝트 경험을 바탕으로 정리했습니다. 메타스토어, 중간지 DB, RAG와 Memory를 통한 실험과 앞으로의 방향도 소개했습니다.

#data#LLM#RAG
8000

AI

Meta Llama 4 토크나이저 분석

Meta Llama 4 토크나이저의 한국어 효율과 주요 특성을 비교 분석했습니다. 독자 토크나이저, 강화된 챗 템플릿, 스페셜 토큰 구성도 함께 살펴봤습니다.

#LLM#Meta Llama#토크나이저
6300

AI

TC = 프롬프트 : LLM 기반의 QA 테스트 자동화 톺아보기 (Cursor + PlayWright)

Cursor와 Playwright를 결합해 QA 테스트를 프롬프트로 자동 생성하는 사례를 소개했습니다. 테스트 케이스 추출, 코드 수정, 리포트 생성까지 LLM으로 자동화하는 흐름을 다뤘습니다.

#LLM#Cursor#Playwright
14000

AI

LLM Knowledge Distillation 훑어보기 - part 2

지식 증류가 student 성능 개선뿐 아니라 LLM 추론 속도 향상에도 활용된다는 점을 정리했습니다. speculative decoding과 SKD 같은 최신 방법으로 성능과 효율을 함께 높이는 흐름을 설명했습니다.

#LLM#knowledge distillation#speculative decoding
5200