우리 팀만의 vLLM 플러그인 만들기 2편 - 모델 변환부터 배포까지 AI-native로 자동화하기

핵심 내용

• vLLM 모델 변환과 배포를 Claude Code Skill 기반으로 자동화한 사례
• 변환 절차와 도메인 지식을 분리해, 필요한 시점에 필요한 규칙만 읽는 구조로 재설계
• GitHub Issue와 GitHub Actions를 연결해 변환부터 배포까지 E2E 흐름 구축

구조와 흐름

• convert-vllm 스킬로 환경 구성, 모델 변환, I/O 전처리, 테스트·벤치마크, 게시까지 순차 실행
• plan.md 승인 게이트와 별도 검증 컨텍스트로 구현 오류 조기 발견
• vllm-best-practices 스킬과 category-index.md로 모델 유형별 규칙을 선택적으로 참조

선택 이유

• 전체 지식을 강제 주입하는 훅 방식보다 필요한 지식만 읽는 스킬 방식이 적합
• vLLM 버전 변화와 모델 유형 차이가 커서 절차 지식과 도메인 지식의 분리가 필요
• GitOps와 연계한 Issue 기반 배포가 사람의 승인과 자동화를 함께 만족

성능/운영 포인트

• 서로 다른 유형의 모델 7개를 같은 절차로 변환해 운영 적용
• 주의 사항 45개를 재사용 가능한 규칙으로 축적
• 지식 전달 토큰을 6,900개에서 170개로 줄여 97% 절감