몇 달 전 풀었던 문제를 다시 만나 같은 시행착오를 겪은 경험을 바탕으로, AI와의 대화를 팀 지식으로 자동 축적하는 필요성을 정리했습니다. 반복 해결을 줄이고 기억에 의존하지 않도록 기록과 재활용 구조를 만들려는 이야기입니다.
Production Engineer, LLM Serving
퓨리오사AI · Seoul
RNGD NPU 기반 프로덕션 LLM 서빙의 신뢰성·관측성·성능을 책임지며, 병목 분석과 배포 자동화로 지연시간·처리량·자원 효율을 개선합니다. Rust·C++·Python·Go 중 프로그래밍 역량과 Kubernetes 환경 서비스 운영 경험이 필요합니다.
Software Engineer, LLM Performance & Evaluation
퓨리오사AI · Seoul
LLM 추론 기능의 성능·정확도를 측정하는 벤치마크·평가 파이프라인·분석 도구를 구축하고, 회귀를 조사해 최적화와 출시 의사결정을 지원합니다. Python 기반 자동화와 ML 추론 성능 분석, 트랜스포머 LLM 추론 및 모델 정확도 평가 경험이 필요합니다.
AI Research Engineer - LLM Inference Optimization
업스테이지 · 경력 3년 이상
LLM 서빙 환경에서 지연시간·처리량·비용을 최적화하는 시스템·알고리즘과 모델 경량화 파이프라인을 연구·구현합니다. LLM 추론 엔진, 모델 압축·KV 캐시 최적화·GPU 프로그래밍·컴파일러 스택 중 한 분야의 실무 경험이 필요합니다.
같은 회사의 연관 글
분산된 업무 이력을 출처가 유지되는 Wiki로 연결했습니다. AI가 설계·구현 판단 전에 과거 근거를 확인하도록 구성했습니다.
