Huggingface Open LLM Leaderboard와 모델 병합 사례를 소개하는 후기 글입니다. CarbonVillain과 KF-DeBERTa를 통해 팀의 프로젝트도 함께 살펴볼 수 있습니다.
ML Engineer (LLM)
토스증권 · Seoul
금융·증권 텍스트 문제를 위한 LLM/NLP 모델을 학습·평가·서빙·운영하고, 데이터셋 구축 및 AI 기능 설계를 담당합니다. LLM 또는 NLP 모델을 직접 개발·운영하며 데이터 정의부터 운영까지 책임진 경험이 필요합니다.
ML Engineer (ML/LLM Ops)
토스뱅크 · Seoul
ML/LLM 플랫폼과 공통 기술을 개발·운영하며 모델 학습부터 서빙·모니터링까지의 환경을 고도화합니다. Kubernetes에서 서비스 개발·배포·운영 경험이 필요합니다.
ML Engineer (Commerce Data Graph)
토스 · Seoul
이종 그래프의 관계 학습·링크 예측, 속성 기반 임베딩 및 리트리버 개발을 수행하고 추천·검색·광고에 적용해 온라인 실험으로 성과를 검증합니다. 그래프 모델링·임베딩 학습·리트리벌 중 하나를 프로덕션에서 설계·운영하고 A/B 테스트를 주도한 경험이 필요합니다.
계정계 QA 담당자 (계약직)
카카오뱅크
카카오뱅크 계정계 시스템의 운영·변경 사항에 대한 테스트 시나리오 및 TC를 설계·수행하고, 결함 분석·품질관리·QA 체계 구축을 담당합니다. QA 1년 이상 경력과 소프트웨어 테스팅 지식 및 테스트 분석·설계·수행 역량이 필요합니다.
LLM 서빙 및 추론 최적화 엔지니어
카카오뱅크
LLM 추론 서비스와 최적화 시스템을 설계·구현하고, Kubernetes 환경에서 GPU 자원을 배포·운영하는 업무입니다. LLM 서빙·추론 최적화 실무 경험과 추론 엔진 튜닝, Python 활용 역량이 필요합니다.
데이터 엔지니어 - Data Product
카카오뱅크
Kafka·Flink 기반 실시간 파이프라인과 Airflow 기반 배치 파이프라인을 개발·운영하며 데이터 마트를 구축합니다. SQL 및 Java·Kotlin·Python 숙련도와 대용량 ETL/ELT·분산 데이터 플랫폼 경험이 필요합니다.
퇴직연금 도메인 개발자
카카오뱅크
퇴직연금 비즈니스 요건을 분석하고 시스템을 설계·개발·운영하는 역할입니다. 퇴직연금 시스템 개발·운영 5년 이상 경력과 운용지시, 적립금 평가·수수료, 청구·지급, 신탁자산·회계 업무 경험이 필요합니다.
#LLM 주제를 다룬 다른 회사 글
Kanana LLM 1.5의 개발 배경과 성능 강화 방향을 소개했습니다. Agentic AI 활용을 위한 언어모델 개선 맥락을 다뤘습니다.
