Phi-3 Technical Report Review

AI

Phi-3 Technical Report Review

현대자동차그룹

현대자동차그룹2024년 6월 17일

두줄요약

Microsoft의 Phi-3 기술 보고서를 리뷰한 글입니다. phi-3-mini(3.8B)를 중심으로 작은 모델의 성능을 소개했습니다.

핵심 내용

Microsoft의 Phi-3 기술 보고서와 phi-3-mini(3.8B) 모델 소개
기존 7B급 언어 모델과의 비교 관점에서 작은 모델의 성능 주목
새로운 언어 모델 family의 발표 내용을 중심으로 한 리뷰 성격

LLM Research Engineer (Pre-training) (신입/경력)
카카오 · 신입·경력 · 판교
Kanana 사전학습을 위해 LLM 구조·학습·데이터 최적화와 대규모 데이터 수집·생성 기술을 연구·개발합니다. 관련 석사 이상 또는 프로젝트 경험과 Model Parallel 기반 모델 학습 경험이 필요합니다.
필요 기술Large Language Model (LLM)KananaMixture of ExpertsGated Delta NetKimi LinearFP8 trainingDataset mixture searchModel Parallel
LLM Research Engineer (Post-training) (신입/경력)
카카오 · 신입·경력 · 판교
Kanana 언어모델의 Post-training 데이터·환경·학습 파이프라인 및 효율화 연구와 분산 학습 코드 구현·최적화를 담당합니다. 관련 석사 또는 프로젝트 경험과 분산처리 기반 언어모델 학습, SFT·RL 기반 LLM Post-training 경험이 필요합니다.
필요 기술LLMPost-trainingSFTRLTorch distributedDeepSpeedRayslime
LLM Engineer (Optimization)
42dot · Pangyo (Software Dream Center), South Korea
LLM 추론 엔진·런타임과 모델 최적화를 개발해 GPU 클러스터부터 엣지·온디바이스 환경까지 지연시간·처리량·메모리 효율을 개선합니다. 관련 경력 3년 이상과 LLM 엔진/AI 런타임 개발, GPU·CUDA·병렬 컴퓨팅 및 최적화 기술 이해가 필요합니다.
필요 기술CUDAPyTorchONNXTensorRTPythonC/C++NVIDIA Nsight SystemsNsight Compute

현대자동차그룹 계열사 채용106건

채용 사이트에서 전체 보기

다음 읽기

#LLM 주제를 이어서 읽기

[#3 LLM Tutorial With RAG] 오픈 소스 LLM의 약점을 보완하는 RAG

오픈 소스 LLM의 한계를 보완하는 RAG를 소개하는 튜토리얼 글입니다. 설치된 LLM을 활용해 검색 증강 생성 방식을 설명합니다.

현대자동차그룹

현대자동차그룹

#LLM 주제를 이어서 읽기
Tokenizer: LLM은 텍스트를 어떻게 받아들일까? (feat. Andrej Karpathy) #1
현대자동차그룹
#LLM 주제를 다룬 다른 회사 글
카카오의 언어모델, Kanana 테크니컬 리포트 공개
카카오

쿠팡 파트너스

2026년 10월 8일

개발자를 위한 서적을 확인해 보세요

이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

#개발서적#프로그래밍

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...