퓨리오사AI

트랜스포머 기반 LLM을 FuriosaAI NPU에서 효율적으로 추론할 수 있도록 TCL 커널을 설계·최적화하고 Furiosa-LLM에 통합하는 업무입니다. LLM 구조·추론 성능 이해와 Python, PyTorch 기반 모델 구현 및 텐서 연산·가속기 커널 최적화 경험이 필요합니다.

RNGD NPU 기반 프로덕션 LLM 서빙의 신뢰성·관측성·성능을 운영·개선하며, 지연시간·처리량·자원 효율 최적화와 장애 대응을 담당합니다. Rust·C++·Python·Go 중 프로그래밍 역량 및 Kubernetes 환경 서비스 운영 경험이 필요합니다.

Host/BMC와 NPU 간 통신을 위한 NPU 관리 인터페이스 펌웨어·소프트웨어를 개발하고, 관리 프로토콜 기반 기능 구현·검증 및 시스템 통합을 담당합니다. 임베디드 C/C++와 NPU·가속기·GPU·SoC 펌웨어 개발 경험, MCTP·PLDM 및 저수준 인터페이스 이해가 필요합니다.

PyTorch 생태계에서 커스텀 커널을 네이티브 확장으로 실행하기 위한 통합 계층·런타임과 Virtual ISA, 커널 개발 도구를 설계·구현합니다. Rust·C++·Go 기반 시스템 프로그래밍 및 ISA·SIMD·메모리 계층을 포함한 컴퓨터 아키텍처 이해가 필요합니다.

딥러닝 프레임워크 모델을 컴파일러 내부 IR로 변환하는 프런트엔드 파이프라인과 그래프 최적화, 텐서 수준 커널 언어를 설계·구현합니다. 컴파일러·프로그램 변환 이해와 PyTorch·TensorFlow·ONNX 모델 표현 지식, Python 및 Rust 또는 C++ 경험이 필요합니다.

NPU 하드웨어의 저수준 런타임을 개발하여 DMA 기반 I/O, 커널 실행 스케줄링, 비동기 실행 파이프라인, 멀티 노드 추론 및 임베디드 펌웨어를 최적화합니다. Rust·C·C++ 시스템 프로그래밍 경험과 컴퓨터 아키텍처, 운영체제, DMA·인터럽트·MMIO 이해가 필요합니다.

FuriosaAI NPU에서 LLM·멀티모달 LLM용 고성능 추론 엔진을 설계·구현하고, 추론 최적화 및 분산·확장형 추론 기능을 개발합니다. Rust 또는 C++ 프로그래밍 역량과 딥러닝·LLM·생성형 AI 모델에 대한 지식이 필요합니다.