풍부한 지능을 뒷받침하는 풀스택
The full stack behind abundant intelligence
OpenAI는 칩부터 데이터센터·모델·제품까지 통합한 컴퓨팅 전략을 설명했습니다. Jalapeño의 추론 성능과 GPT‑5.6 Sol의 토큰 효율 개선을 제시했습니다.
#Jalapeño#inference#GPT-OSS
000

inference 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
3개 표시
The full stack behind abundant intelligence
OpenAI는 칩부터 데이터센터·모델·제품까지 통합한 컴퓨팅 전략을 설명했습니다. Jalapeño의 추론 성능과 GPT‑5.6 Sol의 토큰 효율 개선을 제시했습니다.

Previewing Ultrafast mode: GPT-5.6 Sol at up to 14X the speed
OpenAI가 GPT‑5.6 Sol을 최대 14배 빠르게 실행하는 Ultrafast 모드를 공개했습니다. Cerebras 기반으로 최대 초당 750개 출력 토큰을 제공하며 제한된 프리뷰로 이용할 수 있습니다.

Hugging Face Transformer 모델을 AWS Inferentia/Trainium에 포팅하는 과정을 검증했습니다. return_dict=False 설정으로 tracing 오류를 줄여 12개 모델 모두 배포 가능함을 확인했습니다.
