AI
풍부한 지능을 뒷받침하는 풀스택
The full stack behind abundant intelligence
두줄요약
OpenAI는 칩부터 데이터센터·모델·제품까지 통합한 컴퓨팅 전략을 설명했습니다.\nJalapeño의 추론 성능과 GPT‑5.6 Sol의 토큰 효율 개선을 제시했습니다.
핵심 발표
- 데이터센터·칩·프론티어 모델·개발자 플랫폼·제품·AI 네이티브 기기를 아우르는 통합 컴퓨팅 전략
- OpenAI의 첫 맞춤형 추론 칩 Jalapeño의 측정 성능 결과 공개
주요 변화
- InferenceX의 GPT‑OSS 120B 공개 벤치마크에서 비교 대상 상용 시스템보다 높은 와트당 최대 처리량과 낮은 토큰 지연 시간
- DeepSeek R1·Kimi K2에서도 강한 성능으로 여러 모델 계열에 걸친 이점 제시
- 모델·서빙 소프트웨어·칩·메모리·네트워크 공동 설계를 통한 처리량·지연 시간·에너지 효율·비용 최적화
개발자 영향
- 워크로드별 성능·속도·신뢰성·효율성·비용의 Pareto frontier 추구
- GPT‑5.6 Sol의 max reasoning, 다른 선도 모델 대비 출력 토큰 54% 절감과 Artificial Analysis Coding Agent Index 신기록
- 효율 향상에 따른 재시도 감소, 장기 워크플로 완료, 성공 작업당 총비용 절감 기대
사용 방법·가용성
- Jalapeño의 작동하는 자체 실리콘 확보 및 차세대 칩 개발 진행
- Microsoft·NVIDIA와 AWS·AMD·Broadcom·Cerebras·CoreWeave·Oracle·SB Energy·SoftBank를 포함한 컴퓨팅 포트폴리오