OpenAI「Ultrafast mode」— GPT-5.6 Sol が最大14倍速・750 tok/s、支えるのは Cerebras
OpenAI が、GPT-5.6 Sol を標準処理の最大14倍の速度で走らせる新しいサービスティア「Ultrafast」を API 向けにプレビュー公開した。出力は最大 750 tokens/秒に達する。速度の出どころはモデルの改良ではなく推論ハードウェアで、Cerebras の Wafer-Scale Engine を使っている。現在は限定提供で、企業は待機リストから申請する。
キーポイント
- 標準処理の最大14倍、出力最大750 tokens/秒。まず OpenAI API で提供
- 速度の正体は Cerebras の Wafer-Scale Engine。ウェハーサイズのチップに 44GB の SRAM を積み、モデル重みをオンチップに置いたまま推論するため、GPU 推論のようなメモリ帯域の往復が発生しない
- 初期採用は Jane Street・Basis・Rogo・Podium。想定用途は金融リサーチ、インシデント対応、カスタマーサポート、音声、コマース、ライブ実験
- 価格は非公開。提供先も「速度が実プロダクトをどう変えるか評価しつつキャパシティを増やす間」限定のまま
- モデルの賢さは据え置きで、変わったのは速度だけ