OpenAIとBroadcomは現地時間6月24日、両社が共同開発したOpenAI初のカスタムAI推論ASIC「Jalapeño」を正式発表しました。LLM推論に特化したアクセラレータで、2026年末からの初期展開を目指します。
主なポイント
- Jalapeño はChatGPT等の推論ワークロード向けに設計されたASIC。学習用のNVIDIA GPUより柔軟性は劣るが、用途を絞ることでコスト効率を高める設計
- 初期設計からテープアウトまで約9か月。OpenAI自身のAIモデルを設計プロセスで活用し、Broadcomは「高性能半導体として最速級のASIC開発サイクル」と説明
- Broadcom CEOのHock Tan氏は、典型的なAI向けGPUと比較してコストを約50％削減できると主張
- 当面はOpenAIが自社モデルのサービス提供に内製利用、外販計画は示されていない
- 2026年末から「ギガワット級」データセンターでの初期展開を開始し、以降数年で拡大予定