OpenAIのAIチップ、初の性能結果を公開 速くて省エネに
OpenAIが自社設計のAIチップ「Jalapeño」の測定結果を発表しました。AIの応答を速くし、使う電力も抑える狙いです。
まず要点
OpenAIは、自社設計のAI推論用チップ「Jalapeño」の初期測定結果を発表しました。AIの応答を速くしながら、同じ電力でより多くの処理をすることを狙います。
これは店頭で買う部品ではなく、OpenAIのサービスを動かす裏側の設備です。同社は年内に自社の計算基盤へ展開し始める予定だとしています。
かんたんにいうと
AIに質問すると、裏側では大量の計算機が文章を作っています。Jalapeñoは、その計算をするための専用部品で、待ち時間を短くしながら電気の使い方も効率よくするためのものです。
たとえば同じ時間に多くの人が使う店で、調理場の動きをよくして注文を早く出すような改善です。ただし、利用者がすぐにどれだけ速くなるかは、今回の発表だけでは分かりません。
何が変わる？
OpenAIによると、JalapeñoはAIの文章生成で必要になる計算、記憶、機器同士の通信を一緒に設計しています。処理の途中でデータを動かす回数を減らし、待ち時間を抑える考え方です。
同社が公開モデルで測定した結果では、比較対象より電力当たりの処理量が1.5〜1.9倍、応答完了までの時間が1.7〜3.6分の1だったとしています。これはOpenAI自身の測定結果です。
利用者への影響は？
AIの利用が増えるほど、応答の遅さや電力消費は大きな課題になります。裏側の設備が効率よくなれば、混雑時でも使いやすくなったり、同じ設備でより多くの処理をできたりする可能性があります。
一方で、チップが新しくなっただけで料金や回答の品質が必ず変わるわけではありません。どの製品で、いつ、どの程度の改善が表れるかは今後の展開を確認する必要があります。
速さと電力をどう両立する？
AIの「推論」とは、学習済みのAIが質問を受け取り、その場で答えを作る処理のことです。Jalapeñoはこの処理向けに作られ、特に会話のようにすぐ返事が必要な使い方を意識しています。
OpenAIは年内に導入を始める予定ですが、対象のサービスや利用者向けの時期は明らかにしていません。発表にある性能値は比較条件をそろえた測定結果で、すべての利用場面で同じ差が出るという意味ではありません。