OpenAIの推論コストは​​どれくらい高いのか？ – GIGAZINE

OpenAIは詳細な決算報告書を発表していません。そこで、OpenAIと提携しているMicrosoftの決算報告書から、OpenAIがどれほどの収益を上げているのか、ChatGPTといったAIサービスの推論にどれほどのコストがかかっているのかを推測する試みを、テクノロジー業界に詳しいエドワード・ジトロン氏が実行しました。

Exclusive: Here’s How Much OpenAI Spends On Inference and Its Revenue Share With Microsoft
https://www.wheresyoured.at/oai_docs/

How high are OpenAI’s compute costs? Possibly a lot higher than we thought
https://www.ft.com/content/fce77ba4-6231-4920-9e99-693a6c38e7d5

MicrosoftとOpenAIの提携関係は複雑で、両社は技術面と財務面で密接に結びついています。いくつかの報道から、OpenAIが収益の20％をMicrosoftに分配していること、Microsoftが自社のサーバー上で実行されるモデルの推論に対してOpenAIに請求書を発行していること、推論コストを指すと思われる「収益コスト」がOpenAIから発表されていることなどが指摘されており、これらの情報からOpenAIの収益と推論コストがある程度推測できるとジトロン氏は考察しています。

例えば、2024年第1四半期(1月～3月)にMicrosoftへ分配されたOpenAIの収益は7730万ドル(約120億円)でした。OpenAIが収益の20％を分配していると仮定すると、OpenAIの同時期の収益は少なくとも3億8650万ドル(約600億円)だったと推定できます。この時期、推論にかかったと思われる「収益コスト」は5億4680万ドル(約847億円)でした。

ジトロン氏が推測した、2024年第1四半期から2025年第3四半期(7～9月)までの推論コスト(青色の点)、収益分配額(桃色)、OpenAIの推定収益(水色)の表は以下の通りです。OpenAIは2025年の前半だけで推論コストに50億ドル(約7750億円)以上を費やしていることになりますが、これは推測されるOpenAIの収益を大幅に上回るものです。

懸念されるのは、収益分配額が20％だという仮定が、OpenAIから発表された報告と一致しない点です。例えば2024年10月、OpenAIの幹部は「2024年の収益は37億ドル(約5730億円)であると予想される」とコメントしましたが、ジトロン氏の推測では24億6900万ドル(約3830億円)しかなかったことになります。

ジトロン氏は「私の推測に基づけば、既存の報道や一部の発表では予想できない額が動いている可能性があります。これらの数値に基づけば、OpenAIは史上最も資金を大量に消費するスタートアップであり、大規模言語モデルの運用コストを収益だけでは賄えない可能性があります。仮に収益が報告値に達したとしても、推論コストがそれを食い尽くし、収益に比例して直線的に増加しているように見受けられます。OpenAIの推論処理にこれほどのコストがかかるならば、OpenAIのモデルを運用するあらゆる顧客にも同等のコストが発生すると考えます。もしそうではないなら、OpenAIのコストは顧客に請求している価格を大幅に上回っていることになるため、収益を増やすべくOpenAIが料金を値上げせざるを得なくなるかもしれません」と述べました。