ChatGPTのクエリごとのエネルギー使用量

ChatGPTのエネルギー使用量

ChatGPTが1つの質問に答えるためにどれくらいの電力を使用するのか?

Photo by Andrey Metelev on Unsplash

この記事では、ChatGPTのクエリごとの電力消費の範囲を示し、他の2つの大規模言語モデル(LLM)のエネルギー消費と比較します。

これには2つの理由があります:

まず第一に、組織がChatGPTが1つの質問に答えるためにどれくらいの電力を必要とするかを知っていれば、ChatGPTやOpenAIのLLM APIなどの類似サービスの使用に関連する炭素足跡をおおよそ推定することができます。

これは、50,000を超えるヨーロッパの企業にとって非常に重要になる可能性があります。なぜなら、今後の企業の社会的責任指令(CSRD)により、経営報告書でスコープ3の排出量を開示することが求められるからです[1]。クラウドコンピューティングはスコープ3と見なされるため、ChatGPTなどのサービスの使用はスコープ3に該当すると予想されます[2]。この記事がChatGPTや類似サービスからの組織のスコープ3排出量を推定する方法についてのヒントを提供できることを願っています。

また、ChatGPTのクエリごとのエネルギー使用量を調べることが興味深いもう一つの理由は、個人がChatGPTの総電力消費量や炭素足跡の推定値を算出することができるようになるからです。そのため、このブログ投稿が他の人々が同様の研究を公開することに影響を与えることを願っています。

この記事の残りの部分では、「クエリ」と「リクエスト」という用語が同じ意味で使用されます。

VoAGIのメンバーとして、あなたの会費の一部があなたが読む作家に寄付され、すべてのストーリーに完全アクセスできます…

kaspergroesludvigsen.medium.com

ChatGPTのクエリごとの電力消費を推定するための方法論

このセクションでは、ChatGPTのクエリごとの電力消費を推定するために使用された方法論を紹介します。推定は2つの異なる方法に基づいています:

  1. ChatGPTがおそらく実行されているハードウェアの総エネルギー消費量を推定し、1日のクエリ数で割る方法
  2. 報告された値を使用する方法…

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

人工知能

「マーシャンの共同創設者であるイータン・ギンスバーグについてのインタビューシリーズ」

エタン・ギンズバーグは、マーシャンの共同創業者であり、すべてのプロンプトを最適なLLMに動的にルーティングするプラットフ...

人工知能

「Zenの共同創設者兼CTO、イオン・アレクサンドル・セカラ氏によるインタビューシリーズ」

創業者兼CTOであるIon-Alexandru Secaraは、Zen(PostureHealth Inc.)の開発を牽引しており、画期的な姿勢矯正ソフトウェア...

人工知能

スコット・スティーブンソン、スペルブックの共同創設者兼CEO- インタビューシリーズ

スコット・スティーブンソンは、Spellbookの共同創設者兼CEOであり、OpenAIのGPT-4および他の大規模な言語モデル(LLM)に基...

人工知能

「スノーケルAIのCEO兼共同創設者、アレックス・ラットナー - インタビューシリーズ」

アレックス・ラトナーは、スタンフォードAIラボを母体とする会社、Snorkel AIのCEO兼共同創設者ですSnorkel AIは、手作業のAI...

人工知能

ジョナサン・ダムブロット、Cranium AIのCEO兼共同創設者- インタビューシリーズ

ジョナサン・ダムブロットは、Cranium AIのCEO兼共同創業者ですCranium AIは、サイバーセキュリティおよびデータサイエンスチ...

人工知能

「ElaiのCEO&共同創業者、Vitalii Romanchenkoについてのインタビューシリーズ」

ヴィタリー・ロマンチェンコは、ElaiのCEO兼共同創設者であり、マイク、カメラ、俳優、スタジオの必要なく、個人が一流のビデ...