AIはなぜ電気を大量に必要とするのか | 電気工事の求人は神奈川県、平塚の東和電気株式会社 | ブログ

　AIが大量の電気を必要とする理由は、大きく分けて「計算量」「装置構成」「冷却」の3つです。

 ① 圧倒的な計算量（＝電気を食う本体）

　AI、特に深層学習は「膨大な掛け算と足し算の繰り返し」、これを高速で行うために GPU（並列演算装置）や 専用AIチップ（TPUなど）を使います。推論との比較イメージは、1回の推論は数十億回の演算で対応するのに対し、学習ではその何万〜何百万倍が行われている状態だという。

② 常時フル稼働のデータセンター

　AIは1台のPCではなく、サーバーを何千台も並べた「データセンター」で動きます。GPUサーバー1台での使用電力は数百W〜数kWですが、データセンター全体では数十MW規模となり、これは小さな町レベルの電力です。

 ③ 冷却（実はかなり大きい）

　電気を使うと必ず熱が出ます（ジュール熱）。AIサーバーは高密度なので、 冷やさないと即性能低下・故障します。そのため 空調（巨大エアコン）や液冷システムが必要です。冷却だけで全体の30〜50％近くの電力を使う場合もあります。

 ④ メモリとデータ転送も電気を食う

　AIは計算だけでなく、データ移動も非常に多く、メモリ（VRAM）、ストレージ、ネットワーク通信に頻繁にデータの出し入れが行われます。実は、計算よりデータ移動の方が電力を食う場合もあるようです。

 ⑤ 学習と推論の違い

　学習での計算量は超重い（電力大）のに対し、推論での計算量は比較的軽いのですが、でも数が多く、ChatGPTのようなサービスは、「軽い処理 × 膨大な回数」でトータルの電力消費が増えます。

　そしてなぜ今さらに電力が増えているのかというと、モデルが巨大化（パラメータ増）し、高精度化（演算回数増）によりさらに利用者増（24時間稼働）が起こっているためです。

　結論を 一言でいうと、AIは「大量の計算＋大量の熱＋大量のデータ移動」を同時に行うため、電気を大量に消費する、ということでした。