持続可能な進歩: AI とアクセラレーテッド コンピューティングがエネルギー効率を向上させる方法

投稿者: Dion Harris

金融業界から製造業まで、企業は NVIDIA テクノロジで持続可能な AI を実現させています。

NVIDIA が継続的に改善を重ねている AI とアクセラレーテッド コンピューティング、この 2 つのエンジンは、多くの業界でエネルギー効率の向上を実現しています。

この進歩は、ますます広いコミュニティに認識され始めています。

「データセンターが世界のエネルギー消費の 4% を占めるという予測が現実になったとしても、AI は残りの 96% のエネルギー消費の削減に大きな影響を与えています」と報告するのは、2003 年に設立され、経済および社会問題を研究する非営利団体である Lisbon Council Research です。

ブリュッセルを拠点とするこの研究グループの記事は、始まったばかりの AI 政策に関する大局的な研究の 1 つです。この記事では、約 14,000 基の NVIDIA GPU で加速されているイタリアのスーパーコンピューター Leonardo を例に挙げ、自動車設計や新薬の発見から天気予報まで、さまざまな分野で研究を前進させるシステムとして紹介しています。

TOP500 リストにおける最も効率性の高いスーパーコンピューターのエネルギー効率の経時的な向上。出典: TOP500.org

アクセラレーテッド コンピューティングが持続可能なコンピューティングである理由

アクセラレーテッド コンピューティングは、NVIDIA GPU の並列処理を使用して、より短時間でより多くの作業を実行します。その結果、一度に 1 つのタスクを処理するように構築された CPU を搭載している汎用サーバーよりもエネルギー消費が少なくなります。

これが、アクセラレーテッド コンピューティングが持続可能なコンピューティングである理由です。

アクセラレーテッド システムは GPU の並列処理を使用し、CPU と比較して短時間でより多くの作業を、少ないエネルギーで実行します

アクセラレーテッド システムに AI を適用すると、そのメリットはさらに大きくなります。AI は本質的に並列型のコンピューティングであり、現代における最も革新的なテクノロジです。

「機械学習やディープラーニングなどの最先端のアプリケーションに関して言えば、GPU のパフォーマンスは CPU と比べて桁違いに優れています」とレポートでは述べられています。

CPU のみの運用から GPU アクセラレーテッド システムに移行することで、HPC および AI ワークロードは年間 40 テラワット時以上のエネルギーを節約できます。これは、米国の約 500 万世帯の電力需要に相当します。

NVIDIA は、アクセラレーテッド コンピューティングで最大のエネルギー効率を発揮するような GPU、CPU、DPU の組み合わせを提供しています。

アクセラレーテッド AI のユーザー エクスペリエンス

世界中のユーザーが、AI とアクセラレーテッド コンピューティングによるエネルギー効率の向上を報告しています。

金融サービスでは、パリを拠点とする、毎日 60,000 人以上が使用するトレーディングおよびリスク管理プラットフォームを持つ Murex が、NVIDIA Grace Hopper Superchip をテストしました。同社のワークロードでは、CPU と GPU の組み合わせにより、CPU のみのシステムと比較してエネルギー消費が 4 分の 1 に削減され、完了までの時間が 7 分の 1 に短縮されました (下のグラフを参照)。

「リスク計算では、Grace は最速のプロセッサであるだけでなく、電力効率もはるかに高くなっています。トレーディングの世界におけるグリーン IT の実現が見えています」と、Murex の定量調査部門の責任者である Pierre Spatz 氏は述べています。

製造業では、台湾を拠点とする Wistron が、現場での運用改善を目的として、NVIDIA DGX システムで熱ストレス テストを受ける部屋のデジタル コピーを構築しました。同社は、AI にシミュレーションをエミュレートするサロゲート モデルを搭載する産業用デジタライゼーション プラットフォームである NVIDIA Omniverse を使用しました。

数千のネットワーク化されたセンサーにリンクされたデジタル ツインにより、Wistron は施設全体のエネルギー効率を最大 10% 向上させることができました。これは、年間 120,000 kWh の電力消費削減と、60,000 キログラムの CO2 排出削減に相当します。

最大 80% の CO2 排出量削減

最近のベンチマークによると、Apache Spark 向け RAPIDS アクセラレータは、広く使用されている機械学習の形式であるデータ解析の CO2 排出量を最大 80% 削減し、平均で 5 倍の高速化と 4 倍のコンピューティング コスト削減を実現することが示されました。

Fortune 500 企業の約 80% を含む数千社の企業が、増え続けるデータの山を分析するために Apache Spark を使用しています。NVIDIA の Spark アクセラレータを使用している企業には、Adobe、AT&Tアメリカ合衆国内国歳入庁などがあります。

ヘルスケア分野では、Insilico Medicine が NVIDIA 搭載の AI プラットフォームを活用して、比較的まれな呼吸器疾患に対する薬剤候補を発見し、第II相臨床試験に進んでいます。

従来の方法ではここまで進むのに 4 億ドル以上の費用と、最大で 6 年の年月がかかっていたでしょう。しかし、生成 AI を使用することで、Insilico は 10 分の 1 のコストと 3 分の 1 の時間でこのマイルストーンを達成しました。

「当社だけでなく、AI 加速による薬剤発見の分野に携わるすべての人々にとって重要なマイルストーンです」と、Insilico Medicine の CEO である Alex Zhavoronkov 氏は述べています。

これはアクセラレーテッド コンピューティングと AI を利用する企業の取り組みのほんの一例にすぎません。こうした企業は他に、AmgenBMWFoxconnPayPal など多数あります。

アクセラレーテッド AI で科学を加速

オープン サイエンスにおける米国エネルギー省の中心的な施設である国立エネルギー研究科学計算センター (NERSC) は基礎研究において、ハイ パフォーマンス コンピューティングおよび AI の主要な 4 つのアプリケーションについて、4 基の NVIDIA A100 Tensor コア GPU を搭載したサーバーとデュアル ソケット x86 CPU サーバーでの結果を比較しています。

研究者は、NVIDIA A100 GPU で高速化されたアプリケーションでは、エネルギー効率が平均で 5 倍向上することを発見しました (下記参照)。天気予報関連のあるアプリケーションでは、ほぼ 10 倍の向上を記録しました。

世界中の科学者や研究者は、AI とアクセラレーテッド コンピューティングを活用して、高性能と効率性向上を実現しています。

エネルギー効率の高い世界のスーパーコンピューターをランキングにまとめた Green500最新のランキングでは、NVIDIA 搭載システムが上位 6 位を独占し、上位 50 位中に 40 がランクインしました。

エネルギー節約の過小評価

業界や科学全体にもたらされる多くのメリットが、最大の AI モデルのトレーニングにおけるエネルギー消費のみを評価する予測では見落とされることがあります。AI モデルの寿命の大半を占める、比較的少ないエネルギーで前述のユーザーが説明したような効率性を提供している期間のメリットが見逃されています。

数十の情報源を引用した分析により、モデルのトレーニングに基づく予測は誤解を招き、誇張されていることが最近の研究によって反論されています。

「電子商取引やビデオ ストリーミングのエネルギー フットプリントに関する初期の予測が最終的に誇張されていたことが判明したのと同様に、AI に関する推定にもおそらく間違いがあるだろう」と、ワシントンを拠点とするシンクタンク、情報技術イノベーション財団 (ITIF) が報告しています。

この報告書では、AI モデルの実行にかかるコストの最大 90%、およびすべての効率性向上が、トレーニング後のアプリケーション展開時にあると指摘しています。

「AI の使用が社会経済に利益をもたらす機会 (低炭素の未来への移行を含む) が莫大であることを考えると、政策立案者やメディアは、AI の環境への影響に関する主張をこれまで以上に精査することが不可欠です」と、前述の報告書の著者は述べており、同時に調査結果を最近のポッドキャストで説明しています。

AI にはエネルギー面でのメリットも

ワシントン D.C. にある R Street Institute の政策アナリストもこの意見に同意しています。

1,200 語の記事で「政策立案者は AI がもたらすメリットの可能性の実現を支援する必要があり、ストップをかけてはならない」と述べています。

「アクセラレーテッド コンピューティングと AI の台頭は、経済成長と社会福祉の面で大きな社会的利益が生まれ、将来に大きな期待が寄せられています」と、創薬銀行業務株式取引保険における AI の実証済みのメリットを挙げながら説明しています。

また、AI は電力網、製造業、輸送部門でも効率性向上を実現できるとも付け加えられています。

AI が持続可能性への取り組みを支援

報告書では、アクセラレーテッド AI が気候変動と戦い、持続可能性を促進する可能性についても言及されています。

「AI は気象モデリングの精度を高めて公共の安全を向上させるだけでなく、作物の収穫量のより正確な予測を生成することもできます。AI の力は、より正確な気候モデルの開発 (省略) にも貢献します」と、R Street は述べています。

Lisbon Council Research は報告書に、効率性の高いバッテリー材料の発見などの取り組みにおいて、AI は「気候変動への対処に必要なイノベーションで重要な役割を果たす」と付け加えています。

AI が環境にどのように役立つか

ITIF は政府に対し、脱炭素化に向けた取り組みの一環として AI をツールとして採用するよう求めました。

公的機関も民間組織もすでに、NVIDIA AI を利用して、サンゴ礁の保護山火事の追跡異常気象の追跡の改善、持続可能な農業の強化といった取り組みを行っています。

NVIDIA もその一環として、気候問題に対処するために AI を採用している数百社のスタートアップ企業と協力しています。また、NVIDIA は気候科学専用の世界で最も強力な AI スーパーコンピューターになると期待されている Earth-2 の計画を発表しました。

スタック全体のエネルギー効率向上

1993 年の設立以来、NVIDIA は GPU、CPU、DPU、ネットワーク、システム、ソフトウェア、および Omniverse などのプラットフォームといった全製品でエネルギー効率の向上に取り組んできました。

AI においては、AI モデルの寿命の大半は推論、つまりユーザーが新たな効率性を実現するのに役立つインサイトを提供することにあります。NVIDIA GB200 Grace Blackwell Superchip は、AI 推論において、以前の NVIDIA Hopper GPU 世代に比べて 25 倍のエネルギー効率を実証します。

直近の 8 年間で、NVIDIA GPU は、大規模言語モデルを実行する際のエネルギー効率を 45,000 倍も向上させました (下のグラフを参照)。

ソフトウェアにおける最近のイノベーションには、TensorRT-LLM があります。TensorRT-LLM によって GPU は LLM 推論のエネルギー消費を 3 分の 1 に減らすことができます。

驚愕の数値をご紹介しましょう。もし自動車の効率が NVIDIA がアクセラレーテッド コンピューティング プラットフォームで AI の効率を向上させたのと同程度に改善したとすれば、自動車の走行距離はガソリン 1 ガロンあたり 280,000 マイルになります。つまり、1 ガロン未満のガソリンで月まで走行可能ということになります。

これは、2016 年から 2025 年にかけて AI トレーニングと推論における NVIDIA の驚異的な 10,000 倍の効率向上を自動車の燃費効率に当てはめたものです (下のグラフを参照)。

NVIDIA P100 GPU から NVIDIA Grace Blackwell への AI 効率の大幅な向上を、自動車の燃費向上と比較しています。

データセンターの効率向上

NVIDIA は、システム レベルのイノベーションを通じて多くの最適化を実現しています。たとえば NVIDIA BlueField-3 DPU は、重要なデータセンター ネットワークとインフラ機能を効率の低い CPU からオフロードすることで、最大 30% 電力消費を削減できます。

昨年、NVIDIA はデータセンター向けの新しい液冷テクノロジを設計するために、米国エネルギー省から 500 万ドルの助成金を受け取りました。100 件を超える申請の中から選ばれた 15 件の中で最高額の助成金が支給されています。このテクノロジは、現在の空冷方式よりも 20% 効率的に動作し、CO2 排出量も少なくなります。

これらは、NVIDIA がデータセンターのエネルギー効率に貢献している方法の一部にすぎません。

データセンターはエネルギーを非常に効率的に使用する施設であると同時に、再生可能エネルギーの最大の消費者の 1 つでもあります。

ITIF の報告によると、2010 年から 2018 年にかけて、世界のデータセンターではコンピューティング インスタンスが 550%、ストレージ容量が 2,400% 増加したものの、エネルギー使用量は 6% しか増加しておらず、その要因はハードウェアもソフトウェアも改善されていることにある、とのことです。

NVIDIA は、アクセラレーテッド AI のエネルギー効率向上に引き続き取り組んでおり、科学分野、政府、産業界のユーザーが持続可能なコンピューティングへの取り組みを加速できるよう支援しています。

NVIDIA の Energy-Efficiency Calculator を試して、エネルギー効率を向上させる方法を見出しましょう。詳細な情報は NVIDIA のサイト「持続可能なコンピューティング」とコーポレート サステナビリティ レポートをご覧ください。