エッジ コンピューティングとは、AI ソフトウェアを搭載したプロセッサを使用して、可能なる限りデータが生成される場所の近くでデータの取得と処理を行うという考え方である。

エッジ コンピューティングとドーナツには共通点がひとつあります。消費者に近ければ近いほど良いという点です。角のドーナツ店まで行くには少し時間がかかりますが、手の届くところにドーナツの箱があれば、すぐに満足感を得ることができます。

エッジ コンピューティングにも同じことが言えます。データをクラウドで実行中の AI アプリケーションに送信すると応答が得られるまでに時間がかかりますが、そのデータをエッジ デバイスで処理すると、まるであのピンクの箱からグレーズがかかったカラフルなスプリンクルがちりばめられたドーナツを直接手に取るようなものです。

エッジ コンピューティングでは、ドーナツと同じく、近くにあることが重要です。

エッジ コンピューティングとは、数十年前からある言葉で、AI ソフトウェアを搭載したプロセッサを使用して、可能なる限りデータが生成される場所の近くでデータの取得と処理を行うという考え方です。エッジ コンピューティングでは、データをローカルで、つまりクラウドやデータセンターではなくネットワークの「エッジ」で処理するため、レイテンシと必要な帯域幅が最小限に抑えられ、自律動作マシンによるリアルタイムのフィードバックや意思決定が可能になります。

多くの場合、プロセッサはインテリジェントなセンサーの形で IoT デバイスに組み込まれます。これらのセンサーは工場の重機に取り付けられ、機械からのデータを処理して、異常が事故につながるような場合は管理者に通知がいくようにすることも可能です。

企業では、エッジ サーバーをセンサーのすぐ近くに設置することが多く、通常は店舗、病院や倉庫内のサーバー ルームや収納室に設置します。

エッジ コンピューティングは常時稼働し、瞬時にフィードバックを返すので、自律走行車のような用途では特に重要です。データ処理や応答の時間を数ミリ秒でも短縮することが事故回避の鍵となるからです。エッジでの瞬時のフィードバックは、医師が患者の治療のために正確でリアルタイムなデータを必要とする病院でも重要です。

エッジ コンピューティングはいたるところにあり、小売店のスマートなセルフレジから、倉庫でのサプライチェーン ロジスティクスや品質検査の支援まで、あらゆるものに使われています。

エッジ コンピューティングはなぜ必要か？

2025 年までに、1,500 億個のマシン センサーと IoT デバイスが、処理を必要とする連続的なデータをストリーミングするようになると推定されています。これらのセンサーは常時稼働しており、モニタリング、データ受信、認識しているものの推論を行い、アクションを起こします。

エッジ コンピューティングはこのデータを発生源で処理するため、レイテンシ、つまりデータをクラウドやコア データセンターでさらに処理するために、ネットワークでデータを送信するのを待つ時間が低減するので、企業はリアルタイムでより早く洞察力を得ることができます。

データの収集や分析に高い効率性と速度を要する、このような計算負荷の高いワークロードで使われるデータの急増により、AI を展開するための高性能なエッジ コンピューティングが求められています。

さらに、4G よりも 10 倍の速度が期待される 5G ネットワークなどの新しいテクノロジによって可能性が広がるのは AI 対応のサービスのみであるため、エッジ コンピューティングのさらなる高速化が必要になります。

エッジ コンピューティングの仕組み

エッジ コンピューティングは、データの発生源またはエンド ユーザーにできる限り近くでデータ処理を行うことにより機能し、データ、アプリケーション、コンピューティング パワーを、集中型ネットワークやデータセンターから離れた場所に保ちます。

データセンターは集中型サーバーであり、多くの場合、不動産や電力が安価な場所に置かれます。最速の光ファイバー ネットワークであっても、データは光の速度より速くは移動できません。このような、データとデータセンター間の物理的な距離がレイテンシの原因となります。コンピューティングをエッジに、つまりデータの発生源のより近くに持ってくることで、エッジ コンピューティングはレイテンシをめぐる問題を軽減します。

エッジ コンピューティングは、多数のネットワーク ノードで実行することで、データを収集する場所と処理する場所の距離を実際に近づけることができ、ボトルネックを削減してアプリケーションを高速化することができます。

ネットワークの周辺部では、数十億個もの IoT デバイスやモバイル デバイスが、小さな組み込みプロセッサ上で動作しており、これはビデオのような基本的なアプリケーションには理想的です。

いまの世界の産業や自治体が IoT デバイスからのデータに AI を適用していなければ、これで何の問題もありません。しかし、実際は適用しています。

エッジ AI を使うことで、デバイスはインターネットに常時接続していなくてもよくなります。それどころか、デバイスは接続なしに独立してデータを処理し、意思決定を行うことができます。

たとえば、ロボットのマイクロプロセッサ上のエッジ AI アプリケーションは、ロボットからのデータをリアルタイムで処理し、結果をデバイスのローカルに保存することが可能です。その後、ロボットはインターネットに接続して特定のデータをクラウドに送信し、保管やさらなる処理を行うことができます。もしエッジで動作していなければ、ロボットはデータをクラウドにストリーミングし続け (バッテリーに負荷をかけながら)、データ処理にもっと時間がかかり、インターネットへの常時接続が必要になるでしょう。

エッジ コンピューティングのメリット

エッジ コンピューティングに移行することで、企業は所有する大量のデータセットから洞察を探り出す新たな機会を得られます。エッジ コンピューティングの主なメリットは次の 4 つです。

• レイテンシの低減: データを収集して集中型データセンターやクラウドにアップロードするのではなく、AI コンピューティングをデータの生成場所に持ってくることで、レイテンシが低減されます。
• セキュリティの向上: エッジ コンピューティングではローカルでデータを処理できるため、機密データをパブリック クラウドに送信する必要が減ります。
• 費用の削減: データが作成されるほど帯域幅とデータ保管のコストは増えますが、エッジ コンピューティングを使ってローカルでデータを処理すると、クラウドに送信する必要のあるデータが減ります。
• 範囲の拡大: 従来のクラウド コンピューティングではインターネットへのアクセスが必要でしたが、エッジ コンピューティングはインターネットを利用することなくデータを処理するため、以前は対象外となっていた遠隔地にも範囲が広がります。

エッジ コンピューティング vs クラウド コンピューティング vs フォグ コンピューティング

これらのコンピューティング手法は、コンピューティング性能を強化するために使用され、よく一緒に言及されることがあります。しかし、それぞれに明確な違いがあります。

• クラウド コンピューティングは、インターネット上にホストされたリモート サーバーのネットワークを使用します。
• エッジ コンピューティングは、デバイスやサーバーのエッジを使用します。
• フォグ コンピューティングは、ネットワーク アーキテクチャのローカル エリア ネットワーク (LAN) を使用します。

近年、処理手法として好まれてきたのは、容量と弾力性に優れ、物理的なハードウェアなしにデータを保管し、処理できるクラウド コンピューティングでした。

しかし、クラウド コンピューティングは光の速度とインターネット帯域幅の制限を受けます。多くの企業がそれぞれの製品に AI を導入するほど、より速く、より信頼できるデータへの要求が増え、クラウド コンピューティングのネットワーク帯域幅に負担がかかります。

この負担を軽減し、データ処理と応答時間を速くするために、エッジ コンピューティングは多くの IoT デバイスに取り入れられるようになりました。

フォグ コンピューティングはエッジ コンピューティングと似ています。違いは、エッジ コンピューティングがネットワークのエッジでデータを処理するのに対し、フォグ コンピューティングはデバイスのローカル エリア ネットワーク上でデータを処理することです。エッジ コンピューティングよりも多くのデータを処理できる点が強みですが、フォグ コンピューティングは LAN 内のデバイスとの物理的な接続に制限されます。

エッジ コンピューティング: IoT と 5G

エッジ コンピューティングは、5G ネットワークや IoT アプリケーションなど、最近の技術の進歩に重要な役割を果たしています。

エッジと IoT

IoT デバイスから来る洪水のようなデータが送られてくるので、メーカーはデータをエッジで処理すると、経済的にも運用面でもメリットがあることに気づきました。エッジ コンピューティングを使えば、レイテンシを抑え、データの保管と処理のための費用がかかるクラウドへの依存を減らして、IoT デバイスやセンサーを運用できます。

たとえば、インテリジェント ビデオ分析のための NVIDIA Metropolis プラットフォームを使うと、何兆個ものセンサーや IoT デバイスからのデータをリアルタイムで分析できます。これにより、異常検出や災害対応向けの公共サービス、供給予測のためのロジスティクス、事故検出や交通信号最適化のための交通管理などのアプリケーションに役立つ実践的な洞察が得られます。

効果的に災害対応を行うためには、適切なタイミングで行動することが欠かせません。NVIDIA Metropolis のようなエッジ プラットフォームを導入すると、ファースト レスポンダー対応に必要な人員、車両、設備の位置に関するデータが瞬時に、また継続的に得られるようになり、市民の安全確保に役立ちます。さらに、セルラー ネットワークやインターネット接続経由ではなく IoT センサーや IoT デバイスからデータを収集するエッジ コンピューティングの導入は、より信頼できる効率的な災害対応計画を可能にし、人々の命を救うことにつながります。

エッジと 5G

エッジで生成されるデータの量は指数関数的に増えており、5G インフラストラクチャの展開とともに、新しい種類のアプリケーションが登場しています。

AI によって大量のデータから洞察を得られるようになりますが、これらのアプリケーションは、そのデータへのアクセスを提供する 5G の高速帯域幅、低レイテンシ、信頼性に依存します。

5G の展開とともに、AI のワークロードをエッジで実行し、リアルタイムの分析を可能にする幅広いサービスのポートフォリオが登場しています。これらは、カメラその他のセンサーで設備や機械を遠隔制御するものから、カメラを使って現場のセキュリティや作業の安全性を向上させるものまでさまざまです。そしてそのすべてが、全体でゼタバイト単位のデータを消費し生成するであろう、メディアを豊富に使う数十億個ものデバイスに対応しています。

エッジ コンピューティングはこのような技術革新に不可欠であり、5G の稼働に必要なレイテンシ要件を満たす唯一の方法です。また、5G のようなマルチテナントの 5G エッジ ノードを安全かつ効率的に仮想化するのにも役立ちます。

エッジ コンピューティング 4 つの例

エッジ コンピューティングは、レイテンシを低減するだけでなく、エンド ユーザーにより良いシームレスな体験を提供します。多数の産業の中から、エッジ アプリケーションの例をいくつかご紹介します。

小売業者のためのエッジ コンピューティング

世界最大の小売業者が、スマートな小売業者になるためにエッジ AI を活用しています。インテリジェントなビデオ分析、AI を使った在庫管理、顧客分析と店舗分析を組み合わせることで、利幅を上げ、より良い顧客体験を提供する機会が得られます。

たとえば、NVIDIA EGX プラットフォームを使用することで、Walmart は生成される毎秒 1.6 テラバイトを超えるデータをリアルタイムに処理できます。AI を幅広い種類のタスクに使うことができ、棚を補充する、ショッピングカートを回収する、追加でレジを開けるなどを自動的にスタッフに通知することができます。

数百台以上にのぼる接続されたカメラからのデータが、NVIDIA EGX が現場で処理する AI 画像認識モデルに送られます。一方、遠隔地にある小規模なビデオ フィードのネットワークは、Jetson Nano によって処理することができ、EGX やクラウド上の NVIDIA AI と連携しています。

店舗の通路は、完全自律型の有能な対話型 AI ロボットによる監視が可能です。このロボットには、Jetson AGX Xavier が搭載され、SLAM ナビゲーション用のために NVIDIA Isaac が実行されています。このすべては、EGX やクラウド上の NVIDIA AI と互換性があります。

アプリケーションを問わず、エッジでの NVIDIA T4 と Jetson GPU は、インテリジェントなビデオ分析と機械学習アプリケーションのための強力な組み合わせです。

エッジ AI によって、通信事業者は顧客に勧める次世代のサービスを開発し、新たな収入源を提供することができます。

NVIDIA EGX を使用すれば、通信事業者は画像認識モデルを使ってビデオ カメラのフィードを分析し、客足から商品棚の監視、配送まで、あらゆる分析に役立てられます。

たとえば、セブン-イレブンで、陳列棚のドーナツが土曜日の朝早くに品切れになった場合、コンビニエンス ストアの店長は、補充が必要であるとの通知を受け取ることができます。

都市のためのエッジ コンピューティング

Fortune 500 企業もスタートアップ企業も、自治体のためにエッジ AI を採用しています。たとえば、さまざまな都市が、交通渋滞を緩和して安全性を向上させるために、AI アプリケーションを開発しています。

Verizon は、IoT アプリケーション フレームワークである NVIDIA Metropolis を Jetson のディープラーニング機能と組み合わせて使用しており、多数のビデオ データのストリームを分析して交通の流れの改善、歩行者の安全強化、市街地の駐車場所の最適化などの方法を探すことができています。

カナダのオンタリオ州に拠点を置くスタートアップ企業の Miovision Technologies は、ディープ ニューラルネットワークを使って自社のカメラや都市インフラからのデータを分析し、交通信号機を最適化して、車両が動き続けるようにしています。

この領域での Miovision やその他の企業の作業は、NVIDIA Jetson コンパクト スーパーコンピューティング モジュールのエッジ コンピューティングと、NVIDIA Metropolis からの洞察によって高速化できます。エネルギー効率に優れた Jetson は、AI 処理のために複数のビデオ フィードを同時に扱うことができ、この組み合わせにより、ネットワークのボトルネックや混雑に代わるものが実現します。

エッジ コンピューティングは拡張も可能です。NVIDIA Metropolis のような産業アプリケーション フレームワークやサード パーティ製の AI アプリケーションは、最適なパフォーマンスのために NVIDIA EGX プラットフォーム上で稼働します。

自動車メーカーと製造業者のためのエッジ コンピューティング

工場、小売業者、製造業者、自動車メーカーが生み出すセンサー データは、相互に参照して使えばサービスを向上させることができます。

このセンサー フュージョンによって、小売業者は新しいサービスを実現できます。ロボットは、対話によるやりとりのために、音声や自然言語処理モデル以上のものを使うことが可能になり、同じロボットで、ビデオ フィードを使って姿勢推定モデルを実行することもできます。音声センサーとジェスチャー センサーの情報を結び付けることで、ロボットは、お客様がどのような品物や案内を必要としているのかをより良く理解できるようになります。

センサー フュージョンは、自動車メーカーが競争で優位に立つために採用できる新しいユーザー体験も作り出せます。自動車メーカーは、姿勢推定モデルを使って、ドライバーがどこを見ているかを理解するとともに、自然言語モデルを使って、車の GPS マップに表示されているレストランの位置との関連でリクエストの内容を理解することができます。

ゲームのためのエッジ コンピューティング

ゲーマーは、高パフォーマンス、低レイテンシのコンピューティング能力を要求することで知られています。エッジでの高品質クラウド ゲーミングでは、その要求の水準が上がります。バーチャル リアリティ、拡張現実、AI を含む次世代のゲーム アプリケーションは、さらに大きな挑戦となります。

通信事業者は、世界中のゲーマーのために、レイトレーシングと AI によって強化された映画品質のグラフィックスを実現する NVIDIA RTX サーバーを使っています。これらのサーバーは、NVIDIA のクラウド ゲーミング サービスである GeForce NOW の動力となっており、性能の足りないハードウェアや互換性のないハードウェアをエッジで強力な GeForce ゲーミング PC に変身させます。

Taiwan Mobile、韓国の LG U+、日本のソフトバンク、KDDI、ロシアの Rostelecom はすべて、各社のクラウド ゲーミングの顧客向けにサービスを展開する計画を発表しています。

NVIDIA のエッジ ソリューション

NVIDIA では、EGX プラットフォームによってエッジ コンピューティングを次のレベルに引き上げ、企業はスケーラブルなソフトウェア、IoT センサー、エッジ サーバーを組み合わせたエッジ ソリューションを導入しやすくなっています。

何ラックもの CPU が稼働する従来のエッジ サーバーの代わりに、より省スペースの NVIDIA EGX は、スーパーコンピューティング モジュールの Jetson シリーズから、NVIDIA T4 GPU や先日発表された NVIDIA EGX A100 を搭載したフル ラックのサーバーまで、NVIDIA AI 全般との互換性を提供します。

AI 用のエッジ コンピューティングを運用している企業には、小型の NVIDIA Jetson Nano 上で低レイテンシの AI アプリケーションを展開するという柔軟性が提供されています。このコンパクトなスーパーコンピューターは、画像認識などのタスクにて、わずか数ワットで毎秒 5,000 億回の演算を実現します。

1 ラックの NVIDIA T4 サーバーは、毎秒 10,000 兆回以上の演算を実現し、最高の処理能力が求められるリアルタイムの音声認識アルゴリズムや、その他大量の計算を要する AI タスクに適しています。

NVIDIA EGX により、エッジ アプリケーションはリモートでの展開と管理が可能になり、NVIDIA の NGC ソフトウェア ハブを使えば、AI チームや IT チームは幅広い種類の事前学習済み AI モデルや Kubernetes 対応の Helm チャートを利用してすぐに利用を開始して、自社のエッジ AI ソリューションへの組み込みができるようになります。

また、AI 主導のエッジ ネットワークの周辺部では、アップデートも簡単です。EGX ソフトウェア スタックは Linux と Kubernetes 上で実行されており、クラウドまたはエッジ サーバーからのリモート アップデートができるため、アプリケーションは継続的に改良されます。

NVIDIA EGX サーバーは、NGC で入手できる CUDA 高速化コンテナーに合わせて調整されています。

エッジ コンピューティングの未来

市場調査会社 IDC によれば、エッジ コンピューティングの市場は 2023 年までに 340 億ドル相当になると予想されています。5G の登場により、集中型データセンターでのコンピューティングからエッジ コンピューティングへの移行が可能になり、以前は利用できなかった潜在的な機会が開かれるでしょう。

ビデオ分析から自律走行車、ゲームまで、エッジ コンピューティングは、低レイテンシと接続性の要件を満たし、没入感の高いリアルタイムの体験を実現する可能性をさらに創出しています。

詳細については、エッジ コンピューティングのビジネスへの活用をご覧ください。