エッジコンピューティングとは?

エッジコンピューティングとは、AI ソフトウェアを搭載したプロセッサを使用して、可能なる限りデータが生成される場所の近くでデータの取得と処理を行うという考え方である。

エッジコンピューティングとドーナツには共通点がひとつあります。消費者に近ければ近いほど良いという点です。角のドーナツ店まで行くには少し時間がかかりますが、手の届くところにドーナツの箱があれば、すぐに満足感を得ることができます。

エッジコンピューティングにも同じことが言えます。データをクラウドで実行中の AI アプリケーションに送信すると応答が得られるまでに時間がかかりますが、そのデータをエッジデバイスで処理すると、まるであのピンクの箱からグレーズがかかったカラフルなスプリンクルがちりばめられたドーナツを直接手に取るようなものです。

エッジコンピューティングでは、ドーナツと同じく、近くにあることが重要です。

エッジコンピューティングとは、数十年前からある言葉で、AI ソフトウェアを搭載したプロセッサを使用して、可能なる限りデータが生成される場所の近くでデータの取得と処理を行うという考え方です。エッジコンピューティングでは、データをローカルで、つまりクラウドやデータセンターではなくネットワークの「エッジ」で処理するため、レイテンシと必要な帯域幅が最小限に抑えられ、自律動作マシンによるリアルタイムのフィードバックや意思決定が可能になります。

多くの場合、プロセッサはインテリジェントなセンサーの形で IoT デバイスに組み込まれます。これらのセンサーは工場の重機に取り付けられ、機械からのデータを処理して、異常が事故につながるような場合は管理者に通知がいくようにすることも可能です。

企業では、エッジサーバーをセンサーのすぐ近くに設置することが多く、通常は店舗、病院や倉庫内のサーバールームや収納室に設置します。

エッジコンピューティングは常時稼働し、瞬時にフィードバックを返すので、自律走行車のような用途では特に重要です。データ処理や応答の時間を数ミリ秒でも短縮することが事故回避の鍵となるからです。エッジでの瞬時のフィードバックは、医師が患者の治療のために正確でリアルタイムなデータを必要とする病院でも重要です。

エッジコンピューティングはいたるところにあり、小売店のスマートなセルフレジから、倉庫でのサプライチェーンロジスティクスや品質検査の支援まで、あらゆるものに使われています。

エッジコンピューティングはなぜ必要か？

2025 年までに、1,500 億個のマシンセンサーと IoT デバイスが、処理を必要とする連続的なデータをストリーミングするようになると推定されています。これらのセンサーは常時稼働しており、モニタリング、データ受信、認識しているものの推論を行い、アクションを起こします。

エッジコンピューティングはこのデータを発生源で処理するため、レイテンシ、つまりデータをクラウドやコアデータセンターでさらに処理するために、ネットワークでデータを送信するのを待つ時間が低減するので、企業はリアルタイムでより早く洞察力を得ることができます。

データの収集や分析に高い効率性と速度を要する、このような計算負荷の高いワークロードで使われるデータの急増により、AI を展開するための高性能なエッジコンピューティングが求められています。

さらに、4G よりも 10 倍の速度が期待される 5G ネットワークなどの新しいテクノロジによって可能性が広がるのは AI 対応のサービスのみであるため、エッジコンピューティングのさらなる高速化が必要になります。

エッジコンピューティングの仕組み

エッジコンピューティングは、データの発生源またはエンドユーザーにできる限り近くでデータ処理を行うことにより機能し、データ、アプリケーション、コンピューティングパワーを、集中型ネットワークやデータセンターから離れた場所に保ちます。

データセンターは集中型サーバーであり、多くの場合、不動産や電力が安価な場所に置かれます。最速の光ファイバーネットワークであっても、データは光の速度より速くは移動できません。このような、データとデータセンター間の物理的な距離がレイテンシの原因となります。コンピューティングをエッジに、つまりデータの発生源のより近くに持ってくることで、エッジコンピューティングはレイテンシをめぐる問題を軽減します。

エッジコンピューティングは、多数のネットワークノードで実行することで、データを収集する場所と処理する場所の距離を実際に近づけることができ、ボトルネックを削減してアプリケーションを高速化することができます。

ネットワークの周辺部では、数十億個もの IoT デバイスやモバイルデバイスが、小さな組み込みプロセッサ上で動作しており、これはビデオのような基本的なアプリケーションには理想的です。

いまの世界の産業や自治体が IoT デバイスからのデータに AI を適用していなければ、これで何の問題もありません。しかし、実際は適用しています。

エッジ AI を使うことで、デバイスはインターネットに常時接続していなくてもよくなります。それどころか、デバイスは接続なしに独立してデータを処理し、意思決定を行うことができます。

たとえば、ロボットのマイクロプロセッサ上のエッジ AI アプリケーションは、ロボットからのデータをリアルタイムで処理し、結果をデバイスのローカルに保存することが可能です。その後、ロボットはインターネットに接続して特定のデータをクラウドに送信し、保管やさらなる処理を行うことができます。もしエッジで動作していなければ、ロボットはデータをクラウドにストリーミングし続け (バッテリーに負荷をかけながら)、データ処理にもっと時間がかかり、インターネットへの常時接続が必要になるでしょう。

エッジコンピューティングのメリット

エッジコンピューティングに移行することで、企業は所有する大量のデータセットから洞察を探り出す新たな機会を得られます。エッジコンピューティングの主なメリットは次の 4 つです。

レイテンシの低減: データを収集して集中型データセンターやクラウドにアップロードするのではなく、AI コンピューティングをデータの生成場所に持ってくることで、レイテンシが低減されます。
セキュリティの向上: エッジコンピューティングではローカルでデータを処理できるため、機密データをパブリッククラウドに送信する必要が減ります。
費用の削減: データが作成されるほど帯域幅とデータ保管のコストは増えますが、エッジコンピューティングを使ってローカルでデータを処理すると、クラウドに送信する必要のあるデータが減ります。
範囲の拡大: 従来のクラウドコンピューティングではインターネットへのアクセスが必要でしたが、エッジコンピューティングはインターネットを利用することなくデータを処理するため、以前は対象外となっていた遠隔地にも範囲が広がります。

エッジコンピューティング vs クラウドコンピューティング vs フォグコンピューティング

これらのコンピューティング手法は、コンピューティング性能を強化するために使用され、よく一緒に言及されることがあります。しかし、それぞれに明確な違いがあります。

クラウドコンピューティングは、インターネット上にホストされたリモートサーバーのネットワークを使用します。
エッジコンピューティングは、デバイスやサーバーのエッジを使用します。
フォグコンピューティングは、ネットワークアーキテクチャのローカルエリアネットワーク (LAN) を使用します。

近年、処理手法として好まれてきたのは、容量と弾力性に優れ、物理的なハードウェアなしにデータを保管し、処理できるクラウドコンピューティングでした。

しかし、クラウドコンピューティングは光の速度とインターネット帯域幅の制限を受けます。多くの企業がそれぞれの製品に AI を導入するほど、より速く、より信頼できるデータへの要求が増え、クラウドコンピューティングのネットワーク帯域幅に負担がかかります。

この負担を軽減し、データ処理と応答時間を速くするために、エッジコンピューティングは多くの IoT デバイスに取り入れられるようになりました。

フォグコンピューティングはエッジコンピューティングと似ています。違いは、エッジコンピューティングがネットワークのエッジでデータを処理するのに対し、フォグコンピューティングはデバイスのローカルエリアネットワーク上でデータを処理することです。エッジコンピューティングよりも多くのデータを処理できる点が強みですが、フォグコンピューティングは LAN 内のデバイスとの物理的な接続に制限されます。

エッジコンピューティング: IoT と 5G

エッジコンピューティングは、5G ネットワークや IoT アプリケーションなど、最近の技術の進歩に重要な役割を果たしています。

エッジと IoT

IoT デバイスから来る洪水のようなデータが送られてくるので、メーカーはデータをエッジで処理すると、経済的にも運用面でもメリットがあることに気づきました。エッジコンピューティングを使えば、レイテンシを抑え、データの保管と処理のための費用がかかるクラウドへの依存を減らして、IoT デバイスやセンサーを運用できます。

たとえば、インテリジェントビデオ分析のための NVIDIA Metropolis プラットフォームを使うと、何兆個ものセンサーや IoT デバイスからのデータをリアルタイムで分析できます。これにより、異常検出や災害対応向けの公共サービス、供給予測のためのロジスティクス、事故検出や交通信号最適化のための交通管理などのアプリケーションに役立つ実践的な洞察が得られます。

効果的に災害対応を行うためには、適切なタイミングで行動することが欠かせません。NVIDIA Metropolis のようなエッジプラットフォームを導入すると、ファーストレスポンダー対応に必要な人員、車両、設備の位置に関するデータが瞬時に、また継続的に得られるようになり、市民の安全確保に役立ちます。さらに、セルラーネットワークやインターネット接続経由ではなく IoT センサーや IoT デバイスからデータを収集するエッジコンピューティングの導入は、より信頼できる効率的な災害対応計画を可能にし、人々の命を救うことにつながります。

エッジと 5G

エッジで生成されるデータの量は指数関数的に増えており、5G インフラストラクチャの展開とともに、新しい種類のアプリケーションが登場しています。

AI によって大量のデータから洞察を得られるようになりますが、これらのアプリケーションは、そのデータへのアクセスを提供する 5G の高速帯域幅、低レイテンシ、信頼性に依存します。

5G の展開とともに、AI のワークロードをエッジで実行し、リアルタイムの分析を可能にする幅広いサービスのポートフォリオが登場しています。これらは、カメラその他のセンサーで設備や機械を遠隔制御するものから、カメラを使って現場のセキュリティや作業の安全性を向上させるものまでさまざまです。そしてそのすべてが、全体でゼタバイト単位のデータを消費し生成するであろう、メディアを豊富に使う数十億個ものデバイスに対応しています。

エッジコンピューティングはこのような技術革新に不可欠であり、5G の稼働に必要なレイテンシ要件を満たす唯一の方法です。また、5G のようなマルチテナントの 5G エッジノードを安全かつ効率的に仮想化するのにも役立ちます。

エッジコンピューティング 4 つの例

エッジコンピューティングは、レイテンシを低減するだけでなく、エンドユーザーにより良いシームレスな体験を提供します。多数の産業の中から、エッジアプリケーションの例をいくつかご紹介します。

小売業者のためのエッジコンピューティング

世界最大の小売業者が、スマートな小売業者になるためにエッジ AI を活用しています。インテリジェントなビデオ分析、AI を使った在庫管理、顧客分析と店舗分析を組み合わせることで、利幅を上げ、より良い顧客体験を提供する機会が得られます。

たとえば、NVIDIA EGX プラットフォームを使用することで、Walmart は生成される毎秒 1.6 テラバイトを超えるデータをリアルタイムに処理できます。AI を幅広い種類のタスクに使うことができ、棚を補充する、ショッピングカートを回収する、追加でレジを開けるなどを自動的にスタッフに通知することができます。

数百台以上にのぼる接続されたカメラからのデータが、NVIDIA EGX が現場で処理する AI 画像認識モデルに送られます。一方、遠隔地にある小規模なビデオフィードのネットワークは、Jetson Nano によって処理することができ、EGX やクラウド上の NVIDIA AI と連携しています。

店舗の通路は、完全自律型の有能な対話型 AI ロボットによる監視が可能です。このロボットには、Jetson AGX Xavier が搭載され、SLAM ナビゲーション用のために NVIDIA Isaac が実行されています。このすべては、EGX やクラウド上の NVIDIA AI と互換性があります。

アプリケーションを問わず、エッジでの NVIDIA T4 と Jetson GPU は、インテリジェントなビデオ分析と機械学習アプリケーションのための強力な組み合わせです。

エッジ AI によって、通信事業者は顧客に勧める次世代のサービスを開発し、新たな収入源を提供することができます。

NVIDIA EGX を使用すれば、通信事業者は画像認識モデルを使ってビデオカメラのフィードを分析し、客足から商品棚の監視、配送まで、あらゆる分析に役立てられます。

たとえば、セブン-イレブンで、陳列棚のドーナツが土曜日の朝早くに品切れになった場合、コンビニエンスストアの店長は、補充が必要であるとの通知を受け取ることができます。

都市のためのエッジコンピューティング

Fortune 500 企業もスタートアップ企業も、自治体のためにエッジ AI を採用しています。たとえば、さまざまな都市が、交通渋滞を緩和して安全性を向上させるために、AI アプリケーションを開発しています。

Verizon は、IoT アプリケーションフレームワークである NVIDIA Metropolis を Jetson のディープラーニング機能と組み合わせて使用しており、多数のビデオデータのストリームを分析して交通の流れの改善、歩行者の安全強化、市街地の駐車場所の最適化などの方法を探すことができています。

カナダのオンタリオ州に拠点を置くスタートアップ企業の Miovision Technologies は、ディープニューラルネットワークを使って自社のカメラや都市インフラからのデータを分析し、交通信号機を最適化して、車両が動き続けるようにしています。

この領域での Miovision やその他の企業の作業は、NVIDIA Jetson コンパクトスーパーコンピューティングモジュールのエッジコンピューティングと、NVIDIA Metropolis からの洞察によって高速化できます。エネルギー効率に優れた Jetson は、AI 処理のために複数のビデオフィードを同時に扱うことができ、この組み合わせにより、ネットワークのボトルネックや混雑に代わるものが実現します。

エッジコンピューティングは拡張も可能です。NVIDIA Metropolis のような産業アプリケーションフレームワークやサードパーティ製の AI アプリケーションは、最適なパフォーマンスのために NVIDIA EGX プラットフォーム上で稼働します。

自動車メーカーと製造業者のためのエッジコンピューティング

工場、小売業者、製造業者、自動車メーカーが生み出すセンサーデータは、相互に参照して使えばサービスを向上させることができます。

このセンサーフュージョンによって、小売業者は新しいサービスを実現できます。ロボットは、対話によるやりとりのために、音声や自然言語処理モデル以上のものを使うことが可能になり、同じロボットで、ビデオフィードを使って姿勢推定モデルを実行することもできます。音声センサーとジェスチャーセンサーの情報を結び付けることで、ロボットは、お客様がどのような品物や案内を必要としているのかをより良く理解できるようになります。

センサーフュージョンは、自動車メーカーが競争で優位に立つために採用できる新しいユーザー体験も作り出せます。自動車メーカーは、姿勢推定モデルを使って、ドライバーがどこを見ているかを理解するとともに、自然言語モデルを使って、車の GPS マップに表示されているレストランの位置との関連でリクエストの内容を理解することができます。

ゲームのためのエッジコンピューティング

ゲーマーは、高パフォーマンス、低レイテンシのコンピューティング能力を要求することで知られています。エッジでの高品質クラウドゲーミングでは、その要求の水準が上がります。バーチャルリアリティ、拡張現実、AI を含む次世代のゲームアプリケーションは、さらに大きな挑戦となります。

通信事業者は、世界中のゲーマーのために、レイトレーシングと AI によって強化された映画品質のグラフィックスを実現する NVIDIA RTX サーバーを使っています。これらのサーバーは、NVIDIA のクラウドゲーミングサービスである GeForce NOW の動力となっており、性能の足りないハードウェアや互換性のないハードウェアをエッジで強力な GeForce ゲーミング PC に変身させます。

Taiwan Mobile、韓国の LG U+、日本のソフトバンク、KDDI、ロシアの Rostelecom はすべて、各社のクラウドゲーミングの顧客向けにサービスを展開する計画を発表しています。

NVIDIA のエッジソリューション

NVIDIA では、EGX プラットフォームによってエッジコンピューティングを次のレベルに引き上げ、企業はスケーラブルなソフトウェア、IoT センサー、エッジサーバーを組み合わせたエッジソリューションを導入しやすくなっています。

何ラックもの CPU が稼働する従来のエッジサーバーの代わりに、より省スペースの NVIDIA EGX は、スーパーコンピューティングモジュールの Jetson シリーズから、NVIDIA T4 GPU や先日発表された NVIDIA EGX A100 を搭載したフルラックのサーバーまで、NVIDIA AI 全般との互換性を提供します。

AI 用のエッジコンピューティングを運用している企業には、小型の NVIDIA Jetson Nano 上で低レイテンシの AI アプリケーションを展開するという柔軟性が提供されています。このコンパクトなスーパーコンピューターは、画像認識などのタスクにて、わずか数ワットで毎秒 5,000 億回の演算を実現します。

1 ラックの NVIDIA T4 サーバーは、毎秒 10,000 兆回以上の演算を実現し、最高の処理能力が求められるリアルタイムの音声認識アルゴリズムや、その他大量の計算を要する AI タスクに適しています。

NVIDIA EGX により、エッジアプリケーションはリモートでの展開と管理が可能になり、NVIDIA の NGC ソフトウェアハブを使えば、AI チームや IT チームは幅広い種類の事前学習済み AI モデルや Kubernetes 対応の Helm チャートを利用してすぐに利用を開始して、自社のエッジ AI ソリューションへの組み込みができるようになります。

また、AI 主導のエッジネットワークの周辺部では、アップデートも簡単です。EGX ソフトウェアスタックは Linux と Kubernetes 上で実行されており、クラウドまたはエッジサーバーからのリモートアップデートができるため、アプリケーションは継続的に改良されます。

NVIDIA EGX サーバーは、NGC で入手できる CUDA 高速化コンテナーに合わせて調整されています。

エッジコンピューティングの未来

市場調査会社 IDC によれば、エッジコンピューティングの市場は 2023 年までに 340 億ドル相当になると予想されています。5G の登場により、集中型データセンターでのコンピューティングからエッジコンピューティングへの移行が可能になり、以前は利用できなかった潜在的な機会が開かれるでしょう。

ビデオ分析から自律走行車、ゲームまで、エッジコンピューティングは、低レイテンシと接続性の要件を満たし、没入感の高いリアルタイムの体験を実現する可能性をさらに創出しています。

詳細については、エッジコンピューティングのビジネスへの活用をご覧ください。