NeMo Guardrails により、企業は大規模言語モデルで構築されたアプリケーションを、自社の安全およびセキュリティ要件に沿った形で維持することが可能に

NVIDIA が新たに公開したオープンソース ソフトウェアは、開発者がジェネレーティブ AI アプリケーションを指導し、軌道に乗った優れたテキストの応答を作成するのに役立ちます。

NeMo Guardrails は、大規模言語モデル (LLM) を搭載したスマート アプリケーションの正確性、適切性、文脈の整合性、安全性の確保をサポートします。このソフトウェアには、テキストを生成する AI アプリケーションに安全性を付加するために企業が必要とするすべてのコード、サンプル コード、そしてドキュメントが含まれています。

多くの産業がこれらの AI アプリケーションを支える強力なエンジンである LLM の採用が進む中、今回のリリースが行われます。LLM は、顧客の質問に答えたり、長い文書を要約したりしています。さらにはソフトウェアを書いたり、薬の設計を加速させたりしています。

NeMo Guardrails は、この新しいクラスの AI 搭載アプリケーションの安全性を保つために、ユーザーを支援するように設計されています。

強力なモデル、強固なレール

ジェネレーティブ AI における安全性は、業界全体の懸念事項です。NVIDIA は、OpenAI の ChatGPT のようなすべての LLM で動作できるように NeMo Guardrails を設計しました。

このソフトウェアにより、開発者は LLM を搭載したアプリケーションが安全で、企業の専門領域内にとどまるように指導することができます。

NeMo Guardrails は、開発者が 3 種類の境界を設定することができます：

• 話題のガードレール
  アプリが望ましくない領域の話題に逸脱してしまうことを防ぎます。例えば、カスタマー サービスが天気に関する質問に答えないようにします。
• 安全性ガードレール
  アプリが正確で適切な情報で応答することを保証します。不要な言葉をフィルタリングし、信頼できる情報源のみを参照するように設定できます。
• セキュリティ ガードレール
  安全性が確認されている外部のサードパーティ アプリケーションとのみ接続するよう制限できます。

事実上すべてのソフトウェア開発者が NeMo Guardrails を使用することができるため、機械学習の専門家やデータ サイエンティストである必要はありません。数行のコードで素早く新しいルールを作成することができます。

使い慣れたツールとの連携

NeMo Guardrails はオープンソースなので、エンタープライズ アプリの開発者が使用するすべてのツールと連携することができます。

例えば、LLM の性能にサードパーティのアプリケーションをプラグインするために、開発者が急速に採用しているオープンソースのツールキットである LangChain 上で実行することができます。

LangChain ツールキットとその名を冠したスタートアップを設立した Harrison Chase 氏は次のように述べています。「ユーザーは LangChain のワークフローに NeMo Guardrails を簡単に追加して、AI 搭載アプリに安全な境界線を素早く設置することができます」

さらに、NeMo Guardrails は、Zapier などの幅広い LLM 対応アプリケーションと連携できるように設計されています。Zapier は 200 万社以上の企業に利用されている自動化プラットフォームであり、ユーザーがどのように AI を業務に組み込んでいるかを目の当たりにしています。

Zapier の AI 担当リード プロダクト マネージャーである Reid Robinson 氏は次のように述べています。「安全性、セキュリティ、信頼性は、責任ある AI 開発の礎であり、これらのガードレールを AI システムに埋め込むという NVIDIA の積極的なアプローチに期待しています。AI が頼もしく信頼できる存在である未来を築くことで、さまざまな面でより良い影響が生まれることを楽しみにしています」

オープンソースで提供、NVIDIA からも入手可能

NVIDIA は、NeMo Guardrails を NVIDIA NeMo フレームワークに組み込んでいます。このフレームワークには、ユーザーが企業独自のデータを使って言語モデルのトレーニングとチューニングを行うために必要なすべての要素が含まれています。

NeMo フレームワークの多くは、すでにオープン ソースコードとして GitHub で公開されています。また、企業は、NVIDIA AI Enterprise プラットフォームの一部として、完全かつサポートされたパッケージとして入手することができます。

NeMo はサービスとしても提供されています。これは NVIDIA AI Foundations の一部であり、独自のデータセットやドメイン知識に基づいてカスタムのジェネレーティブ AI モデルを作成、実行したい企業向けのクラウド サービスです。

韓国大手のモバイル事業者は、NeMo を利用してインテリジェント アシスタントを作り、すでに顧客と 800 万回会話をしています。スウェーデンの研究チームは、NeMo を採用して、国内の病院、政府機関、および企業向けのテキスト機能を自動化できる LLM を作成しました。

コミュニティの継続的な取り組み

ジェネレーティブ AI のための優れたガードレールを構築することは難しい課題であり、AI の進化とともに多くの継続的な研究が必要になります。

NVIDIA は、数年にわたる研究の成果である NeMo Guardrails をオープンソース化し、開発者コミュニティの多大なエネルギーと AI 業務の安全性に貢献します。

ガードレールに関するコミュニティと NVIDIA の取り組みは、企業がスマート サービスを安全、プライバシー、セキュリティの要件に合致させ、イノベーションの原動力が軌道に乗るよう支援するものです。

NeMo Guardrails の詳細や導入方法については、技術ブログをご覧ください。