オープン ソース ソフトウェアは、世界経済の重要な柱です。専門家コミュニティが技術にアクセスし、それを観測できるようにすることで、クラウド コンピューティング、金融サービス、製造業、通信、政府機関、インターネット サービスの基盤を支えています。
サイバーセキュリティは、オープン ソース ソフトウェアの恩恵を最も大きく受けている分野のトップ 3 の一つです。Open Secure AI Alliance は、Linux Foundation による Akrites イニシアチブおよび OpenSSF コミュニティの取り組みを基盤として、オープン テクノロジを活用して脆弱性の修正と開示に取り組みます。
オープン ソースがソフトウェアの共有基盤を築いたのと同様に、米国とそのパートナーは現在、AI セキュリティにおいて選択を迫られています。すなわち、インフラを保護する防御手段を、少数の不透明なシステム内に閉じ込めるのか、それとも、あらゆる防御側の誰もが検証、適応、展開できるオープンなモデル、ハーネス、ツールに基づいて構築するのか、という選択肢です。
世界には、クローズド モデルとオープン モデルの双方が必要とされています。サイバーセキュリティにおいて、オープン モデルとオープン ハーネスは不可欠です。これらは防御能力を民主化し、防御側の透明性を高め、データを保護しながらサイバー防御を可能にし、カスタマイズ可能なローカライズされた制御によってフロンティアのクローズド モデルを補完するからです。オープン ソースは、単一障害点のない、大規模に分散されたコミュニティ主導かつ自己管理型の防御を可能にします。
オープン モデルは、他の強力な技術と同様に、安全対策を弱体化させたり、機能をサイバー攻撃に転用したりする試みなど、悪用される可能性があります。しかし、そうしたリスクはオープン システムに固有のものではなく、高度な AI が展開されるあらゆる場面で管理されなければならなりません。
最近の Hugging Face におけるセキュリティ インシデントは、サイバー防御者にとって、自己防衛のためにオープンで最先端の自律型システムが必要であることを改めて明確に示しました。攻撃者と防御者を区別できないクローズドな AI ツールが不可欠なフォレンジック分析を妨げた際、Hugging Face は自社のインフラ上でオープンウェイトの GLM 5.2 モデルを実行し、1 万 7,000 件以上のアクションを分析して侵入を封じ込めました。
このインシデントは、ある現実的な真実を浮き彫りにしました。すなわち、防御側が自社のインフラ上で高度な AI を検証、適応、実行できない場合、スピードが最も重要となるまさにその瞬間に、対応能力が制約されてしまうということです。企業や国々は、重要な産業がマルチ ベンダーのエコシステム全体にわたりセキュリティ システムを構築し、単一障害点を回避できるよう、オープンで最先端の防御ツールと技術が必要です。
これこそが Open Secure AI Alliance の使命です。すなわち、世界中の防御者が、信頼でき、制御可能なオープンで最先端のツールを確実に利用できるようにすることです。
クラウド コンピューティング、サイバー セキュリティ、エンタープライズ ソフトウェア、オープン ソース財団、AI 研究の各分野のリーダー企業――NVIDIA、 Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux Foundation、Microsoft、NAVER、 NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、Siemens、Snowflake、SpaceXAI、Synopsys、Thinking Machines Lab および TrendAI は、AI 時代においてソフトウェアやエージェントを保護するためのオープンな技術、手法、ツールを開発、共有する取り組みである Open Secure AI Alliance の創設パートナーです。
オープン モデルは、サイバー攻撃に悪用されたり、安全装置を取り除くように改変されたりする可能性があるため、本質的に安全性に欠けると主張する声もあります。こうしたリスクは確かに存在しますが、クローズドなシステムでも消えるわけではなく、単に重み (ウェイト) を非公開にしておくだけでは、執拗な攻撃者が強力な AI を探し出し、悪用することを防ぐことはできません。
適切な対応は、防御者に対して高性能なオープン システムへのアクセスを拒否することではありません。オープン性を、強力な安全対策、悪意のある悪用に対する明確なルール、厳格な評価、そして迅速な是正措置と組み合わせることです。サイバー セキュリティにおいて、より安全な道とは、社会が依存するシステムをテストし、検証し、強化する能力をより多くの防御者に与える道なのです。
防御者は、最先端のクローズド モデルと最先端のオープン モデルの両方を連携させて活用し、課題に応じて適切なシステムを選択するとともに、セキュリティ上必要とされる場面では常に透明性、適応性、および主権的な管理が確保されるようにする必要があります。
オープンな研究がサイバー セキュリティとAIの安全性を高める
AI エージェントは単なる言語モデルではありません。それは、モデル、ハーネス、ガードレールから構成される複雑なシステムです。
真の AI の安全性とセキュリティは、モデルの重みが公開されているか非公開であるかという点だけでなく、ID、権限、ハーネス、ガードレール、ログ、評価といったエージェント スタック全体に依存しています。オープンなハーネスやツールがあれば、多くの防御者がこれらの制御を容易に検証、テスト、改善できるようになります。
NVIDIA は、新しいサイバーセキュリティ ツールや技術の開発を加速させるため、オープンなモデル、モデルの重み、データ、および新しいエージェント ハーネスの研究を Open Secure AI Alliance に提供しています。
エージェント ハーネス向けに高度な AI 安全性機能へのアクセスを容易にするため、新しいオープン ソース プロジェクト NVIDIA Labs Object-Oriented Agent (NOOA) が GitHub で公開されました。NOOA 研究フレームワークにより、ハーネスとモデルの統合が強化され、エージェントの挙動のテスト、追跡、監査、ガバナンスが容易になります。
アライアンス全体では、貢献者たちが、アイデンティティや分離から、安全なモデル フォーマット、マルチモデル スキャン、安全なコーディング ワークフローに至るまで、エージェント向けのオープンな防御スタックを構築しています。
HPE は、SPIFFE/SPIRE に貢献しています。このプロジェクトは、AI エージェントやサービスを暗号学的に検証し、承認されたワークロードのみが、企業リソースに通信、アクセスができるようにする、ゼロトラスト ID フレームワークの標準と手法を策定しています。
Hugging Face は、AI モデルの重みを保存するための安全なフォーマットであり、透明性を確保し、リモート コード実行がないことを保証する Safetensors を PyTorch Foundation に提供しました。
IBM と Red Hat の Lightwell は、デジタル署名付きパッチを用いて、オープン ソースのサプライチェーン全体にセキュリティを拡張します。
Microsoft の MDASH マルチモデル エージェント型スキャン ハーネスは、特化型 AI エージェントを連携させて、悪用可能なバグを発見、検証、証明します。
SpaceXAI は、信頼性、透明性、そして新たな機能の促進を目的として、ターミナル ベースの AI コーディング エージェント Grok Build をオープン ソース化し、開発者や研究コミュニティを支援するため、Grok シリーズのモデルの重みもオープン ソース化する計画です。
政策立案者および規制当局への呼びかけ
政策立案者や規制当局が AI の安全性に取り組む中で、オープンなモデル、ハーネス、セキュリティ ツールを、AI およびサイバーセキュリティ政策において負債ではなく防御資産として認識することが極めて重要となります。最先端のオープン AI システムに対する一律の規制は、防御能力を弱体化させ、少数のクローズドなプロバイダーに権力、依存、脆弱性が集中するリスクをもたらします。
企業や政府は、過去の世代がオープン ソース ソフトウェアに投資してきたのと同様に、AI 防御のための共有オープン インフラ――データセット、評価フレームワーク、攻撃シミュレーター、レッドチーミング ツール――に投資すべきです。
私たちが築くべき未来
AI エージェントの時代は、レジリエンスと共有されたセキュリティの時代となり得ます。適切な選択を行えば、オープンで安全な AI システムは、防御側に必要なツールを提供し、競争を強化し、技術的リーダーシップを拡大し、この卓越した技術の安全性とセキュリティが、すべての人々のためにオープンな形で構築されることを保証できます。
その未来は、秘密主義こそが安全であるという前提だけでは確保されません。精査に耐えうるほど強靭で、改善が可能な柔軟性があり、防御者のコミュニティ全体を結集できるオープンなシステムを構築することによって初めて確保されるのです。
その未来は築く価値があります。Open Secure AI Alliance は、政府、産業界、研究者に対し、AI 時代を守るための取り組みに共に参加するよう呼びかけています。
Open Secure AI Alliance への参加に関心のある方は、こちらの詳細情報をご覧ください。