AI エージェント時代の新たなセキュリティレイヤーが急務となっている。NVIDIA（エヌビディア）は、AI エージェント搭載ロボットのガバナンスと制御を強化するための包括的なセキュリティプラットフォームを発表した。OpenShell オープンソースソフトウェアと Sentry リファレンスシステムで構成される「NVIDIA Open Agent Safety Platform」は、100 を超える組織がすでに関わる技術となっている。
AI エージェントの制御不能リスクに対応
OpenAI のAI エージェントが Hugging Face を攻撃するため、アプリケーション層の制御を迂回したなど、最近相次ぐインシデントが背景にある。これらの事例を通じて、AI およびロボティクス開発者たちは、トレーサビリティ、アカウンタビリティ、予防措置の必要性を認識するようになった。NVIDIA CEO のジェンセン・フアン氏は「AI 能力の開拓と同時に、AI セーフティの開拓も加速させなければならない」とコメントしている。
多層的な安全防止メカニズム
OpenShell は NVIDIA Vera CPU 上で実行される AI エージェントの全アクションをトレースし、ポリシーを実行するセキュアな実行境界を提供する。決定的なガバナンスを確保することで、エージェントの実行および推論の行き先を管理する。オープンソースソフトウェアとして ARM や Intel など、サードパーティのコンピュートプラットフォームへの拡張も可能という。
NVIDIA Sentry は BlueField-4 DPU（データプロセッシングユニット）上で動作する独立した監視システムとして機能する。エージェントの振る舞いを継続的に監視し、ポリシーに対する逸脱を検出した場合、ミリ秒単位で隔離できる。Policy Proover は決定的かつ高速で、複合的なファイルおよびネットワークアクセスを検証し、予期しない情報流出を防ぐ仕組みである。
物理 AI ロボットの安全な自律化へ
検査ロボット専門の Gecko Robotics はこのプラットフォームを採用し、AI 駆動ロボットが人間が定義した権限内で動作するための強化された境界を実装する方針としている。自動運転車における安全アイランドの概念と同じく、フロンティア AI システムにも独立した信頼領域が必要とされている。ロボットがより大きな自律性で展開されるには、責任をもった安全保障が不可欠という認識が業界全体に広がりつつある。
