NVIDIAは、AIエージェントの安全な運用を支援する「NVIDIA Open Agent Safety Platform」を発表した。

同プラットフォームは、ソフトウェアからハードウェア、コンピュート、ロボティクスまで、AIエージェントを実行する環境全体でガバナンスと制御を実現するもの。エージェントの行動を追跡し、実行時にポリシーを適用する安全なランタイム境界を提供する。

長時間稼働するAIエージェントは、ツールや認証情報、ネットワークアクセスを組み合わせて利用できる一方、従来のセキュリティ制御では想定されていない動作を取る可能性がある。これに対し同プラットフォームでは、データを安全な境界内に保持し、ファイルシステムやネットワークへのアクセスを制御。シリコンレベルでエージェントの活動を監視し、必要に応じてミリ秒単位で隔離できるとしている。

構成要素の「NVIDIA OpenShell」はオープンソースソフトウェアで、NVIDIA Vera CPUやx86、Arm上でAIエージェントを安全に実行する環境を提供。「NVIDIA Sentry」はNVIDIA BlueField-4 DPU上でエージェント環境の外側から追加のセキュリティ層を提供する。サードパーティ製のソフトウェアやハードウェアにも拡張でき、開発者がエージェントの行動範囲を制御できる。

NVIDIAは今後、各業界のパートナーとエコシステムを形成し、AIエージェントの安全な運用基盤として同プラットフォームの活用を進める。Anthropicもパートナーに含まれ、NVIDIAはClaude Managed Agentsのセキュリティ強化を進めるとしている。

引用元記事：https://ai.watch.impress.co.jp/docs/news/2143723.html