NVIDIAは、AIエージェントの行動をソフトウェアとハードウェアの両面から制御するオープンリファレンスデザイン「NVIDIA Open Agent Safety Platform」を発表した。AIエージェントの用途や要件に応じて、決定論的に行動を制御できる仕組みを提供する。

ソフトウェア側では、オープンソースのセキュリティランタイム環境「NVIDIA OpenShell」を提供。カーネルレベルの隔離機能を備えたサンドボックス内でAIエージェントを実行し、ファイル、認証情報、ツール、API、ネットワークなどへのアクセスをポリシーに基づいて制御する。エージェントの通信を追跡・記録するほか、「Policy Prover」により、エージェントの動作開始前に設定したポリシーを検証できる。

ハードウェア側では、BlueField-4 DPU上で動作するインフラ監視システム「NVIDIA Sentry」を提供する。AIエージェントのアクションや推論などを監視し、ポリシーをハードウェアレベルでも適用。不審な挙動やドリフトを検知した際には、隔離・遮断する。

OpenShellによる境界設定とSentryによるハードウェア監視を組み合わせ、AIエージェントの実行環境に多層的なセキュリティ制御を実装する。

引用元記事：https://enterprisezine.jp/news/detail/25206