三井物産セキュアディレクション（MBSD）とSMBCサイバーフロントは、企業がAIエージェントを安全に活用するための国産セキュリティ製品の開発に着手した。AIエージェントや生成AIサービスそのものを提供するのではなく、AI利用時のリスクを制御する「ガードレール」として機能する製品を目指し、実運用を想定したPoC（概念実証）も実施する予定だ。

生成AIやAIエージェントの活用は、ソフトウェア開発や市場調査、文書作成など幅広い業務へ拡大している。一方で、機密情報の漏えいや脆弱なコード生成、不適切な権限行使など、新たなセキュリティリスクやガバナンス上の課題も顕在化している。今後は用途特化型のAIエージェントが増加し、多様なサービスが乱立することが予想されるため、安全な活用を支える統制基盤の整備が企業の重要課題となっている。

今回の取り組みでは、MBSDが持つAIセキュリティ分野の技術力と、SMBCサイバーフロントのコンサルティング知見や顧客基盤を組み合わせる。両社はこれまで共同でAIセキュリティに関する調査・検討を進めており、その成果を踏まえて開発フェーズへ移行した。

開発する製品は、組織が承認していないAIサービス「Shadow AI」の利用を検知するほか、AIエージェントによる機密情報の外部送信や危険なコマンド実行などの行動を監視・制御する機能を備える。AI活用を制限するのではなく、安全な範囲で導入・活用を促進することを目的としている。

主な機能として、組織ポリシーに基づくAIエージェントの一元的な行動制御、マルチターンのメモリ汚染攻撃などルールベースでは検知が難しい攻撃への対応、ゲートウェイ型・プロキシ型の選択可能な導入形態を提供する。また、リアルタイム検査と事後検査を組み合わせることで、情報漏えいなどの重大インシデントの未然防止を支援する。

さらに、複数のAIエージェントの行動ログを一元管理し、インシデント発生時の原因究明や復旧対応、監査証跡として活用できる機能も搭載する。日本企業の規制対応や商慣習を踏まえた国産製品として、AI活用とセキュリティ確保の両立を支援していく考えだ。

引用元記事：https://news.nicovideo.jp/watch/nw19404221