サイバーセキュリティクラウドは7月28日、LLM（大規模言語モデル）やAIエージェントを活用したシステムを対象とする「AIアプリケーション脆弱性診断サービス」の提供を開始した。生成AI特有のセキュリティリスクを攻撃者視点で検証し、改善策を提示するプロフェッショナルサービスとして、AIアプリケーションの安全性向上を支援する。

生成AIの普及に伴い、AIエージェントやMCP（Model Context Protocol）の活用が進む一方、プロンプトインジェクションや機密情報漏えい、不正なツール実行などAI固有の脅威が顕在化している。同サービスは、LLMを活用したWebアプリケーションやRAGシステム、AIエージェント、MCP対応システムを対象に、国際的な指針「OWASP Top 10 for LLM Applications」に基づく診断を実施する。

診断では、自動ツールによる検査に加え、専門家によるAI Red Teaming（疑似攻撃）を組み合わせることで、権限設計や業務フローに起因するリスクまで洗い出す。サービス提供にあたり、OpenAI主催の「Red-Teaming Challenge」で実績を持つKonoe Intelligenceと提携し、AI分野の専門知見と同社のWeb・クラウドセキュリティ技術を組み合わせた診断体制を構築した。

本サービスは、AIデータフローを可視化・制御する「AI MONBAN」に続くAIセキュリティ製品の第2弾となる。診断後は、脆弱性の重要度や影響、改善策をまとめた報告書を提供するほか、結果説明や改善コンサルティング、実装支援まで含め、企業のAIシステムの安全な開発・運用を支援する。

引用元記事：https://voix.jp/biz/news-analysis/175652/