ProVisionは、AIシステムに特化した「AIシステム脆弱性診断サービス」の提供を開始した。従来のWebアプリケーションやサーバーなどに対する脆弱性診断に加え、プロンプトインジェクションやRAG汚染、機密情報漏洩など、AIシステム特有のリスクを検証する。

対象となるのは、AIを組み込んだWebシステムやチャットボット、社内文書検索AI、AIエージェントなど。AIへの入力や生成された回答、参照データ、AIエージェントの権限などを検証し、AIシステム全体のセキュリティ向上を支援する。

診断では、Webアプリケーションやサーバーなどの基盤部分を対象とした「通常の脆弱性診断」と、AI固有のリスクを検証する「AIシステム特有の脆弱性診断」の両方を実施する。

同サービスの特徴は、Web層とAI層を組み合わせた診断に加え、自動診断ツールとセキュリティエンジニアによる手動診断を組み合わせたハイブリッド検証を行う点にある。AIシステムでは、入力内容や参照データ、処理ロジックなどの組み合わせによって挙動が変化するため、ツールだけでは発見が難しい脆弱性についても多角的に検証する。

診断結果は、脆弱性の深刻度や想定される影響、再現手順、具体的な対策方法などをまとめた報告書として提供する。緊急性の高い脆弱性が診断期間中に見つかった場合は、最終報告を待たずに当日中に速報を共有する体制も整える。

ProVisionは、ソフトウェアテスト・品質検証事業で培ったノウハウとセキュリティ専門ベンダーとの連携体制を活用し、AIシステムの安全性向上を支援する。今後は、新たな攻撃手法や脆弱性情報を踏まえて診断内容を継続的に更新するとともに、診断後の品質検証やAIの継続的な精度向上まで支援し、安全かつ安定したAIシステムの運用につなげる。

引用元記事：https://ccsi.jp/14519/