〜プロンプトインジェクションなどAI特有のリスクを可視化〜

株式会社神戸デジタル・ラボ（本社：兵庫県神戸市中央区、代表取締役社長：玉置 慎一、以下「KDL」）は、生成AIを活用したWebアプリケーション向けに、AI特有のセキュリティリスクを検査・分析する「AIシステムのセキュリティ診断サービス」をリリースしました。

本サービスは、AIモデルの誤出力や情報漏えい、不正利用といった新たな脅威を事前に把握し、適切な対策を講じることを目的としています。

■ サービス提供の背景

近年、生成AIや大規模言語モデル（LLM）を業務システムに組み込む企業が急増していますが、それに伴い、AI特有のセキュリティリスクも顕在化しています。

たとえば、

• ユーザー入力を悪用してAIの応答を不正に操作する「プロンプトインジェクション」

• 内部設定や機密情報がAIの出力に漏洩するリスク

• 誤回答による業務上の誤処理や不正利用

といった事例が報告されています。

従来のWebアプリケーション向けセキュリティ診断では、こうしたAIモデル固有の挙動や設計リスクを十分に検出できない場合があり、AI特性を踏まえた新しいアプローチが求められています。

■ サービス概要

KDLの「AIシステムのセキュリティ診断サービス」は、大規模言語モデル（LLM）を組み込んだWebアプリケーションを対象に、AI機能を中心とした脆弱性を検査します。

診断では、AIモデルへの直接的なプロンプト送信や、Webアプリケーション操作を通じてAIのふるまいを分析し、情報漏えいや不正利用の可能性を評価。結果をもとに、改修提案や運用上のリスク低減策を提示します。

これにより、以下のような課題を解決できます。

• プロンプトインジェクション攻撃への耐性評価

• 機密情報がAI応答に含まれるリスクの特定

• モデル出力の信頼性・安全性の検証

■ サービスの特長

1. AI×開発×セキュリティの知見を融合

KDLは、セキュリティサービス提供だけでなく、生成AIを組み込んだ業務アプリケーションの開発も手掛けており、開発現場での実践的なAI活用ノウハウを有しています。
この経験を生かし、開発チームが実務で取り組みやすい形での改善提案を行い、実効性の高い対策を支援します。

2. 豊富な診断実績に基づく高信頼な検査手法

KDLの情報セキュリティサービス「Proactive Defense」では、2008年よりWebアプリケーションやプラットフォームを対象とした診断を多数実施。これまでのノウハウを応用し、AI特有の脆弱性にも対応した精度の高い診断を実現しています。

■ 今後の展望

KDLは今後、生成AIやLLMの安全な業務活用を支援するために、AIシステムのリスク評価・運用監視・セキュリティ教育などを含む包括的な支援メニューの拡充を進めていく予定です。

引用元記事：https://news.nicovideo.jp/watch/nw18601599?news_ref=watch_60_nw17923333