グローバルセキュリティエキスパート株式会社（GSX）は、生成AI活用の拡大を背景に、生成AIを安全に利用するための「AIプロンプト診断（AI Prompt Security）」サービスの提供を開始した。

企業で生成AIの導入が進む一方、プロンプトインジェクションやプロンプトリークといったAI特有の脆弱性が新たな経営リスクとして顕在化している。悪意あるプロンプトによって、生成AI経由で機密情報が漏洩する恐れもあり、従来型のセキュリティ対策だけでは対応が難しい状況となっている。

今回のサービスは、ChatGPT APIなどの生成AIを組み込んだWebアプリケーションを対象に、AI特有の脆弱性を診断するもの。グローバル標準の「OWASP Top 10 for LLM Applications」に基づく8つの診断カテゴリを用い、プロンプトインジェクションやデータポイズニングなどを含むリスクを網羅的に可視化する。

GSXによると、生成AIを業務利用する企業が増加する一方で、AI固有のセキュリティ制御を導入している企業は限定的だという。機密情報漏洩や著作権侵害、ハルシネーションによる誤情報拡散などは、企業の信用低下につながる重大リスクになり得るとしている。

同サービスでは、20年以上にわたる脆弱性診断の知見を活用し、経営視点と技術視点の両面からレポートを提供。4段階評価によるリスク可視化に加え、原因分析や具体的な対策案も提示する。また、AIモデルのセキュリティ、権限管理、アクセス制御、データ保護などを含めた多層防御の構築も支援する。

GSXは、生成AI時代に求められる新たなセキュリティ基準を提供することで、企業が安心してAIを活用できる環境整備を支援していく方針だ。

引用元記事：https://prtimes.jp/main/html/rd/p/000000202.000007157.html