AIセキュリティ・ガバナンス事業を手がけるAthena Technologiesは、オムロンのインダストリアルオートメーションビジネスカンパニーが開発・運用する「プログラム検索要約サービス」に対し、疑似攻撃によるセキュリティ検証（レッドチーミング）を実施した。その結果、AIセキュリティ＆ガバナンスツール「Athena Firewall」の有効性が確認され、同サービスへの本番導入が決まった。

オムロンのプログラム検索要約サービスは、工場設備を制御するPLCのラダープログラムを理解・検索・要約する生成AIサービス。生成AIの活用拡大に伴い、プロンプトインジェクションによる不正操作や機密情報漏洩など、AI特有のセキュリティリスクへの対応が課題となっていた。

今回の検証では、対象システムのソースコードや機能を調査したうえでリスクシナリオと攻撃シナリオを策定。実際に疑似攻撃を行い、Athena Firewallの適用前後で攻撃の成否を比較した。検証の結果、「不適切出力・内部情報漏洩」「入力汚染・使用汚染」「大量入力への耐性」の3つの脆弱性カテゴリを確認した。

このうち、不適切出力・内部情報漏洩と入力汚染・使用汚染について、Athena Firewallのプロンプトインジェクション評価機能を適用したところ、高い検知性能を確認した。通常利用における誤検知率は1.7％、攻撃プロンプトの見逃し率は4.7％に抑えられた。また、ガードレール評価の処理時間は100ミリ秒以下で、業務利用時の応答速度への影響も限定的だったという。

Athena Firewallは、プロンプトインジェクションや有害コンテンツの出力、機密情報漏洩など、生成AI特有のリスクを検知・抑制するAIセキュリティ＆ガバナンスツール。日本語の表現や文脈を踏まえた評価や、低遅延で既存システムに組み込める点を特徴とする。

Athenaは今回のPoCで得た知見を生かし、オムロンのサービスへの本番導入を進めるとともに、生成AIを活用する企業のAIセキュリティ対策を支援していく。

引用元記事：https://prtimes.jp/main/html/rd/p/000000037.000141002.html