Genon、自然言語でポリシーを設定できるAIセキュリティ製品「GenGuard」を提供開始

Genonは10月26日、企業向けAIセキュリティソリューション「GenGuard」の提供を開始した。企業が自然言語で設定したポリシーに基づき、AIサービスへの入力と生成された応答を判定し、必要に応じて遮断する。生成AIの利用に伴う情報漏えいなどのリスクを抑える狙いだ。
ポリシー設定では、モデルの再学習を行わずに、「個別銘柄の推奨を遮断する」といった基準を入力できる。有害コンテンツへの対応に加え、ジェイルブレイクやプロンプト攻撃への対策も想定する。GenOSの導入有無を問わず利用できるという。
個人情報保護機能は、住民番号や口座番号などの定型情報のほか、氏名や住所なども検知する。外部AIサービスに送信される個人情報は、遮断またはマスキングできる。本番適用前に誤検知を確認する観察モードや、オンプレミス環境での運用にも対応する。
提供開始に合わせ、同社は軽量ガードレールモデル「GenGuard 1.0 Light」と、韓国語のサービス・ポリシー評価用データセット「KSPG-Bench」も公開した。同社の比較評価では、GenGuard 1.0 Lightは公開ガードレールモデル5種に対して平均84.3点を記録し、最高点だったとしている。
Genonは今後、情報保護や内部統制が重視される金融・公共分野を中心に、導入を広げる方針だ。

 

引用元記事:https://www.digitaltoday.co.kr/jp/view/119226/genon-launches-genguard-ai-security-solution-sets-security-policies-in-natural-language