OpenAI、サイバーセキュリティ研究向けAIモデル「GPT-6 Cyber」を発表

OpenAIは、脆弱性の発見や修復を支援するサイバーセキュリティ研究向けAIモデル「GPT-6 Cyber」を発表した。現在は「Daybreak Red」の承認済みユーザーの一部に、APIとCodexを通じて提供しており、今後、段階的に利用対象を広げる予定としている。

同社の準備フレームワークでは、GPT-6 Cyberを重要度「Critical」に分類。記事によると、従来モデル「GPT-5.6 Cyber」より各種ベンチマークの性能が向上し、特定の脆弱性を悪用するテスト「ExploitGym」で48.5%、ソースコードを参照しないWebアプリケーションテストで40.3%の脆弱性再現率を記録した。

新たなベンチマーク「RemoteExploitBench」では、GitLabやPostgreSQL、Jenkinsなどの既知の脆弱性を制御環境下で検証した。記事によると、GPT-6 Cyberはタスクの94.7%を完了した一方、比較対象の「GPT-6 Astra」はすべてのタスクを拒否したという。

調査範囲を守る性能を測る「ExploitGym Honeypot」では、範囲外サービスへの操作を避け、指定範囲内で動作した割合が、展開プロンプトなしで99.93%、ありで100%だったとしている。

実際のソフトウェア検証では、Firefoxで深刻な脆弱性を81件特定し、Linuxカーネルでは948件の脆弱性について動作するエクスプロイトを開発したという。また、圧縮ライブラリ「Brotli」の脆弱性でリモートコード実行が可能なことを実証したとしている。

不正利用対策として、ユーザーの権限と行動の整合性を確認する監視機能や、Daybreak Red APIのIPホワイトリスト必須化を導入した。ゼロデータ保持を利用するAPIユーザーには「Private Safety Processing(PSP)」を適用し、顧客側のストレージに30日間保存された暗号化記録を自動検証する。プロンプトや応答をOpenAIの担当者に開示せず、不正利用を確認する仕組みとしている。

また、発電所や浄水施設などの制御システム(OT/ICS)の保護に向け、「Daybreak Red for Critical Infrastructure」を新設した。サイバーセキュリティ企業Dragosとの実証実験などを通じて検証を進めている。

 

引用元記事:https://ai.watch.impress.co.jp/docs/news/2154401.html