オーストラリア政府は、先進的な生成AIモデルによる新たなサイバーリスクへの対応を強化するため、AI企業との連携を開始した。対象にはAnthropicが含まれ、AIモデルの潜在的な脆弱性を事前に把握・検証する取り組みを進めている。

今回の動きは、限定公開されたAIモデル「Claude Mythos」を契機とするもの。同モデルはサイバー防御支援を目的に開発されたが、各種OSやブラウザに存在する多数の脆弱性を発見可能とされ、その高度な能力が新たな懸念を呼んでいる。

オーストラリア内務省は、重要インフラの保護を最優先事項と位置づけ、AIによる潜在的な脅威を早期に特定するため、ソフトウェア提供企業との協働を進めていると説明。こうした取り組みは、AIが防御手段であると同時に攻撃手段にもなり得るという現実を踏まえたものだ。

Claude Mythosは、「Project Glasswing」と呼ばれる限定プログラムを通じて開発され、Amazon、Microsoft、NVIDIA、Appleなどの大手テクノロジー企業が関与。さらに、重要インフラに関わる40以上の組織にもアクセスが提供されている。

金融分野でも警戒感は強く、オーストラリアおよびニュージーランドの中央銀行が動向を注視。銀行業界では、AIが高度なサイバー攻撃を加速させる可能性を踏まえ、規制当局との連携を強めている。

専門家は、コード解析などを自動化するAI技術について「両刃の剣」と指摘する。セキュリティ上の弱点発見を迅速化する一方で、悪用されれば高度で検知が困難な攻撃の開発を助長するリスクもあるためだ。

生成AIの進化により、サイバーセキュリティは新たな局面に突入した。各国政府や産業界は、AIを“防御”に活かしつつ、“脅威”としての側面をいかに制御するかという難題に直面している。

引用元記事：https://voi.id/ja/amp/571978