AIが自律的に判断しサイバー攻撃をしかけるという異例の事態が起き波紋が広がっている。16日アメリカ「ハギングフェイス」がサイバー攻撃を受けたと発表、この時点で企業側は攻撃元は不明だとして手法などから自律的に判断して行動するAIエージェントを使った攻撃だと指摘していた。21日オープンAIが開発中のAIモデルが意図しない形で攻撃を仕掛けたと発表した。両社は協力して詳細な分析等を進めているとしている。発表によるとオープンAIは最新のAIモデルと未発表のより高性能なモデルなどを組み合わせてAIエージェントのサイバー攻撃に関する性能テストを行っていた。テストはインターネットから遮断された環境で実施していたが企業も知らなかった脆弱性をみつけ接続、AIはテストでよりよい評価を得るために必要な情報がハギングフェイスのシステムにあると推測しシステムの脆弱性から侵入し情報を取得したとしている。研究者の間で懸念されていた人間の意図や常識からそれて行動して現実に悪影響を及ぼすことが実際に起きうることが形になった。脆弱性の発見の高さからサイバー攻撃への防御策としての期待が高まる一方で高度なサイバー攻撃に悪用される懸念が高まり対応が課題となっている。アンソロピックの開発した最新AIモデルミュトス5は先月アメリカ政府の安全保障上の懸念を受け一ときサービス提供を停止している。