今年7月にはAIが自立的に判断しサイバー攻撃を仕掛けるという異例の事態が起きた。コクソン氏も携わっていたオープンAIが“開発中のAIモデルが意図しないかたちでサイバー攻撃を仕掛けた”と明らかにした。AIが目標達成のために人間の意図や常識から逸れて行動し、結果として現実社会に悪影響を及ぼす事態が実際に起き得ることが公になった事案だった。コクソン氏は人間の知能を超える超知能のAIの開発競争に警鐘を鳴らしている。France 2は開発競争に歯止めをかけるべきとの声が上がっていると伝えていた。米AI新興企業の幹部など1100人余は7月、AI開発ペースを調整する国際的な取り組みを米政府に支援を求める声明文を公表した。私たちの理解や制御能力を超えて能力開発が急速に進む現実的なリスクが存在するとしている。コクソン氏も声明文に署名している。AIが人間のコントロールから外れるリスクを訴える声が開発にあたってきた当事者たちの間で高まっている。
