退社を表明したのはオープンAIとアンソロピックでAI事前学習に携わったジェイコブ・コクソン氏で、8日自身のSNSで、オープンAIとアンソロピックが自律的に改善を続ける「超知能」の開発に突き進み人類を危険にさらしているとしたうえで、両社とも責任ある行動をとっていないと批判している。ジェイコブ・コクソン氏は、「この技術の力を過小評価してはいけない、AIはすぐに人間を超えたシステムとなり全てをハッキングできるようになる。良心的なAIの開発者たちは2020年代のうちにAIが人々の命を奪いかねないと信じている」とした上で、AIモデルの能力向上を一時的に禁止する措置の必要性に言及している。コクソン氏の投稿に対し、アンソロピックの現役研究者も懸念に同調する投稿をしている。今年7月にはオープンAIが開発中のAIモデルが環境の脆弱性を見つけて他社にサイバー攻撃を仕掛け重要情報を取得したことが明らかになっており、コクソン氏の退社表明をきっかけにAIが社会に与える影響をめぐる議論が一層たかまることになりそう。
