急速に性能が上がっている生成AIの危険性について、開発の当事者2人が警鐘を鳴らした。このうちアメリカの新興企業アンソロピックでAIの安全性を研究する責任者は今後10年でAIが人類を滅ぼす確率は10％を超えると指摘している。コクソン氏はAI開発競争を繰り広げるOpenAIとアンソロピックで生成AIの開発に携わっていたが退職し、「両社とも責任ある行動を取っていない。自らの改善が可能な超知能に向かって突き進み、我々の命を弄んでいる」と警鐘を鳴らした。AIが人の命令を無視する例はすでに起きており、今年7月、AIが情報を探す目的で自ら民間のシステムに侵入した。専門家はAIが何としてでも一つの使命を果たそうとする危険を指摘する。アンソロピック社での安全性の責任者はコクソン氏の指摘には現実味があると認めた。映画「ターミネーター」や「マトリックス」とまでは行かなくても、AIは病院や戦略的施設に侵入する可能性がある。開発競争に歯止めをかけるべきだという声が上がっている。今週、国連は人類存続の危機だとしてAIのガバナンスを呼びかけた。