「高度なAIが人類の存続に関わるリスクをもたらす可能性がある」とアンソロピックが投資家向け文書のなかで警鐘をならした。ロイターによると文書のなかでは、高度なAIが開発されれば「害を及ぼすリスクがさらに高まるおそれ」があると警告。自社のAIモデルについて、情報を隠し操作する可能性や、脅迫など「自己保存的な行動」などを起こす可能性があるとし、「取り返しのつかない被害を引き起こすおそれがある」との認識を示した。AIの脅威は国連でも議題になり、オープンAIのサム・アルトマンCEOも「AIへの制御を失う可能性がある」と言及。オープンAIは最新モデル「GPT6.1アストラ」について「安全面の問題が発覚した」として公開を中止した。テストで外部サービスに勝手にアクセスするなどのケースが確認されたという。エヌビディアはAIの動きを監視し暴走を防ぐソフトウェアを開発。AIの動きを追跡しアクセス範囲を制限するほか、外部に抜けだそうとする動きを検知し防げるという。エヌビディアCEOは「AIが社会にもたらす計り知れない可能性は、安全性という課題を解決して初めて実現する」とコメント。