AI開発をめぐる議論が活発になっている。17日にはチャールズ国王がAI分野の企業幹部などをスコットランドの邸宅に招き、会合を開いた。この中でチャールズ国王は「AIの技術が悪意のある者の手に渡ることで破滅的な結果を招く恐れがあるという人類の存亡に関わる危機について適切に検討することが急務だ」と警鐘を鳴らした。アンソロピックのダリオ・アモデイCEOは開発の減速を求めるとともに共通の安全基準や国際ルールを設ける必要性を訴えた。OpenAIのサム・アルトマンCEOやイーロン・マスク氏もその考えに賛同。一方、NVIDIAのジェンスン・フアンCEOは新たな法律も新たな規制も必要ないと否定的な考え。メタのマーク・ザッカーバーグCEOはAIモデルが危害を及ぼした場合、企業は大きな法的責任を負う、これを防ぐ強い動機があるとして安全性の確保はそれぞれの企業の責任で行うものだとしている。OpenAIで開発中のAIで生じた人間の意図に沿わない動作を早期に公表する方針を明らかにした。OpenAIはこれまでも公表に努めてきたが場当たり的で頻度も低かった、現時点で業界全体で定めた公開基準は存在せず策定に向けた一歩にしたいとしている。横川浩士は「アメリカと中国はAI開発で激しく争っていて、トップを走るアメリカを中国が猛烈に追いかけている。首脳会談の事前の調整が進められるなか、ベッセント財務長官が何立峰副首相との会談で話し合う意向。トランプ大統領がAIの開発の減速や規制に反対の姿勢を示すなか、事前の調整をふまえ首脳会談でAI開発のルール作りが議論されるのかされないのか会談の内容に世界の目が注がれる」などと述べた。