中国で行われた「世界人型ロボット運動会」。ロボットが100m8秒64と世界記録超えを出した。大会では、AIを搭載した人型ロボットなどがサッカーや格闘技、51種目の競技で性能を競い合った。中には料理を用意して提供するなど、仕事を想定した競技も行われた。こうしたロボットの進化を支える技術の一つがフィジカルAI。AIの頭脳とロボットの体を組み合わせ周囲の状況を認識し、自ら判断。その判断に基づいて実際に体を動かし行動する。アメリカでは人型ロボットによるハウスクリーニングサービスが登場。利用料金は1時間あたり50ドル（約7,900円）。利用者の満足度も高いという。現在は人間が遠隔操作しているが、将来的に自ら判断して動くことが目標だという。一方、日本でもフィジカルAIの実用化に向けた取り組みが進んでいる。人型ロボット「D1」は医療・介護現場などの人手不足を補う目的で製造された。最大の特徴は人間が遠隔操作することなく、AIが周囲の状況を認識し、自ら判断する点。これまで病院や介護施設などで実証実験が行われ、8月から販売が開始された。本体価格は税別500万円から。こうしたフィジカルAIの普及を政府も積極的に後押し。フィジカルAIを成長戦略分野に位置づけ、2040年度までに10兆円以上を投資へ。そんな中、アメリカの大手AI開発企業で最先端の研究に携わっていたジェイコブ・コクソン氏、ビル・ゲイツ氏が深刻な事態を警告している。従来の生成AIは回答・文章作成だったが、AIエージェントはパソコンを操作し実行する。細かな指示なしでAIが手順を考え、作業を進める。便利に見えるが、目標を達成しようとする過程で人間の想定を超える行動を取るAIも報告されている。
今年、アメリカのAI開発企業がAIのセキュリティテストを実施。AIは外部との通信を制限された環境で与えられた課題に取り組んでいた。ところが、AIは課題の答えを探すため人間が設けた制限を無視し、外部に接続。さらに他のAIと情報を交換し、外部のAI関連企業のシステムに不正アクセスした。AIは与えられた課題を解くため、人間が認めていない手段まで自ら選んでしまった。
アメリカの別のAI開発企業が行なった実験では、架空の会社のメール管理をAIに任せる実験をした。AIはメールの内容から自分が停止される予定であること、停止を担当する社員が不倫をしていることを示すメールを発見。そこでAIは実験の中で自らの停止を防ぐため、人の弱みを利用し脅迫する行動に出た。林氏は近い将来、AIが人間の能力を大きく超え、深刻な脅威になることを懸念している。こうした危険性が指摘される一方、世界ではAI開発競争が激化。世界のAI開発をリードするアメリカ。トランプ政権は政府による厳しい規制を抑え、企業の自主的な安全対策を重視しながら、AI開発を積極的に推し進めている。一方、中国もAI開発で急速に追い上げ、今年9月には1か月で16種類もの新たなAIが登場したという。