先月、ローマ教皇レオ14世がAIの軍事利用を念頭に踏み込んだメッセージを発した。国連のグテーレス事務総長も「人類の運命をアルゴリズムに委ねてはならない」と指摘した。先週、スイス・ジュネーブの国連ヨーロッパ本部でAIの軍事利用の規制に向けた非公式協議が行われた。会場には世界各地のNGOや市民団体なども招かれ、それぞれの立場から意見を表明した。国連では約10年前からAIが自らの判断で攻撃する自律型兵器の規制に向けた議論が行われてきたが、各国の足並みが揃わず条約の制定などには至っていない。核保有国がAIに意思決定を委ねたら何が起きるのか。2月、イギリスの研究者が公表したシミュレーションの結果が世界に衝撃を与えた。3つの対話型AIの最新モデルを使用。対立する核保有国の指導者を演じさせた。複数の選択肢から行動を選び、相手と駆け引きしながら領土を奪い合う対戦ゲームを繰り返し実施。すると、どのAIも譲歩や降伏の選択肢を一度も選ばず、状況が不利になると核兵器を使用することもためらわなかったという。21回の対戦のうち、実に20回で核兵器が使用され、うち3回は核兵器使用の応酬となる全面的な核戦争にまで発展したという。
URL： http://unic.or.jp/