大統領選挙を控える米国では、生成AIの利用を発端に投票に混乱を及ぼしかねない事態が起きた。それは有権者にかかってきたある電話。バイデン大統領の声によく似た音声は、AIを利用して作り出されたと見られている。この音声を使った電話が1月、大統領選挙に向けた予備選挙が行われる直前に、米国東部ニューハンプシャー州の住民にかかってきた。この選挙で投票しないよう呼びかける内容で、その数は数千件。専門家のニューヨーク州立大学バッファロー校・シーウェイリウ教授に、この音声を最先端の5つのツールで分析してもらったところ、2つのツールでは生成AIによるものだと見抜くことがでかなかった。地元の司法当局は先月、この偽音声に関わって選挙を妨害したなどとして政治コンサルタントを起訴。精巧な偽音声はどうやって作られたのか。政治コンサルタントから依頼を受け、自らが作成したと話す人物がNHKの取材に応じた。ポール・カーペンター氏はAIに関心を持ち独学で技術を身に着けたという。偽の音声はネット上のバイデン大統領の動画をもとに、誰でも使えるオンラインの音声生成サービスを使って作成。かかった時間は僅か数分だったという。ただ、この音声が実際に電話に使われるとは知らなかったという。