経済アナリスト・森永卓郎になりすました投資詐欺。その中には偽の音声も使われていた。この偽音声がどう作られたか明らかになっていない。現在、人の声を盗んでAIで複製、その人物になりすまして詐欺を行う手口が世界中で急増している。しかも4行あればどんな言葉も生成可能。東京・千代田区・マカフィー株式会社はAIの偽音声を使った詐欺について調査。その結果によると日本を含む7か国でAI音声詐欺に遭遇した人は自身が遭遇した・10％、知人が遭遇した・15％だった。マカフィー株式会社・栗山憲子社長は「日本の方がまだそこまで認知されていない。今後非常に気を付けていかなければいけない」と話した。東京・調布市・電気通信大学・中鹿亘准教授にAIで偽音声を作る技術を聞いた。ニセモノの音声は一言の音声から5〜6秒で作ることができた。中鹿准教授は「無言電話とかがかかってきてそれに応答してしまうとその声だけで偽音声が作られてしまう」と話した。
米国・アリゾナ在住の女性は2023年1月20日、非通知でかかってきた電話を取るとスキーに行っているはずの娘の声で「ママ助けて」と声がして男の声で身代金の要求をされた。友人が警察に通報すると警察官は「AI音声の詐欺が流行っている」と言った。AI音声による詐欺かを確かめるために娘に電話してみると本物の娘が電話に出て詐欺であることが判明した。女性は「合成音声には聞こえなかった」と話した。このできごとをSNSに投稿すると自分も被害に遭ったという声が殺到した。娘の声はいったいどこでぬすまれたのか。唯一考えられるのは学校のSNSにインタビューが投稿されたことではないかとのこと。地元警察は事件でなくイタズラ電話として処理した。
テイラースウィフトがファンに鍋をプレゼントするという内容の偽動画が出回った。この動画の音声の周波数を分析すると本人の声がAIにより作られた音声かが分かった。将来的意にはこの機能をスマートフォンに標準装備することを目指している。