新たなAI生成の登場でリアルとフェイクの境界線が消えつつある。独自のAI技術を持つ2つの企業を取材。アメリカのオープンAIが今月リリースした最新の生成AI「Sora2」によって作られたフェイク動画を紹介。これらを作るには文章を入力するだけで、一定の条件を満たせば誰でも簡単にできてしまう。SNSに投稿された自民党・高市総理大臣と立憲民主党・辻元清美議員が笑みを浮かべながら握手をしている写真について、辻元議員はSNSで“フェイク”と否定。勝手にニセ画像を作られたコスプレ歴13年の男性は知らないところで拡散され、たまたま見つけた人が報告してくれたという。警察庁によると、未成年の性的なニセ画像に関する相談・通報は去年1年間で100件以上。中には同級生の女子生徒のニセ画像を作成し友人に共有したとして書類送検されるケースもあった。悪質なニセ画像のほとんどは知人が作成に関与したものとみられる。
日本初のAIのタレントの動画生成サービスを開始したオフショアカンパニーを取材。1枚の写真から人物を3D化し動きをつけることができるという。約30秒のサンプルをとることで声もそっくりに作ることができる。生成AI技術は多くのユーザーに使ってもらうために開発されたという。生成AIサービスを提供する企業側にとっても悪用防止策は急務。現在、海外では著作権の問題が浮き彫りとなっている。2009年に亡くなったマイケル・ジャクソンが華麗にラップを披露する動画や、今は亡き大スターの共演などアメリカでは亡くなった著名人のニセ動画をめぐり論争が巻き起こっている。事の発端はキング牧師が有名な演説中にサルの鳴き真似をする動画などで、親族が「非常に失礼で傷つく」と批判。オープンAIはFNNの取材に対して「著名人を明確に再現することを目的とした生成を原則行わない」としたうえで、違反者に対してはアカウントを停止するなどの措置を実施すると回答。
AI動画にだまされないために、フェイクの見破り方を取材した。NABLASはディープフェイクといわれるAIで生成・加工された動画や音声を検出し、ファクトチェックをAIが自動で信頼・ソースチェックするサービスを提供。見破りポイントはAI動画にロゴがあるかどうか。なかった場合は動画の長さもポイント。フェイクを見抜くAIを商用化したNABLASに、番組が作成したフェイク動画を見てもらうと、10秒の動画はわずか3分で解析が終了し、フェイクの可能性が高いと検出された。手の動きで不自然さが最も多く検出された。関節がバラバラに動いていたことを見抜いた。こうしたサービスは現在、企業への提供にとどまり、個人への普及はまだこれから。SNSのプラットフォーム側を含む環境整備が今後求められていく。