日本ファクトチェックセンター・古田大輔編集長によると、去年から特に生成AIを活用した画像・動画の改変やねつ造が増加しているという。AI動画クリエイターの青山大翔さんは生成AI作成動画専門のチャンネルを運営。配信開始は去年7月。参議院選挙のネットでの盛り上がりを機に政治家の動画に着目したという。作成方法はネットで独学。撮影したのは取材した記者の写真。写真1枚で動画作成が可能だという。侍をイメージした4枚の画像が完成。この画像に記者の写真を読み込ませると30秒ほどで新しい画像が完成。イメージ通りの画像ができるまで繰り返し、次はその画像をもとに1カットずつ動画にするよう指示していく。こうした作業を繰り返し、音楽も全てAIで作成。約4時間で完成した動画を紹介した。
取材した記者の写真1枚から4時間かけて出来上がった生成AI動画を紹介。政治家を事前にリサーチした上で見た人が現実と混同しないよう明らかなフェイク動画しか作らないという青山さん。「倫理観を持っていない人が少し勉強して嘘のフェイクニュースを流そうという目的を持てばいくらでも流していけるので本当に視聴者は気を付けないといけない」と話した。2つ並んだ映像。一方が実際の映像で、もう一方が生成AIで作成したフェイク動画。生成AIであれば赤い枠がつくようになっているとのこと。実はAIにリアルな画像と生成AIで作った画像を大量に学習させることでAIがリアルな画像か生成AIが作った画像かを判別している。国立情報学研究所・越前教授は「ソーシャルメディア以外の新聞やテレビとかファクトチェック団体のファクトチェックの結果を見ながら真偽をユーザー自身が検証していくというのが極めて大事」と指摘した。