AIの負の側面としていま浮かび上がってきているのがディープフェイク。政治家が本来していない発言をしているようにみせたり、災害時に偽画像を生成してばらまいたりする問題がある。自分がSNSにあげていた写真などがが勝手に裸に加工され送りつけられたり、拡散されたりする被害が水面下で広がっている。
高校1年生のみほさん、ことしの春にSNSで1枚の画像が匿名のアカウントから送りつけられてきた。自分の裸の画像で全く身に覚えのないものだった。以前、インスタグラムで公開した動画が加工されたとみられる。あまりのショックにすぐに画像を削除し、相手のアカウントをロックした。家族にも相談できずいまも不安に襲われるという。こうした被害はAIによる加工技術の進歩で拡大している。3年前からSNS上をパトロールし、通報する活動に取り組む永守すみれさん。最近目立つのは卒業アルバムが悪用されるケース。誰から卒業アルバムに乗っている特定の女子生徒の写真を投稿すると、わずかな時間でその生徒の性的な画像や動画が作成され、共有される。子どもの裸などの児童ポルノは所持・製造・提供などが違法となっている。しかし、顔は実在する子どもでも体が大人の裸に合成されていたり、AIで作られたものは児童ポルノではないとされ、これまで取り締まられたことはない。卒業アルバムを悪用しているのはどんな人たちなのか？写真を投稿した人物とやり取りをした。投稿者は好きな同級生の卒業アルバムを投稿したという。高校1年生だという別の投稿者は写真の加工を自分で行うと明かした。AIの急速な復旧が進む社会の裏で広がって性的なディープフェイク。50代の教員は4年前に複数の男子生徒に裸に加工・拡散されたという。
AIによる加工を請け負うサイトやアプリが数多く存在すること分かった。その数は50以上。性的な加工をビジネス化し収益を得る仕組みも作り上げられている。事業者に関する情報として記載されていたのは多くが海外の国々。日本で多く利用されているとみられるサイトの運営会社を所在地は香港だった。実際に訪ねてみると、会社の実体はなく、メールの返信もなかった。アメリカのセキュリティ団体の調査によると、性的なディープフェイクの広がりが深刻なのは韓国、アメリカ、日本、うち法規制がないの日本だけ。専門家は日本は対策が遅れていると警鐘を鳴らす。