- 出演者
- 桑子真帆
AIによる加工技術、その悪用がいま新たな段階に入っている。身近な人の写真を加工して性的な動画や画像を作るとうたうサービスが急増している。誰が利用しているのか？取材を進めると中学生や高校生の関わりもみえてきた。AIの活用が進む社会の裏で何が起きているのか？
オープニング映像。
AIの負の側面としていま浮かび上がってきているのがディープフェイク。政治家が本来していない発言をしているようにみせたり、災害時に偽画像を生成してばらまいたりする問題がある。自分がSNSにあげていた写真などがが勝手に裸に加工され送りつけられたり、拡散されたりする被害が水面下で広がっている。
高校1年生のみほさん、ことしの春にSNSで1枚の画像が匿名のアカウントから送りつけられてきた。自分の裸の画像で全く身に覚えのないものだった。以前、インスタグラムで公開した動画が加工されたとみられる。あまりのショックにすぐに画像を削除し、相手のアカウントをロックした。家族にも相談できずいまも不安に襲われるという。こうした被害はAIによる加工技術の進歩で拡大している。3年前からSNS上をパトロールし、通報する活動に取り組む永守すみれさん。最近目立つのは卒業アルバムが悪用されるケース。誰から卒業アルバムに乗っている特定の女子生徒の写真を投稿すると、わずかな時間でその生徒の性的な画像や動画が作成され、共有される。子どもの裸などの児童ポルノは所持・製造・提供などが違法となっている。しかし、顔は実在する子どもでも体が大人の裸に合成されていたり、AIで作られたものは児童ポルノではないとされ、これまで取り締まられたことはない。卒業アルバムを悪用しているのはどんな人たちなのか？写真を投稿した人物とやり取りをした。投稿者は好きな同級生の卒業アルバムを投稿したという。高校1年生だという別の投稿者は写真の加工を自分で行うと明かした。AIの急速な復旧が進む社会の裏で広がって性的なディープフェイク。50代の教員は4年前に複数の男子生徒に裸に加工・拡散されたという。
AIによる加工を請け負うサイトやアプリが数多く存在すること分かった。その数は50以上。性的な加工をビジネス化し収益を得る仕組みも作り上げられている。事業者に関する情報として記載されていたのは多くが海外の国々。日本で多く利用されているとみられるサイトの運営会社を所在地は香港だった。実際に訪ねてみると、会社の実体はなく、メールの返信もなかった。アメリカのセキュリティ団体の調査によると、性的なディープフェイクの広がりが深刻なのは韓国、アメリカ、日本、うち法規制がないの日本だけ。専門家は日本は対策が遅れていると警鐘を鳴らす。
- キーワード
- 香港（中国）
国立情報学研究所の佐藤一郎さんは日本の場合は、性的ディープフェイクを第三者に提供した場合は名誉毀損罪が成立しうるが、それ以外の製造・所持・視聴には直接的な規制がないという。この背景には国は国民が持っている情報に直接関与しない方がいいという配慮があったという。政府の取り組みはフェイクニュースにフォーカスを置いていると指摘。永守すみれさんは被害者が難しい状況に置かれていると感じる、名誉毀損に当たる可能性はあるが申告罪なので、被害者が自分で被害を訴えなければならない、被害に気づくのも難しい、気づいても声をあげにくいという問題があるという。
- キーワード
- 国立情報学研究所
9月、韓国は世界的にも異例な法案を可決した。性的ディープフェイクの所持や視聴、作成や拡散に対して、それぞれ懲役または罰金刑が課されることになった。その道筋を作ってきたのは市民の活動。20代のフリージャーナリストのウォンさんは匿名で被害の実体を取材している。ウォンさんが報じてきたのは、名門ソウル大学の学生や卒業生など数十人が被害を受けた事件。2年にわたるSNSの潜入取材で犯人を特定し、性的ディープフェイクを作成したいた男たちの逮捕につながった。この事件をきっかけに被害の広がりが次々と明らかになっていった。20代の女性はSNSで寄せられる各地の学校の被害情報を発信し続けた。こうした情報を中学生2人が地図にまとめて被害の広がりを可視化した。大きく報道され反響を読んだ。被害者を支援する弁護士の元にはそれまで埋もれていた多くの声が寄せられるようになった。さらに、実態解明が進み、加害者の7割が10代だと報じられると、対応を求める声が強まった。韓国政府は法改正に合わせ相談窓口を強化するなどの対策を打ち出している。
海外の動向を注視してきた日本の弁護士やNPOのグループではまずは子どもの性的なディープフェイクを規制することを目指して議論をはじめている。新たな法律を求める提言書を作り、来年国に働きかける予定。
- キーワード
- チャイルド・ファンド・ジャパン東京都
アメリカは29の州に性的ディープフェイクに関する法律があり、作成や拡散などが規制されている。佐藤一郎さんは日本も措置が必要になってきて、韓国の法律が参考になってくると思うした。永守すみれさんは韓国では被害者支援について国や自治体が責任を持つようになっている、日本でも法的な仕組みが必要だと感じるという。国立情報学研究所の越前功教授が開発しているのは、画像を加工されないようにするための技術。フェイクが拡散しないような環境の一助になるのではと開発を続けているという。手軽だからこそ事の重大さに気づきずらい、技術の進歩には光と影があり、影で苦しんでいる人たちに目を向け続ける社会でならなければならない。
- キーワード
- 国立情報学研究所
俳優の足立梨花さん、今年10月に自信の写真が加工されSNS上で拡散される被害にあい、抗議の声をあげた。足立さんは初めて見た人が勘違いしてしまうようなリアルさを持ってしまったところが声をあげなければと思ったという。この投稿に貸して、多くの励ましや共感の声が寄せられた。被害者の痛みを誰もが想像できれば社会は変われるはずだと考えている。