AI動画が子どもの脳に悪影響を与えている。シンクタンクがアメリカの保護者を対象に行った調査によると、YouTubeを毎日利用しているという子どもの割合は2歳未満で35％。、2～4歳だと51％に上るという。先月、子供の権利を守る団体が230以上の教育団体や専門家の署名を集めてグーグルやYouTubeに書簡を送った。子供向け「YouTube Kids」からAI生成コンテンツの排除や、YouTubeでAIによって生成された子供向け動画を禁止するように求めた。脳が発達段階で影響を受けやすい時期に粗悪なAI動画を子供が見続けることで、現実世界との区別や学習能力、メンタルヘルスなどに悪影響を及ぼす可能性があると指摘されている。近年、AI技術の発展によって誰も簡単に短時間で多くの動画を作れるようになり、粗悪なAI動画は増え続けている。動画の質よりも再生回数の獲得を優先して広告収入で稼ごうという動きが増加に拍車をかけていると指摘されている。子どもたちはテンポが早い、鮮やかな動画を連続で視聴する傾向があると言われている。そこにオススメの動画を表示するシステムがあり、こうしたシステムと結びつくことで、さらにAI動画が拡散されている。
グーグル側はクリエーターにAI動画を投稿する際は明示するラベルを表示するよう義務付けている。しかし団体はラベルがほとんど使用されておらず、子供は理解が難しく対策は不十分だと指摘している。こうした状況を踏まえ、子供の発達に詳しい専門家はYouTubeには保護者がチャンネルをブロックする機能があるため、少しでも違和感があれば活用するように推奨している。
グーグル側はクリエーターにAI動画を投稿する際は明示するラベルを表示するよう義務付けている。しかし団体はラベルがほとんど使用されておらず、子供は理解が難しく対策は不十分だと指摘している。こうした状況を踏まえ、子供の発達に詳しい専門家はYouTubeには保護者がチャンネルをブロックする機能があるため、少しでも違和感があれば活用するように推奨している。