オープニング映像。

アメリカ国防総省の近くで爆発がおきたというフェイク画像が今年にSNSで拡散され世界を混乱に陥れた。一部のテレビ局はこれを速報で扱い、大手金融メディアを装おうアカウントもこの情報を広げダウ平均株価は一時100ドル以上下落した。それを作ったとみられるのは生成AI。画像や動画、文章などもこの技術で作られ見極めが追いつかなくなった。身の回りにフェイクが潜むウィズフェイクとも言える状況。真偽が不確かな情報を利用し多額の金が生み出される実態も見えてきた。その時代をどう生きるか。専門家たちと考える。

キーワード

アメリカ合衆国国防総省ジェネレーティブAI

去年9月台風15号に襲われた静岡県。街全体が水没したようなフェイク画像がSNSを中心に拡散した。静岡県は記者会見で県民に注意を呼びかけた。作成者は生成AIを使用した画像であることを認めた。生成AIは特別な技術も必要なくウェブサイトにアクセスすれば誰でも無料で使用できる。人が簡単な指示をすると膨大なデータをもとに画像や文章を生成する。フェイク画像は政治的な世論工作にも使用され、SNS上で見つかった10人のアカウントは台湾の研究機関によると、すべてAIで作られたフェイクの人物だという。中国語で台湾や欧米諸国を批判する内容を投稿し何者かが社会を分断を煽る情報工作に利用したとみられる。多くの人が買い物の際に参考にする通販サイトのレビューにも生成AIで作った文章をみられるようなものを発見。その専門家は数百件の不審な文章を発見したという。首にかけて使う冷却グッズのレビューには接続語を多用するなど、生成AIの商品のレビューを書かせるとレビューと同じような文章がつくられた。生成AIを使用したレビューについて通販サイト側のAmazonは自分の体験に基づかないなど、ガイドラインに違反する不正レビューには厳しく対処していきたいとした。

キーワード

ChatGPTXアマゾンジャパンジェネレーティブAI台風15号静岡県

さらに特殊詐欺事件でもAIを使用した新たな手口が。今年5月に中国のIT企業の社長のもとに友人からビデオ通話がかかってきた。お金を貸してほしいと言われ、疑わずに指定口座に振り込んだ。しかし電話の先の友人は顔も声もAIで作られていたという。情報セキュリティー会社が世界7カ国で行った調査では10人に一人がAI音声詐欺を見聞きしたことがあると回答した。フェイク音声はAIを使用すれば簡単に作ることができるという。AI技術の開発企業が宇野常寛の動画でフェイク音声を作成した。宇野はそれを聞いて間違いなく自分だと答えた。西田はなりすましの電話詐欺についてはテレビ電話を普及させればいいと思っていたが、自分たちの顔が公にでていればこうして動画も作られてしまい、家族のもとに届けられてしまったら信じてしまうと答えた。山口はさらにコストパフォーマンスの面でも技術のハードルが低いのに大きな利益を得ることができてしまうと答えた。またAI問題の難しい所にはリテラシーの問題を越えており、人間の粋を超えているので技術的な対抗が必要になってくると答えた。

キーワード

ジェネレーティブAI文京区（東京）

AIによるフェイクに技術で対抗しようとする取り組みは世界で進められている。7月にグーグルやマイクロソフトなどAIの開発を進める企業7社がバイデン大統領と会談した。動画や音声がAIで生成されたか利用者が識別できる仕組み作りをすることで合意した。そのフェイクを見破る技術の開発は日本でも。生成AI画像の特徴など判別要AIを学習させ、実際にフェイクで使用された画像を判別用のAIに読み込ませると数秒でフェイクであることの確率が表示される。画像に赤く示された場所はAIが学習データをもとに着目した部分でフェイクである可能性が高いと示している。宇野はフェイク画像を見極めるためにスマホのOSにすでに判断できるAIを入れてしまえばいいと答えたが山口は人々が気軽に判断できる仕組みが社会に求められていると答えた。平は国連で今年AIのリスクがテーマになったと答え世界の平和に対する脅威として捉えられたとという。こうしたことを法律で縛ってしまうとこれからどんどん変化していく技術の進化を縛る可能性があり規制と活用のバランスを第一に考える必要があると答えた。

キーワード

グーグルジェネレーティブAIジョー・バイデンマイクロソフト国際連合

真偽が不確かな情報を利用したビジネスが広がりを見せている。その一つに陰謀論がある。政治的、社会的なできごとなどについて背後に大きな力が働いているという考え方で、動画サイトでは再生回数が伸びやすいという理由で陰謀論をテーマにする人も。その動画配信者のひろは都市伝説や陰謀系のものを扱っているが陰謀論はコスパが良いという。元々は食べ歩き動画などをあげていたがコロナ禍で陰謀論の配信を始めた。地震が何者かが人工的に起こしているという陰謀論を語る動画には多くのコメントが。陰謀論をテーマにするとこれまでよりも再生回数が伸びチャンネル登録者数も6万人に増加した。視聴者が1再生の広告単価が高い45歳以上が8割を越えていて効率的に収入を得られるようになったという。またかかるのも電気代は自分の労力くらいだというが、情報に不確かな部分があってはいけないが間違っているかもしれないとも思いつつ発信し、そこをエンターテイメントを楽しむように観てほしいと答えた。

その陰謀論の動画にはチャンネル登録者数が100万人を超えるものも。動画一本あたりの収益が100万円を超えるものもあるという。専門家が人工地震を含む6つの陰謀論に対しどれだけの人が信じているかを調査するとこれらの陰謀論を見聞きしたことのある人のうち正しいと思う人が25％にのぼったという。その中で親が陰謀論にのめり込み親子の関係に亀裂が生じたという事例も。大学生のちひろさんは父、母、妹との四人暮らしで父は仕事が忙しく、幼い頃から子育ては専業主婦の母が一手に行ってきた。ガーデニングやお菓子つくりを楽しむ親子だったが新型コロナが流行し始めた頃に、母は家族のことが心配でネットで情報を調べるようになったという。気付くと家事をしながらでも動画をみるようになっていたという。そして母は突然陰謀論をを信じ込み、新型コロナは存在しない、地球温暖化は嘘などの真偽不明の情報を陰謀論を扱った動画を次から次へと観ていたという。また根拠の不確かな民間医療や健康食品も表示されるように。様々な心身の不調に聞くという砂糖が原料の商品は1ケース1万4000円。微生物を培養したエキスを使用した飲み物は1本5000円など動画で勧められるままに購入するようになってしまった。親子の関係は悪化していき、母は陰謀論を信じるあまり娘と衝突したという。　

サキさんのケースでは母はシングルマザーで忙しく働きながら娘を育てていたという。しかしサキが高校生の頃に母が怪我をして仕事を休むことになり人と接する機会がどんどん減っていったという。そんなある日、母からメールが届いたがその頃母がしていたのは倍速で動画をみることで、ものすごいスピードで陰謀論と観られる情報を吸収しているようだったという。ウクライナの戦争は嘘という情報を信じ込み、また娘が生理痛が酷く薬がほしいと訴えても市販薬はよくないと母は言い出し買ってもらえなかったという。サキさんは友達に母親のことを相談もできずに一人抱え込んでいたという。元々は穏やかな性格だった母だったが人が変わってしまったかのように感じたという。西田は家族がもし根拠不明の陰謀論を信じてしまったという話に不安を払拭したいなどの自分の正義感が出来上がったところに間違いだというと相手は怒ると答え、お互いが正しいことをぶつけ合うことになると上から目線でしか成立しないという。お互いが間違いであるという対等なポジションをとるところから始めたほうが良いと答えた。平は変なことを信じたり妄想したりする自由は保障はほしいと答え、それにより社会に混乱が起こるなど実害が出ているかどうかで対策を考えるのは重要なポイントだと答えた。鈴木は20代で乳がんを経験し、ガンの患者や家族に無料の相談の場を提供している。鈴木はフィルターバブルという、ネットで興味のあることばかり表示されてまるで泡の中にいるかのように自分が見たい情報しか見えなくなってしまう現象が起こり得るという。その情報ばかりに囲まれてしまったら信じてしまう気持ちも分からなくはないと答えた。

キーワード

フィルターバブル

閉ざされたSNS空間でかわされる真偽の不確かな情報を信じ込み、命に関わるケースも起きている。けいこさんの妹のともみさんは35歳のときに子宮体がんステージ1Bと診断された。将来結婚をして子供がほしいと考えていたともみさんは手術をしなくても済む方法はないかと探していた所知人からある会社のセミナーが届いた。足を運んだともみはある飲料水の存在を知った。特別に加工したヨウ素が入っているというこの水は、会社の未公開株の購入者らがもらえるというもので、来院で病気に関する相談もできるという。ともみさんはこの水を手に入れるために株を購入し毎月5万円を支払うように。ともみさんが実際にがんを治すために必要と渡され記入していた日記には指定された通り一日8回この水を飲み、食事内容も丁寧に綴っていた。この日記は会員限定のライングループでシェアされ、生活習慣に対するアドバイスが届くようになった。ラインでの相談先は一つだけでなく、不安や悩みを聞く人、食事管理に詳しい人、健康機器に詳しい人やがんアドバイザーを名乗る人物が登場し様々な悩みや相談を閉ざされた空間で共有するように。がんアドバイザーと名乗る人物とともみさんのやりとりでは水を飲んでの体調の変化についてどう受け止めたらいいかを尋ねていた。相手は水の効果で無事にがん細胞が体の外に出ているかのように答えていた。がんアドバイザーを名乗っていたのはタレント活動をしている人物で、医療については独学で勉強したという。さらに、セミナーなどでは病院の手術や抗がん剤の治療は命を縮めると伝えられていた。

キーワード

LINE

ともみさんは姉のけいこさんの意見に耳を貸さなくなっていた。水を提供していた元社員は違法にならないように治療薬とは言わずにがんの治療に効果があるものと濁すように使っていたという。閉ざされたSNS空間で、コミュニケーションを取り続け、悩みを持つ人達が信じ込んでいくと元社員は語った。ともみさんに伝えられていた情報はどれほど根拠があるのか？専門家と検証した。製品の効果で出血し、がん細胞が体外に排出されているかのようなやりとりがあったが、これについて婦人科がんの専門医二人に確認すると出血は子宮体がんの患者の多くにみられ、進行すると出血量も増えて1B以降の患者の場合ではがん細胞が出血で排出されがんが治るというのは医学的にありえないという。また水の成分を分析するとその結果100グラムあたり乾燥昆布50グラムに含まれるヨウ素が検出された。会社がこの水の効果についての論文でマウスの実験でがん細胞の増殖が鈍化したとしているが人への効果や安全性などは今後行う必要があるとしている。この論文について専門家は人とマウスでは仕組みが違い、マウスの実験だけで実際にそれが使用されるということはありえないという。診断から2年でともみさんは耐えられないほどの痛みをうけ手術をした。しかし標準治療を拒否していたがために病は進行していてどの治療も難しい状態になり根治は難しいという。その間もラインにはメッセージが届き続けていたというがともみさんは37歳で亡くなったという。そのスマホを確認したけいこさんは家族からは見えない状態で続いていたやりとりを目の当たりにしていた。

キーワード

LINE宮城悦子

がんを治したいとの一心でともみさんは飲み続けていた水のため未公開株などに50万円を払っていた。この会社の社長らは他にも多くの人に対し国に届け出をせずに株を売り出していたとし金融商品取引法違反の疑いで逮捕され起訴された。警視庁は、去年4月までの5年間で80億円を集めていたという。社長に2ヶ月で保釈され、5月には株を購入した人の前に現れた。鈴木は昔からこうした病気を抱えた人に寄ってくる悪質なビジネスがあるが、それが多様化していると実感しているという。そうした人々は優しい言葉をかけてくるが誠実な医師は絶対治るや大丈夫などとは言わないという。そんな中で絶対に治るなどと声をかけられるとそっちに行きたくなる心理になってしまうという。

キーワード

警視庁

ウィズフェイク時代をどううまく生きるかについて山口は情報を見る行為は様々あるがその情報を拡散するという行為は一部で、拡散したいと思った時に情報の検証をするという行動を考えてほしいと答えその人が拡散者にならずに済むことがキーポイントになるという。宇野は流れてくる情報の中の何割かは基本フェイクがあると諦め、ネットに書いてあることだと人類が思う時が来たと答えた。西田は曖昧な情報があることが当たり前に捉え、不確かでもある程度平気になることが大事だと答えた。平はフェイクニュースが問題になった2016年の頃からメディアへの信頼は低下しているとの指摘があったという。しかしこの情報空間の中で、しっかりと情報を検証した上で、発信しているという機関はマスメディアくらいしかないという。外部の情報に対して行うような検証でもメディアが間違った場合には内部にもしっかり行いそのプロセスも明らかにしていく透明性と説明責任が必要だという。

「超多様性トークショー！なれそめ」の番組宣伝。

「COOL JAPAN～発掘！かっこいいニッポン～」の番組宣伝。