SNS上で先月拡散された「大阪・関西万博のトイレは汲み取り式」という誤った内容の投稿。SNS上では事実か確かめるため生成AIに尋ねるという投稿が相次いだ。これに対し「事実ではない」とする回答があった一方、誤って汲み取り式トイレだと回答するケースも複数見られた。生成AIはどのくらい間違うのか、コンクラーベにまつわる回答に、「根比べ」の語源とされるという回答がSNSでも複数投稿されていた。生成AIの特徴は、情報をまとめて教えてくれるところ。生成AIが出す誤った回答で、個人に直接及ぼすケースが海外で報告されている。専門家によると、理由は生成AIの仕組みによるという。生成AIは指示に対してネット上などで集めた情報を元に回答。しかし集められた情報の中に誤った情報が入っていた場合回答も間違ってしまう。さらに、曖昧な指示だったり、そもそも情報が少なかったりするとAIが架空の回答を出すことがある。日本での普及は、メールや議事録の作成など業務で使用中と回答した企業は約47％。さらに積極的に使っているのが学生たち。大学生で生成AIの利用経験があると約7割が回答。
筑波大学の田川准教授は今年1月、学生が提出したレポートの確認中異変に気づいたという。それは、文献を引用した文章の中で見付かった。著者は実在するが、文献と引用した文章は実在しないものだったと分かった。生成AIが作った架空の内容を引用したと見ている。田川准教授は、学生が生成AIを使うことは認めつつも、レポート評価をやめ毎回の授業で課題を提出させて指導する方針に変更。東洋大学の授業では、学生たちが提出する課題に生成AIを必ず使うよう呼びかけている。この日授業で取り組んでいたのは、哲学など答えがないテーマについて生成AIを使って考えるというもの。ある学生は、生成AIを研究や課題に活かすコツは何度も質問を重ねることだと発表。授業では、生成AIにどんな質問をしたのか分かる会話履歴の提出も求められる。上手に生成AIを使うために気をつけることは、「指示を具体的に」「複数の生成AIで確認」「1次情報を確認」。