AIはなくてはならない存在になりつつあるが、AIのリスクも多様になっていく。大きく「AIが間違える」「AIが悪用される」「AIが社会を揺るがす」という3つにわけて考える。AIが間違えるリスクでよく知られるのがハルシネーションと呼ばれる現象で、AIが事実とは異なることをもっともらしく語ってしまうというもの。また、バイアスや制御の喪失も指摘される。AIが悪用されるリスクについて、AIは悪意を持つ者の手に渡れば強力な武器にもなりえる。サイバー攻撃や認知攻撃、破滅的な悪用も懸念される。AIが社会を揺るがす問題には富と力の集中、雇用への影響、国の主権に関わる問題が懸念される。ほとんどの国は最先端AIを自前で開発しているわけではないが、そうした国にとってはいざという時に最先端AIの利用を止められたり、経済や安全保障の主導権を握られかねないという課題がある。
こうしたリスクどう向き合えばいいのか。いま、日本政府が掲げているのが技術や社会の変化に合わせてルールを見直し続けるアジャイル・ガバナンスと、関係する立場の人々が強力して考えるマルチステイクホルダーという考え方。各国に設けられた専門機関では、様々な専門家が集まってAIの安全性を評価する手法を整えて最新モデルを試験するなどしている。2023年に日本が主導した広島AIプロセスでは開発企業などが守る国際行動規範を定め実践状況を報告し合うしくみづくりも進んでいる。大切なのは一人ひとりが受け身ではなくそれぞれの立場からリスク対策に主体的に関わること。
こうしたリスクどう向き合えばいいのか。いま、日本政府が掲げているのが技術や社会の変化に合わせてルールを見直し続けるアジャイル・ガバナンスと、関係する立場の人々が強力して考えるマルチステイクホルダーという考え方。各国に設けられた専門機関では、様々な専門家が集まってAIの安全性を評価する手法を整えて最新モデルを試験するなどしている。2023年に日本が主導した広島AIプロセスでは開発企業などが守る国際行動規範を定め実践状況を報告し合うしくみづくりも進んでいる。大切なのは一人ひとりが受け身ではなくそれぞれの立場からリスク対策に主体的に関わること。
