- 出演者
- 伊藤雅之 上原光紀
今日は急速に進化を続けるAIとどう向き合うべきか専門家と考える。
最近のAIを巡る動きについて。今井さんは「AIは研究者たちの予想を超えるスピードで進化し、予想していない領域に入ってきている」などと話した。羽深さんは「AIのリスクを考えることは人間のリスクを考えることとほぼ同義。他方でこれまでの人間社会の歩みとAIの接続も考えていくべき」などと話した。
AIの研究は1950年代からスタートし、2022年にアメリカのOpenAIが対話型の生成AIサービス「OpenAI」を発表して世界に大きな衝撃を与えた。今井さんはAIの定義について「人間の知能を再現しようとする技術」とした。今年4月にはアンソロピックが「クロード・ミュトス」を発表した。アンソロピックを設立したダリオ・アモデイ氏はOpenAIの出身で、安全性を巡るビジョンの違いからOpenAIを離れたとされている。羽深さんは「両社ともAIの危険性を認識している点では一致している。リスクへのアプローチの仕方が異なっている」などと話した。
ミュトスはセキュリティー上の脆弱性の発見能力に優れていて、中には27年間誰も気が付かなかったシステム上の欠陥を突き止めた事例もある。このため悪用のリスクが高いとして現在もミュトスは一般公開されておらず、仮に悪用されるとインフラやサプライチェーンなどのシステムが停止して社会機能が麻痺する恐れもある。現在はグーグルやアップルなど約200の企業や組織でシステムの脆弱性検知などの目的で利用されていて、今月からは日本政府やメガバンクなどが利用できるようになった。こうした中アンソロピックは先週ミュトス級とする「クロード・フェイブル5」を公開した。このモデルは悪用のリスクがある指示があった場合に古いバージョンが応答するようになっていて、アンソロピックは安全対策を取り入れたとしている。ただ昨日アメリカ政府は国家安全保障を理由に外国人によるアクセスを禁止し、アンソロピックは顧客への提供を停止した。今井翔太氏は「ミュトスは特に解読能力に優れていて、例えると東大教授の集団よりも頭が良いとも言える」、「現在の生成AIはミュトス以外でも自立性が高まっていて、人間の指示がなくても長期的に分析と反省を繰り返すことができる」など話し、羽深宏樹氏は「ミュトスは高い解読量を持っているものの他のモデルとの大きな差があるわけではなく、AI全体の能力が底上げされている中で、脆弱性診断においてもAIは大きな貢献をしてくれるとも言える」、「サイバーセキュリティにおいても使い方次第で脅威にも自分たちのシステムを守る最強の盾にもなりえる」など話した。
今井翔太氏は「AIはプログラミングの自動化や科学分野での人間の限界を超えた思考性が役立つももので、今後の発展に期待したい」など話し、羽深宏樹氏は「医療分野や自動運転など様々な分野で社会活動を飛躍的にサポートしてくれるようになる」など話した。
AIのリスクは？対策は？今井氏は「我々の社会はとてつもなく頭がいい人がそんなにいないことによって上手くいっていた面があると思う。世界中の人が頭の良い物をいくらでも使いたい放題になるという社会が来ることはリスクも大きいと思う」、羽深氏は「問題はアウトプットが出ないようにいかにリスクを抑えていくか。厄介なのはアンソロピック・OpenAI・グーグルといったような大手の事業者であれば規制の対象にもなるし、きちんとガードレールを設置するということをやってもらえるが、これとは別にオープンモデルというのがあり、これは誰でもアクセスができて誰でもダウンロードできてしまうので世界中に溢れている。こういったオープンなモデルはガードレールでも十分でないことが多いので、こういったものに誰もがアクセスできるようになってしまうと当然ユーザーは良い人ばかりじゃないので常にどこで社会に深刻なリスクが起きるか分からないような状況に既になりつつあるということだと思う」等と話した。
進化を続けるAIだが、その開発競争は今後どうなっていくのか。アンソロピックが「ミュトス」を発表すると、OpenAIも「GPT5.5サイバー」という高性能のAIモデルを限定的に提供し、対抗する姿勢を鮮明にした。OpenAIを率いるサム・アルトマン氏はアンソロピックのダリオ・アモデイ氏について“過度に危機感あおり性能を誇示”と牽制した。イーロン・マスク氏が率いるスペースXも“AIシフト”加速。スペースXは先週ナスダック市場に株式を上場した。AIに対する期待から過去最大の約750億ドル（約12兆円）調達。また、アンソロピックとOpenAIは株式を新規に公開する意向を示した。資金の争奪戦となっている。アンソロピックもOpenAIもひとまず採算を度外視した先行投資で市場の主導権を握ろうとしている。長期的に資金を回収しようとしていて、一度リングに上がると簡単には降りられない構図となっている。
AI開発競争について。今井氏は「何でもできる人工知能を作った場合、何でもできる人工知能というのは誕生した後も人工知能自体は自分で発展させていくことができるので、そのフェーズに入ると誰も追いつけなくなるというので決着というのが一番典型的なルート。ただ、とんでもないAIじゃなくても、このAIを使ったサービスからユーザーが離れていかないので、どんどん収益を上げていけるので維持しようという方法も考えられる」、羽深氏は「デジタル技術にアクセスできるかどうかというデジタル・ディバイドと呼ばれるような問題はAIが出てくる前からよく議論されていた問題。そうした中で最先端の生成AIというのは比較的ユーザーフレンドリーな技術ではないかと思う。我々1人1人がAIのメリットとリスクを理解したうえで使いこなしていくような努力をすることが重要かと思う。AIの実装が最も進んでいる国の一つであるアメリカでは人々のAIに対する反発が非常に強いといったような事情がある。ChatGPTがブームになった2023年以降、常に半分以上の方がAIに対する期待よりも不安の方が大きいということを仰っている。一方で期待が大きいと仰っている方は年々減っている。アメリカでAIによって雇用が奪われていること、若い方への教育の機会を奪っているのではないかということ、環境破壊といった背景から実はAIが進んでいる国ほど不安が大きいという状況になっている」等と話した。
世界のAIモデルの性能ランキングでは、1～6位までアメリカ企業が占めている。7位に、中国・アリババのクエンがランクインしたほか、9・10位にも中国企業がランクインした。アンソロピックのアモデイ氏は先月、半年から1年程度で中国企業が追いつくだろうと述べている。今井は、中国は輸出規制を受けているため、アメリカほどの計算資源がないにもかかわらず、アメリカを追い上げている、本質的な技術力は高いなどと話した。羽深は、AIは今や軍事行動にも不可欠、その最先端モデルをどこが持っていくのか、安全保障上も極めて重要なアジェンダになるなどと話した。
日本政府は、官民が連携し、国産AIを開発していく方針を掲げている。2026年度からの5年間で、総額1兆円規模の民間支援も行うとしている。今井は、AI開発における日本の支援規模について、日本ができる最大限の規模だが、米中と比べるとかなり少ない、アメリカでは、1つの会社が数カ月で何兆円のリスクマネーを調達しているなどと話した。国産AIについて、今井は、他の国で作られたAIを日本のデータで学習したものを国産という人もいれば、最初から最後まで日本のデータで学習したものを国産という人もいる、日本の企業や研究機関が持っているデータを使って学習させたものを一般的には国産AIというなどと話した。羽深は、ほとんどの国が自前ではAIを開発することができないのが現状である、他の国と連携しながら、各国が戦略的な自律性を確保することがより重要となっている、今あるモデルを社会に溶け込ませていく、防衛や基幹インフラといった極めて重要な分野には国産AIを使っていく、こうした方針は、先日公表された自民党のホワイトペーパーに掲載されているなどと話した。今井は、AIのチップなどの基盤インフラなどは、他の国の技術を頼ってもいいが、最終出力のもとになるデータは日本のものを使う必要があるなどと話した。羽深は、教育など日本文化を体現したデータや、製造業など日本産業が持っていた強みにおけるデータを使って、領域特化型の日本の強みを生かしたAIを作っていくことが必要だなどと話した。今井は、日本の強みについて、製造業やアニメーションなどのエンタメにおけるデータは、ビッグテックも持ち得ないデータであり、日本の強みと言えるなどと話した。
EUは、AIが人間を評価することを規制し、違反した企業には制裁金を科すなど規制の度合いが強い。アメリカでは、前バイデン政権がAIの安全対策を求める大統領令を出したが、トランプ政権がこれを撤回。中国とのAI覇権競争を意識して、開発に向けてアクセルを踏み込み、AI規制をさらに弱めた。今月、AI企業が新たなモデルを公開する予定の最大30日前から、政府がアクセスできるようにするとした大統領令に署名した。開発スピードがあまりに早く、トランプ大統領も政府の関与を強めざるを得なかったとみられる。日本では去年、AI基本法が施行され、規制よりも開発や利活用に力点を置いているとされる。羽深は、EUは、今ある規制に上乗せする形で、AIだけに特化した分野横断的規制をかけている、日本は、分野別に規制を設けている、アメリカは、AIの安全性に対する規制はしないというスタンスをとっている、各州が独自にAIを規制することを禁止する大統領令も出ている、安全保障に関する分野については、他国に出さない方針をとるなど、政府が独占していく方針が強いなどと話した。今井は、性能の高いAI開発には必ずリスクが伴う、開発段階に規制をかけるのではなく、利用段階に規制をかけるのが妥当だなどと話した。羽深は、利用段階に規制をかけるのが正しいが、開発段階でも一部規制をかけたほうがいいという議論もある、ディープフェイクによる性的な画像の作成については、開発側での対策が求められている、開発における情報開示を求める規制も各国で出てきているなどと話した。飯田は、アルゼンチンのように、AIに法人格を与えようとする国も出てきている、AIが財産を持ったり、人を雇用したりできる可能性がある、最終的に誰が責任を負うのかが重要になるなどと話した。羽深は、日本では、新しく法律を作るのに早くても2～3年かかり、AI分野の開発スピードには追いつけない、法律には原則や達成すべき価値を盛り込み、その実現方法については、各企業や個人が自主的に取り組み、説明責任を果たしていくことが求められていくなどと話した。
これからの社会とAIの向き合い方について、今井翔太氏は「人工知能が社会に入ってきて、仕事を効率化してくれるとか、新しい薬を作ってくれる。法人格を持つみたいな話になるとこれはかなり摩擦が起きる。例えば階段があって、ロボットが車輪で移動していたら階段につまづく。我々は人間の体をしているから階段を上れる。こういうのは人間社会はいっぱいある。AIネイティブに、AIというものが出てきた社会でちゃんと回るような仕組みを整えていく。技術というよりは、そういった仕組みの方が重要になってくる」、羽深宏樹氏は「AIになかった時代に戻ることはできないということをまず共有した上で、社会の様々な仕組みをアップデートしていくということが重要。その際に重要な視点としてAIに完璧を求めすぎないことということはある」などコメント。
人間とAIの未来について。羽深宏樹氏は「AIはたしかに素晴らしい知能だが、実は人間の脳は素晴らしいシステム。人間の脳の場合はたったひとつのLED電球を光らせるぐらいの電力でこれだけの知的な活動ができるといった非常に効率的なモデル。これは実際に最先端のAIと比べると数百万倍くらいエネルギー効率がいい。さらにこのメカニズムというのは過去40億年程度にわたる大変厳しい自然の淘汰を生き延びてきたアルゴリズム。必ずしもロジックとか損得勘定では説明できないような共感する力とか正義感とか道徳とかそういったものが備わっているアルゴリズム。なのでたしかにAIもすごいが人間に本来備わっている力を信じて、他社をケアするとか共感する。そして、一緒に何かを作り上げていくこういった力を磨いていく。そして最終的に意思決定を行うといったところまできちんと磨いていけばまだまだ人間はAIには負けないのではないか。これまでのように誰かがルールを決めてくれる時代ではなくて、自分達できちんとルールを作っていく、その前提として自分達にきちんとAIのリスクを評価して責任をもって実装していくことが重要。これをやるのは個人とかひとつの会社では難しいので官民全体で連携・議論しながら、対処方法を常に生み出していくアプローチが重要」などコメント。今井翔太氏は「少なくとも研究上はやはり人間の雇用が減っているということが確認できている。これまで我々が大事と思っていた情報処理とかの比重はどうしても減っていく。人間の細やかな事情を含めての判断は、人間の仕事になってくると思う。子どもの教育の点でいえば、AIネイティブの考え方を身に着けようともいっている。人工知能を前提とした考え方をするとすごいものが生まれるかもしれない。これについては今から教育を受ける子どもたちにはチャンス。（今後のAIとの向き合い方について）人間の持つ強みを見直すきっかけにするのは重要になってくるのではないか」など指摘。飯田香織氏は「人間らしさが価値観を持ってくるのかなと思う。6月16日午後0時20分放送のみみより！解説で“AI・データセンターにNO！アメリカで広がる反発”を放送する」などコメント。
エンディング。上原光紀キャスターはきょうの日曜討論について「改めてごらんになりたい方はNHK ONEをご利用ください」などコメント。
- キーワード
- NHK ONE