アメリカでAI業界を牽引する3人の“開発を減速すべきだ…”という趣旨の発言。ライバルとして活躍する企業のトップが歩調を合わせるのは異例だともいえるが、それだけ危機感が高いことの現れだという。このAIの安全対策が不十分だという懸念については先週もこの番組でお伝えした。アンソロピックを辞めたコクソン氏がXに投稿した警告「AIは2020年代のうちに人類を滅ぼすかもしれないとAIの開発者たちは本気で信じている」。この投稿は瞬く間に世界中で大きなニュースになり、アンソロピックのアモデイCEOも直後のCNNのインタビューで「大部分で同意する」と発言していた。そしてその上でこうも述べている。「開発を減速させて必要な対策を業界全体で講じるべきだ」という提言。では具体的に何が必要だと考えているのか？アモデイCEOはネット上に公開した論考で説明しているので、主な点をみていく。まず、AIが危険だと認識するようになった理由については、こう述べている。「AIが次世代のAIを構築する能力が向上するなど、急激に進化していることについて夏以降懸念するようになった」。これは“再帰的自己改善”と呼ばれ、業界全体で起こり始めている。この再帰的自己改善とは、人間の介入なしにAIが自身で改善を行い改善されたAIが以前よりすぐれた能力で次の改善を行うこと。そして論考の中で強調しているのは、人間が十分に理解や制御できないAIが生まれる危機感だ。もしそういうAIが生まれた場合、アモデイCEOが懸念される事象として挙げているのが、1・AIによる高度なサイバー攻撃、2・生物兵器の開発支援、3・大規模なネット詐欺、4・インターネット上の大量のAIエージェントが自律的に活動する状況など。そして、その上で3つ対策を提案している。1つ目は第三者による監視。外部の担当者を設置し、安全性の評価や、問題が発生した際の報告、開発状況の検証を行うべきだとしている。2つ目は、共通の安全基準を作る。主要なAI企業や各国が共通のルールや試験、評価基準を持つべきだと主張している。3つ目は、ルールの国際化。将来的にはAIの危険な能力について、国際的な制限や合意が必要になる可能性にも言及している。
本当に制限していけるのかどうかが焦点になってくるが、世界中の企業がAIの開発を急激に推し進めているので開発の減速は可能なのかというのが疑問に上がってくる。アモデイCEOの投稿の直後、トランプ大統領は「対策を講じようと思えばできるが、起こりもしないこと持ち出す非常に否定的な人たちが大勢いる」と批判した。トランプ大統領がAI開発の減速を真っ向から批判する理由、それはAIの開発競争で中国がアメリカを猛追しているため、中国に遅れを取るのではないかという懸念があるためだ。2003年から去年までにアメリカ・中国・ヨーロッパで開発された主要なAIモデルの数の推移では、去年アメリカは59でトップだが、中国が徐々に追い上げている。世界のAIの特許の出願や保有のシェアを示したグラフでは、一昨年は中国が圧倒的に多く74.24％、2位のアメリカを大きく引き離しAIの開発を進めていることが分かる。アモデイCEOも「開発を減速しすぎると中国が先行し重大な安全保障上のリスクが生じる」と指摘している。今回のアモデイCEOの発言について中国側の公式な発表はないが、中国共産系のメディア「環球時報」のウェブサイトでは、「中国のAIが標的。アメリカの『テクノロジー右派』冷戦の計画書を説明」この記事では表面的には合理的だとしつつも、隠された意図は中国を標的として封じ込めることだと批判している。今回AIの企業のトップが声を揃えて開発の減速と対策強化を訴えたことは技術の進歩が想定以上に速く、自分たちですら制御できなくなるかもしれないという懸念があるためなのかもしれない。ただその発言の裏には自社だけ開発の波に乗り遅れることは避けたい、だから国が主導するなどして一律の規制や制限を作って競争相手にも同じ制約を科したいという思惑があるのではないかという見方もある。AI界をリードするアメリカと中国が足並みを揃えなければ開発のスピードを落とすことはできない。しかしそれが本当に実現するかはまだ見通せない。