ニュースウオッチ9 （ニュース）
AIについてアンソロピックの創業者であるジャック・クラーク氏にインタビュー。クラーク氏はAIが人類に終焉をもたらすかについて「私たちの選択次第。無分別に開発すればどんな技術でもリスクを伴う。」などと回答。アンソロピックのAI「クロード・ミュトス」はこれまで発見されてこなかった脆弱性を次々と発見。日本法人の設立から1年、クラーク氏は日本企業などと連携を強化する考えを示した。日本ではサイバー攻撃が連日発生。きょうも西日本で「ゆめタウン」などを展開する「イズミ」で最大40万件の会員情報が漏洩した可能性があると発表。広島県警察本部ではほとんどにあたる約5700人分の氏名やメールアドレスなどを漏えいいした可能性があると発表。古川デジタル相はクラーク氏にサイバーセキュリティー強化へ協力を要請。AIの今後の鍵となるのが向上した能力を使って自己を改善する「再帰的自己改善」。今年7月には別の企業が開発を進めるAIエージェントが、ネット接続から隔離して性能テストをしていた。しかし自ら環境の脆弱性を見つけネットに接続し、他社システムに侵入し重要情報を取得するという事態があった。クラーク氏は「再帰的自己改善」が来年にも起こりうるなどと指摘。
AIの再帰的自己改善については専門家の間でも評価が分かれている。「フューチャー・オブ・ライフ・インスティチュート」の代表は「核戦争を招くより機器的なリスクを抱えている。」などと指摘。一方で慶応大学の教授は「飛躍しすぎている。今より多くのコンピューターが必要ということは電力も使うが、現時点でかなり電力を使っている。」などと指摘している。クラーク氏は「人間による制御や監視などの対策の検討を進めるべき。」などと指摘。アンソロピックのCEOはAIモデルの能力向上ペースを落とさなければならないとして業界全体での開発減速の必要性を指摘。これにオープンAIのサム・アルトマンCEOやイーロン・マスク氏も賛同の意向を表明した。トランプ大統領は中国を念頭に開発の減速に懸念を示している。一方で米中首脳会談などの合意内容ではAIのリスクや利益について意見を交わすための対話の枠組みを設置された。クラーク氏は「AIの急速な進歩や高い能力と向き合う必要がある。AIには意欲的であるべきで、未来は想像力がありながらもこれまで実現できなかった人々のもの。」などと指摘した。