NY証券取引所から中継で岡三証券NY・河田大輔の解説。AI企業トップによる最先端AIの開発を減速させるべきとの発言が市場で注目されている。議論のきっかけとなったアンソロピックのアモデイCEOは安全性を高める具体策として第三者の評価チームに社内システムへのアクセス権限を与える方針を示している。そのうえで、AI企業各社が共通の安全基準に合意する枠組みも提唱。背景には多くのAI開発がこれまでクローズド型で進んできた状況がある。AI開発にはクローズド型、オープン型がある。クローズド型はこれまで外部に情報を出さないため管理が容易と考えられてきたが、能力が高まったAIによる暴走の事例も報告され、外部検証の難しさが露呈。オープン型はAI自体の悪用のリスクや乗っ取りを指摘されながらも透明性の高さから脆弱性対応や防御技術の共有などが整備されだしている。今後はクローズド型AIにおいても透明性の高い開発体制を取り、開発速度を抑制する方針。オープン型のAI基盤を運営するハギングフェイスはアンソロピックなどの安全性評価への協力を提案した。これまで距離のあったクローズド型企業とオープン型企業が安全性を軸に協力する可能性も出ている。AI開発に積極的なトランプ大統領の下で企業が団結できるかはリスク要因とみている。両社をつなぐ存在として注目されるのがエヌビディア。エヌビディアは3日、ハギングフェイスを129億ドルで買収すると発表。さらにアンソロピックIPOに向け、最大100億ドルの投資を検討。エヌビディアがクローズド型とオープン型の双方との関係を強化し、影響力を高める可能性がある。
