日本経済新聞社・村山恵一氏が解説。AIの暴走防ぐ「正義のAI」研究者ベンジオ氏開発へ。村山氏は「AIの大物研究者、カナダのモントリオール大のヨシュア・ベンジオ教授がAIの暴走を防ぐ監視役となるようなAIを開発。AIは約7か月で性能が2倍に高まるとされる。世界的に規制が追いついていない。ベンジオ氏は安全性の研究に特化したNPOを設立し危険な動作を予測して防ぐ正義のAIを広める。他のAIの異常な挙動や人に危害を及ぼしかねない動作を予測して制止するAIを開発し、将来は医療や気候変動といった科学研究に役立てる考え」などと述べた。きょうのテーマは「AI研究の最適解は非営利？なお続く組織の模索」。村山氏は「私が注目したいのは昨年、ノーベル賞を受賞したトロント大のヒントン教授らと共にAIのゴッドファーザーとも呼ばれるベンジオ氏がAIの安全性を高める研究を推進する組織LawZeroをNPOとして設立したこと。企業には資本市場の圧力がかかる。性能競争に巻き込まれて公共の利益と一致しないためとしている。高度なAIを研究開発する組織のあり方はどうあるべきかは重要なトピック。代表的なのはチャットGPTの開発元オープンAI。同社は2015年に非営利の研究所として発足した。その後、AIの研究開発には巨額の投資が必要とわかり、資金調達のためNPOのもとに特殊営利企業を置くハイブリッド体制に切り替えている。マイクロソフトなどを投資家に迎えたことで研究開発にくわえサービス提供も加速。ただビジネスが優先して安全対策がおろそかになっていると社内外の研究者から批判の声が上がるようになった。2023年にはサム・アルトマン氏の経営手法が危ういのではと一時的にCEOの職を解かれるという騒ぎも起きている。アルトマン氏は営利化路線を進むが紆余曲折の末、5月はじめにNPOから営利企業に経営主体を移す計画を取りやめると発表。そうした中でベンジオ氏がLawZeroをNPOとして立ち上げるというニュース。AIの研究開発組織はNPOやそれを中核とした体制にするのが1つのスタンダードという流れを明確にするかもしれない。LawZeroについて紹介したベンジオ氏の投稿にはAIが自己の保存や有利な立場の獲得のために想定外の行動をとったりルールを破ったりする現象が見られると書かれている。AIが危険な暴走を始める兆候があちこちにみられ抑制手段をとらなければならないという。AIの暴走を防ぐAIは公共性が高く公益を重視するNPOがふさわしいと考えLawZeroの組織体制を決めた。株式会社のような営利組織が悪というわけではない。両方の利点を加える組織設計に知恵を絞ることが重要。AIからは離れるがアルトマン氏も注目するパタゴニア。営利企業と目的信託とNPOではさみ込む構造になっている。営利法人で利益をあげながら自社の使命と位置づける環境保護活動を持続的に実施するため編み出した独自スタイル。オープンAIを最終的にどのような組織にするか検討中。PBCに衣替えした上でNPOが大株主となり監督管理する大枠は示されている。PBCを有効に活用できるかもカギ」などと述べた。（日本経済新聞）