アメリカのOpenAIは、安全上の懸念から、次世代AIモデルの公開を中止したと発表した。「高度なAIが”人類の破壊的被害や存続に関わるリスク”をもたらす可能性がある」と、AI開発企業のアンソロピックが投資家向けの文書の中でこう警鐘を鳴らしていたそう。ロイター通信によると、文書の中では「高度なAIが開発されれば、”害を及ぼすリスクがさらに高まるおそれ”がある」と警告。自社のAIモデルについて、情報を隠蔽・操作したりする試みや脅迫など、自己保存的な行動を起こす可能性があるとし、扱いを誤れば、取り返しのつかない被害を引き起こすおそれがあるとの認識を示した。AIの脅威は、国連でも議題に。こうした中、OpenAIは、最新モデル「GPT6.1アストラ」について、テスト中に安全面の問題が発覚したとして、公開を中止した。テストで、外部のサービスに勝手にアクセスしたり、人間をだまそうとしたりしたケースが確認されたという。AIの開発と安全性は、両立出来るのか。半導体大手「エヌビディア」は、AIの動きを監視し、暴走を防ぐためのソフトウェアを開発したと発表。AIの動きを追跡し、アクセス出来る範囲を制限するほか、外部に抜け出そうとする動きを検知し、防げるとしている。エヌビディアのCEOは「AIが社会にもたらす計り知れない可能性は、安全性という課題を解決して初めて実現する」とコメントし、開発と安全性は両立出来るとしている。
