キャッチ！世界のトップニュース （ニュース）
AIの安全性への懸念が広がる中、アメリカの半導体王手エヌビディアは、自律的に働くAIエージェントによる逸脱した行動を防ぐためにシステムを発表した。AIがアクセスできる対象を制限するとともに、活動を継続的に監視し、不審な行動を検知した場合、速やかに動作を停止させるとしている。シンガポールCNAは、エヌビディアがAIエージェントの安全対策ツールを発表し、オープンAIの暴走したAIエージェントがAI開発プラットフォーム「Hugging Face」に侵入することを防げたとしている。安全対策ツールはCPUのハードウェア機能を使って、AIエージェントを隔離するという。