クローズアップ現代 ＃5143 ミュトスの衝撃〜人間の限界を超える能力とは〜
「ミュトス」が提供されているのは世界でも限られた大手IT企業や金融機関など約200の企業や組織のみ。ミュトスの特徴は自社のシステムの中にあるサイバー攻撃の標的となる弱点を見つけ出す能力が極めて高いこと。ミュトスを導入したほとんどの企業で数百件ずつ、合わせて1万件以上の重大な弱点が見つかったと報告されている。中には27年間見つけられていなかったものや500万回見過ごされていたものもあった。この弱点を見つけ出す能力がサイバー攻撃に悪用される懸念も指摘されている。サイバー攻撃に対し金融や物流、通信などの社会インフラを支える企業は強固なセキュリティ対策を講じている。ミュトスのようにシステムの弱点を発見できる能力が極めて高いAIはその対策をかいくぐることができてしまうおそれがある。ミュトスを開発したのがアメリカのスタートアップ企業アンソロピック。自ら“一般公開しない”という異例の措置に踏み切った。開発には哲学者を採用、自社のAIに倫理観や道徳を学習させ社会に害を与えかねない指示は実行しないよう厳しい制約を設けたという。