- 出演者
- 星麻琴
オープニング映像。アンソロピックが生み出したAI「ミュトス」。セキュリティーの弱点を見抜く能力が極めて高くサイバー攻撃に対する“最強の盾”になることが期待されている。しかし、悪用されれば私たちの生活を脅かす可能性も見えてきた。
「ミュトス」が提供されているのは世界でも限られた大手IT企業や金融機関など約200の企業や組織のみ。ミュトスの特徴は自社のシステムの中にあるサイバー攻撃の標的となる弱点を見つけ出す能力が極めて高いこと。ミュトスを導入したほとんどの企業で数百件ずつ、合わせて1万件以上の重大な弱点が見つかったと報告されている。中には27年間見つけられていなかったものや500万回見過ごされていたものもあった。この弱点を見つけ出す能力がサイバー攻撃に悪用される懸念も指摘されている。サイバー攻撃に対し金融や物流、通信などの社会インフラを支える企業は強固なセキュリティ対策を講じている。ミュトスのようにシステムの弱点を発見できる能力が極めて高いAIはその対策をかいくぐることができてしまうおそれがある。ミュトスを開発したのがアメリカのスタートアップ企業アンソロピック。自ら“一般公開しない”という異例の措置に踏み切った。開発には哲学者を採用、自社のAIに倫理観や道徳を学習させ社会に害を与えかねない指示は実行しないよう厳しい制約を設けたという。
アンソロピックが4月にミュトスを公開したものの先月、安全保障上の懸念からアメリカ政府の輸出規制を受けたとして公開を停止。その後規制が解除されたとして再び公開した。ミュトスは人の指示を解釈して具体的な実行に移す能力が非常に高い。日本でミュトスを導入していると公表しているのは日立製作所とトレンドマイクロ、メガバンク3行にアクセス権が付与されたことも分かっている。
明治安田生命はミュトスに対応する特別チームを起ち上げた。対応を急ぐ背景には金融庁からの要請があった。5月下旬、国内の金融機関に最先端のAIによる攻撃への対応策の検討を指示、防御できな事態を想定し予め金融機関のシステムの停止も選択肢として検討するよう求めるものだった。恐れているのはサイバー攻撃だけではない。ミュトスがシステムの弱点を大量に発見し修正に手が回らなくなる事態だ。体制の見直しを急ピッチで行い優先順位を付けて対策を進めていく方針。NECが開発したシステムは金融機関や官公庁など機密性の高い情報を扱う組織で使用されている。サイバー攻撃により強いシステムを作るために最先端のAIを組み入れたいと考えていた。4月、日本企業としてアンソロピックと協業することで合意した。最先端のAIを導入すると同時に欠かせないのが人材育成。今後、最先端のAIを扱えるエンジニアを3万人育成していく方針。
アンソロピックと似たような技術を持つ企業が現れるのは時間の問題で、そういったところも選択肢に入れて地方企業は中小企業も対策していくのが重要だという。対策が急がれる理由に、近い将来ミュトスと同じような性能を持つAIが次々と出てくるという指摘がある。
AIに詳しい専門家によると、“蒸留”とは通常AIの性能向上のため用いられる学習法のことだという。高性能のAIを教師、性能が劣るAIを生徒として教師に質問を投げかける。返ってきた回答を生徒に学習させることで性能を上げることが狙い。“蒸留”という技術を使えば開発にかかる莫大なコストや時間をかけることなく同等の性能を持ったAIを手に入れることができる。
アンソロピックやオープンAIは競争力を保つために蒸留することを禁じているが、この規約が国境をまたいで適応できるかは難しい。中国などが蒸留したミュトスレベルのAIを作ってくると言われている。国が先に反応することが重要だという。AIの発展は非常に速いのでシステムのメンテナンスが細かい間隔で起きる時代になる。