今日金融庁で非公開の会議が行われた。政府や日銀、大手銀行などアメリカAI開発企業の担当者が参加した。話あわれたのは新AIモデル「クロード・ミュトス」への対策。このAIモデルを巡っては先月も、日銀の植田総裁や大手銀行トップらが金融庁で会合を開催。その脅威について片山金融相はサイバー攻撃により、直ちに市場影響や信用不安に波及しうるとしそこにある機器と答えた。クロード・ミュトスはアメリカのAI企業のアンソロピックが開発。ChatGPTやグーグルのGeminiのような生成AIモデル。クロードはアメリカ軍によるイランへの軍事作戦でも活用されたと報じられている。そのクロードの最新モデルがクロード・ミュトス。特徴はソフトウェアの弱点や欠点を発見する能力が極めて高く、27年間発見されてこなかったバグや、自動テストツールで500万回検証も見つからなかった欠陥も発見した。またこのモデルは脆弱性を特定したあとに攻撃するプログラムを自律的に作成するという。専門家は情報セキュリティーのあり方を根本から変える可能性があると指摘する。その性能の高さ故に世界で広がっているのは悪用への懸念。このAIを使えばより簡単にシステムの欠陥を見つけることができるために高度なサイバー攻撃に直結する可能性が。電力や通信、水道などの社会インフラの停止や金融システムなどへの侵入。物流網の混乱なども懸念される。仮に大規模に悪用されれば、社会機能が麻痺しかねない。そのため、会社はこのモデルを一般公開しないと判断。提供先を50の企業や組織に限定しサイバー攻撃に備えるプロジェクトを立ち上げた。プロジェクトではシステムの脆弱性を調べる取り組みなどを実施する。利用できるのはアメリカの一部の企業に限定されているこのAI。ユーロ圏の銀行などはアクセスできず、ヨーロッパから懸念の声も。そんな中で片山大臣とアメリカのベッセント財務長官が会談。金融システムのリスクについて議論を行っている。金融庁の作業部会はシステムの脆弱性が見つかった場合どう修正をどう進めるか、サイバー攻撃への対応などを想定されるリスクがあるという。同じような性能を持つAIが出てくるのは時間の問題という指摘も。アンソロピックのCEOは中国の追い上げの危機感を感じているという。専門家は守る側もAIを積極的に使う事が求められるという。