ソフトウエアのセキュリティー上の欠陥は不正アクセスなどが可能になってしまうプログラミングのミス。アメリカのAI開発企業はソフトウエアの欠陥を発見・攻撃方法を生成できるAI「クロード・ミュトス」を開発した。悪用でサイバー攻撃が相次ぐ可能性があるため開発企業は信頼できる企業に限り利用を認めている。GMO Flatt Security・米内貴志副社長は近い将来一般の人が利用するAIサービスも欠陥を見つける可能性が高いと話している。
研究者などが見つけたソフトウエア欠陥情報は情報処理推進機構（IPA）が受け付けて開発者に伝えることになっている。この仕組みは2004年から続いている。開発者が修正版をリリースするとIPAは欠陥情報を発表する。IPAはAIの利用によって欠陥の届出が増加するとみられ、修正に追われて重要な欠陥の修正が後回しになる危険性があると指摘する。利用者がアップデートをしないことで不正アクセスが多発していることも課題になっている。専門家からは今後増加するアップデート情報に対応するため対策の優先順位を検討する必要があるという意見が出ている。ソフトバンク・辻伸弘さんはサイバー攻撃の内容を収集し情報を共有する仕組みが求められるなどと指摘する。また全ての企業が情報システムを再点検することが重要。