対話型のAI「チャットGPT」を手掛けるアメリカのOpenAIは、中国の治安当局と関連のあるユーザーがインターネット上で高市総理大臣を中傷する世論工作にチャットGPTを使おうとしたと報告書を公表した。報告書によると中国当局と関連あるユーザーが高市総理を批判する世論工作を計画するよう、チャットGPTに相談。チャットGPTが協力を拒否したという。Open AIは利用規約に違反する場合は利用を制限することがあるとしている。Open AIの分析によると別のAIサービスを用いて行われたものの大きな影響は見られないとしている。またこのユーザーのアカウントは停止されたという。
