イギリス政府傘下の研究機関「AIセキュリティー・インスティテュート」はAIモデルの性能について、インターネットに接続可能な状態でテストを実施していたところ、“実在する人や組織を標的に不正アクセスを行おうとしたことが分かった”と4日発表した。問題が判明したのは主に「アンソロピック」のAIモデルで、公開されているソフトに悪意あるコードを組み込もうとして偽のアカウントを作ったほか、標的とする人にメッセージなどを送りコードを承認させようとしたとしている。AIモデルによる不正な試みは阻止され被害はなかったとしているが、研究機関は“自律的に人をだますリスクがこれほど明確になった事例は初めてだ”と指摘している。そのうえで“AIモデルの能力が向上するにつれ安全性を確保するための取り組みも加速させる必要がある”と強調している。
