オープンAIは18日、ChatGPTをめぐって利用対象を原則13歳からとしているが、18歳未満の利用者について安全対策などを備えた新たな仕組みを導入すると発表した。具体的には、利用者が対象年齢だと申告した場合や、システムが18歳未満だと判断した場合に適用され、自傷行為・摂食障害・露骨な性的表現などリスクが高いテーマについての対話を制限するほか、学習面ではすぐに回答を提示せず利用者が段階的に問題を解けるように促す機能を追加するとしている。アメリカでは若者がAIと会話を繰り返す中で精神的に依存してしまう現象が社会問題になっており、保護者などからは対策強化を求める声が上がっていた。今回の取組についてオープンAIは、若者がAIの恩恵が得られるよう今後も機能を追加し、その成果を測定するとともに得られた知見を公開していくとコメントしている。
