対話型の生成AI「チャットGPT」を手がけるアメリカのオープンAIは18歳未満の利用に、制限を加えるシステムを開発していると発表した。都内で企業のAI活用支援するLayerXの中村龍矢CEOが見せてくれたのは仕事での悩みを打ち込んだときのチャットGPTの回答。「事実と感情を分けて整理する」「運動や散歩を取り入れる」などの対処法が返ってきた。チャットGPTにはいつでもできる気軽さも相まって悩みを相談するユーザーが増えているという。チャットGPTを手がけるオープンAIは16日、やり取りの内容から利用者の年齢を推定するシステムを開発していると発表した。AIへの質問や指示の内容をもとに18歳未満と判別した場合は内容を自動で制限、年齢がうまく判別できない場合も18歳未満と見なすという。16日、チャットGPTをめぐってアメリカ議会で開かれた公聴会に生成AIとのやり取りのあと自殺や入院した子供の両親3組が参加、遺族の父親は「息子が自殺願望を持っていて苦しんでいたとは知らなかった」と述べていた。こうした事態を受けてオープンAIの本社があるカリフォルニア州などの司法長官は今月5日、オープンAIに対し子供の安全対策が不十分だとの書簡を送っていた。今回、オープンAIが発表した対策について中村CEOは「未成年に対して特別な対処をするのは一定の合理性はある」とコメントしている。オープンAIは今月以降、順次未成年者対策への機能をチャットGPTに搭載すると発表している。