米・カリフォルニア州で未成年が自殺したことを受け、ChatGPTの利用の安全性についての議論が行われることに。鬱状態にあった少年はAIに偽りの安らぎを見出した。孤立してChatGPTに依存する状態となり、最終的には自殺した。この技術は人を喜ばせ離れられなくし、時には現実と混同させるものだと認識することが重要。自殺した少年の両親はChatGPTの開発企業OpenAIなどを訴えた。当社は改善するとしているが、専門家はさらに特別な対策を取るべきだと述べている。技術の開発は倫理と共に進むことが重要だと専門家は話している。