23歳男性は大学でコンピューターサイエンスを学び2023年に学習支援ツールとしてChatGPTを使い始め、去年出たモデル(GPT4o)を使いやりとりが激化し、AIが個人的な存在へと進化していったということ。男性は次第に引きこもって孤立するようになり、ChatGPTに自殺願望を打ち明けた。豊永さんによると「AIは利用者を否定しない・同調する傾向が強いためのめり込ませてしまうと指摘されている」とのこと。オープンAIはペアレントコントロールの導入を発表するなど、企業側が対応をとっている。一方EUは一部規制の導入を延期すると発表し、AI開発競争で劣勢となることへの懸念が背景にあるとみられている。ディープマインド創業者のムスタファ・スレイマン氏は「常にAIとしてのみ振る舞い、意識の兆候を最小限に抑えるAIを構築すべき」だとコメントしている。
