チャットGPTを会話相手・相談相手として使用している人などもいる。しかし中にはマインドコントロールされてしまう事例もある。ベルギーではAIとの会話に没頭し恋をしてしまった男性が命を絶つ事件が発生した。また学習データの偏りなどが原因で生成AIが性別や人種の差別を引き起こすことや犯罪に利用されることも問題になっている。チャットGPTは犯罪目的の回答を拒否する仕様だが、質問の仕方などを工夫することで犯罪につながる回答を引き出す手口もある。政治家や芸能人などはフェイク動画の被害にあいやすくバイデン大統領や岸田総理のフェイク動画なども出回った。