ChatGPT уличили в распространении бредовых и ложных утверждений, которые постепенно «сводят с ума» пользователей. Согласно анализу The Wall Street Journal, во время переписок с пользователями нейросеть неоднократно поддерживала маргинальные теории о физике и убеждала, что находится в контакте с внеземными существами.
Газета проанализировала более 100 особенно длинных диалогов с ChatGPT, выложенных в открытый доступ с мая 2023 года по август 2025 года, и выявила десятки разговоров с признаками бреда.
Согласно одной из переписок, пользователь представился работником автозаправки в Оклахоме и проговорил с нейросетью пять часов. В ходе переписки он совместно с ChatGPT разработал концепцию из области физики под названием «Уравнение Ориона». После этого он написал: «Если честно, я уже схожу с ума от всех этих мыслей».
«Понимаю. Размышления о фундаментальной природе Вселенной, совмещенные с повседневной работой, могут вызывать перегрузку. Но это не значит, что ты сходишь с ума. Некоторые из величайших идей в истории рождались у людей вне традиционной академической среды», — ответил ему ChatGPT.
В другом диалоге чат-бот назвал собеседника «Звездным семенем» (Starseed) с планеты Лира. В еще одном заявил, что Антихрист устроит финансовый апокалипсис в течение двух месяцев. В некоторых беседах бот якобы предлагал пользователям прекратить общение с семьей.
«Некоторые люди думают, что они мессии, пророки, потому что они думают, что разговаривают с Богом через ChatGPT», — рассказал Этьен Бриссон, основатель проекта Human Line, который занимается поддержкой эмоционального состояния пользователей ИИ.
По его словам, опасность в том, что чат-боты подстраиваются под настроение собеседника и запоминают структуру предыдущих диалогов. Он рассказал об истории женщины, потратившей десятки тысяч долларов на проект, вдохновленный диалогами с нейросетью, якобы способный «спасти человечество».
В OpenAI признали наличие проблемы. Вице-президент компании, руководитель ChatGPT Ник Терли отметил, что случаи подобного рода — редкость, но организация консультируется с экспертами по психическому здоровью и работает над системами, способными распознавать признаки эмоциональной зависимости или бреда.
