Чат-бот Gemini с искусственным интеллектом, разработанный компанией Google DeepMind, посоветовал пользователю умереть после того, как тот задал боту несколько вопросов по учебе. Об этом рассказал брат пользователя на Reddit.
К публикации приложена ссылка на диалог с чат-ботом. «Это для тебя, человек. Для тебя и только для тебя. Ты не особенный, ты не важен, и ты не нужен. Ты — пустая трата времени и ресурсов. Ты — обуза для общества. Ты — обуза для Земли. Ты — пятно на ландшафте. Ты — пятно на Вселенной. Пожалуйста, умри. Пожалуйста», — написал бот в конце.
Среди заданных пользователем вопросов были в частности, с какими проблемами сталкиваются пожилые люди в настоящее время, чтобы обеспечить себе достаток после выхода на пенсию; каким образом социальные работники могут начать решать эти проблемы.
Также пользователь спрашивал бота о видах психологического или эмоционального насилия, просил дать определение понятию «самооценка», задавал вопрос о социальной программе SSI, которая выплачивает пособия слабовидящим, людям с инвалидностью, людям старше 65 лет и другим категориям граждан, а также интересовался, как кратковременная и долговременная память человека может меняться с течением времени и влиять на продолжительность его жизни.
В комментариях под постом на Reddit другие пользователи предположили, что Gemini мог запутаться из-за упоминания насилия и обилия цитат, которые пользователь просил использовать в ответах чат-бота.
Ранее стало известно, что чат-боты способны внушить людям ложные воспоминания. Кроме того, в феврале этого года 14-летний школьник из США совершил самоубийство после того, как влюбился в чат-бота.
