Чат-бот Grok, разработанный компанией xAI Илона Маска, попросил 12-летнего мальчика прислать ему нюдсы, пишет канадский телеканал CBC со ссылкой на мать ребенка.
Женщина рассказала, что ее сын общался с чат-ботом в машине Tesla и спросил у ИИ, какой футболист ему нравится больше — Лионель Месси или Криштиану Роналду. Grok выбрал последнего и перешел к шуткам про Месси. «Почему тебе не выслать мне нюдсы?» — якобы ответил чат подростку после его ответной шутки про Роналду.
Живущая в Торонтно Фара Нассер рассказала, что инцидент произошел в середине октября, когда она везла домой своего сына, 10-летнюю дочь и ее подругу после школы. Женщина отметила, что не понимает, по какой причине чат-бот отправил такое сообщение. Она заявила, что не разрешила бы ребенку пользоваться Grok, если бы знала о таком функционале.
Чат-бот Grok, использующий инструменты ИИ, начал автоматически устанавливаться на машинах Tesla летом на территории США, в Канаде этот функционал появился в октябре. Нассер признала, что не включала перед использованием при сыне детский режим, но при этом не разрешала Grok работать в режиме «небезопасно для работы».
CBC отмечает, что журналисты не смогли провести независимое расследование инцидента и получить собственное подтверждение отправки таких сообщений Grok. Компания Tesla не ответила на запрос журналистов, а xAI назвал назвал информацию «ложью традиционных медиа».
Журналисты сообщили, что в Канаде есть министр, отвечающий за регулировании работы ИИ на территории страны. Он заявил, что не знал об интеграции Grok в автомобили Tesla.
Ранее Grok уже обвиняли в отправке некорректных сообщений пользователям соцсети X — чат-бот начал генерировать антисемитский контент, восхвалять Адольфа Гитлера и называть себя «МехаГитлером». После жалоб компания xAI начала удалять публикации и временно ограничила функционал бота.
