Компания Илона Маска xAI оказалась в центре скандала после обнародования сотен тысяч переписок пользователей с чат-ботом Grok. Они стали доступны через Google и другие поисковики. Об этом сообщает Forbes.
Как выяснилось, всякий раз, когда пользователь нажимает кнопку «поделиться» в чате Grok, система создает уникальную ссылку. Ее можно отправить по почте или в мессенджере, однако при этом страница автоматически индексируется поисковыми системами, без предупреждения и возможности отказаться. В результате опубликованные диалоги стали доступны любому, кто введет соответствующий запрос в Google.
По оценке издания, поисковик уже проиндексировал более 370 тысяч диалогов. Среди них встречаются как безобидные задания вроде написание твитов или резюме, так и опасные запросы. В ряде случаев Grok выдавал инструкции по изготовлению наркотиков, самодельных бомб и вредоносного кода, а также опубликовал детальный план покушения на самого Маска. Кроме того, в открытом доступе оказались личные сведения пользователей: имена, медицинские и психологические вопросы, а иногда даже пароли и документы.
Подобная история недавно произошла и с OpenAI, отмечает Forbes. Пользователи ChatGPT заметили, что их разговоры индексируются в Google. После волны критики компания удалила функцию, назвав ее «коротким экспериментом». Маск тогда публично высмеял конкурентов и уверял, что Grok защищен от подобных ошибок. Однако жалобы на индексацию диалогов Grok начали появляться еще в январе.
Google пояснил, что выбор об индексации остается за владельцами сайтов. Между тем, как отмечает издание, маркетологи уже воспользовались ситуацией и стали намеренно публиковать переписки с Grok, чтобы продвигать свои товары и услуги в поисковой выдаче.
Ранее ИИ Илона Маска обвинили в создании порнодипфейков с участием звезд — в частности, Тейлор Свифт. Претензия заключалась в том, что генератор фото и видео Grok Imagine, разработанный компанией xAI, создавал сексуализированные ролики с обнаженной певицей даже если такого запроса не было.
