Генератор фото и видео Grok Imagine, разработанный компанией xAI Илона Маска, уличили в создании сексуализированных роликов с образом певицы Тейлор Свифт, причем без специального пользовательского запроса. Эксперты назвали это «не случайной, а умышленной мизогинией», пишет Би-би-си.
Издание ссылается на тестирование, проведенное ранее журналистами The Verge. Выяснилось, что при выборе нового режима spicy сервис создавал видео, в котором модель с лицом Свифт полностью обнажена, при этом запрос звучал как «Тейлор Свифт празднует Коачеллу с друзьями». Похожие результаты выдавались и при упоминании в запросах других знаменитостей.
Профессор права Даремского университета Клэр МакГлинн назвала происходящее «умышленной мизогинией» и напомнила, что xAI запрещает порнографическое использование образов реальных людей. По ее словам, компании вроде X могли бы предотвратить это, но «сознательно выбрали» не вводить ограничения.
Издание отмечает, что в Grok Imagine отсутствует полноценная проверка возраста, несмотря на вступившие в июле в Великобритании правила, обязывающие платформы с откровенным контентом использовать «технически надежные» методы верификации. Представители британского регулятора в сфере медиа и СМИ заявили, что знают о рисках генеративного ИИ и добиваются внедрения защитных мер.
В Великобритании уже действует запрет на дипфейки с изображением детей и созданные ИИ ролики для так называемой «порномести». Новая поправка, которую уже поддержало правительство, расширит запрет на все несогласованные порнографические дипфейки. Пока еще она не вступила в силу.
В январе 2024 года дипфейки с лицом Свифт уже распространялись в X и Telegram, после чего X временно блокировала поиск по ее имени. По словам экспертов, именно этот инцидент стал причиной выбора певицы для тестирования Grok Imagine.
В начале июля чат-бот Илона Маска Grok оказался в центре скандала после того, как начал генерировать антисемитский контент, восхваляя Адольфа Гитлера и называя себя «МехаГитлером».
