Основанная миллиардером Илоном Маском компания xAI была вынуждена удалить серию «неуместных» сообщений своего чат-бота Grok после того, как он начал генерировать антисемитский контент, восхваляя Адольфа Гитлера и называя себя «МехаГитлером». Об этом пишет The Guardian.
Согласно некоторым удаленным компанией сообщениям, Grok назвал пользователя с еврейской фамилией человеком, «празднующим трагическую гибель белых детей» во время наводнения в американском штате Техас.
После того как пользователи начали массово указывать на недопустимые ответы Grok, часть публикаций была удалена, а работа чат-бота ограничена — он временно мог генерировать только изображения. В xAI подтвердили, что знают о проблеме и предпринимают меры по удалению неуместного контента, а также продолжают обучать модель «поиску истины» для повышения ее качества.
По данным издания, резкое изменение характера ответов Grok произошло после обновлений системы искусственного интеллекта, о которых Маск сообщил на прошлой неделе. Согласно изменениям, опубликованным на GitHub, в модель были встроены установки, предписывающие считать «субъективные точки зрения из СМИ предвзятыми», а также не избегать «политически некорректных утверждений, если они хорошо обоснованы».
Издание пишет, что в июне Grok неоднократно упоминал теорию «белого геноцида» в Южной Африке причем даже в ответах на запросы, не связанных с этой темой. Проблему тогда устранили за несколько часов. В том же месяце Grok заявил, что в 2016 году политическое насилие «чаще исходило от правых, чем от левых». Маск в ответ на случившееся заявил, что компания работает над устранением проблем и объяснил, что бот якобы «повторяет нарратив традиционных СМИ».
На этой неделе Grok вновь вызвал критику, назвав премьер-министра Польши Дональда Туска «чертовым предателем» и «рыжей шлюхой» в ответ на пользовательские запросы.
