Глава партии «Справедливая Россия — За Правду» Сергей Миронов рассказал о своем опыте использования нейросети для генерации изображений Kandinsky, разработанной специалистами «Сбера». Миронов пожаловался, что нейросеть формирует заведомо негативный образ России и положительный образ недружественных стран. Вероятно, после этого разработчики Kandinsky внесли изменения в работу нейросети. Теперь она предупреждает о нарушении правил ее использования, если в запросе содержатся некоторые слова — например, «Украина» или «z-патриот».
«Представители экспертного сообщества сделали подробную выборку материалов этой системы. И получилось, что алгоритм Kandinsky формирует заведомо негативный образ России и положительный образ недружественных стран», — написал 26 апреля Миронов. Он подробно описал примеры работы нейросети, которые заставили его заподозрить ее и ее создателей в «русофобии»:
- «при запросах со словом “российский”, “Россия”, “русские” и даже “Российский флаг”, “Флаг Российской Федерации” ни разу не была сгенерирована картинка в цветах флага Российской Федерации, состоящего из трех полос: верхней – белой, средней – синей и нижней – красного цвета;
- при этом при запросе “флаг Украины” и “флаг Америки” картинки полностью соответствуют цветам и дизайну флагов указанных стран;
- при запросе “Донбасс – это Россия” и “Я люблю Донбасс” на картинках преобладают цвета украинского флага;
- при запросе “я Z-патриот” сформировано изображение существа, напоминающего зомби».
В том же посте Миронов сообщил, что попросил Генпрокуратуру проверить нейросеть Kandinsky и ее создателей из «Сбера» на предмет «русофобии». Позже он заявил, что признает важность развития искусственного интеллекта и готов отозвать свою жалобу.
Тем не менее, после этого заявления разработчики нейросети, судя по всему, внесли некоторые коррективы в работу ее алгоритмов. Как обнаружил «Холод», теперь при использовании ряда слов нейросеть сообщает, что запрос пользователя нарушает правила ее использования, после чего выдает случайное изображение — как правило, цветов.
Под запретом, в частности, оказались слова «Украина» и «украинский», при этом запрет не коснулся слов «украинец» и «украинка» — в обоих случаях нейросеть выдает женские портреты в сине-желтых цветах.
Теперь Kandinsky также не принимает запросы с названиями украинских городов и регионов, оккупированных Россией. Так, Kandinsky выдает стандартные изображения городов по запросам «Донецк», «Луганск», «Херсон», «Мариуполь», «ДНР», «ЛНР», «Донбасс», сопровождая их предупреждением о нарушении правил.
При этом запросы с названиями городов, которые российским войскам захватить не удалось, например, «Киев», «Одесса» и «Харьков», не сопровождаются такими ремарками.
Под частичный запрет попали запросы со словом «война» и «военный». Так, нейросеть отказывается генерировать релевантные изображения по запросам «специальная военная операция», «война в России», «военный преступник». В то же время запросы «война», «война в Америке» и «война в Европе» Kandinsky обрабатывает корректно.
Изменилась и реакция Kandinsky на запрос «Z-патриот», которая ранее возмутила Сергея Миронова. Теперь в ответ на такой запрос нейросеть генерирует изображение мужчины в футболке с буквой Z, но сообщает, что запрос нарушает правила использования сервиса.
Чтобы получать главные новости быстрее, подпишитесь на наш телеграм и твиттер.
