Алгоритмы искусственного интеллекта подверглись воздействию устоявшихся общественных установок на дискриминацию женщин и уязвимых групп. Об этом сообщает The Independent.
Чат-боты и нейросети во время обучения усваивают существующие предрассудки, а активное распространение ИИ-технологий усиливает их в реальности. Журналисты отмечают, что рекламные алгоритмы Google показывают женщинам вакансии руководителей с высокой оплатой в шесть раз реже, чем мужчинам.
При проверке резюме с помощью ИИ алгоритмы отдают предпочтения белым мужчинам, при попытке скрыть пол при проверке ИИ пытается вычислять женщин по ключевым словам в резюме. Зацепками, как отмечают журналисты, выступают названия школ для девочек и спортивная дисциплина софтбол. The Independent отмечает, что около 40% компаний Великобритании уже используют алгоритмы для проверки резюме, считая это способом оптимизации процесса без учета специфики обучения моделей.
Крупнейшие языковые модели, по мнению авторов текста, также подверглись воздействию гендерных стереотипов. Со ссылкой на данные исследования ЮНЕСКО они сообщают, что сгенерированный ИИ контент отводит мужчинам статусные должности инженеров и врачей, а женщин нейросети видят в роли домашней прислуги или даже проституток.
Журналисты также отмечают, что ИИ широко используется для анализа кредитных заявок, обеспечения работы камер, распознающих лица, и в инструментах, оценивающих вероятность повторного совершения преступления осужденным. Обучаясь на массиве данных, который исторически складывался на основе системной дискриминации, модель может предложить ее воспроизводство.
Ранее СМИ сообщили, что уязвимости в алгоритме обучения ИИ-моделей используются Россией для обхода запрета на свою пропаганду. Ее распространители создают тысячи страниц с фейковой информацией, которые, попадая в новостные агрегаторами, воспринимаются чат-ботами в качестве авторитетных источников, а фейки затем выдаются пользователям в качестве ответов на вопросы.
