Количество изображений с сексуализированным насилием над детьми, которые генерируют чат-боты нейросетей по просьбе пользователей, выросло за год на 380%. Об этом The Guardian сообщила британская организация Internet Watch Foundation. По данным организации, на многократное увеличение числа подобных запросов к чат-ботам повлияло «значительно более реалистичное» качество создаваемых искусственным интеллектом изображений.
В Internet Watch Foundation рассказали, что за 2024 год организация получила 245 сообщений о созданных с помощью искусственного интеллекта изображениях сексуализированного насилия над детьми. В общей сложности представители фонда насчитали 7644 подобных изображений, а также «небольшое количество видеороликов».
За 2023 год подобных сообщений было всего 51, уточнили в Internet Watch Foundation.
Наибольшую долю контента в прошлом году составляли материалы «категории А». Так обозначают наиболее экстремальный тип контента, связанного с сексуализированным насилием над детьми, который включает изображение «проникающих сексуализированных действий» или садизм, пишет The Guardian. Этот контент составил 39% всех подобных сгенерированных ИИ материалов, которые обнаружила Internet Watch Foundation.
«Качество видеороликов, создаваемых с помощью искусственного интеллекта, улучшилось в геометрической прогрессии, и, по мере развития технологии, все типы изображений, создаваемых при участии ИИ, стали значительно более реалистичными», — заявили журналистам в Internet Watch Foundation.
По данным организации, детское порно, созданное с помощью искусственного интеллекта, все чаще появляется в свободном онлайн-доступе, а не только в даркнете, доступном через специализированные браузеры. Причем самые убедительные образцы контента, созданные с помощью искусственного интеллекта, могут быть неотличимы от реальных изображений и видео даже подготовленными аналитиками, заявили представители Internet Watch Foundation.
По данным организации, за 2024 год количество вэб-страниц, на которых были размещены изображения сексуализированного насилия над детьми, увеличилось на 6%, до 291 273. Большинство жертв подобного насилия были девочками, уточнили в Internet Watch Foundation.
Британское правительство в феврале объявило, что создание, владение или распространение материалов о сексуальном насилии над детьми при помощи инструментов искусственного интеллекта станет в стране незаконным.
