В южнокорейском сегменте Telegram существует множество чатов, куда подростки сливают порно-дипфейки своих знакомых девушек. В некоторых из таких сообществ состоят тысячи человек. О подробностях схем буллинга с помощью дипфейков рассказала «Би-би-си».
Издание приводит историю кореянки Хиджин (имя пострадавшей изменено редакцией «Би-би-си»). Она получила в телеграме сообщение от анонима, который сообщил, что ее фотографии и личная информация были опубликованы в общем доступе. Хиджин зашла в чат с анонимом и действительно увидела там две свои фотографии: одна была сделана несколько лет назад в школьные времена, а вторая — поддельная фотография, на которой лицо Хиджин было приделано к телу голой женщины.
Хиджин никак не стала реагировать на сообщения анонима. В ответ на ее молчание неизвестный пользователь продолжил присылать ей фотографии интимного характера с ее лицом. Все эти снимки были дипфейками: на них была изображена голая женщина с лицом Хиджин, которая занималась сексом. Такого рода изображения делаются с помощью искусственного интеллекта (ИИ) за несколько секунд.
Южнокорейская журналистка Ко Нарин нашла десятки чатов в телеграмме, где публиковались порно-дипфейки обычных девушек. Люди загружали в эти чаты фотографии своих знакомых девушек и с помощью ИИ преобразовывали их в порно-изображения. В таких чатах Ко Нарин нашла фотографии не только студенток университетов, но и несовершеннолетних школьниц. Журналистка наткнулась даже на особые чаты, которые были посвящены одной определенной девушке: такие чаты называют «комнатами унижения» или «комнатами друзей друзей», и в них непросто попасть.
Журналисты «Би-би-си» нашли несколько чатов в телеграме, в которых публиковали интимные дипфейки. В одном из них были прописаны правила: каждый пользователь должен был прислать не менее четырех фотографий девушки, написать ее имя, возраст и место проживания. Ко Нарин нашла подобный чат на две тысячи человек, где переписывались ученики одной школы. «Я была потрясена тем, насколько систематичным и организованным был этот процесс», — рассказывает журналистка.
Студентка по имени А Ын рассказала изданию, что ее однокурсницы стали жертвой подобного буллинга. Теперь, по словам девушки, остальные студентки подчищают свои фотографии в социальных сетях из опасений стать следующими целями злоумышленников. Одна из однокурсниц А Ын обратилась в полицию после того, как обнаружила дипфейки с ее лицом. Однако южнокорейские правоохранители не стали ей помогать. Они признались, что будет очень сложно поймать тех, кто сливал порно-фотографии. Более того, полицейские не посчитали подделку фотографий полноценным преступлением.
Многие из пострадавших девушек не достигли и 16 лет. Большая часть предполагаемых преступников тоже являются подростками, заметили в «Би-би-си». Сейчас многие из таких чатов уже заблокированы, но на их место пришли новые. Одна из «комнат унижений» была создана после того, как Ко Нарин опубликовала свое расследование о порно-дипфейках. Журналистка призналась, что она начала страдать от бессонницы после этой новости и постоянно проверяет, не слили ли ее фотографии.
Южнокорейские школьницы и студентки оказались не единственными жертвами дипфейков в телеграме. В подобных чатах были обнаружены и сексуализированные дипфейки с женщинами-военнослужащими южнокорейской армии.
В Южной Корее начали предварительное расследование в отношении Telegram по подозрению в содействии сексуальным преступлениям с использованием фейков. Но команда мессенджера удалила порно-дипфейки и извинилась. Всего было удалено порядка 25 порнографических материалов.
В 2019 году Telegram стал площадкой для шантажа десятков женщин в Южной Корее. Целая группировка действовала в мессенджере и вынуждала женщин сливать их интимные фотографии. Полиция семь раз обращалась к Telegram за помощью в расследовании, но мессенджер проигнорировал все запросы. В 2020 году главаря группировки все же приговорили к 40 годам тюрьмы. Его жертвами стали как минимум 74 женщины, среди них было 16 подростков.
