В феврале 2021 года 23-летняя Сабрина Хавельяна, муниципальный политик из Халландейл-Бич, штат Флорида, узнала, что на анонимных форумах распространяют ее голые фотографии. Политические оппоненты взяли ее реальные фото и раздели девушку с помощью нейросетей. Сабрина пыталась бороться с фейками, в том числе лоббируя новый законопроект. О том, удалось ли ей это, — в материале «Холода».
Чтобы не пропускать главные материалы «Холода», подпишитесь на наш инстаграм и телеграм.
Сабрина Хавельяна попала в политику в 2018 году — тогда ей был всего 21 год и она стала одной из самых молодых избранных муниципальных депутатов в штате Флорида. Девушка выступала с прогрессивной повесткой: призывала реформировать полицию (например, предлагала забрать у местного спецназа часть финансирования и направить его на нужды города), осуждала полицейскую жестокость, выступала за смену названия дороги Дикси (оно воспринимается как расистское, потому что так называли совокупность штатов на юге страны, где было легально рабство).
Во Флориде, которая считается едва ли не «центром республиканской вселенной», демократическая повестка вызвала много хейта в адрес Сабрины. В соцсетях ей постоянно поступали угрозы, в том числе от местных полицейских — к этому она привыкла.
Но утром 5 февраля 2021 года ей пришло сообщение: «Привет, просто хочу, чтобы ты знала, что кто-то распространяет твои фотографии онлайн и обсуждает их в довольно вульгарной манере. Он утверждает, что является одним из твоих “знакомых парней”».
Разрушенная жизнь
Отправитель сообщения поделился с Сабриной скриншотами с анонимных форумов, где были ее фотографии, а пользователи оставляли комментарии о том, что хотели бы применить к ней сексуализированное насилие. Сабрина выяснила, что это публикации с 4chan (англоязычный форум и имиджборд; на нем люди постят картинки и видео и обсуждают самые разные вещи анонимно и без регистрации. В России существует его аналог — «Двач»).
Ей и ее другу удалось найти множество тредов с ее фотографиями. Они поняли, что это кадры за 2015 год из инстаграма Сабрины, но на оригинальных снимках она была в одежде. Голые дипфейки при этом сопровождались комментариями из серии: «Недостаточно фигуристая», «Я бы ее осеменил», «Ни один адекватный человек не стал бы встречаться с таким тупым созданием».
Сабрину особенно напугало, что некоторые комментаторы знали ее лично. Один из них написал: «Я живу в округе Брауард (в него входит Халландейл-Бич, где работает Хавельяна. — Прим. “Холода”). Она совсем недавно выпустилась из Международного университета Флориды».
После этого у Сабрины развилась паранойя: она сделала свою страничку в инстаграме приватной, удалила оттуда фотографии в купальнике, не выходила на улицу одна ночью, а перед сном по несколько раз проверяла, закрыты ли дома окна и двери.
Страхи стали влиять на ее работу. Как политик, она часто должна была выступать — теперь она испытывала тревогу всякий раз, когда на нее направляли камеру. Она стала носить закрывающие тело блузки и водолазки — это, по ее словам, помогало ей «вернуть контроль над собственным телом». Она думала о том, чтобы уйти из политики и стать учительницей, но не отважилась проходить сертификацию из-за опасений, что при найме кто-то узнает о кадрах с ее лицом.
Хавельяна мало кому рассказала о своей находке — только узкому кругу друзей. Она не решилась признаться ни близким, ни коллегам. Мама и брат, с которыми Сабрина жила, ходили в католическую церковь, и дома было не принято говорить о подобных вещах.
По ночам Сабрина читала в интернете информацию о порно-дипфейках, «насилии с использованием интимных изображений» и их распространении без согласия — также известном как порноместь. Из-за появления нейросетей злоумышленнику больше не нужны реальные голые фотографии — интимное содержание дорисовывает искусственный интеллект.
Ее тревога росла, и она решила обратиться за помощью. Ответ адвокатов ее разочаровал: несмотря на то что во Флориде к тому моменту уже приняли закон о криминализации распространения интимного контента без согласия, он не учитывал дипфейки. Пытаться удалить материалы по закону об авторском праве, по их словам, было бессмысленно, так как администраторы анонимного форума неохотно сотрудничают с органами правопорядка. Полиция предложила ей только подписать аффидевит — письменное заявление о том, что фотографии с ней фейк. Это потенциально могло защитить ее от потери работы. Несмотря на боязнь, что из-за этого о кадрах узнают все ее знакомые, она подписала документ.
Оральный секс и 5000 долларов
Прошел год с тех пор, как Сабрина попыталась защитить свою частную жизнь от дипфейков. За это время ее злость перешла в эмоциональное онемение, и она решила, что раз не может удалить эти фотографии из интернета, то хотя бы сотрет их из своей памяти. О дипфейках так никто и не узнал, но она все-таки боялась, что кто-то считает ее «той самой девушкой с обнаженных фотографий».
В январе 2022 года Сабрина наткнулась на статью о том, что в штате Флорида сенатор от демократический партии Лорен Бук внесла на рассмотрение закон, криминализующий порно-дипфейки. Лорен поделилась своей историей: в ноябре 2021 года с ней связался неизвестный — он прислал ей два дипфейка, на которых она была изображена в обнаженном виде. Неизвестный сказал, что не распространит эти кадры только в том случае, если Лорен займется с ним оральным сексом и даст пять тысяч долларов подарочными картами (мошенники в США часто требуют предоплаченные подарочные карты, так как они анонимны и их можно обменять на настоящие деньги или товары). После этого Лорен Бук обнаружила, что в интернете и так множество сгенерированных фотографий с ней.
Смелость Лорен Бук настолько восхитила Сабрину, что она решилась публично рассказать о том, что с ней случилось, в твиттере, тегнув сенатора. Лорен ответила Сабрине, и уже через два дня они по телефону обсуждали законопроект. «Вместе мы исцелялись и переживали это [травмировавший опыт]», — рассказывала Хавельяна.
Лорен попросила Сабрину выступить перед другими сенаторами штата Флорида, чтобы убедить их в необходимости принятия законопроекта. Она объяснила, что у той будет всего три минуты. Девушка прочла в сенате эмоциональную речь, дважды ей пришлось прерваться, чтобы успокоиться. «Я не хотела плакать на публике, но мне было очень сложно об этом говорить», — позже рассказала Сабрина.
Сенатор Илеана Гарсия ответила ей: «Я и не знала, что ситуация [с порно-дипфейками] настолько ужасна. Но иногда мы [пользователи соцсетей] сами становимся причиной. Мы так стремимся утвердиться перед обществом, что выставляем слишком многое напоказ».
По словам Хавельяны, она была поражена и унижена: Гарсия переложила на нее ответственность за появление порно-дипфейков в сети. Но за нее вступилась Лорен Бук: «Я не выкладывала свои [обнаженные] фотографии в интернет. Я не хвалилась ими в соцсетях. Мои фотографии [в одежде] украли у меня [и превратили в порно-дипфейк] — и это уже не изменить. И Сабрина тоже не сможет», — заявила Бук.
В итоге все восемь сенаторов Флориды проголосовали за принятие законопроекта.
«Нужно просто смириться»
После слушаний в сенате Сабрина через СМИ обратилась к пользователям 4chan и обвинила их в том, какой стресс она пережила из-за созданных ими дипфейков. После этого на нее и Лорен Бук обрушилась новая волна хейта: анонимы наделали тысячи порно-фото с их лицами и слили в сеть домашний адрес Сабрины и ее номер телефона, а позднее — сдеанонили и ее мать, опубликовали ее номер телефона и начали присылать ей обнаженные дипфейки дочери. Дошло до того, что один из пользователей форума угрожал приехать к Сабрине домой и изнасиловать ее.
24 июня 2022 года закон вступил в силу во Флориде, а затем аналогичные законы были приняты еще в четырех штатах: Вирджинии, на Гавайях, Калифорнии и Техасе. С того момента те, кто создавал и распространял порно-дипфейки, могли попасть под уголовное преследование.
Год спустя, в октябре 2023 года, Сабрина решила узнать, появились ли новые фотографии с ней, и увидела, что их количество не уменьшилось — наоборот, тредов и фотографий стало больше. Некоторые новые кадры, из которых делали дипфейки, были взяты из ее закрытого в 2021 году инстаграма.
В 2024 году Сабрина Хавельяна ушла из муниципалитета и отказалась выдвигаться на второй срок — она осталась в политике, но теперь работает на непубличной должности. Она все так же находит на 4chan архивированные треды с дипфейками с ее лицом.
Несмотря на то, что закон вступил в силу во многом благодаря ей, она решила не обращаться в суд. «Они [дипфейки] продолжат появляться, — говорила Сабрина. — Это никогда не кончится. Мне нужно просто смириться с этим».
Дипфейки по всему миру
С тех пор, как появилась возможность делать дипфейк-видео, -изображения и -аудиозаписи при помощи искусственного интеллекта, под угрозой оказались частная жизнь людей, их работа и деньги. Например, в феврале 2024 года мошенники при помощи дипфейк-записей голоса украли у компании в Гонконге 25 миллионов долларов.
По данным New York Times, неназванная, но доступная и популярная нейросеть обработала около 600 тысяч фотографий обычных людей всего лишь за первые 15 дней работы в 2023 году. С 2019 по 2023 годы количество дипфейк-видео в интернете, по данным исследования экспертов в сфере цифровой безопасности и кражи личных данных Home Security Heroes, выросло на 550% — с примерно 15 тысяч до 95820. 98% из них — порно.
В России это тоже не редкость. Например, пользователи создали дипфейк с популярной стримершей Аминой Tenderlybae Мирзоевой. Девушка рассказала, что из-за завирусившегося в сети порно с ее лицом ей начали угрожать родственники из Азербайджана.
По утверждениям СМИ, сейчас в России разрабатывается закон об уголовной ответственности за создание и распространение дипфейков. Нарушителям может грозить тюремное заключение на срок до семи лет или штраф до 1,5 миллионов рублей.
