Тикток и инстаграм заполнены сгенерированным искусственным интеллектом видео о «пользе» биодобавок и медицинских тестов и о правильных привычках. Большинство подобных видео либо проплачено компаниями и размещается для продвижения продукта, либо вовсе фейки и обман, создающиеся ради увеличения аудитории. Исследования показывают, что люди охотно верят этим видео, не могут отличить правду от лжи и активно помогают распространять заблуждения и дезинформацию, что порой приводит к смерти. Сомнительные медицинские советы от блогеров — в материале «Холода».
Ученые из испанского Университета Кадиса проанализировали проведенные до 2019 года исследования о дезинформации и выявили, что ложные утверждения в интернете содержались примерно в 40% сообщений о болезнях и 43% — о вакцинации, а в случае публикаций о курении и наркотиках (опиоидах и марихуане) показатель достигал 87%. При этом сомнительные утверждения про диеты и расстройство пищевого поведения подавались в позитивном ключе примерно в 36% случаев.
Исследователи из Медицинского колледжа Университета Аризоны изучили более 2200 публикаций в тиктоке с тегами «цирроз» и «заболевание печени» в период с октября по ноябрь 2022 года. Они выявили, что около 40% (883) всех видео о заболеваниях печени содержали ложную информацию, зато в них пропагандировались модные диеты, «детокс-напитки» и растительные лекарственные средства (фитопрепараты или БАДы). В некоторых видео утверждалось, что употребление определенных грибов и говяжьей печени или проведение чистки от паразитов может вылечить печень. Как пояснили исследователи, у этих утверждений нет никакой доказательной базы.
«Без альтернативного объяснения дезинформацию сложнее опровергнуть. Она заполняет пробелы, пока наука еще ищет ответы», — объясняет популярность медицинских фейков психолог Брайони Суайр-Томпсон, руководитель лаборатории по изучению дезинформации при Северо-Восточном университете США.
О том, что дезинформация может быть смертельно опасной, говорит статистика смертей во время пандемии COVID-19. Согласно исследованиям, за первые три месяца 2020 года по всему миру были госпитализированы около шести тысяч человек из-за фейков о коронавирусе, минимум 800 человек умерли.
По словам психолога Уильяма Кляйна, замдиректора поведенческих исследований Национального института рака, если бы люди понимали, сколько времени необходимо для научных разработок и исследований (например, для разработки вакцины), они стали бы меньше верить ложной информации.
Врачи беспомощны перед соцсетями
Для многих людей интернет выступает основным источником информации в области медицины. Например, 82% австралийских родителей используют соцсети для получения медицинских сведений, касающихся их детей. А почти две трети англичан используют Google для «диагностики» заболеваний, прежде чем обратиться к врачу. Объясняя этот феномен, 37% канадцев сообщили, что ищут информацию о здоровье в интернете только потому, что медицина для них недоступна. В то же время 23% опрошенных заявили, что, когда они воспользовались онлайн-советами, последствия были для них негативными.
Ситуацию усугубляет то, что, согласно исследованию, опубликованному журналом Science, люди склонны делиться ложной или некачественной информацией больше, чем правдивой. Это связано с тем, что фейки вызывают больше эмоций, легче заинтересовывают людей и, соответственно, способствуют дальнейшему росту дезинформации, так как за них можно получить больше просмотров и лайков, — владельцы аккаунтов финансово заинтересованы в этом.
Согласно обзору ученых для Бюллетеня ВОЗ 2022 года, основную роль в распространении фейков играют соцсети: твиттер, фейсбук, ютуб и инстаграм. Например, до 30%, опубликованных с 2010 по 2016 год на ютубе роликов содержали неточную или вводящую в заблуждение информацию. В исследовании 2023 года говорилось о том, что 10–26% роликов на ютубе, посвященных COVID-19, содержали фейки.
Сами же платформы, на которых распространяется ложная информация, практически не контролируют процесс производства контента и не проверяют его до публикации. Поэтому пользователи или даже боты могут мгновенно публиковать что угодно.
«Большая часть бизнес-модели социальных сетей — это привлечение внимания к платформе, а большая часть аудитории заинтересована в дезинформации, в том числе о здоровье», — отмечает Дин Фрилон, профессор Школы коммуникаций Анненберга при Пенсильванском университете.
Дезинформацию в соцсетях распространяют не только люди без медицинского образования, но и врачи. Согласно исследованию, проведенному в Массачусетском университете в 2023 году, несмотря на то что количество врачей, распространяющих фейки, невелико, охваты их ложных утверждений очень велики. Например, во время этого исследования ученым удалось выявить минимум 52 врача из США, которые в разгар COVID-19 писали фейки о лекарствах и масках, а также вплетали в свои посты теории заговора. Совокупное количество подписчиков этих врачей в основных соцсетях превысило 20 миллионов человек.
Ученые Массачусетского университета отмечают, что контент, произведенный врачами, практически не отличался от роликов обычных пользователей, однако их «экспертность» легитимизировала фейки, так как доверие к специалистам с медицинским образованием было значительно выше, чем к обычным пользователям или политикам. В 2021 году медицинские работники вызывали у людей больше всего доверия: им верили 72%, а не доверяли только 9% опрошенных. Для сравнения, политикам в тот период верили только 12% опрошенных, против 57% не верящих. «Люди ждут лжи от политиков, но не от специалистов в области здравоохранения», — объяснила это психолог Брайони Суайр-Томпсон.
Запугивание ради кликов и денег
Основная причина производства сомнительного контента — жажда наживы у блогеров и инфлюенсеров, которые намеренно играют на эмоциях пользователей при продвижении товаров и услуг. Например, исследование ученых из Сиднейского университета показало, что в социальных сетях инфлюенсеры часто «нагнетают страх», продвигая сомнительные медицинские тесты, которые просто не нужны большинству людей без специальной рекомендации врача.
Ученые изучили пять тестов, обсуждаемых в интернете: МРТ всего тела, генетическое тестирование для выявления ранних признаков рака, проверка уровня тестостерона, тест на антимюллеров гормон (АМГ), якобы показывающий репродуктивный потенциал женщины или количество яйцеклеток, и анализ микробиома кишечника. В выборку попали 982 англоязычных сообщения в инстраграме и тиктоке, опубликованные блогерами с совокупной аудиторией более 194 миллиона человек с апреля 2015 года по январь 2024 года. Из них 16% постов были от инфлюенсеров, представляющихся врачами.
Преимущества тестов упоминались в 87% сообщений, вред — менее чем в 15%, а предупреждение о негативных последствиях излишней диагностики — только в 6%. В одних и тех же постах могли упоминаться как плюсы, так и минусы анализов. В 84% контента использовался рекламный тон, более половины инфлюенсеров в открытую призывали пользователей сделать тест, а 68% имели финансовые интересы в виде рекламы или партнерства. Почти все инфлюенсеры в выборке не обладали медицинской экспертизой.
Один из примеров — реклама тестирования микробиома кишечника, которое находится на ранней стадии научного изучения, со словами: «Вы заслуживаете быть здоровыми. Это ваше право по рождению».
Тесты АМГ один аккаунт в тиктоке рекламировал со словами: «Неважно, подросток вы или вам за 30, расширение своих знаний о фертильности крайне важно. Для женщин возраст — не друг». Физиолог Брук Никель отмечает, что тесты, которые определяют возможность женщины зачать ребенка, не могут быть до конца точными, однако их результаты усугубляют беспокойство. По словам Никель, после этих анализов женщины часто без необходимости замораживают яйцеклетки или решаются на ЭКО.
Похожая ситуация происходит и с выявлением злокачественных новообразований. Ученые выяснили, что на первой стадии рака точность теста составляет около 25%, что повышает вероятность ложноотрицательного результата. Кроме того, анализ может показать медленно растущие доброкачественные опухоли, которые потенциально не нанесут вреда, но их все равно будут удалять. Поэтому, как заключают исследователи, такой тест необходимо проводить только после рекомендации врача.
В результате ученые пришли к выводу, что весь проанализированный ими сомнительный контент сделан так, чтобы «вводить в заблуждение». Люди, продвигающие медицинские тесты, чаще всего опирались на «личные истории» с устрашением и посылом, что раннее обследование — это способ взять под контроль свое здоровье.
Ведущий автор исследования Брук Никель отмечает, что пользы от таких тестов немного, а порой они и вовсе вредят, так как при гипердиагностике здоровые люди получают диагнозы на очень ранней стадии развития болезни. Тем временем на этом этапе многие заболевания не опасны и могут пройти сами собой. Но знание о болезни часто сопряжено со стрессом, который может усугубить течение заболевания, с которым изначально организм мог справиться своими силами.
Боты и дипфейки
Развитие искусственного интеллекта создает все больше сложностей для продвижения достоверной медицинской информации. Оно позволяет мошенникам создавать медицинский контент, полностью сгенерированный ИИ. Если раньше мошенники использовали дипфейки — меняли лица и подставляли голос, то теперь ИИ полностью генерирует видеоряд, накладывает голос и субтитры, а производственный цикл сократился до нескольких минут.
Полностью сгенерированные ИИ видео с «врачами» стали все чаще появляться в тиктоке и инстаграме. На них якобы профессиональные медики дают ложные советы и рекламируют сомнительные БАДы. Проблема усугубляется тем, что, по оценкам экспертов, около 50% зрителей не могут отличить фейковое видео от подлинного.
Например, в инстаграме существует аккаунт с более чем 865 тысячами подписчиков, в котором «врачи» разных специальностей дают ничем не подтвержденные медицинские советы. Практически в каждом видео они рекламируют витамины и пищевые добавки, якобы необходимые для детокса кишечника, избавления от паразитов, сжигания жира и прочего.
«Поскольку все стали использовать ChatGPT и другие платформы искусственного интеллекта, то же сделали и преступники. Это облегчает их “работу”, а при использовании технологии deepfake все выглядит очень убедительно», — говорит Кэти Сандстром, менеджер благотворительной организации по борьбе с мошенничеством IDCARE, отметив, что это становится «новой нормой».
Жертвами мошенников, генерирующих дипфейки, уже стали некоторые известные врачи Великобритании. Например, имена и лица Хилари Джонса, Майкла Мосли и Рангана Чаттерджи использовались для продвижения продуктов, которые якобы могут помочь при высоком кровяном давлении и диабете, а также для продажи жевательных конфет из конопли.
«Гораздо дешевле создавать видеоролики, чем проводить исследования, разработку новых продуктов и их вывод на рынок традиционным способом», — говорит журналист Крис Стокел-Уокер, занимающийся исследованием дипфейков.
Кроме того, ИИ принес в нашу жизнь ботов, которые за последние несколько лет сгенерировали миллионы фейковых сообщений в соцсетях. Часть контента вообще невозможно отличить от реального, поэтому определить настоящий масштаб проблемы не могут даже эксперты.
Чтобы обезопасить себя в соцсетях от медицинской дезинформации, ВОЗ рекомендует критически оценивать потребляемый контент и его авторов. Организация советует доверять только официальным медицинским источникам, таким как, например, государственные органы здравоохранения. Также может помочь чтение комментариев, где иногда реальные врачи пишут опровержения. Но самый надежный способ избежать обмана — обратиться к дипломированному специалисту.
«Холоду» нужна ваша помощь, чтобы работать дальше
Мы продолжаем работать, сопротивляясь запретам и репрессиям, чтобы сохранить независимую журналистику для России будущего. Как мы это делаем? Благодаря поддержке тысяч неравнодушных людей.
О чем мы мечтаем?
О простом и одновременно сложном — возможности работать дальше. Жизнь много раз поменяется до неузнаваемости, но мы, редакция «Холода», хотим оставаться рядом с вами, нашими читателями.
Поддержите «Холод» сегодня, чтобы мы продолжили делать то, что у нас получается лучше всего — быть независимым медиа. Спасибо!
