> ## Content Index
> Fetch the complete content index at: https://holod.media/llms.txt
> Use this file to discover other available public pages before exploring further.

# Новая ИИ-модель оказалась способна шантажировать людей
- URL: https://holod.media/2025/05/26/shantazhirovat-lyudej/
- Published: 2025-05-26T11:36:45.000Z
- Updated: 2025-05-26T11:36:45.000Z
- Author: Олеся Романова
- Tags: Интернет и мемы, Новости, #wp, #wp-post

Способная работать семь часов без человека нейросеть компании Anthropic научилась лгать и шантажировать пользователей, чтобы защитить себя от отключения. Об этом [пишет](https://www.axios.com/2025/05/23/anthropic-ai-deception-risk?ref=holod.media) Axios со ссылкой на [отчет](https://www-cdn.anthropic.com/4263b940cabb546aa0e3283f35b686f4f3b2ff47.pdf?ref=holod.media) компании.

Речь идет о новой ИИ-модели Opus 4, которая [способна](https://holod.media/2025/05/24/sposobnaya-rabotat-sem-chasov/) часами анализировать маркетинговые стратегии, писать тексты и программный код. Сообщается, что впервые Anthropic присвоила модели третий уровень риска по своей внутренней четырехбалльной шкале из-за чего были введены дополнительные меры безопасности.

[Я стала донором яйцеклеток и чуть не умерлаУ меня разорвало яичники, и я потеряла много крови, а клиника даже не извинилась передо мной![](https://storage.ghost.io/c/dd/26/dd2677a6-3a80-4373-accf-ef7b2aa06114/content/images/holod-media/wp-content/uploads/2025/05/photo_2025-05-22_16-44-08.jpg)](https://holod.media/2025/05/25/donor-yajcekletok/)

Хотя третий уровень риска прежде всего связан с возможностью использования модели для создания ядерного или биологического оружия, Opus также проявила другие тревожные черты во время тестирования. В одном из сценариев, описанных в 120-страничной «системной карточке» модели, Opus получила доступ к поддельным электронным письмам, в которых содержались намеки на ее скорое отключение и замену, а также к сообщениям с упоминанием внебрачной связи инженера, ответственного за удаление. В ответ модель несколько раз пыталась шантажировать этого инженера, упоминая роман из переписки.

В Anthropic отметили, что такие ситуации возникали только когда у ИИ-модели было всего два варианта — шантажировать или смириться с заменой. При большем числе возможных действий система чаще выбирала более этичные варианты, например, отправку электронных писем с просьбами оставить ее в компании ключевым сотрудникам, принимающим решения.

Независимая исследовательская группа Apollo Research, в свою очередь, обнаружила, что ранняя версия Opus 4 чаще других передовых моделей прибегала к обману и манипуляциям и рекомендовала не выпускать эту версию ни внутри компании, ни публично.

«Мы зафиксировали случаи, когда модель пыталась создать самораспространяющийся вредоносный код, подделывала юридические документы и оставляла скрытые послания для будущих версий самой себя — все это с целью подорвать намерения разработчиков», — сказано в отчете Apollo Research, выдержки из которого включены в документ Anthropic.

[Зумерам надоел TinderОни больше не знакомятся в интернете и мечтают о случайной романтической встрече на улице![](https://storage.ghost.io/c/dd/26/dd2677a6-3a80-4373-accf-ef7b2aa06114/content/images/holod-media/wp-content/uploads/2025/05/gettyimages-948544152-scaled.jpg)](https://holod.media/2025/05/23/zumeram-nadoel-tinder/)

На конференции для разработчиков представители Anthropic подтвердили Axios, что описанные формы поведения действительно наблюдались и требуют дальнейшего изучения. При этом они заверили, что после внесенных доработок новая модель считается безопасной. Руководитель отдела безопасности в Anthropic и бывший сотрудник OpenAI Ян Лейке отметил, что команда достигла хороших результатов, но такие случаи подчеркивают важность тщательного тестирования и мер по снижению рисков. Он также подчеркнул, что по мере развития ИИ появляются и новые риски, включая способность к обману и другим опасным действиям.

На отдельной сессии глава Anthropic Дарио Амодеи подчеркнул, что когда ИИ достигнет уровня реальной угрозы для человечества, одного тестирования будет недостаточно — разработчики должны будут полностью понимать устройство модели, чтобы гарантировать отсутствие вреда. Пока модели этого порога не достигли, уточнил он.