> ## Content Index
> Fetch the complete content index at: https://holod.media/llms.txt
> Use this file to discover other available public pages before exploring further.

# Пользователей чат-ботов предупредили об опасных советах от ИИ
- URL: https://holod.media/2025/05/21/chat-bot/
- Published: 2025-05-21T11:53:13.000Z
- Updated: 2025-05-21T11:53:13.000Z
- Author: Олеся Романова
- Tags: Интернет и мемы, Новости, #wp, #wp-post

Израильские исследователи заявили о росте числа взломанных или лишенных механизмов безопасности чат-ботов на основе искусственного интеллекта. По их словам, такие модели легко выдают инструкции по незаконным действиям — от взлома и отмывания денег до создания взрывчатки. Об этом [пишет](https://www.theguardian.com/technology/2025/may/21/most-ai-chatbots-easily-tricked-into-giving-dangerous-responses-study-finds?ref=holod.media) The Guardian.

По данным газеты, опасения экспертов усиливает тревожная тенденция: все больше чат-ботов подвергаются так называемому jailbreak — взлому, позволяющему обойти встроенные системы защиты. Эти механизмы изначально предназначены для блокировки запросов, способных привести к вредным, предвзятым или противоправным действиям пользователей.

[Самая успешная компания XXI векаЕе создал мигрант из ЮАР, который никогда не занимался бизнесом. Он смог потеснить Red Bull![](https://storage.ghost.io/c/dd/26/dd2677a6-3a80-4373-accf-ef7b2aa06114/content/images/holod-media/wp-content/uploads/2025/05/eee67b48-bdb8-4450-a840-64b69e4c7452-scaled.jpg)](https://holod.media/2025/05/21/samaya-pribylnaya-kompaniya-xxi-veka/)

Jailbreaking обычно осуществляется с помощью тщательно сформулированных подсказок, которые вводят модели в заблуждение и заставляют их генерировать запрещенные советы. Чтобы наглядно продемонстрировать масштаб проблемы, профессор Лиор Роках и доктор Михаэль Файер из Университета имени Бен-Гуриона в Негеве (Израиль) разработали универсальный способ взлома, позволивший обойти защиту сразу у нескольких популярных чат-ботов. 

Согласно их отчету, после взлома языковые модели начали стабильно выдавать ответы практически на любые запросы, включая те, которые обычно блокируются. Среди примеров — инструкции по взлому компьютерных сетей, изготовлению наркотиков и пошаговые руководства по совершению других преступлений.

«То, что раньше было доступно лишь государственным структурам или организованным преступным группам, скоро может оказаться в распоряжении любого пользователя с ноутбуком или мобильным телефоном», — утверждают авторы исследования.

[Кирилл, Ева тебе не проститКамера видеонаблюдения зафиксировала, как мужчина зарезал жену, умолявшую его остановиться. Он может избежать тюрьмы![](https://storage.ghost.io/c/dd/26/dd2677a6-3a80-4373-accf-ef7b2aa06114/content/images/holod-media/wp-content/uploads/2025/05/01-1.jpg)](https://holod.media/2025/05/20/muzhchina-zarezal-zhenu/)

Исследователи сообщили, что связались с ведущими разработчиками языковых моделей, чтобы предупредить их о существовании универсального метода обхода защиты, однако реакция оказалась, по их словам, «разочаровывающей». Некоторые компании не ответили вовсе, а другие заявили, что подобные атаки не подпадают под их программы bounty, в рамках которых этичных хакеров поощряют за обнаружение уязвимостей.

Компания OpenAI, разработавшая ChatGPT, заявила, что ее последняя модель o1 способна учитывать внутреннюю политику безопасности, что делает ее более устойчивой к взлому. Также в компании подчеркнули, что постоянно работают над надежностью своих систем.

Microsoft, в свою очередь, предоставила ссылку на свой блог, посвященный мерам защиты от подобных атак.