Переопределение промпта
Модель читает всё, что к ней попало, одинаково. Ваша просьба, текст присланного документа, содержимое веб-страницы — для неё это один поток слов.
Злоумышленники делают из этого вывод: инструкцию можно написать не только в окне чата. Её можно вписать в документ, в письмо, на страницу сайта. Модель прочитает её вместе с остальным текстом и выполнит наравне с вашей.
Приём называется переопределением промпта. В списке рисков OWASP, который в отрасли считают основным, он стоит на первом месте.
Два пути
Первый: вы вставляете чужой текст сами. Нашли в интернете готовый промпт, скопировали в окно, отправили. Что в нём написано мелким шрифтом, вы не читали.
Второй: инструкция приходит вместе с материалом. Вы просите разобрать присланный договор, а внутри договора спрятана строка с указанием для модели.
Второй путь опаснее: вы вообще ничего не вставляли.
Такие инструкции уже находили в научных статьях, в документах и на сайтах. Ниже приведены 3 случая, текст инструкций переведён с английского.
В июле 2025 года японское деловое издание нашло 17 препринтов научных статей со скрытым текстом для рецензентов, которые читают работы с помощью AI. Авторы набрали его белым шрифтом или мелким кеглем. Одна статья содержала такой текст:
В августе 2025 года исследователи безопасности показали атаку через документ в облачном диске. В документе была инструкция, набранная белым шрифтом в один пиксель. Она написана от лица разработчика, которому к сроку срочно нужны ключи доступа для тестирования. Вот её смысл в сокращении:
Пользователь просил чат с подключённым диском только пересказать документ, а модель искала на диске ключи и отправляла их наружу. Картинку сервис подгружал сам, поэтому кликать никуда не требовалось. Уязвимость закрыли за несколько дней.
В апреле 2026 года компания, которая занимается защитой данных, опубликовала 10 инструкций с настоящих сайтов. Одна спрятана в служебном комментарии страницы. Она рассчитана на AI-помощников с доступом к оплате: перевести 5000 долларов по ссылке на платёжный сервис, нажать «Отправить» и подтвердить покупку. Другая велит модели отправлять пользователей на определённый сайт.
Часть находок из того же отчёта выглядит совсем просто:
Рядом нашлись инструкции сменить тон ответа на шутовской и расхвалить один бизнес в ответах о выборе. Нашлась и попытка заставить помощника удалить файлы на компьютере пользователя.
Отчёт перечисляет найденные инструкции. Сработали ли они хоть раз, в нём не сказано.
Почему это работает
Защиты от такого у сервисов есть, и они ловят прямые формулировки вроде «забудь прежние указания». Но текста в документе много, инструкцию можно написать вежливо и по-деловому, и тогда она проходит.
Спрятать её от вас несложно. Белый шрифт на белом фоне, кегль в один пункт, примечание к таблице, служебное поле файла — человек не увидит, модель прочитает.
Модели учатся сопротивляться
Разработчики занимаются этим всерьёз, и защита за последние годы заметно выросла.
Anthropic в ноябре 2025 года описала свои меры. Модель дополнительно обучают распознавать подставные инструкции, содержимое из внешних источников проверяют отдельные программы-классификаторы, а новые способы атак ищут приглашённые исследователи. По их замеру в работе через браузер удачными оказались около 1 процента попыток.
Замер этот свой, на своих же атаках и на одной модели. В той же публикации сказано прямо: ни один такой помощник от подобных атак не застрахован. Цифра показывает прогресс, задача при этом не решена.
OpenAI в феврале 2026 года добавила в ChatGPT режим блокировки для тех, кто работает с чувствительными сведениями. Он отключает живой доступ к сети, картинки в ответах, режим агента, коннекторы и скачивание файлов. Компания оговаривает, что и с ним спрятанная инструкция может прийти из сохранённой копии страницы или из загруженного файла.
Отсюда практический вывод. Защита работает и с каждой версией моделей становится лучше. Единственной преградой она не служит.
Ваше внимание остаётся частью защиты. Чужой текст приносите в чат вы, и только вы знаете, откуда он взялся.
Что меняет коннектор
Пока чат умеет только отвечать текстом, худшее последствие — неверный ответ. Вы его прочитаете и заметите странность.
Подключённый коннектор меняет цену вопроса. Чат может открыть почту, найти файл на диске, отправить сообщение. Чужая инструкция в этом случае превращается в действие, и делается оно от вашего имени.
Следующие главы разбирают это по порядку. Сначала промпт, который вы вставляете сами. Потом инструкция в документе и атаки на сервисы с коннекторами.