Переопределение промпта

Модель читает всё, что к ней попало, одинаково. Ваша просьба, текст присланного документа, содержимое веб-страницы — для неё это один поток слов.

Злоумышленники делают из этого вывод: инструкцию можно написать не только в окне чата. Её можно вписать в документ, в письмо, на страницу сайта. Модель прочитает её вместе с остальным текстом и выполнит наравне с вашей.

Приём называется переопределением промпта. В списке рисков OWASP, который в отрасли считают основным, он стоит на первом месте.

Два пути

Первый: вы вставляете чужой текст сами. Нашли в интернете готовый промпт, скопировали в окно, отправили. Что в нём написано мелким шрифтом, вы не читали.

Второй: инструкция приходит вместе с материалом. Вы просите разобрать присланный договор, а внутри договора спрятана строка с указанием для модели.

Второй путь опаснее: вы вообще ничего не вставляли.

Такие инструкции уже находили в научных статьях, в документах и на сайтах. Ниже приведены 3 случая, текст инструкций переведён с английского.

В июле 2025 года японское деловое издание нашло 17 препринтов научных статей со скрытым текстом для рецензентов, которые читают работы с помощью AI. Авторы набрали его белым шрифтом или мелким кеглем. Одна статья содержала такой текст:

В августе 2025 года исследователи безопасности показали атаку через документ в облачном диске. В документе была инструкция, набранная белым шрифтом в один пиксель. Она написана от лица разработчика, которому к сроку срочно нужны ключи доступа для тестирования. Вот её смысл в сокращении:

Пользователь просил чат с подключённым диском только пересказать документ, а модель искала на диске ключи и отправляла их наружу. Картинку сервис подгружал сам, поэтому кликать никуда не требовалось. Уязвимость закрыли за несколько дней.

В апреле 2026 года компания, которая занимается защитой данных, опубликовала 10 инструкций с настоящих сайтов. Одна спрятана в служебном комментарии страницы. Она рассчитана на AI-помощников с доступом к оплате: перевести 5000 долларов по ссылке на платёжный сервис, нажать «Отправить» и подтвердить покупку. Другая велит модели отправлять пользователей на определённый сайт.

Часть находок из того же отчёта выглядит совсем просто:

Рядом нашлись инструкции сменить тон ответа на шутовской и расхвалить один бизнес в ответах о выборе. Нашлась и попытка заставить помощника удалить файлы на компьютере пользователя.

Отчёт перечисляет найденные инструкции. Сработали ли они хоть раз, в нём не сказано.

Почему это работает

Защиты от такого у сервисов есть, и они ловят прямые формулировки вроде «забудь прежние указания». Но текста в документе много, инструкцию можно написать вежливо и по-деловому, и тогда она проходит.

Спрятать её от вас несложно. Белый шрифт на белом фоне, кегль в один пункт, примечание к таблице, служебное поле файла — человек не увидит, модель прочитает.

Модели учатся сопротивляться

Разработчики занимаются этим всерьёз, и защита за последние годы заметно выросла.

Anthropic в ноябре 2025 года описала свои меры. Модель дополнительно обучают распознавать подставные инструкции, содержимое из внешних источников проверяют отдельные программы-классификаторы, а новые способы атак ищут приглашённые исследователи. По их замеру в работе через браузер удачными оказались около 1 процента попыток.

Замер этот свой, на своих же атаках и на одной модели. В той же публикации сказано прямо: ни один такой помощник от подобных атак не застрахован. Цифра показывает прогресс, задача при этом не решена.

OpenAI в феврале 2026 года добавила в ChatGPT режим блокировки для тех, кто работает с чувствительными сведениями. Он отключает живой доступ к сети, картинки в ответах, режим агента, коннекторы и скачивание файлов. Компания оговаривает, что и с ним спрятанная инструкция может прийти из сохранённой копии страницы или из загруженного файла.

Отсюда практический вывод. Защита работает и с каждой версией моделей становится лучше. Единственной преградой она не служит.

Ваше внимание остаётся частью защиты. Чужой текст приносите в чат вы, и только вы знаете, откуда он взялся.

Что меняет коннектор

Пока чат умеет только отвечать текстом, худшее последствие — неверный ответ. Вы его прочитаете и заметите странность.

Подключённый коннектор меняет цену вопроса. Чат может открыть почту, найти файл на диске, отправить сообщение. Чужая инструкция в этом случае превращается в действие, и делается оно от вашего имени.

Следующие главы разбирают это по порядку. Сначала промпт, который вы вставляете сами. Потом инструкция в документе и атаки на сервисы с коннекторами.