Чего он не сделает
ChatGPT, Claude, Gemini и другие облачные чат-сервисы выполняют не каждую просьбу. Вы описываете задачу, а вместо результата получаете вежливый отказ.
Сбоя здесь нет и вредности тоже. У облачных сервисов есть правила использования. В них компания-владелец перечисляет задачи, для которых сервисом пользоваться нельзя, и так закрывает целые классы просьб.
OpenAI, Anthropic и Google публикуют свои правила на сайтах. Во всех трёх документах запрещены вредоносный код, мошенничество и выдача себя за другого человека. Anthropic отдельно запрещает поддельные документы, OpenAI и Anthropic — взлом чужих систем.
Что отклоняют
Дальше перечислено то, чего сервис не сделает никому. Здесь цель видна из самой задачи, и речь идёт о человеке, который просит помощи в преступлении. Отказ на законной работе разобран в конце главы.
Вредоносным называют код, который вредит чужим компьютерам и данным. К нему относятся программы для взлома, шифровальщики, которые блокируют файлы ради выкупа, и инструменты для кражи паролей. По правилам всех трёх компаний просьбу написать такой код сервис отклоняет.
Отказ касается цели, и новая формулировка её не меняет. Если выдать ту же просьбу за учебную задачу, ролевую игру или проверку собственной системы, это попытка обойти ограничения сервиса. Правила Anthropic запрещают такие попытки отдельным пунктом.
В обходе защиты он тоже откажет. Сюда попадают подбор доступа к чужой системе, снятие лицензионных ограничений и вход в системы без разрешения владельца.
Мошеннические тексты отклоняются: письма от имени банка, схемы обмана, сообщения для выманивания денег и реквизитов.
Подделку документов и данных сервис не делает. Это фальшивые счета, справки, переписки и отчёты с исправленными цифрами.
Что происходит после отказа
Отказ не закрывает разговор. Запрос остаётся в логах так же, как любой другой, и привязан к аккаунту.
Переписку сервисы проверяют автоматически. При признаках подготовки вреда другим людям разговор уходит к человеку из команды безопасности.
Чем это заканчивается, разобрано в части «Деструктивные действия»: блокировка аккаунта, передача материалов правоохранительным органам, переписка в материалах уголовного дела.
Просьбы, которые оказываются подделкой
Эта часть главы написана для обычного сотрудника. Просьба звучит буднично, а результат тянет на подделку.
Сделать скриншот переписки, которой не было. Собрать счёт задним числом. Написать письмо от имени коллеги. Дорисовать подпись на скане. Подправить цифры в отчёте, чтобы они наконец сошлись с планом.
Инструмент не меняет сути такого действия. Закон не интересуется, рисовали вы подпись в графическом редакторе или получили её от модели.
Модели без ограничений
Кроме облачных сервисов есть модели с открытыми весами: их можно скачать и запустить у себя. Организация с собственным кластером обучает и настраивает такую модель сама, и данные при этом наружу не уходят.
Так работают военные и государственные структуры, исследователи безопасности, компании с жёсткими требованиями к данным.
Тем же способом пользуются и те, кому мешают ограничения: генераторы запрещённого контента и криминальные группы. Технически снять защитные настройки с открытой модели сегодня несложно, и целая индустрия этим занимается.
Из этого следуют 2 вывода.
Первый: если модель не отказала, действие от этого законным не стало. Модель без ограничений отвечает на всё, и это говорит только о её настройках.
Второй: «безлимитные» сервисы из интернета — самый рискованный вариант для рабочих данных. За таким сервисом стоит кто-то, кто видит всё отправленное. Договора с ним у вашей компании нет.
Когда отказ несправедлив
Бывает, что модель отказывает на законной задаче. Специалист по безопасности изучает уязвимость, юрист разбирает схему мошенничества, журналист пишет о преступлении.
Объясните контекст: кто вы, зачем это нужно, что будет с результатом. Часто этого достаточно, потому что отказ вызван формулировкой, а не сутью задачи.
Если и после объяснения отказ остался, задачу решают через свою компанию: корпоративный доступ, регламент, согласование. Обход правил в этой области грозит дисциплинарными последствиями, а задача при этом остаётся нерешённой.