«Машина сказала»
Ответ модели выглядит одинаково уверенно в обоих случаях: когда он верен и когда выдуман. Тон не меняется, оговорок не прибавляется.
Люди доверяют таким ответам. Подсказку программы принимают быстрее, чем собственное сомнение. Замечено это задолго до чат-сервисов: оператор соглашается с прибором даже тогда, когда видит обратное.
Как это выглядит в работе
Вы просите разобрать договор, получаете разбор и больше в договор не заглядываете. Пересказ прочитан, ощущение знания есть, а самого текста вы не видели.
Вы берёте цифру из ответа в отчёт, потому что она стоит рядом с правильными. Соседство с верным придаёт вес неверному.
Вы отдаёте письмо, не перечитав, потому что прошлые 10 писем были в порядке. Проверка превращается в ритуал, который постепенно отмирает.
Пересказ не заменяет чтения
Пересказ отвечает на вопрос «о чём документ». Решение вы принимаете по другому: какие именно условия, в каком пункте, с какими исключениями.
Порядок работы из этого простой: пересказ читаете первым, а места, от которых зависит решение, открываете в документе сами.
Что помогает
Спросите, где ответ может быть неверным. Прямой вопрос «что здесь стоит проверить» возвращает оговорки, которых в первом ответе не было.
Проверяйте выборочно, но всерьёз. Не каждое утверждение, а 2–3 ключевых, и до первоисточника, а не до другого ответа модели.
Сомневайтесь в удобном. Ответ, который совпал с вашими ожиданиями, проверяют внимательнее остальных: он не вызывает желания спорить.