Ошибки и выдуманные факты
В ответе модели может оказаться ошибка. Укажите на неё в следующем сообщении: модель склонна согласиться и выдать исправленный вариант.
Поправка действует в этом разговоре, и следующие ответы модель строит уже с ней. В новом чате та же ошибка может повториться слово в слово.
Откуда берутся галлюцинации
Галлюцинацией называют выдуманную цифру, дату, цитату, ссылку, номер статьи закона, фамилию эксперта, поданные так же, как проверенный факт.
Галлюцинации входят в число важных задач, над которыми работают разработчики моделей, и компании стремятся их уменьшить. У новых версий они замеряют долю выдуманного и публикуют результаты вместе с выпуском модели.
Модель не достаёт факты из справочника. Каждый ответ она составляет заново, по одному слову подбирая вероятное продолжение, и правильный ответ получается тем же способом, что и ошибочный.
Признать нехватку данных модель умеет, и новые версии делают это чаще прежних. При нехватке данных она всё же скорее заполнит пробел правдоподобным текстом, чем откажется отвечать.
Уверенная формулировка ничего не говорит о достоверности. Выдуманная часть ответа выглядит так же, как проверенная, поэтому важное сверяйте отдельно.
Риск выдумки выше там, где данных было мало: редкий случай из вашей отрасли, свежее событие, точное число, ссылка, чья-то фамилия.
Выдуманная ссылка на исследование
Вы просите модель подтвердить вашу мысль научной работой. В ответ приходит ссылка: фамилии авторов, название журнала, год, номер выпуска, адрес.
Каждая часть такой ссылки выглядит правдоподобно, а целое ни с каким каталогом не сверено. Ссылка может вести на страницу «документ не найден», а автором работы может оказаться человек, который её не писал.
Отдельный случай — когда ответ модели пересказывают как мнение эксперта. Об этом глава «Ответ от сверхразума».
В замере 2025 года исследователи поручили модели GPT-4o (omni) от OpenAI написать 6 обзоров литературы о психическом здоровье.
Из 176 приведённых в них ссылок 35 вели на работы, которых не существует. Из оставшихся ошибку содержали 64 ссылки, чаще всего в номере, по которому статью находят в каталоге.
Эти цифры описывают одну модель и одну постановку задачи. Исследователи нарочно дали модели простой запрос, какой написал бы обычный пользователь, и не добавляли в него требований вроде перепроверки ссылок. Каждый запрос выполнили один раз.
OpenAI открыла поиск в интернете всем пользователям ChatGPT, включая бесплатных, в декабре 2024 года, за полгода до замера. Был ли он включён в замере, в статье не сказано.
В опубликованных запросах поиск не упоминается, а ссылки в ответах ведут только на номера статей в каталоге, без найденных страниц.
Поведение меняется от того, как поставлена задача
Впишите указание прямо: «если данных не хватает, так и напиши». Оно переводит отказ в разряд допустимых ответов.
Сильнее работает опора на источники. Включите поиск в интернете и попросите ссылки: когда ответ строится на найденном документе, доля выдуманного резко падает.
Проверка результата перед отправкой
Для перепроверки годится другая модель. Дайте ей те же исходные данные и сравните ответы: расхождение покажет, где искать ошибку.
Можно попросить и ту же модель провести проверку фактов. Пусть к каждому утверждению она приведёт доказательство, которое вы в состоянии проверить сами: ссылку на источник и цитату из него. Откройте ссылку и убедитесь, что цитата там есть.