Ответ от сверхразума

Я с большим скептицизмом отношусь к новостям вида «мы спросили искусственный интеллект, когда наступит конец света». Такую новость перепечатывают, пересылают в социальных сетях, и ответ модели воспринимают так, будто его дал сверхразум.

В мае 2023 года Fox News спросил ChatGPT, как может закончиться мир, и вынес в заголовок собственные предсказания конца света от модели. Модель назвала 4 угрозы: изменение климата, ядерное оружие, развитие технологий и пандемии.

Начала модель с того, что предсказывать конец света трудно и к любым таким прогнозам стоит относиться скептически. Оговорку заметка привела, в заголовок она не попала.

Вы разговариваете с языковой моделью, обученной на текстах, которые написали люди. Среди этих текстов есть научные работы и художественная литература, включая фантастику.

Состав обучающих текстов раскрывают не все разработчики.

Meta в 2023 году его описала: в данные для модели LLaMA рядом со статьями из научного архива препринтов вошли книги «Проекта Гутенберг». В этой библиотеке есть «Война миров» Уэллса. Есть и Библия с Откровением Иоанна.

Ответ на вопрос о конце света модель собирает из таких текстов. По самому ответу не видно, какая его часть пришла из климатического доклада, какая из романа, а какая из Апокалипсиса. Источником такой ответ служить не может.

Пользоваться таким ответом можно как заготовкой: это список версий, который вы дальше проверяете по источникам. Ссылаться на него как на мнение нельзя ни в письме, ни в отчёте, ни в разговоре с руководителем.