Кто отвечает за ошибку

Модель ошибается, а ответственность лежит на человеке или компании, которые используют её ответы. Так вышло в трёх разбирательствах, которые уже прошли.

Чат-бот пообещал скидку

Пассажир спросил у чат-бота на сайте авиакомпании про тариф для тех, кто летит на похороны. Бот ответил, что скидку можно оформить задним числом в течение 90 дней. Правила компании этого не допускали.

Пассажир купил билет по полной цене, подал заявление и получил отказ. После этого пассажир подал иск в Гражданский трибунал Британской Колумбии. Трибунал разбирает мелкие гражданские споры онлайн и в систему судов не входит.

В феврале 2024 года трибунал обязал авиакомпанию возместить разницу. Довод компании, что бот отвечает за себя сам, отклонили: бот стоит на её сайте, и за сведения на сайте отвечает она.

Шесть решений, которых не было

В 2023 году адвокат подал в американский суд документ с доводами по делу. В подтверждение своей позиции он сослался на 6 решений, которые выносили суды по похожим спорам раньше. Эти решения ему подобрал ChatGPT, и ни одного из них не существовало.

Судья назначил штраф 5000 долларов адвокатам и их фирме. Отдельно обязал разослать письма настоящим судьям, чьи имена стояли в выдуманных решениях.

Отчёт с несуществующими источниками

В 2025 году консалтинговая компания сдала австралийскому министерству отчёт за 440 тысяч австралийских долларов. В нём нашли ссылки на публикации, которых нет, и выдуманную цитату из судебного решения.

Компания признала, что часть текста готовили языковой моделью, и вернула заказчику больше 97 тысяч австралийских долларов.

Что из этого следует вам

Подпись под документом ваша. Модель не подписывает письма, отчёты и записки, и в разбирательстве её не спросят.

Проверяйте то, что уходит дальше вас. Цифры, даты, цитаты, ссылки на документы и законы проверяются в первоисточнике. Как это делать, описано в главе «Ошибки и выдуманные факты».

Сообщайте, чем пользовались, если это принято в вашей компании. Во всех трёх случаях разбирательство началось не с факта использования модели, а с того, что ошибку никто не проверил.