Кто отвечает за ошибку
Модель ошибается, а ответственность лежит на человеке или компании, которые используют её ответы. Так вышло в трёх разбирательствах, которые уже прошли.
Чат-бот пообещал скидку
Пассажир спросил у чат-бота на сайте авиакомпании про тариф для тех, кто летит на похороны. Бот ответил, что скидку можно оформить задним числом в течение 90 дней. Правила компании этого не допускали.
Пассажир купил билет по полной цене, подал заявление и получил отказ. После этого пассажир подал иск в Гражданский трибунал Британской Колумбии. Трибунал разбирает мелкие гражданские споры онлайн и в систему судов не входит.
В феврале 2024 года трибунал обязал авиакомпанию возместить разницу. Довод компании, что бот отвечает за себя сам, отклонили: бот стоит на её сайте, и за сведения на сайте отвечает она.
Шесть решений, которых не было
В 2023 году адвокат подал в американский суд документ с доводами по делу. В подтверждение своей позиции он сослался на 6 решений, которые выносили суды по похожим спорам раньше. Эти решения ему подобрал ChatGPT, и ни одного из них не существовало.
Судья назначил штраф 5000 долларов адвокатам и их фирме. Отдельно обязал разослать письма настоящим судьям, чьи имена стояли в выдуманных решениях.
Отчёт с несуществующими источниками
В 2025 году консалтинговая компания сдала австралийскому министерству отчёт за 440 тысяч австралийских долларов. В нём нашли ссылки на публикации, которых нет, и выдуманную цитату из судебного решения.
Компания признала, что часть текста готовили языковой моделью, и вернула заказчику больше 97 тысяч австралийских долларов.
Что из этого следует вам
Подпись под документом ваша. Модель не подписывает письма, отчёты и записки, и в разбирательстве её не спросят.
Проверяйте то, что уходит дальше вас. Цифры, даты, цитаты, ссылки на документы и законы проверяются в первоисточнике. Как это делать, описано в главе «Ошибки и выдуманные факты».
Сообщайте, чем пользовались, если это принято в вашей компании. Во всех трёх случаях разбирательство началось не с факта использования модели, а с того, что ошибку никто не проверил.