Границы автономии ИИ: первые кейсы уже дошли до судов

Чат-бот как «отдельное юридическое лицо» — попытка не удалась

В феврале 2024 года трибунал по гражданским спорам провинции Британская Колумбия (Canada, Civil Resolution Tribunal) вынес решение по делу Moffatt v. Air Canada. Пассажир спросил у чат-бота авиакомпании про скидку на билет по случаю смерти родственника. Бот описал политику возврата, которой у Air Canada не существовало. Когда человек попросил обещанную компенсацию, авиакомпания отказала — и в разбирательстве заявила, что чат-бот «является отдельным юридическим лицом, отвечающим за свои действия». Трибунал этот аргумент отклонил и обязал Air Canada выплатить компенсацию (порядка нескольких сотен канадских долларов вместе с издержками).

Сумма смешная. Прецедентный смысл — нет. Впервые публично прозвучала и была отвергнута линия защиты, к которой бизнес будет тянуться всё чаще по мере внедрения автономных агентов*: раз система действовала сама, то и отвечает она сама. Пока суды отвечают одинаково — за поведение инструмента отвечает тот, кто его выкатил.

Три линии споров, которые уже идут

Судебные конфликты вокруг ИИ распадаются на несколько принципиально разных сюжетов, и путать их не стоит — от типа спора зависит, кто вообще рискует.

Ответственность за вывод модели перед клиентом

Это история Air Canada. Компания дала пользователю инструмент, инструмент выдал неверную информацию, пользователь понёс убыток. Здесь неважно, «галлюцинировала» модель или сломался скрипт — с точки зрения потребителя это ошибка продавца услуги.

Ответственность профессионала, который доверился ИИ

Дело Mata v. Avianca (Southern District of New York, 2023). Юристы приложили к иску подборку судебных решений, которые сгенерировал ChatGPT, — и часть этих решений не существовала. Судья наложил на адвокатов санкции в размере 5 000 долларов. Виноват не инструмент: суд указал, что подавать в дело непроверенные ссылки — ответственность самого юриста.

Обучение моделей на чужом контенте

Отдельный пласт — авторские права. New York Times против OpenAI и Microsoft (иск подан в декабре 2023, разбирательство продолжается), Getty Images против Stability AI. Здесь спорят не об автономии агента, а о том, законно ли использовать защищённые тексты и изображения для обучения. Исход этих дел на момент публикации не определён.

Как это выглядит рядом

Общий знаменатель первых завершённых дел: чем автономнее система, тем выше внимание к тому, кто её поставил и как контролировал. «Оно само» не признаётся смягчающим обстоятельством ни разу.

Автономия агента не создаёт нового ответчика. Она просто перекладывает старую ответственность на того, кто нажал кнопку «запустить в прод».

Кому это важно прямо сейчас

Компаниям, у которых ИИ разговаривает с клиентами. Если бот на сайте называет цену, обещает возврат или консультирует по договору, его слова — это слова компании. Отговорка про «экспериментальный сервис» помогает слабо, если пользователь принял решение, полагаясь на ответ.

Юристам, бухгалтерам, врачам, инженерам. Всем, кто выдаёт профессиональный результат. Модель ускоряет черновик, но проверка ссылок, цифр и формулировок остаётся на человеке, и санкции прилетают человеку. Дело Avianca — ровно об этом.

Разработчикам ИИ-агентов, которые совершают действия. Агент, который сам бронирует, оплачивает, отправляет письма или меняет настройки, повышает цену ошибки: тут уже не неверный ответ, а совершённая транзакция. Логи, ограничения полномочий и подтверждения на критичных шагах перестают быть перестраховкой.

А кому можно выдохнуть

Если ИИ работает во внутреннем контуре как ассистент, а финальное решение принимает и подписывает сотрудник — юридический риск близок к обычному: отвечает тот, кто принял решение. Опасность возникает там, где вывод модели напрямую доходит до клиента или запускает действие без человека в цепочке.

Что делать бизнесу до того, как прилетит иск

1. Опишите, за что именно отвечает агент, а где обязателен человек. Критичные шаги (оплата, обещания, юридически значимые заявления) выносите на подтверждение оператором.
2. Храните логи диалогов и действий агента. Без них вы не докажете, что бот сказал и на основании чего пользователь действовал.
3. Дайте боту и его ответам понятную рамку: что это, каков статус информации, куда обращаться за официальным подтверждением. Дисклеймер не снимает ответственность полностью, но сужает поле для претензий.
4. Пропишите в договоре с поставщиком модели, кто отвечает за некорректный вывод и как распределяются убытки. По умолчанию перед вашим клиентом отвечаете вы.
5. Не отдавайте профессиональный результат наружу без проверки человеком — особенно там, где ошибка стоит денег или лицензии.

Российской судебной практики по автономным ИI-агентам публично почти нет — рынок таких внедрений моложе споров. Но логика ответственности продавца перед потребителем и профессионала перед клиентом универсальна, и рассчитывать, что «бот сам виноват» сработает как защита, оснований мало.

* Агент — программа на основе языковой модели, которая не просто отвечает текстом, а сама выполняет цепочку действий для достижения цели: ищет информацию, вызывает внешние сервисы, совершает операции. Чем длиннее эта цепочка без участия человека, тем выше и цена ошибки.