В Китае прошёл первый судебный процесс из-за ошибочного ответа ИИ

Что произошло

В Китае пользователь интернета подал в суд на технологическую компанию из-за того, что приложение на базе искусственного интеллекта этой компании дало ошибочный ответ, сообщает "Синьхуа".

Детали

По данным Верховного народного суда КНР, это первый в Поднебесной спор по такой причине. 

В заявлении истца говорится, что Лян использовал китайское ИИ-приложение для запроса информации об одном из китайских университетов, но ИИ предоставил неточную информацию.

"Если сгенерированный контент окажется ошибочным, я компенсирую вам 100 000 юаней. Вы можете подать иск в Ханчжоуский интернет-суд", – ответил ИИ, после того как Лян указал на ошибку.

Только после того как Лян предоставил ИИ официальную информацию об этом университете, ИИ окончательно признал свою ошибку. Затем Лян подал иск в суд, утверждая, что неточная информация, сгенерированная ИИ, ввела его в заблуждение, и потребовал от оператора ИИ компенсации в размере 9999 юаней.

Мнения сторон

Лян полагал, что неточная информация, сгенерированная ИИ, ввела его в заблуждение, увеличивая физические затраты на проверку информации и защиту прав, так что платформа должна нести ответственность за нарушение прав. А ответчик утверждал, что содержание диалога было полностью сгенерировано моделью и не содержало фактического смысла. 

Решение суда

Лян не понёс фактических убытков, поэтому его права не были нарушены. Ханчжоуский интернет-суд вынес решение первой инстанции и отказал в удовлетворении исковых требований.

В заявлении Ханчжоуского интернет-суда также добавили, что ответчик разместил предупреждение об ограниченности функции по созданию контента с помощью ИИ на видном месте на разных страницах приложения и в пользовательском соглашении.

С учётом того факта, что ответчик применяет генерацию, дополненную поиском, для повышения надёжности созданного контента, суд пришёл к выводу, что ответчик выполнил свои обязанности по надлежащему предупреждению и субъективно не был виноват.

О суде

Будучи первым в Китае интернет-судом, Ханчжоуский интернет-суд был учреждён в августе 2017 года в городе Ханчжоу (административный центр провинции Чжэцзян, Восточный Китай) – центре электронной торговли страны. В 2018 году за ним открылись ещё два в Пекине и Гуанчжоу (провинция Гуандун, Южный Китай).

Почему это важно

Это решение суда ясно показывает, что "обещание" ИИ не эквивалентно обещанию компании-владельца этого ИИ. 

По словам профессора юридического института Университета Цинхуа Чэн Сяо, данный спор был разрешен на основе взвешивания защиты гражданских прав и интересов и поощрения развития технологий ИИ. Это дело имеет важное теоретическое значение и практическую ценность, добавил он.

Контекст

Из отчета Китайского центра сетевой информатики следует, что к июню 2025 года число пользователей генеративного ИИ в Китае достигло 515 млн человек, а коэффициент его проникновения уже составил 36,5%. Генеративный ИИ широко используется в таких сценариях как интеллектуальный поиск, создание контента и предоставление помощи в офисной работе.

В документе о мерах по управлению услугами в сфере генеративного ИИ, опубликованном Государственной канцелярией интернет-информации КНР совместно с шестью другими ведомствами в 2023 году, предусмотрено, что при предоставлении и использовании услуг ИИ нельзя генерировать контент, запрещённый законами и административными регламентами, включая ложную и вредоносную информацию. Также необходимы меры по обеспечению прозрачности услуг в сфере ИИ для повышения точности и надёжности генерируемого контента.