Штраф до 200 МРП грозит бизнесу за нарушение закона об ИИ

что произошло

В Казахстане владельцам и пользователям систем искусственного интеллекта (ИИ) грозит штраф – до 200 месячных расчётных показателей за нарушение правил работы с ИИ, сообщил заместитель премьер-министра, министр искусственного интеллекта Жаслан Мадиев.

Детали

Министерство искусственного интеллекта и цифрового развития напомнило, что разработан проект дополнений в Кодекс об административных правонарушениях, предусматривающий введение новой статьи 641-1, устанавливающей ответственность за нарушение законодательства об ИИ.

В ведомстве уточнили, что под наказание подпадают, в частности, случаи неинформирования пользователей о синтетических результатах деятельности ИИ и отсутствие управления рисками, которые привели к распространению запрещённой информации, нарушению прав человека, дискриминации или иного вреда.

В ведомстве добавили, что штрафы за такие нарушения варьируются в зависимости от типа субъекта – от 15 до 100 месячных расчётных показателей (1 МРП в 2025 году – 3932 тенге), при этом повторное нарушение для физических лиц грозит штрафом в размере 30 МРП, а для крупных компаний – до 200 МРП с возможностью приостановления или запрета деятельности соответствующей ИИ-системы.

Основные нормы закона

В рамках закона "Об искусственном интеллекте" предусмотрены правовые механизмы, направленные на противодействие распространению синтетического контента, включая технологии deepfake.

В соответствии с законом, собственники и владельцы систем ИИ обязаны информировать пользователей о том, что товары, работы и услуги произведены или оказываются с использованием систем ИИ.

Ответственность за соблюдение данного требования возлагается на владельцев или собственников систем ИИ. Распространение синтетических результатов деятельности систем ИИ допускается только при условии их маркировки в машиночитаемой форме и сопровождения визуальной либо иной формой предупреждения, обеспечивающей возможность восприятия пользователем без применения методов, затрудняющих такое восприятие.

Что ещё

Дополнительно, закреплены принципы прозрачности, ответственности, защиты персональных данных, а также вводятся запреты на создание и эксплуатацию ИИ-систем с манипулятивными функциями, способными причинить вред или повлиять на сознательное поведение граждан.

Таким образом, закон формирует комплексную систему правового регулирования, включающие как меры предупреждения, так и механизмы привлечения к ответственности в отношении недобросовестного использования технологий ИИ, включая создание и распространение deepfake-контента в целях обмана, шантажа или дискредитации.

Что поможет выявлять нарушения

Согласно информации министерства ИИ, в Казахстане дополнительно функционирует государственная информационная система "Кибернадзор", которая предназначена для мониторинга, анализа и выявления нарушений в цифровом пространстве, а также для оперативного реагирования на распространение незаконных материалов.

Как работает система

Сообщается, что система "Кибернадзор" осуществляет автоматизированный сбор и обработку информации с открытых интернет-ресурсов, социальных сетей, видеоплатформ и мессенджеров.

По результатам анализа выявляются материалы, содержащие признаки распространения ложной информации, кибермошенничества, пропаганды насилия, экстремизма, деструктивных религиозных течений и иных противоправных действий.

В министерстве уточнили, что за 10 месяцев 2025 года выявлено и внесено в систему 100 803 интернет ресурса, из которых 28 554 заблокированы.

Что было ранее

В конце октября этого года депутат мажилиса Сергей Пономарёв заявил, что стал жертвой дипфейка с использованием его голоса и лица. По его словам, мошенники в видеоролике подделали его голос и изображение, чтобы просить от имени депутата деньги у казахстанцев.

Он добавил, что качество подделок растёт, а вместе с ним увеличиваются риски манипуляции общественным мнением.

Мажилисмен отметил, что в случае создания и распространения дипфейка с участием руководителя государства или публичного лица, содержащего ложные призывы или фальшивые заявления, последствия могут быть катастрофическими и представлять угрозу национальной безопасности.

Контекст

В середине ноября этого года президент Казахстана подписал закон "Об искусственном интеллекте". Документ устанавливает базовые принципы работы систем ИИ, определяет круг ответственности за их применение и вводит ограничения на опасные технологии. Параллельно подписан пакет поправок в смежное законодательство, включая регулирование необеспеченных цифровых активов и персональных данных.