Мажилис принял закон, запрещающий ИИ, манипулирующий людьми и эмоциями
Что произошло
Мажилис Казахстана одобрил закон о регулировании искусственного интеллекта. Документ запрещает системы, которые могут манипулировать поведением людей или использовать их эмоции без согласия, вводит классификацию ИИ по уровням риска и автономности, а также предусматривает создание национальной платформы для поддержки разработчиков.
Опасные технологии под особым контролем
Председатель мажилиса Ерлан Кошанов подчеркнул, что безопасность граждан – главный приоритет.
"Главная цель закона – технологии должны служить обществу и оставаться безопасными для каждого. Поэтому в первую очередь закон вводит чёткое деление систем искусственного интеллекта по уровню риска и автономности. Опасные технологии, которые могут манипулировать поведением, анализировать эмоции без согласия или использовать уязвимости людей, прямо запрещены. Системы высокого риска будут находиться под особым контролем, что гарантирует безопасность и ответственность", – отметил он.
Этика, аудит и классификация
Депутат мажилиса Екатерина Смышляева отметила, что законопроекты разработаны по поручению президента.
"Эти законы создают правовую основу для развития искусственного интеллекта в Казахстане. Они направлены на безопасность граждан, защиту данных и поддержку инноваций. В документе закреплены основные этические принципы – приоритет прав человека, безопасность и прозрачность. Искусственный интеллект не признаётся субъектом права, и ответственность за все решения остаётся за человеком", – сказала она.
Смышляева уточнила, что все ИИ-системы разделены по уровням риска (низкий, средний, высокий) и автономности (низкий, средний, высокий). Системы высокого риска приравнены к критически важной инфраструктуре, а эксплуатация высокоавтономных систем, например беспилотного транспорта, будет регулироваться исключительно на уровне законов.
Обязательный аудит и "списки доверия"
Для контроля создаётся механизм аудита ИИ-систем. По словам Смышляевой, аудит будет обязательным для систем, включённых в отраслевые "списки доверия", а для остальных останется добровольным. Проверка будет оценивать не только соответствие требованиям безопасности, но и качество библиотек данных, а также отсутствие запрещённых функций.
Права пользователей и маркировка дипфейков
Закон предусматривает особую защиту граждан: пользователи смогут получать информацию о работе системы, отказываться от взаимодействия с ИИ и требовать пересмотра решений. Все синтетические материалы, включая дипфейки, должны будут маркироваться в понятной для человека форме.
Ограничения для открытых моделей и поддержка локальных решений
Отдельное внимание уделено национальной безопасности и ценностям. Смышляева отметила, что использование открытых генеративных систем будет ограничено строгими требованиями к информационной безопасности. Приоритет будет у локальных моделей, работающих в закрытом контуре:
"Сегодня открытые генеративные модели невероятно популярны у детей и молодёжи. Но они обучены на глобальных, в том числе политизированных данных, где отсутствуют наши национальные ценности. Локальные модели должны стать основой национальных ИИ-систем. В образовании они будут обучать подрастающее поколение нашим ценностям и идеологии, а при работе с конфиденциальной информацией обеспечат надёжную защиту", – подчеркнула она.
Авторские права и инновации
Закон также регулирует вопросы интеллектуальной собственности. Произведения, созданные ИИ без творческого участия человека, не будут охраняться авторским правом. При этом охраняемым объектом может признаваться творческий запрос пользователя (промпт). Использование произведений для обучения моделей ИИ допускается только в том случае, если автор или правообладатель не запретили это в машиночитаемой форме.
Парламентские слушания
Ерлан Кошанов отметил, что работа над темой продолжится.
"Принятый закон станет серьёзным толчком для развития искусственного интеллекта и страны в целом. Впереди нас ждут важные парламентские слушания по вопросам ИИ. Широкая дискуссия продолжится уже в эту пятницу", – сказал он.
