Казахстан разрабатывает закон об ИИ: вторым в мире после ЕС
Проблемы авторского права, утечек и дипфейков из нового законопроекта обсуждаются в мажилисе.
Что произошло
Депутат Екатерина Смышляева презентовала в мажилисе проект закона, который будет регулировать применение искусственного интеллекта (ИИ) в республике. Рассказываем, как документ предлагает бороться с утечками, как может быть решена проблема авторского права продуктов от ИИ и при чём здесь безработица.
Детали
Законопроект об искусственном интеллекте состоит из семи глав и 27 статей. Проект предусматривает классификацию ИИ по уровням риска:
- высокий – системы, влияющие на жизнь и здоровье людей, госуправление и принятие решений. Они подлежат строгому регулированию.
- средний – требуют контроля, но с меньшими ограничениями.
- низкий – такие системы не нуждаются в регулировании и развиваются свободно.
По уровню автономности:
- полностью автономные – способны работать без вмешательства человека (обсуждается вопрос полного запрета таких систем);
- полуавтономные – требуют частичного контроля;
- управляемые – работают под полным контролем человека.
Также планируется создание национальной платформы искусственного интеллекта, которая обеспечит базу для разработки и внедрения новых технологий. Возможно, разработчиков обяжут информировать пользователей, если они взаимодействуют с ИИ (например, с чат-ботами или с сервисами, предлагающими некие автоматические решения).
Екатерина Смышляева напомнила, что в Казахстане уже принят ряд мер для защиты персональных данных. Законопроект же может ввести дополнительные ограничения на использование и распространение персональных данных, особенно если они обрабатываются с помощью ИИ.
Также рассматривается вопрос ответственности за решения, принятые с участием ИИ. Пока неясно, кто должен нести ответственность за возможные ошибки – разработчики, владельцы технологий или пользователи. Этот вопрос ещё предстоит обсудить.
"Мы, если правильно отработаем свой проект закона, будем второй юрисдикцией мира, где будет отдельный закон, который посвящён вопросам искусственного интеллекта. Сегодня искусственный интеллект очень сильно воздействует на отрасли – во все сферы экономики внедряется. И это очень важно. Значит, нужно, чтобы это внедрение происходило безболезненно. Если это будет так, значит, туда пойдут инвестиции", – объяснила Екатерина Смышляева.
Будет ли искусственный интеллект отбирать рабочие места в Казахстане?
Депутаты задали разработчикам законопроекта свои вопросы и высказали некоторые опасения. ИИ – двигатель прогресса, но когда искусственный интеллект заменит ряд отраслей – уровень безработицы возрастёт, считает мажилисмен Елнур Бейсенбаев. Это, по его словам, нужно учесть в проекте. Также он напомнил про мошенников и дипфейки. Мол, каждый может взять видео с выступлением и использовать его голос для обмана.
"Самый базовый здесь вопрос – ответственности. Он сейчас в законопроекте. Но, я полагаю, с учётом отраслевых вопросов мы будем его детализировать, потому что он достаточно на сегодняшний день широкий", – ответила разработчик законопроекта Смышляева.
Национальная платформа ИИ: удобный инструмент или риск утечки данных?
Мажилисмен Никита Шаталов напомнил, что в 2023 году была масштабная утечка из чата GPT, которая скомпрометировала большой объём персональных данных. Ежегодно случаются утечки из государственных и частных баз данных.
"Нельзя сказать, что данные каждого казахстанца практически уже скомпрометированы. И если мы сейчас как государство централизуем доступ к данным для разработчиков через национальную платформу, это может создать дополнительный риск утечек. Какие законодательные меры предложены для усиления защиты данных в законопроекте? Кто и как будет защищать данные национальной платформы?", – спросил депутат.
Екатерина Смышляева ответила, что вопрос с защитой персональных данных стоит остро во всём мире.
"Они востребованы в связи с развитием искусственного интеллекта, можно посмотреть по неофициальным расценкам на данные, которые продаются активно и в даркнете. Их стоимость прям в разы растёт, особенно медицинские данные. Это прямая корреляция с технологиями – стоимость данных пошла в рост", – рассказала Екатерина Смышляева.
В законопроекте, по словам депутата, предусмотрены статьи:
- по защите конфиденциальности;
- по особенностям создания и предоставления библиотек данных в отношении их владельцев;
- по обеспечению прозрачности данных, на которых учится искусственный интеллект;
- по интеллектуальной собственности.
В Европе и США используется платный доступ к данным через лицензирование и существует чёткая их градация. Депутаты пока изучают этот опыт, чтобы понять, можно ли его применить у нас, сообщила Екатерина Смышляева. Также стоит вопрос стандартов анонимизации данных – возможности сокрытия личной информации.
ИИ творит, но кому принадлежат права?
"Если искусственный интеллект создал произведение – кто автор и можно ли считать авторами людей, использующих ИИ?" – такой вопрос задала депутат Унзила Шапак разработчикам проекта.
Признать ИИ автором произведения пока нельзя – он не субъект права, объяснила Екатерина Смышляева: "Такой практики в мире нет. Нужно учитывать объём участия человека при создании контента. Например, если объём работы от человека достаточный, то можно считать, что продукт создан человеком с помощью ИИ. Такие прецеденты уже есть в Китае и США, где признано подобное авторское право. Но создатели алгоритмов могут заявлять права на продукт, созданный с их ИИ, но доказать это сложно. Прецедентов тоже пока нет".
Жёсткое регулирование ИИ может замедлить технологический прогресс
Если в Казахстане или других странах введут слишком строгие правила для разработки ИИ, это может замедлить развитие технологий, высказал мнение депутат Мукаш Искандиров. Он привёл в пример Евросоюз, где приняли закон, который сильно ограничивает компании в разработке искусственного интеллекта. Из-за этого крупные компании, такие как OpenAI и Google, могут перенести свои разработки в страны, где таких строгих требований нет, пояснил мажилимен. Он спросил:
"Насколько обосновано введение государственного регулирования в сфере искусственного интеллекта у нас в стране?"
Екатерина Смышляева согласилась, что сегодня IT-бизнес не привязан к конкретному месту или ресурсам – для работы нужен лишь ноутбук, рюкзак и хорошие специалисты. Компании легко переезжают в другие страны, если там более благоприятные условия. Если где-то вводят жёсткие ограничения, крупные игроки просто уходят туда, где регулирование мягче.
Страны конкурируют между собой, создавая условия, которые привлекают технологические компании и инвестиции. Однако важно найти баланс между экономическим развитием и защитой прав граждан, считает Смышляева.
"В данном случае важен баланс, потому что мы можем позволить до каких-то определенных моментов действовать в пользу экономического развития, но когда дело касается прав человека, прав наших граждан, защиты наших граждан, мы должны понимать, что необходимо всё-таки какие-то границы выстраивать. В законопроекте границы и государственный контроль касаются только систем, по сути, высокого риска. Это такой компромисс, где речь идёт о тех отраслях, которые связаны с жизнью здоровья человека, правами человека, большими объёмами персональных данных, не анонимизированных", – объяснила спикер.
Контекст
Назначать ответственных исполнителей, контролировать поручения в госорганах и составлять документы начинает искусственный интеллект (ИИ) – его внедряют в работу госорганов в пилотном режиме. Взаимодействовать с новыми технологиями сотрудники будут в рамках цифровых проектов Е-Заннама и облачного документооборота (ОДО).
–––