пятница07 февраля 2025
inbusinesskz.com

Искусственному интеллекту запретят воздействовать на граждан Казахстана.

Мажилис начал рассматривать законопроект «Об искусственном интеллекте» и связанные с ним поправки, сообщает Orda.kz.
Искусственному интеллекту запретят воздействовать на граждан Казахстана.
«Основной законопроект устанавливает правовые и организационные основы для регулирования и обеспечения прозрачности в области искусственного интеллекта (ИИ), а также особенности применения ИИ государственными органами и квазигосударственными учреждениями, а также права и обязанности участников взаимодействий в сфере ИИ».

Кроме того, как отметил депутат, сопутствующие законопроекты устанавливают нормы, касающиеся защиты прав потребителей продукции ИИ, охраны персональных данных, используемых ИИ, безопасности распространения продукции масс-медиа, созданной ИИ, и ответственности владельцев систем ИИ.

Законопроект вводит определение искусственного интеллекта. По мнению законодателей, ИИ — это:

«информационно-коммуникационная технология, позволяющая имитировать или превосходить когнитивные функции человека с целью выполнения интеллектуальных задач и поиска решений».

Одним из интересных аспектов является классификация систем искусственного интеллекта по степени независимости в принятии решений и влиянии на пользователя, которые подразделяются на:

  • вспомогательные (помощники) — системы, в которых искусственный интеллект выполняет функции помощи пользователю, а окончательные решения принимаются только пользователем;
  • полуавтономные — системы, которым собственником (владельцем) или пользователем предоставлены ограниченные права на автоматизированное принятие решений в рамках заранее заданных параметров, при этом лицо, предоставившее права на принятие решения, может вмешиваться в процесс или изменять результаты работы системы;
  • полностью автономные — системы, которые принимают решения независимо от заранее заданных параметров и не подлежат контролю со стороны собственника (владельца) данной системы.

Также указано, что на территории Республики Казахстан запрещается создание и выпуск в обращение полностью автономных систем искусственного интеллекта, а также систем с определенными возможностями. Одна из запрещенных функций —

использование подсознательных, манипулятивных или иных методов, которые существенно искажают поведение человека и ограничивают его способность принимать осознанные решения или вынуждают его принимать решения, которые могут причинить вред или создать угрозу для жизни, здоровья, имущества и других аспектов его благополучия.

Также под запретом для ИИ:

  • использование моральной и (или) физической уязвимости физических лиц в связи с возрастом, инвалидностью, социальным положением и другими обстоятельствами с целью причинения вреда или создания угрозы его причинения;
  • оценка и классификация физических лиц или групп на основе их социального поведения или известных, предполагаемых или прогнозируемых личных характеристик в течение определенного периода времени, за исключением случаев, установленных законами Республики Казахстан;
  • создание или расширение баз данных распознавания субъектов персональных данных через нецелевое извлечение персональных данных, включая изображения лиц, из Интернета или записи с камер видеонаблюдения;
  • классификация физических лиц на основе их биометрических данных для формирования выводов о их расе, политических взглядах, религиозной принадлежности и по любым другим обстоятельствам с целью дискриминации;
  • определение эмоций физических лиц без их согласия, кроме случаев, предусмотренных законами Республики Казахстан;
  • удаленная биометрическая идентификация физических лиц в реальном времени в общественных местах, за исключением случаев, предусмотренных законами Республики Казахстан;
  • создание и распространение результатов деятельности систем искусственного интеллекта, запрещенных законодательством Республики Казахстан.

Одно из положений будущего закона — Приоритет благополучия человека и свободы воли в принятии решений

«Человек, его права и свободы рассматриваются как наивысшая ценность в процессах создания и эксплуатации систем искусственного интеллекта. При эксплуатации систем искусственного интеллекта необходимо принимать меры для сохранения автономии и свободы воли человека при принятии решений», указано в документе.
Фото: pixabay

Кроме того, разработчики установили правовые рамки для ИИ. Все системы искусственного интеллекта классифицируются по уровню риска в зависимости от их воздействия на безопасность пользователей, общество и государство, и подразделяются на:

  • минимального риска — нарушение или прекращение функционирования которых окажет незначительное влияние на пользователей;
  • среднего риска — нарушение или прекращение функционирования которых может снизить эффективность и результативность деятельности пользователей и причинить материальный ущерб;
  • высокого риска — нарушение или прекращение функционирования которых может привести к чрезвычайной ситуации социального и (или) техногенного характера или к значительным негативным последствиям для обороны, безопасности, международных отношений, экономики, отдельных сфер хозяйства, пользователей и жизнедеятельности физических лиц.

Системы искусственного интеллекта высокого риска включены в перечень критически важных объектов информационно-коммуникационной инфраструктуры.

Как ранее сообщал премьер-министр Олжас Бектенов, в Астане будет открыт центр искусственного интеллекта Alem.AI. Он разместится в центральном павильоне Nur Alem выставки ЭКСПО. Центр будет заниматься координацией работы по развитию и внедрению ИИ, а также проводить множество образовательных инициатив для всех категорий граждан.