Казахстан первым в Центральной Азии принял Закон «Об искусственном интеллекте»

Глава государства К. Токаев подписал Закон РК «Об искусственном интеллекте», ставший первым подобным документом в Центральной Азии.

Принятие законодательной основы для безопасного и эффективного развития технологий искусственного интеллекта (ИИ) является новым этапом цифровой трансформации Казахстана.

Основные цели закона – это определение правовых рамок в обеспечении развития ИИ, стимулирование его внедрения в различных областях для улучшения качества жизни человека и повышения эффективности экономики.

Инициатива по разработке закона впервые была озвучена Главой государства на форуме Digital Bridge 2023, где Президент РК поручил разработать современную нормативную базу, регулирующую использование ИИ. К. Токаев неоднократно за последние два года подчеркивал необходимость развития технологий ИИ в качестве стратегического приоритета государственной политики. Не было исключением и Послание народу Казахстана, звучавшее как «Казахстан в эпоху искусственного интеллекта: актуальные задачи и их решения через цифровую трансформацию», представленное в сентябре этого года.

Таким образом, назрела срочная необходимость в целях повсеместного внедрения высоких технологий получить законодательную основу, регулирующую обязанности, права и ответственность всех участников процесса.

На данный момент количество стран, принявших аналогичные законы, составляет единицы, среди которых лидеры технологического прогресса – Европейский союз, Канада и Сингапур. Казахстан же стал первым в регионе, который закрепил на законодательном уровне принципы этичного, прозрачного и ответственного применения ИИ. В приоритете остаются благополучие человека и свобода воли в принятии им решений.

Что регулирует закон?

Закон является базовым документом, устанавливающим единую правовую основу для использования технологий и систем ИИ в Казахстане. Он состоит из семи глав и 28 статей.

Документ закрепляет основные понятия: «искусственный интеллект», «модель искусственного интеллекта», «библиотека данных» и «национальная платформа ИИ».

Определены законом цели и задачи госрегулирования. Целями государственного регулирования общественных отношений в сфере ИИ являются обеспечение развития искусственного интеллекта и стимулирование его внедрения в различных областях для улучшения качества жизни человека и повышения эффективности экономики.

Закреплены права и обязанности госорганов, разработчиков, пользователей и владельцев систем ИИ, достаточно подробно для базового документа расписан правовой режим систем ИИ. Таким образом, государство переходит к регламентации уже имеющихся в стране и возникающих в связи с мировым технологическим прогрессом новшеств с одной большой, но благой целью – защитить права граждан, при этом оставить пространство для стимулирования развития новых технологий во всех сферах общественной жизни.

Закон об ИИ устанавливает классификацию систем и меры безопасности

Законом устанавливается классификация систем ИИ по трем критериям.

Во-первых, по степени риска. Системы подразделяются на минимальной степени риска, нарушение функционирования которых оказывает незначительное влияние. Средней степени риска, нарушение которых может привести к снижению эффективности и нанесению ущерба. И высокой степени риска, нарушение которых способно вызвать чрезвычайную ситуацию социального или техногенного характера, повлиять на оборону, безопасность и жизнедеятельность граждан.

Во-вторых, по уровню автономности. Выделяются системы низкой автономности, при которых решения носят рекомендательный характер, а окончательное решение принимает человек. Средней автономности, при которых допускается корректировка решений человеком. И высокой автономности, при которых вмешательство или отмена решения человеком исключены либо технически невозможны.

В-третьих, по режиму использования. Определяются открытые системы, допускающие свободное использование и модификацию. Закрытые системы, доступ к архитектуре которых ограничен владельцем и локальные системы, функционирующие в пределах инфраструктуры владельца без подключения к сетям общего пользования.

Закон запрещает создание и применение ИИ, обладающего манипулятивными, дискриминационными или опасными функциями, включая социальный скоринг, скрытое воздействие или сбор персональных данных без согласия граждан.

Для повышения доверия к технологиям госорганы будут формировать перечни доверенных систем высокой степени риска. Включение в них возможно только после прохождения аудита систем, осуществленного в соответствии с правилами проведения аудита информационных систем.

О защите авторских прав и ответственность за использование технологий

Законом установлено требование об обеспечении прозрачности использования систем ИИ. Все результаты работы ИИ – тексты, изображения, аудио- и видеоматериалы – подлежат обязательной маркировке в машиночитаемой форме. Требование включено в закон в целях обеспечения возможности восприятия пользователем информации без применения методов, затрудняющих такое восприятие, а также в целях предотвращения распространения недостоверной информации и злоупотреблений.

Особое внимание уделено авторским правам. Произведения, созданные с использованием ИИ, подлежат охране авторским правом только при наличии творческого вклада человека. Текстовые запросы, являющиеся результатом интеллектуальной деятельности пользователя, тоже признаются объектами авторского права. При этом использование произведений для обучения моделей ИИ не считается «свободным использованием» в образовательных или научных целях – такое применение допускается лишь при отсутствии прямого запрета со стороны автора или правообладателя, выраженного в машиночитаемой форме.

Законом предусмотрены механизмы управления рисками: владельцы систем обязаны выявлять, анализировать, прогнозировать и принимать меры по управлению рисками, предназначенные для предупреждения и устранения выявленных рисков.

Отдельное внимание уделено национальной платформе ИИ, которая становится ключевой инфраструктурой для разработки моделей, использования вычислительных мощностей, опытной эксплуатации программных продуктов и моделей в течение ограниченного периода времени. Предоставление доступа к вычислительным ресурсам осуществляется оператором национальной платформы ИИ в соответствии с правилами, утвержденными уполномоченным органом.

Кроме того, документ предусматривает нормы о возмещении вреда, причиненного системами ИИ, определенном в соответствии с требованиями Гражданского кодекса РК.

Человек выше алгоритма

Ключевой принцип принятого Закона «Об искусственном интеллекте» – технологии должны служить на благо людей. ИИ рассматривается только как инструмент поддержки принятия решений, за окончательное решение отвечает человек. Решения, принимаемые системой, не могут заменять свободу воли человека там, где это установлено законом. Пользователь имеет право знать о применении ИИ и возражать против автоматизированной обработки своих данных. Закон обеспечивает защиту персональной информации и запрещает ее использование без согласия владельца.

Закон об ИИ – это не ограничение технологий

Важно подчеркнуть, что закон не регулирует сами технологии ИИ, его задача – создать нормативную базу для ответственного и безопасного развития ИИ, определить принципы и этические ориентиры, чтобы технологии служили на благо человека и общества.

Документ носит рамочный характер, так как ИИ – это новая и стремительно развивающаяся область. В законе закреплены ключевые понятия, принципы применения и базовые процедуры, обеспечивающие прозрачные и понятные правила для всех участников рынка.

Принятие этого закона закрепляет за Казахстаном статус первой страны в регионе, установившей правовые основы регулирования ИИ при абсолютном приоритете защиты прав человека. Формирование правовой среды является новым шагом не только для Казахстана, но и для всего мира.

Наша общая цель – развивать технологии без излишних ограничений, обеспечивая баланс между инновациями, безопасностью и защитой интересов граждан.