Депутат Мажилиса Екатерина Смышляева: «Право должно двигаться за технологиями, как автомобили в потоке – на безопасном расстоянии»
«С ИТ познакомилась еще в университете. Хоть и училась на химика, но вела научно-исследовательскую работу по «молодому» на тот момент разделу — компьютерной химии. Мы писали алгоритмы машинного обучения и проверяли точность их прогнозов, – вспоминает свое студенчество Екатерина Смышляева. – Кодили тогда на Basic и Pascal. Данные собирали вручную: скачивали по ночам (когда телефонная линия не загружена) с разных сайтов масс-спектры органических соединений, затем записывали их на дискеты. В начале 2000-х годов еще не было скомпонованных датасетов, поэтому все файлы приходилось объединять самостоятельно. В результате наши алгоритмы могли похвастаться высокой точностью прогнозирования химических и фармакологических свойств органических соединений. Тогда осознала, как технологии способны менять нашу жизнь».
Сегодня наша собеседница – депутат Мажилиса Парламента Казахстана. При ее активном участии и инициативе приняты ряд законов, связанных с цифровизацией экономики и государственных услуг. Для совместного проекта Digital Business и Yandex Qazaqstan «IT-история Казахстана» обсудили с Екатериной Смышляевой, как эволюционировало цифровое право в нашей стране и ту историю, которая пишется прямо сейчас – речь о регулировании искусственного интеллекта и перспективах создания Цифрового кодекса. Также поговорили о трансформации сознания законодателей и почему право не должно опережать технологии.
«Смогли поставить жирную точку в спорах о применении цифровых документов»
В Мажилис Екатерина Смышляева пришла в 2021 году в комитет по экономической реформе и региональному развитию. Так сложилось, что именно этот комитет курирует в Парламенте вопросы цифровизации, и свою депутатскую деятельность собеседница начала с цифровых законов:
– Мой первый закон по части цифровизации назывался «О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам стимулирования инноваций, развития цифровизации, информационной безопасности и образования». Это был двухтомник, разработанный правительством, по 500 листов каждый. Он долго проходил всевозможные экспертизы и заключения, а когда оказался в Мажилисе, то половина норм в нем потеряли актуальность. К примеру, некоторые технологии устарели, поэтому их уже не нужно было регулировать.
Однако этот закон серьезно повлиял на цифровизацию. К примеру, он поставил жирную точку в спорах о применении цифровых документов – паспортов, удостоверений личности, водительских прав и так далее. Изначально их использование регулировалось законом «Об информатизации», который по силе был равен отраслевым актам. То есть сотрудники аэропортов или железнодорожных вокзалов, руководствуясь внутренними нормативами, могли не пускать пассажиров на рейс по электронному удостоверению. Тогда на уровне закона мы приравняли электронные документы к бумажным в административно процедурно-процессуальном кодексе, что подняло их статус над отраслевыми актами. А позже приняли пакет поправок, благодаря которым цифровые документы появились в банковских приложениях, что открыло дорогу к предоставлению в них госуслуг.
В одном из следующих законодательных актов, инициированных Екатериной Смышляевой, был большой блок о защите персональных данных:
– Он шел как инициативный депутатский проект закона. Там появился частный оператор персональных данных, отрегулировали трансграничную передачу данных. Также родился институт согласия – когда человеку приходит SMS-уведомление, где спрашивается, можно ли использовать его личные данные. Раньше такого не было.
К слову, сейчас с регулятором ожидаем заключение правительства по поводу поправок, которые введут фиксацию каждого шага в системе суперадминов – людей, имеющих полный доступ к персональным данным. Еще шаг за шагом наращиваем штрафные санкции в отношении утечек персональных данных.
Отдельное направление работы — законодательные меры по борьбе с цифровым мошенничеством, регулировании антифрода. Самостоятельным законом, регулирующим новую цифровую сущность, стал закон «О цифровых активах». Очень сложный был проект, мы работали над ним почти два года. Сегодня он регулирует цифровой майнинг, а также порядок обращения цифровых активов. Особенность этой регуляторной модели заключается в том, что она опирается на две юрисдикции: национальную и Международного финансового центра «Астана».
Очень бурную дискуссию вызвал проект закона о платформе «Баг-Баунти». Фактически этим нормативным актом мы дали статус так называемым исследователям информационных систем на уязвимость. Проще говоря, легализовали «белых хакеров». Очень непростой шаг, однако за время правоприменения показывает уверенный положительный результат. Как, впрочем, все инициативы, связанные с правовым регулированием технологий киберзащиты.
«На данный момент ни в одной юрисдикции мира нет полноценного, работающего закона по ИИ»
Сейчас одна из самых актуальных тем, широко обсуждаемых в обществе, – регулирование искусственного интеллекта. Как отмечает Екатерина Смышляева, в мире пока не особо торопятся вводить серьезные ограничительные меры для этой сферы:
– Сегодня ни в одной юрисдикции нет полноценного, работающего закона по ИИ. Хотя в некоторых государствах идет работа над созданием нормативной базы. У всех, конечно, разные подходы, но в основе лежит «мягкое право». Когда сфера регулируется не на уровне закона или кодекса, а подзаконными актами – концепциями, конвенциями, этическими правилами.
Например, акты, регулирующие ИИ, приняты в Китае. Самое жесткое требование в них – маркировка контента, созданного искусственным интеллектом или при его содействии. Экспериментируют с ограничительными мерами в некоторых штатах Америки. Но самый целостный регуляторный акт разработали в ЕС.
Кстати, в Европейском союзе уже принимали «тяжеловесные» законы, касающиеся технологий. К примеру, в мае 2018 года вступил в силу GDPR (General Data Protection Regulation) – общий регламент по защите данных, который обязал компании получать согласие пользователей на использование cookie-файлов и знакомить их с политикой конфиденциальности. Он серьезно усложнил интеграцию различных систем для предоставления услуг в проактивном формате. Получается, что таким образом развитие цифровых технологий в целом затормозилось, но зато они гарантировали все нюансы, связанные с безопасностью. У развития и безопасности всегда имеется конфликт интересов.
Думаю, акты по ИИ способны стать для Европейского союза вторым GDPR. В них предложены довольно серьезные регуляторные инструменты, которые могут препятствовать развитию технологий на базе искусственного интеллекта. Это на фоне многих локаций в мире с более лояльным законодательством.
«Думаю, до конца года закон «Об искусственном интеллекте» будет принят»
Что касается Казахстана, то не так давно министр цифрового развития Жаслан Мадиев анонсировал появление законопроекта «Об искусственном интеллекте». О его содержании пока неизвестно, однако Екатерина Смышляева уверяет, что законодатели не будут принимать радикальных мер по регулированию ИИ:
– Этот законопроект сейчас ожидает заключения от правительства. Мы в нем прописали механизмы взаимодействия всех технологий, алгоритмов и продуктов, которые так или иначе связаны с государственной системой. Что касается частного сектора, то никаких реестров, регистраций и прочего в сфере ИИ здесь не будет. Исключение – продукты, которые разрабатываются для сферы здравоохранения.
Еще один важный момент – маркировка. Заложили этот вопрос, потому что человек, который потребляет контент или продукт, созданный ИИ или при его участии, должен знать об этом. Не факт, что все ринутся это соблюдать, но мы хотя бы начнем формировать определенную культуру использования искусственного интеллекта. Также прописали ряд моментов, которые касаются ответственности и определения полномочий органов в сфере развития ИИ.
Помимо этого, дополняем ряд законов в отношении data-продуктов. Речь о предоставлении равного доступа к информации, которая может быть использована для обучения алгоритмов.
Думаю, до конца года закон «Об искусственном интеллекте» будет принят, после чего начнем отрабатывать непосредственного те легкие регуляторные механизмы, которые в нем присутствуют уже на подзаконном уровне.
«Хотим, чтобы Цифровой кодекс писался в формате открытого кода, как все нормальные айтишные продукты»
Если говорить о развитии цифровой среды с точки зрения законодательства, то сегодня, отмечает Екатерина Смышляева, в Казахстане не хватает экспериментальных режимов:
– Подобная практика есть в 14 странах мира. Это так называемые «песочницы» в национальном законодательстве, которые позволяют вырабатывать специальные регуляторные модели на определенное время без внесения изменений в законодательство.
У нас так, к примеру, получилось запустить пилотный проект со Starlink для школ в отдаленных селах. Однако это был довольно сложный процесс. Нужен более практико-ориентированный формат, чтобы можно было говорить о полноценном правовом эксперименте, вносить определенное регулирование для ограниченных субъектов и территорий, а по результатам правоприменения потом переносить это в закон – делать общей практикой. Нам крайне необходима возможность проводить такие правовые эксперименты именно в процессе внедрения новых технологий.
Но если говорить глобально, то базовые ориентиры цифровизации должны найти отражение в Цифровом кодексе. Это, признаюсь, дискуссионная тема. С одной стороны, юристы говорят, что он не нужен, так как сегодня нет такой отрасли, как цифровое право. С другой – есть прецедент с Предпринимательским кодексом, хотя предпринимательское право – часть гражданского. Когда идея его создания была выдвинута регулятором, я, признаться, тоже сочла ее преждевременной. Работая сегодня над проектом документа, понимаю, что он нужен.
Мы живем в период тотальной цифровизации. Однако новые технологии пришли в мир развитых общественных отношений, где в центре все-таки находится человек и его права. Поэтому в Кодексе, например, отражены принципиальные моменты в отношении автоматизированных решений и возможности их пересмотра с участием человека. Есть базовые подходы по цифровой инклюзии, предотвращению цифрового неравенства, цифровому нигилизму. Это этика и она особенно актуальна на фоне развития технологий искусственного интеллекта.
Еще один важный момент – безопасность. На уровень Кодекса выносятся основные способы ее обеспечения в цифровой среде. Предлагается подход к организации биометрических данных и защиты персональных данных в целом. Определяются статусы цифровых объектов, от которых в последующим зависит их защита.
Есть в практической цифровизации межотраслевые процессы, например, по цифровой трансформации или обращению цифровых документов.
Проект также содержит предложения по регуляторному подходу к новым цифровым сущностям – децентрализованным организациям, смарт-контрактам и т. д. Думаю, этот раздел еще будет расти в процессе обсуждения.
После официального старта публичного обсуждения и работы над документом мы вернемся к этому разговору в подробностях. А пока впереди большая работа и наша главная задача, чтобы ее результат был полезен и сбалансирован для развития отрасли.
Безусловно, принятие Цифрового кодекса – процесс небыстрый. Базовый проект уже подготовлен и инициирован депутатами. Получены экспертизы. После заключения правительства начнем предметную работу над ним в Мажилисе. В рабочую группу войдут практики, бизнесмены, ученые, эксперты, в том числе международные, чтобы Цифровой кодекс писался в формате открытого кода, как все нормальные айтишные продукты. Надеемся, что получится создать полезный документ, где будут учтены все рациональные и разумные предложения. Кодекс может стать важным инструментом для развития цифровой экономики, поможет правильно расставить приоритеты.
«Регуляторные подходы в цифровой среде должны быть минимальны, чтобы не навредить технологиям»
Екатерина Смышляева подчеркивает, что при внедрении регуляторных мер в цифровой среде необходимо всегда учитывать три главные составляющие цифровизации – информационная безопасность, инфраструктура и технология:
– Главная задача регулятора – обеспечить гармоничное развитие всех трех направлений. Ведь если провиснет инфраструктура, то возникнет вопрос цифрового неравенства. Мы видим, что сегодня доступны тысячи онлайн-услуг, но если в селе нет интернета, то люди не могут ими воспользоваться. Когда что-то зажимается по информационной безопасности, то притормаживается развитие технологии. А в случае увлечения только технологией, может страдать кибербезопасность, в результате чего происходят утечки.
Чтобы выстроить идеальный баланс, считает депутат Мажилиса, необходимо не пускать право впереди технологий, иначе это остановит их развитие:
– Нам важно прийти к этому пониманию, потому что изначально регуляторная политика в Казахстане была достаточно категоричной. У меня каждый день в сознании происходят трансформации, которые говорят о том, что запреты в цифровой среде не работают.
Конечно, при этом важно сохранять баланс в отношении общественных интересов. Улавливать грань, когда технология становится опасной для людей и тогда уже выставлять определенные ограничения.
«Сегодня политика Мажилиса полностью направлена на открытость к экспертному сообществу»
В то же время, считает Екатерина Смышляева, право не должно слишком сильно отставать от технологий:
– Во-первых, это небезопасно. Во-вторых, те же инвесторы не будут вкладываться в рынок, где нет правил игры. Условно, есть человек, который хочет инвестировать серьезные деньги в ИИ, но без закона об искусственном интеллекте он не станет этого делать. У него просто нет понимания, какие условия выставит регулятор в определенный момент. Когда они есть, инвестор получает полную картину и уже на основе этой информации решает, хочет он оставаться в этой юрисдикции или нет.
Если говорить образно, то право должно двигаться за технологиями, как автомобили в потоке – на безопасном расстоянии. Чтобы можно было при необходимости либо затормозить, либо обогнать.
Для этого нам, законодателям, нужно серьезное погружение в среду. Важно вникать в технологии и слушать экспертное сообщество. Считаю своей сильной стороной то, что вокруг каждой нашей инициативы всегда большое количество специалистов.
Ведь ни регуляторы, ни законодатели настолько глубоко отрасль не знают. Всегда важно слышать мнение разных сторон, чтобы видеть золотую середину. Сегодня политика Мажилиса направлена на максимальную открытость к экспертному сообществу. Это позволяет повышать качество законов.
