Гонка началась! Чего ждать от развития ИИ и какие возможности эпоха инноваций открывает перед Центральной Азией

Одним из феноменов массовой культуры является культ супергероев, который получил второе дыхание с появлением киновселенных Marvel Comics и DC. В бесконечном списке всяческих героев и антигероев со сверхъестественными способностями отдельной группой стоят персонажи, которых назвали бы инноваторами. Это либо ученые, либо инженеры, либо два в одном, которые борются со злом, хотя бывают и обратные примеры, когда они сами встают на темную сторону.

Досым Сатпаев. Фото — instagram.com/dsatpayev

Это эссе Досыма Сатпаева, директора консалтинговой организации «Группа оценки рисков» (Kazakhstan Risks Assessment Group), PhD, политолога, опубликованное в книге «Как оседлать единорога?», посвященной технологическому будущему Казахстана. Издание уже доступно читателям в интернет-магазине Meloman.

И в этой массовке героев с повышенным уровнем IQ наиболее собирательным и противоречивым образом инноватора является Железный человек. Богатый, умный, эксцентричный и талантливый инженер Энтони Эдвард «Тони» Старк как будто вобрал в себя весь психотип пионеров мощной инновационной волны конца XX века и начала XXI столетия, хотя сам персонаж впервые появился в марте 1963 года. В тот самый период, когда уже были мощные технологические прорывы, будь то первый полет человека в космос, начало развития ядерной энергетики, высадка на Луну или изобретение компьютерной мыши.

Ведь в том же 1963 году Дуглас Энгельбарт изобрел ту самую компьютерную мышь. Через три года он уже представит публике систему, которая включает в себя не только мышь, но также буквенную клавиатуру и программу, поддерживающей вывод информации на экран в разных «окнах». В 1965 году Гордон Мур сформулировал известный «закон Мура»: согласно его наблюдениям за динамикой развития технологии изготовления микросхем, плотность транзисторов в интегрированных микросхемах будет удваиваться каждые два года. Кстати, в марте 2023 года Гордон Мур скончался, но оставил после себе довольно богатое технологическое наследство с того самого момента, как в 1966 году, он вместе с Робертом Нойсом основали корпорацию Intel, где чуть позже Дэвид Хаус заявил, что плотность транзисторов в интегрированных микросхемах будет удваиваться не каждые два года, а каждые 18 месяцев.

И вот в конце 60-х годов был заложен заряд для еще одного инновационного взрыва, последствия которого сейчас звучат громче всех. В сентября 1969 года, в рамках оборонных исследований в США были созданы первые кирпичики узла сети ARPAnet, которые легли в основу фундамента для строительства «вавилонский башни» под названием Internet. Так что появление в тот период во вселенной комиксов, амбициозного инженера в образе Железного человека вполне отражало дух зарождающейся эпохи под названием «четвертая информационная революция».

Хотя эту мощную техноволну кто-то уже тогда стал воспринимать как предвестник будущего цунами. Довольно символично, что практически одновременно с появлением зачатков интернета, в 1968 году, вышла известная «Космическая одиссея 2001 года» Стэнли Кубрика, в основу которого лег рассказ Артура Кларка «Часовой», опубликованный еще в 1951 году. Одним из героев этого фильма был новейший компьютер с искусственным интеллектом HAL 9000, который вышел из повиновения и убил практически всех членов экипажа космического корабля, кроме одного, который все-таки смог деактивировать artificial intelligence (AI). Но с тех пор бунт искусственного интеллекта стал одной из визитных карточек многих научно-фантастических и постапокалиптических фильмов и книг, от «Терминатора» и «Матрицы» до «Я, робот».

Хотя, если копнуть еще дальше, то три закона роботехники, впервые сформулированные Айзеком Азимовым в 1942 году в рассказе «Хоровод», были одной из первых попыток предотвратить негативные последствия доминирования искусственного разума над человеческим.

Три закона робототехники Айзека Азимова

Закон первый. «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред». В 1986 году, в романе «Роботы и Империя» этот закон был немного перефразирован: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред».

Закон второй. «Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону».

Закон третий. «Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам».

Но будут ли аналогичные законы применяться в будущем к artificial general intelligence?

Через восемь лет после того, как были сформулированы эти три закона, появился знаменитый тест Тьюринга, когда человек, не видя напрямую другого человека и машину с искусственным интеллектом, в ходе общения с ними, задавая вопросы и получая ответы, должен будет определить, кто с ним общается — человек или машина. И если он не сможет сказать определенно, кто из собеседников является человеком, то считается, что машина прошла тест, так как она настолько хорошо подстроилась под логику человеческих рассуждений, что ввела собеседника в заблуждение и подвела его к выводу о своей «человечности».

Хотя вопрос «человечности» — это не только вопрос «чистого разума и логики», но и того, что сейчас модно называть «эмоциональным интеллектом». И опять же здесь появляются все новые вопросы. Что будет, если следующим этапом развития станет искусственный эмоциональный интеллект, когда машина, саморазвиваясь, сможет выражать разные эмоции как реакцию на изменения окружающей среды? Не породит ли это новые этические вопросы о наличии сознания у машины, если следующей ступенькой в эволюции AI будет попытка эмоционального осмысления философских вопросов жизни и смерти? В том числе собственной смерти, а также смерти тех, кто создал искусственный интеллект? Кстати, примерно такие вопросы стал себе задавать андроид Дэвид в фильме «Прометей» Ридли Скотта, что, в конечном счете, плохо кончилось для человека.

Ныне покойный Стивен Хокинг вполне искренне считал, что усилия по созданию мыслящих машин могут привести к тому, что «появление полноценного искусственного интеллекта может стать концом человеческой расы». Он опасался, что человечество создаст что-то такое, что превзойдет своего создателя, когда искусственный интеллект и более совершенные машины будут управлять десятками людей, контролируя их. Кстати, математик и специалист в области искусственного интеллекта Джеффри Хинтон, видя в развитии AI большой технологический рывок для всего человечества, также отмечает и опасность в бесконтрольной способности AI генерировать собственные идеи для улучшения и расширения своих возможностей.

Феномен neo-невежества

Интересно то, что если первые две информационные революции, связанные с появлением письменности, а затем книгопечатания, помогли человеческой цивилизации сделать довольно мощный рывок в сторону просвещения, то третья и четвертая информационные революции, когда сначала появились телеграф, телефон, радио и телевидение, а затем компьютерные технологии, интернет и искусственный интеллект, кроме мощного прогресса и восторгов, стали порождать немало вопросов касательно будущего развития человеческой цивилизации и тех рисков, с которыми оно может столкнуться.

Готово ли человечество к четвертой технологической волне, если искусственный интеллект возьмет на себя роль производителя разных смыслов, «новой правды» или «новой лжи», пытаясь ввести человечество в «заблуждение»? Ведь все это может наложиться на один тревожный тренд, который сейчас наблюдается на глобальном уровне. Например, ничто не предвещало появление такого «черного лебедя» как neo-невежество. Ведь традиционный линейный подход в развитии человечества обычно всегда исходил из того, что с каждым этапом исторического и технологического развития человечество должно становиться более культурным и образованным. Особенно после двух мировых войн. Но, возможно, мы сейчас сталкиваемся с той самой аномальной ситуацией, когда количество вдруг не перешло в качество. Парадокс цифровой революции состоит в том, что колоссальное увеличение объемов информации, а также возможностей для онлайн-доступа к разным знаниям, не привели к новой эпохе Просвещения для значительных масс населения.

Наоборот, мы видим, как разбивается еще один миф о том, что по мере технологической революции «просвещенный человек» будет доминирующим видом в обществе. Этого не произошло. Все демоны коллективного бессознательного и иррационального вырвались наружу. Гюстав Лебон, изучая психологию толпы, называл это эффектом заражения. Выходит, что человеческий фактор все тот же «черный лебедь», так как когда он аккумулируется в рамках медийного поля, то сразу приобретает поистине масштабный разрушительный эффект.

Информационная революция объединила весь мир. Но также спровоцировала новые расколы между людьми. Мы как будто в новой вариации средневековья, где идет охота на ведьм, фанатизм и возродилась инквизиция. Произошел кризис гуманитарного образования. Исчезли производители интеллектуальных смыслов. Образовался вакуум идей и нравственных ценностей, который быстро заполняют в том числе пропагандистские суррогаты. Как эффект домино, это в свою очередь закладывает основу для инфодемии, фейкократии и многочисленных теорий заговора глобального масштаба, став частью радикального политического мейнстрима в разных странах. Средневековая «охота на ведьм» вернулась в виде кибербуллинга, троллинга и культуры отмены. И не возникает ли риск использования искусственного интеллекта как дополнительного инструмента вражды и манипуляций общественным развитием, производства новых теорий заговора и конспирологических схем, а не развития и просвещения?

Может быть, поэтому «верховный комиссар Организации Объединенных Наций по правам человека и другие видные деятели призвали ввести мораторий на внедрение систем ИИ до тех пор, пока этические нормы и своды норм прав человека не будут обновлены с учетом их потенциального вреда».

Маск, Гейтс и джинн, которого выпустили из бутылки

Илон Маск не только давно предостерегает о том, что слишком быстрое развитие искусственного интеллекта может представлять угрозу для человечества, но также является давним сторонником ужесточения контроля над разработкой компьютерного мышления. Хотя при этом сам активно продвигает проект своей версии AI, а также технологию расширения человеческих способностей в рамках стартапа Neuralink, занимающегося разработкой интерфейса «мозг–компьютер». Все это говорит о том, что джинн уже выпущен из бутылки и ждет, какие три желания у него попросят те, кто эту бутылку открыл. И, судя по всему, эти желания у всех разные.

В свою очередь, Билл Гейтс выступил против остановки развития ChatGPT и других технологий ИИ, посчитав, что такие призывы Илона Маска и других экспертов не решат предстоящих проблем. По мнению Билла Гейтса, невозможно гарантировать, что все страны мира согласятся приостановить развитие технологий AI. Кстати. Alibaba уже представила общественности собственный искусственный интеллект Tongyi Qianwen, как конкурента ChatGPT. Крупнейший китайский поисковик Baidu Inc. также анонсировал свой чатбот Ernie Bot. Китайская компания SenseTime представила несколько новых продуктов с использованием искусственного интеллекта, включая чат-бот под названием SenseChat.

Таким образом, гонка искусственных интеллектов в разных странах уже началась, и основное поле битвы будет между США, Китаем и ЕС. Возможно, к ней подключатся Израиль, Индия и другие страны, рассматривая AI как часть системы обеспечения своей безопасности. Поэтому неудивительно, что даже стали появляться вопросы о том, будет ли активное развитие AI основой для ускорения глобализации или же, наоборот, это заложит новый тренд усиления децентрализации мира, как это уже происходит в сфере развития интернета, где в некоторых странах появляются свои Great Firewall.

Но уже сейчас ясно, что, рано или поздно, появление и развитие AI во многих странах мира станет частью их доктрин обеспечения национальной безопасности, как это сейчас видно в случае с киберугрозами. Полицейское подразделение Евросоюза Европол уже заявило, что «потенциально эти системы могут использоваться для разных типов интернет- мошенничества — от фишинга до киберпреступлений, а также распространения дезинформации».

Но даже если государства возьмут под контроль развитие искусственного интеллекта, не будет ли не менее худшим сценарием то, что одна часть людей может контролировать и управлять другими людьми через новые цифровые технологии в рамках «цифровой автократии», которая вполне активно развивается в некоторых политических системах? По сравнению с этим антиутопия «1984» Джорджа Оруэлла покажется детской сказкой.

Изображение — Gilles Sabrié—The New York Times/Redux

Китайский рейтинг и опыт Ирана

Одним из широко цитируемых примеров является китайская «система социального рейтинга», которая использует кредитные истории, судимости, поведение в интернете и прочие данные для присвоения рейтинга каждому человеку в стране. Затем этот рейтинг может быть использован для определения того, кому давать кредит, доступ к хорошей школе, путешествиям по железной дороге или по воздуху и так далее. И хотя китайская система позиционируется в качестве инструмента повышения прозрачности, она также служит инструментом социального контроля. В Иране власти также сообщили, что начали устанавливать в общественных местах «умные» камеры наблюдения, при помощи которых они будут идентифицировать женщин, не носящих хиджаб и таким образом нарушающих местный «дресс-код».

Тем не менее, даже в руках якобы благонамеренных демократических правительств, компаний, ориентированных на общественное влияние, и прогрессивных некоммерческих организаций инструменты прогнозирования могут давать неоптимальные результаты. Ошибки проектирования в базовых алгоритмах и применение предвзятых данных могут привести к нарушениям конфиденциальности и дискриминации на основе приватной информации.

Цифровое неравенство

Хотя это только часть мозаики будущего. Так как появления того, что Клейтон Кристенсен называл «подрывными инновациями», могут оказать довольно масштабное и глубокое влияние на разные сферы человеческой жизни. В том числе и в связи с тем, что любой новый прогресс способен порождать и новые формы неравенства. Например, эксперты The Boston Consulting Group (BCG) уже говорят о неравенстве цифрового развития, когда: «80 % компаний-единорогов… сосредоточено в шести странах. Большинство патентов, связанных с цифровыми технологиями, подают представители семи государств. Конкуренция за цифровое превосходство между развитыми странами крайне жестока. Тот, кто вырвется вперед, будет определять стандарты в этой индустрии на годы вперед. Кроме того, цифровые технологии тесно переплетены с вопросами государственной безопасности: слишком велико влияние компаний и государств, в чьих руках находятся эти технологии».

Действительно, одним из индикаторов инновационного и технологического развития государства является патентная статистика. Количество и качество научных и технических патентов также является отражением качества человеческого капитала в стране. Например, Израиль или Южная Корея тратят на научно-исследовательские и опытноконструкторские разработки более 4 % от ВВП. В списке мировых лидеров по расходам на науку также присутствуют Швеция, Япония и Австрия, которые тратят на НИОКР более 3 % от ВВП. В Казахстане планируется увеличить финансирование науки к 2025 году до 1 % от ВВП.

Раньше, согласно данным агентства EnergyProm, доля затрат на научно-исследовательские и опытно-конструкторские работы (НИОКР) в Казахстане три года подряд подряд составляли 0,12 %. Конкурентоспособное государство формируется только в условиях жесткой внутренней конкуренции «знаний» и разных источников финансирования этих знаний. И в войне за мозги победят те, кто не провоцирует утечку мозгов из страны, а создает все условия для того, чтобы страна была магнитом для человеческого капитала со всего мира.

Что будет с рынком труда?

Что касается перспектив рынка труда, то истина, как всегда, где-то посередине между оптимистами и пессимистами. Эксперты BCG, с одной стороны, считают: «Цифровые технологии подстегнули развитие многих индустрий. Нам стали привычны инфлюенсеры, создатели контента, разработчики экосистем и приложений, аналитики данных и СММ-специалисты, хотя всего несколько лет назад все эти профессии были в диковинку. Владельцы и менеджеры самых разных компаний — от образовательных до медицинских — внедряют цифровые технологии, чтобы оптимизировать процессы, урезать расходы и удовлетворить запросы клиентов. Всестороннее использование искусственного интеллекта, анализ больших данных и автоматизация сделают человечество еще богаче».

Но с другой стороны, эти же эксперты BCG исходят из того, что «стремительное развитие цифровой экономики ставит перед правительствами ряд сложных вопросов. Один из них — сокращение рабочих мест, вызванное автоматизацией труда. В таких развитых странах, как США, почти четверть всех категорий рабочих мест могут исчезнуть в ближайшие три-пять лет».

В Goldman Sachs также исходят из того, что это палка о двух концах. С одной стороны, «дальнейшее развитие этих технологий может вызвать бум производительности, который приведет к росту мирового ВВП на 7 % в год в течение 10 лет». С другой стороны, «развитие ChatGPT и других форм генеративного искусственного интеллекта приведет к значительным потрясениям на рынке труда, полностью автоматизировав 300 млн. рабочих мест в США и Европе».

Хотя человечество уже проходило через такое. Например, Великобритания в XVII-XVIII веках стала великой морской державой в том числе по причине того, «…что экономическое неравенство там было ниже, чем в остальных странах Европы… Успех Британии обусловлен еще и тем, что там проживало большое количество новаторов». Позже эту пальму первенства перехватили США. Но именно в Великобритании промышленная революция нанесла удар по традиционному рынку труда, где механизированный труд стал сокращать рабочие места. Это, в свою очередь, в начале XIX века породило знаменитое протестное движение Неда Лудда, которое, в конечном счете, было подавлено военными.

И в условиях очередной технологической революции опять звучат тревожные прогнозы по поводу появления неолуддизма, когда значительная часть населения захочет ограничить влияние новых технологий на жизнь людей, если это ведет к росту безработицы. Тот же Нассим Николас Талеб назвал неолуддизм одной из угроз человечества. Но, по мнению некоторых исследователей, отличием неолуддизма XXI века, возможно, будет то, что развитие новых технологий в первую очередь может отнять работу у белых воротничков.

Так как по прогнозу Goldman Sachs, при развитии искусственного интеллекта наибольшему риску потерять работу будут подвержены юристы и административный персонал. Хотя и здесь не все так однозначно. Появление таких подрывных инноваций может нанести удар и по работникам физического труда. «В США прогресс в сфере искусственного интеллекта никак не затронет только 30% работников, занимающихся физическим трудом, 63% смогут автоматизировать часть своих рабочих задач, а 7 % окажутся под угрозой увольнения». Например, активное развитие беспилотного транспорта уже беспокоит тех, кто зарабатывает себя жизнь перевозкой грузов. Известен случай, когда еще в 2018 году американо-канадский профсоюз, в который входили водители грузовиков попытался добиться от компании United Parcel Service (UPS) запрета на использование беспилотных автомобилей и дронов.

Поэтому все усиливаются дискуссии по поводу того, будет ли неолуддизм основой для новых массовых политических движений и частью риторики тех или иных политиков или же займет место на периферии политической активности. Будет ли неолуддизм новой идеологией техносправедливости, когда люди будут требовать, чтобы от развития технологий выгоду получало большинство, а не меньшинство? Что смогут предложить правительства тем гражданам, кто все-таки потеряет работу из-за внедрения искусственного интеллекта, роботов и автоматизации? Какая форма компенсации здесь возможна? Уже сейчас звучат предложения о введении безусловного базового дохода за счет повышения налога на использование AI, роботов и автоматизацию производства. Возможно, будут появляться новые идеи в этом направлении.

Поэтому многое в любом случае будет зависеть от того, какая политика на опережение станет проводиться в тех или иных странах касательно внедрения и использования подрывных инноваций. И, возможно, искусственный интеллект может помочь в разработке прогностической аналитики для тех стран, которые сильно нуждаются в этом, но не имеют достаточных средств, чтобы нанимать дорогостоящие консалтинговые организации.

Как отмечают некоторые эксперты: «…внедрение новой обработки естественного языка и генеративного ИИ не будет ограничено богатыми странами и такими компаниями, как Google, Meta и Microsoft, которые возглавили их создание. Эти технологии уже распространяются в странах с низким и средним уровнем дохода, где прогностическая 326 аналитика для всего, от сокращения неравенства в городах до решения проблемы продовольственной безопасности, сулит огромные перспективы испытывающим нехватку денежных средств правительствам, фирмам и НПО, стремящимся повысить эффективность и разблокировать социальные и экономические преимущества».

Многое будет зависеть и от способностей системы образования быстро адаптироваться к очередной технологической революции, ведь еще до появления AI американский физик японского происхождения Митио Каку в одном из своих интервью отмечал: «Действующая система образования готовит специалистов прошлого. Мы учим их для того, чтобы они шли на работу, которой уже не существует, обеспечиваем теми интеллектуальными инструментами, которые давно неэффективны».

Робот Kismet с искусственным интеллектом в Музее Массачусетского технологического института, 2006 год

При этом оптимисты исходят из того, что любой технологический прогресс в истории человечества изначально многими воспринимался с недоверием и вызывал даже агрессию, если приводил к серьезным изменениям уже привычной экономической модели развития и традиционного рынка труда. Но со временем все равно формировалась новая, более совершенная модель экономического развития, которая создавала новый рынок труда, новую систему образования, новые профессии и новые возможности.

Перспективы Центральной Азии

Возможно, с точки зрения глобальной экономики, страны Центральной Азии могли бы занять важную нишу инновационных технологий и поддержки стартапов в сфере разработки альтернативных источников энергии, энергосберегающих, водосберегающих технологий, а также AgroTech.

Изображение сгенерировано нейросетью Kandinsky 2.2

По некоторым оценкам, в Центральной Азии сосредоточено 5% мирового потенциала по улавливанию ветровой и солнечной энергии. Регион мог бы стать аналогом Кремниевой долины в разработке ВИЭ, экспортируя эти разработки и наращивая количество научных и технических патентов в этой сфере. И, возможно, следующей триллионной компанией (после Apple) будет именно производитель инновационной продукции, которая поможет адаптироваться к климатическим изменениям. Но для этого необходимо значительное увеличение расходов на научно-исследовательские и опытно-конструкторские разработки, что, опять же, не будет иметь значение без наличия человеческого капитала.

С учетом четвертой промышленной революции, наш регион, обладая значительными запасами редкоземельных металлов (например, в Казахстане, по официальным данным, может быть от 50 до 100 тыс. тонн лития), которые необходимы для современной индустрии, получает хорошую возможность использовать глобальную конкуренцию за эти ресурсы себе на пользу. Как, например, отмечает глава Федерального объединения немецкой индустрии (BDI) Зигфрид Руссвурм: «Без этих ископаемых ресурсов не будет перехода на возобновляемые источники энергии, не будет электромобилей, не будет цифровизации, не будет индустрии 4.0, но также не будет и развития инфраструктуры и конкурентоспособной оборонной индустрии».

Но участвуя в этой игре с большими ставками, страны Центральной Азии, в первую очередь, должны исходить из собственных интересов модернизации своих экономик на основе развития новых инновационных отраслей, избегая превращения в сырьевой придаток для других стран.

Если вспомнить трехзвенную иерархическую структуру И. Валлерстайна, то во время структурной перестройки мировой экономики и трансформации геополитического поля, основные изменения часто происходили за счет «полупериферии», из которой либо вырываются новые лидеры, либо формируются аутсайдеры, которые деградируют до состояния периферии. В мире было немало примеров, когда периферийные или полупериферийные государства вырывались в лидеры. Япония, Южная Корея при Пак Чон Хи, Сингапур эпохи Ли Куан Ю, Тайвань и другие азиатские тигры. Свой шанс и окно возможностей есть у Казахстана и других стран Центральной Азии.

А для всего этого необходимы системные политические и экономические реформы (как иммунитет от застоя) на основе реального мандата доверия, которое общество дает власти, через честные и конкурентные выборы, необходима эффективная защита прав человека и интеллектуальной собственности, важен низкий уровень коррупции, комфортная предпринимательская экосистема (где свои правила не диктуют олигархи и квазигосударственные структуры) и многое другое. Нам давно уже нужно наличие конкурентной интеллектуальной, политической и экономической среды, где существует большое количество социальных лифтов и нет многочисленных искусственных потолков для роста в любой сфере, которые часто появляются там, где неравенство возможностей определяется лишь жизненной лотерей, повезло или не повезло родиться с серебряной ложкой во рту.

На информационном уровне также необходимо заняться популяризацией инновационных и научных достижений, а в сфере государственной идеологии активно работать над повышением престижа инноваторов в разных сферах. И когда самые талантливые из них станут новыми героями современного Казахстана, образцами для подражания для молодежи, а не агашка из нефтянки, аким, министр, гламурная пустышка или очередной хайповый ЛОМ, тогда можно будет сказать, что в Казахстане произошла революция сознания. Только это приведет к тому, что будет не конкуренция дипломов, а конкуренция знаний, не конкуренция понтов, а конкуренция профессионализма, не конкуренция связей в элите, а конкуренция способностей и достижений.