Кремль может довольно радикально пересмотреть свои подходы к цифровизации. В особенности это касается внедрения в жизнь технологий искусственного интеллекта.
Во всяком случае такой вывод можно сделать по итогам выступления Дмитрия Пескова, специального представителя Президента Российской Федерации по вопросам цифрового и технологического развития. Он выступил на Московском международном форуме инновационного развития «Открытые технологии», который прошел с 19 по 21 октября.
Выступление было сенсационным, но обо всем по порядку. Форум, прошедший в основном в дистанционном режиме, известен под кратким названием «Открытые инновации». Это, пожалуй, одна из самых престижных площадок, реальное место встречи государства и бизнеса, причем бизнеса не только российского. И среди спикеров, и среди участников здесь много представителей иностранных компаний, желающих поучаствовать в разделе сочнейшего, многомиллиардного российского пирога цифровизации.
Среди организаторов – структуры, под бдительным оком которых день за днем прогрессируют, достигнув невиданных высот, российская наука и технологии: это и Минэкономразвития, и Минобрнаука, и правительство Москвы, и Сколково, и ВЭБ, и РВК, и «Роснано», и даже «Эхо Москвы».
Радение «Гербалайфа»
Песков выступил дистанционно, будучи приглашен на панель, где модератором был немец, участниками – представители разных народов, а русским был лишь он да помощник президента РФ Максим Орешкин, сказавший несколько дежурных слов в начале. На панели были представлены «Майкрософт», «Интел», «Филипс» и несколько других западных компаний, которые увлеченно убеждали друг друга в невероятной перспективности их технологий и подходов. Говорили и о необходимости для русских финансировать именно их проекты. Топ-менеджеры западных компаний светились отточенными улыбками, сияли стройными рядами безукоризненных зубов, и были переполнены едва сдерживаемого энтузиазма.
Они напоминали распространителей «Гербалайфа» на совместном радении, убеждающих друг друга покупать снадобье, которое творит чудеса. В какой-то момент одному из них положено вокликнуть: «Я вижу свет! Алилуйя!», и пуститься в пляс. Вероятно, предполагалось, что этим человеком и станет Песков, который пригласит иностранцев присоединиться к русскому цифровому банкету. Однако представитель президента совершенно неожиданно окатил их холодным душем.
Слишком
Начиная разговор, он несколько раз употребил слово «слишком». Технология ИИ выстрелила слишком рано, сказал Песков, другие технологии, которые должны были подтянуться, еще не готовы. Далее: для всех этих систем нужно слишком много энергии, а где ее брать? Нет и обещанного «объяснимого ИИ». Кроме того, технология ИИ развиваеется слишком быстро и не усваивается обществом.
«Слишком быстро» означает, что общество не понимает, как развивается технология, страхи растут гораздо быстрее возможностей, — посетовал Песков. — Страхи общества растут по экспоненте, и я боюсь, что экспонента круче, чем закон Мура».
Тут он подколол техношовинистов, обожающих в своих презентациях рисовать экспоненты. Так они впечатляют слушателей. Видимо, наверху — на самом верху – немножко устали задирать голову вверх, рассматривая колообразные линии, и этот прием манипуляции перестает работать….
Далее Песков вспомнил примеры Европы и США, где некоторые города ввели ограничения на системы распознавания лиц, базирующиеся на искусственном интеллекте. Конечно, примеры этих городов были известны и в прошлом году, но вспомнили сейчас о них неспроста: нужно опереться на западный опыт, чтобы объяснить тот факт, что и в российском обществе появляется всё больше вопросов.
«Общество выбирает не прогресс, а регресс»
«Общество выбирает не прогресс, а регресс, исходя из риска обеспечения базовых прав человека», совсем негладко сказал Песков, но общий посыл его слов был понятен. Понятно было и то, что скептицизм спецпредставителя, скорей всего, идет с самого верху, от человека, которого он представляет. Общество не готово. Много рисков, технологии тоже не готовые, сырые, и мы скорей всего движемся не туда.
Еще одно «слишком», прозвучавшее на панельной дискусии – «слишком дорого». Для этих ваших перспективных направлений нужно на порядок больше энергии, чем имеется сегодня, отметил Песков. Нужны и информационные ресурсы, которых просто нет у Российской Федерации, ресурсы, которые ведущие глобальные платформы, такие как «Гугл», собирают уже пару десятилетий. «Обучить GPT-3 под силу компании Гугл, но не под силу другим компаниям», — сказал Песков.
Тут он неправ. GPT-3 как раз сделана другой компанией, не «Гуглом», она сделана компанией OpenAI, которая, правда, базируется тоже в Сан-Франциско, совсем недалеко от Маунтин Вью, где расположен «Гугл». Одним из основателей OpenAI был небезызвестный Илон Маск, который, правда, покинул компанию, поскольку она создавалась на этических принципах, которые, по мнению Маска, впоследствии были нарушены.
Отстали навсегда?
GPT-3 – это американская языковая модель, которая при помощи искусственных нейросетей глубокого обучения уже способна писать неплохие статьи и даже киносценарии с поворотами сюжета каждые две минуты. Она уже сегодня вполне способна заменить сценарные отделы ведущих российских телеканалов. У «Гугла» есть своя модель, похожая на GPT-3, она называется BERT и тоже является довольно мощной. Чтобы её создать, «Гуглу» загрузил туда всю информацию, на которую смог наложить руку, собирая ее с начала 2000-х годов не мытьем, так катаньем, скупая и получая отосюду книги, сканируя их и оцифровывая, скачивая данные с проекта «Википедия» — как, впрочем, и OpenAI. Это все происходило пока Россия успешно переводила проданную нефть в бумаги американского казначейства.
Кстати, «Майкрософт» объявил в конце сентября, что приобрел у OpenAI лицензию на GPT-3. Учитывая очень близкие связи «Майкрософта» со Сбером, который является их дилером, я бы на месте редакторов «Первого» и других каналов российского телевидения действительно забеспокоился – возможно, их всех скоро заменят нейросетью.
Можно толковать слова Пескова в том смысле, что мы отстали от того же Гугла навсегда. Далее спецпредставитель сказал о том, что развитие искусственного интеллекта уперлось в тупик, в барьер, даже в два барьера, энергетический и архитектурный.
Тут он выразил традиционный для российских программистов скептический взгляд на нейросети. «Технология нейросетей возникла в значительной мере из случайного научного поиска, — сказал Песков. — Я надеюсь, никто из вас всерьез не верит в то, что из нынешних технологий нейросетей возникнет то, что называется сильным искусственным интеллектом. Путь к сильному ИИ принципиально другой. Это означает, что чем больше вы инвестируете в нынешний стэк технологий, тем меньше шансов у вас получить сильный ИИ».
«Мне продолжать?»
Стало понятно, что российских инвестиций в ту раскрученную архитектуру на базе нейросетей, которую предлагают участники дискуссии, не будет.
Ведущий Максимилиан Хаузер, управляющий директор и партнер BCG, всё же попытался спасти положение.
«Если президент спросит вас, не упустим ли мы что-то перспективное, о чем все вокруг говорят, что вы ему ответите?» — с тревогой спросил немец.
«Я помню блестящее исследование Всемирного экономического форума о готовности стран мира к будущей пандемии. Мне продолжать?» — с улыбкой, мягкой, какой она только может быть, ответил Песков.
«Не надо туда идти сейчас, — тут же забеспокоился немец, чувствуя что могут всплыть неприятные подробности. — Я думаю, мы слышали об этом более чем достаточно последние восемь месяцев».
«Мы не знаем нынешний стэк технологий – это кроманьонцы или неандертальцы?» — вбил Песков последний гвоздь в гроб дискуссии.
«У нас есть крайне амбициозные планы по использованию ИИ, — попыталась сделать хорошую мину Рана эль-Калибу, глава компании Affectiva, которая торгует определением эмоций. — Мы видим что ИИ – это технологии будущего…»
И тут связь по зуму сбилась, голос Раны пропал. Стало ясно, что до технологий будущего еще далеко. Дискуссия продолжилась, но уже без драйва, ведь стало ясно, что денег из российского бюджета западные участники не получат.
Технократический подход
То, что Песков в этой дискуссии выступил критиком господствующего технократического подхода, конечно, выглядит странным. Ведь именно правительство этот подход усиленно продвигает. В западных странах на таких конференциях обязательно присутствуют эксперты-скептики, которые высказывают критические взгляды, без которых и не бывает движения вперед.
Ведь та же цифровизация затрагивает уйму проблем, есть большие риски, связанные с искусственным интеллектом, большие неопределенности, чреватые катастрофическими событиями, ИИ-Хиросимой. Это нужно обсуждать, об этом нужно предупреждать, нужно рассматривать разные варианты действий.
Здоровый скептицизм – вообще благо, а не помеха.
К сожалению, у нас в России, форумы, которые организуют технократы — «не место для дискуссий». Техношовинисты стараются обеспечить положение, при котором на них в принципе не могли возникнуть другие мнения.
Господствуют безудержные технооптимисты, рисующие свои экспоненты и не задающие лишних вопросов. Но может быть, это как-то связано с тем фактом, что за пользование GPT-3 мы будем платить американцам, у которых столкновение взглядов – дело нормальное, обычное?
Перемена отношения
Автор этих строк и его единомышленники потратили немало усилий, чтобы донести до общества тезисы о нелепости законов по ИИ, принятых в последние месяцы на скорую руку, об их непропеченности, опасности, о том, что направление развития, которое они наметили, является тупиковым как с точки зрения общественного блага и человеческого развития, так и с точки зрения самих технологий.
И вот похоже, что лед тронулся, и с самого верха в научно-техническое сообщество начинают спускаться вопросы, которые обязаны были задать себе в первую очередь сами ученые, представители бизнеса и власти.
Вполне возможно, перемена отношения произошла после того, как в обществе стали весьма заметны критические настроения, если не откровенный ропот, причем отнюдь не среди либералов, а среди самого что ни на есть ядерного электората Владимира Путина.
Ропот был вызван первыми результатами активно проводимой кампании по всеобщему осчастливливанию населения путем повсеместного внедрения дистанционки и онлайна.
Как водится на Руси, рожденные бюрократами кампании очень быстро вырождаются в имитацию, что несколько нивелирует их последствия. Этот год, однако, високосный, всё идет вразнос, и даже бюрократы вдруг занялись реальной перестройкой систем образования и здравоохранения.
Лучше имитация
Уж лучше бы это была старая добрая имитация: в результате бурной деятельности министерств и ведомств эти системы балансируют, как циркач на канате, между прогрессивным параличом и вялотекущей катастрофой.
На землетрясение реформ наложилось цунами ковида с его абсурдными мерами принуждения и запретов. На горизонте маячит крах веками шлифуемой системы, которую строили отнюдь не Мишустин с его министрами. Им ли ее уничтожать? Бедные дети прикованы на весь день к китайскому железу и сбоящим программам лучших друзей Грефа, и некоторые из родителей вне себя от ярости. Возможно, ощущение того, что происходит что-то не то, начинает доходить и до некоторых башен Кремля.
https://cont.ws/@Sage https://nandzed.livejournal.com/8363433.html
