Андрей Курпатов: Информационная псевдодебильность.


Иллюстрация: Adrian Velazco

Все вдруг озаботились информационной безопасностью… Мол, надо ее повышать, всех к ногтю прижимать. Давить все, что движется. А если не движется, то всеми силами шевелить и удавливать уже окончательно!

Не знаю, то ли это интернет-забвение какое-то, то ли просто маразматический сумрак, но чем дальше, тем больше все это кликушество напоминает мне сюжет нового сезона «Ходячих мертвецов»: толпы безголовых движутся на шум себе подобных и строем обрушиваются в общую могилу.

Давеча я тут всех пугал дедушкой Альцгеймером, но до него-то еще дожить надо. А кое-что угрожает нашему наивно-бестолковому мозгу прямо сейчас…

Знакомьтесь — «информационная псевдодебильность».

Рэй Курцвейл — личность, без преувеличения, легендарная. С победами на поприще информатики его поздравляли президенты США Линдон Джонсон (Рею было тогда 20 лет от роду) и Билл Клинтон, вручивший Курцвейлу в 1999 году «информационного Нобеля» — National Medal of Technology.

Курцвейл создал первый музыкальный синтезатор, первым научил компьютеры распознавать человеческую речь. И это только его личные достижения, не считая работы на Google, IBM и т. д. Сейчас Курцвейл работает над сознанием помощника, «способного отвечать на вопросы — еще до того, как вы их сформулируете». Нет, я не шучу. Это цитата.

Впрочем, Рэй Курцвейл, конечно, более известен как футуролог. В книге «Эпоха духовных машин» он сформулировал «закон ускоряющейся отдачи», который позволяет ему с удивительной точностью — буквально по годам — предсказывать достижения в области развития компьютерных технологий и искусственного интеллекта.

Прогнозы Курцвейла сбываются с устрашающей точностью: телефоны с bluetooth, синхронный компьютерный перевод, Siri, 3D-видео и очки с дополненной реальностью, суперкомпьютер IBM Watson, гугловские машины без водителей и т. д., и т. п.. Но это всё ягодки…

Курцвейл готов по-ельцински лечь на рельсы, если к 2029 году компьютер не сможет пройти «тест Тьюринга». То есть он уверен, что машина скоро продемонстрирует нам способность не только думать, но и переживать эмоции, понимать метафоры, будет обладать «субъективным опытом» и чувством юмора.

Теперь, пожалуйста, вдумайтесь: через каких-то 15 лет вы, сидя за компьютером, не сможете понять, кто ваш собеседник — настоящий человек или машина (в этом, собственно, и состоит «тест Тьюринга»). Понимаю, что звучит это слегка безумно, но непреодолимых препятствий ученые не видят и двигаются, надо признать, семимильными шагами.

Вопрос же, на самом деле, в другом: справится ли в 2029 году с «тестом Тьюринга» настоящий человек?..

***

Когда авторитетный петербургский психолог Людмила Аполлоновна Ясюкова публично сообщила о том, что разрыв между умными и глупыми (причем точно не в пользу умных) стремительно увеличивается — вот уж, конечно, тайна за семью печатями! — реакция общественности оказалась, мягко говоря, неоднозначной. Мол, кто дал вам право об этом судить?! Да еще дураками нас выставлять?! И вообще, что такое ум?..

Почтенная публика почему-то с легкостью обнаруживает в научных фактах, лишающих ее спокойного сна, тень фашиствующей евгеники. Но это не евгеника и уж точно нет даже намека на фашизм — самим бы спастись от погрома со стороны баснословных вциомовских процентов. Идиотизм действительно стал новой реальностью, и вдвойне глупо закрывать на это глаза.

В чем суть «закона ускоряющейся отдачи» Рэя Курцвейла? Если очень просто: скорость передачи информации, мощность процессоров и объем оперативной памяти растут по экспоненте (все это хозяйство от года к году почти удваивается), а вот затраты на получение информации как раз по экспоненте снижаются. Таким образом, возникает потенцирующий эффект производства информации.

Вот наглядный пример: за первые семь лет программы «Геном человека» был расшифрован лишь один процент генома, а за вторые семь — остальные 99. При этом стоимость исследования снизилась за это время на четыре порядка! Короче говоря, объемы информации растут сейчас настолько быстро, что не изобрели еще таких дрожжей, чтобы можно было этой метафорой воспользоваться.

Впрочем, это же парадокс: мы в целом вроде как становимся умнее, по крайней мере больше знаем и понимаем про этот мир, но в массе своей, наоборот, глупеем. Тогда, может, ошибается заслуженный отечественный психолог Людмила Аполлоновна?.. Нет, не ошибается. А вот Курцвейла, действительно, стоит читать повнимательнее. Он, конечно, изобретатель хороший, но явно попал в туннель собственного «закона».

Да, Курцвейл прекрасно предсказывает развитие технологий, но он совершенно не задается вопросом о том, что будет происходить с самим нашим мозгом в этих изменившихся условиях. Мозг-то существует в среде информационной, а она по экспоненте — из количества в качество — меняется. И вряд ли это может пройти для нашего мозга бесследно…

Вот если бы, например, температура на нашей планете продемонстрировала такой галопирующий рост, что бы с нами случилось? А осадки? А движение земной коры? Наше тело точно бы к этому безобразию не приспособилось. И с мозгом должно что-то происходить. И происходит. Но можем ли мы это заметить, если мы сами лишь его производное? Его, так сказать, эпифеномен…

***

Полагаю, что вы слышали это слово раньше — «патоморфоз». Звучит, конечно, крайне зловеще, но на самом деле все предельно просто и совсем не страшно: картина психических расстройств может со временем видоизменяться. Так уже случалось, например, на рубеже XIX и ХХ веков. И вот опять.

Старые, но еще действующие психиатры расскажут вам, что больной нынче не тот пошел — какой-то квелый, невнятный, без яркой симптоматики. Скукотища, одним словом. Раньше другое дело: больные были что надо! Если, например, паранойя, то ядреная: спецслужбы преследуют, марсиане вселились в тела людей и ставят над ними чудовищные эксперименты, через диктора новостей передают сверхсекретную информацию об антиправительственном заговоре, в мозгу установлен специальный датчик для связи с богом и т. д., и т. п. В общем, сходили раньше с ума с металлическим, так сказать, звоном. А сейчас что? Одна сплошная серость.

В чем же причина этого патоморфоза? Ладно, здоровые тупеют, а с сумасшествием-то что приключилось? Современные лекарства? О’кей, но дебют болезни все равно не должен меняться! А он меняется. Генетика? Но, простите, какие генетические изменения происходят с шагом в одно поколение, причем во всем человечестве разом? То есть дело все-таки в среде обитания наших с вами мозгов (включая безумные) — в специфике информационного поля.

То, что перед нами не просто патоморфоз, а идеальная исследовательская модель, понял ректор Высшей школы методологии, профессор Анатолий Николаевич Алехин. Последующее исследование выполняла под его руководством наша сотрудница — медицинский психолог Ольга Литвиненко, ученый замечательный, обладающий столь редкой сейчас научной въедливостью.

Были проанализированы сотни архивных историй болезни — как раз пациентов с параноидной шизофренией. Выявлена структура бреда, действующие лица, структуры отношений — в общем, все как товарищ Пропп завещал. Две группы были в этом исследовании ключевыми: те больные, что родились и сформировались до бума компьютеров и интернета, а также те, что пришли в этот мир уже на излете 80-х.

И вот уж где, действительно, обнаружилось «два мира — две системы»!

Сама суть паранойи состоит в ее удивительной структурности. Раньше мы даже говорили о моменте «кристаллизации бреда», когда пациенту буквально вдруг становилось «все понятно» — что это, например, заговор, или преследование, или какое-то фантастическое воздействие. Он «ясно» понимал, что случилось, почему за ним ведется охота, в чем он виноват, в чем его подозревают и т. д.

Помните «Игры разума»? Блестящий фильм о великом математике Джоне Нэше, которого сыграл тогда еще неподражаемый Рассел Кроу. Да-да, всех этих страшных людей в черном, которые работают на ЦРУ, заговор против США, секретная информация в открытых источниках, газетные вырезки, развешанные по стенам гаража… Это настоящий, качественный, так сказать, структурный бред.

Но те пациенты, чье взросление пришлось на эпоху галопирующего информационного роста, демонстрируют принципиально иную картину бреда. Они не только не особенно понимают, что с ними происходит, когда начинается психотический приступ, но даже не слишком происходящим интересуются. Ну, мол, да, что-то странное. Ну да, кто-то что-то кому-то сказал, как-то смотрят неправильно, подозрительно… Вместо «Правительства», «КГБ», «марсиан» и всяческих «темных сил» — соседи по лестничной клетке, продавцы в магазине, родственники, сокурсники. И те, впрочем, едва друг с другом связаны, а чего они хотят от больного и с какой стати, собственно, — это и вовсе непонятно. Каша-малаша.

Иными словами, у представителей «поколения Х» бред структурный, а в бредовых конструкциях «игреков» никакой структуры нет и близко — исчезла. Но бред — это ведь просто психическая продукция, пусть и весьма специфическая. Морфологически и психофизиологически мозг в обоих случаях один и тот же, и в обоих же случаях он поражен одним и тем же недугом (генетическая природа этого заболевания никак не изменилась). Почему же настолько отличается само качество этой психической продукции?!

***

Возможно, главная проблема, которую, согласно Курцвейлу, должны решить сейчас создатели искусственного разума, — это проблема «иерархии».

Как я уже неоднократно здесь рассказывал, наше мышление оперирует интеллектуальными объектами посредством интеллектуальной функции. Последняя строит сложные иерархии: из интеллектуальных объектов попроще — интеллектуальные объекты посложнее, а то и совсем сложные.

Сложность («умность») интеллектуального объекта — той мысли, которую мы с вами думаем, — это как раз и есть его структурная или, нейропсихологически говоря, иерархическая организация. Конечно, компьютерные программы структурной иерархии не чужды, но все-таки они больше напоминают линейную «машину Тьюринга» — берут количеством операций, а не их многомерной сложностью. Впрочем, ученые, как говорится, над этой проблемой работают.

И пока искусственный разум пытается экспоненциально расти, обучаясь созданию сложных интеллектуальных объектов, человеческие мозги пошли в строго противоположном направлении. У нас развивается своего рода «лайковое мышление»: нравится — лайкаем, не нравится — идем дальше. Простенько, весело, скандально — это да, нам интересно. Сложно, серьезно, нужно вдуматься — прокручиваем. Мы словно бы переходим на двоичный код — как те машины — 0 и 1, 1 и 0. К линейному мышлению!

«Мне сказали, что каждая включенная в книгу формула вдвое уменьшит число покупателей», — пишет Стивен Хокинг в предисловии к своей «Краткой истории времени». Хотя, честно говоря, на этом любую книгу по физике следовало бы закончить… Но автор «черных дыр» прав. Полагаю, что и мой текст, который я пишу на грани, надо сказать, возможного упрощения (еще шаг — и он превратится в абсолютную бессмыслицу), не многие из моих современников способны осилить. Кстати, спасибо, что дочитали до этого места!

Анатолий Николаевич Алехин, вводя понятие псевдодебильности, исходит из клинической картины фактического заболевания. Чем проявляется обычная, нормальная, так сказать, умственная отсталость? Больной с соответствующим диагнозом интеллектуально пассивен, действует импульсивно, не может долго сосредотачивать внимание, мыслит очень конкретно и утилитарно, не любит и не понимает абстрактные рассуждения. Вам ничего это не напоминает?.. Среднестатистического пользователя соцсетей, например?

Отличие от клинической дебильности у псевдодебильности только одно: клинического дебила никак и не при каких обстоятельствах нельзя заставить думать сложнее — само состояние его «серых клеточек» этого не предполагает, не складываются у него в головушке, что ты с ним ни делай, сложные интеллектуальные объекты.

А вот «серое вещество» информационного псевдодебила сохранно, и, в принципе, его мозг можно натренировать. Но зачем? Нет, не зачем его тренировать, а зачем ему тренироваться? В чем смысл? Мотивация какая? Цимес в чем? Его как-то будут особенным образом за это уважать? Или, напротив, стыдить станут, что он дурак? Или он не выживет без этого? Нет.

Умным быть не модно, не клево, и даже не cool… И что с этим делать?

***

Проблема 2029 года и предстоящий экзамен на «тест Тьюринга» для машин и людей — это вовсе не шутка. Уже сейчас реальный мир настолько сложен, что ни один человек не в силах осмыслить происходящие в нем процессы хоть сколько-нибудь полно. Вот и мудрый Курцвейл застрял в туннеле своего изобретательства и совершенно не думает о последствиях. А ведь дальше этот зверь будет только усложняться…

Нам давно уже нужно было понять угрозу, которую представляет собой эта новая для наших мозгов — гиперинформационная — среда. Понять и начать работу над способами самозащиты, то есть заняться подлинной информационной безопасностью.

Но мы не поняли, не подготовились и, возможно, даже опоздали. Иначе как объяснить тот факт, что публика, не мыслящая свою жизнь без электричества, современной медицины и мобильной связи, продолжает хвататься за плащаницы, подвергнутые, кстати, радиоуглеродному анализу, и молиться на монархические кости, прошедшие предварительный ДНК-тест?

Как вообще этот очевидный оксюморон может умещаться в человеческой голове?! Только при условии полного отсутствия структуры…

Ну да ладно, пойду посмотрю «Ходячих мертвецов» — там, по крайней мере, безголовые дебилы не выдают себя за нормальных граждан, а количественное соотношение «умных» и «глупых», кстати сказать, в точности соответствует нашей — некиношной — реальности.

Источник