В настоящее время мы относимся к ИИ как к велосипеду. Если вы крутите педали, он едет вперед. Если вы нажимаете на тормоз, он останавливается. Утверждение о том, что «ИИ — это инструмент», звучало годами, но, это ведь неправда господа!

Если вы нажмете на тормоз на велосипеде, он не заставит вас ехать быстрее. Если вы будете крутить педали вперед, он не поедет назад. Инструмент не преподносит сюрпризов. Удар молотком по гвоздю забьет его в дерево. Молоток не загорится сам по себе, не подожжется и не примагнитится к гвоздю и не выдернет его. ИИ не осилит неожиданные вещи, потому что он на самом деле ничего не «знает».

Т.е. его эффективность зависит от качества поступающей в него информации, и даже в этом случае он часто ошибается из-за особенностей её обработки. Любой, кто использовал ИИ, наверняка знает истории о его откровенных ошибках. Даже безобидные применения, такие как ускорение поиска, часто оказываются неэффективными. В этом и заключается проблема восприятия ИИ как инструмента: вы доверяете инструменту и уверены, что он будет делать то, для чего был создан. Вы доверяете велосипеду, что он поедет, когда его крутят педали. Но поскольку ИИ не будет работать как инструмент, политики, по сути, полагаются на то, что он не будет совершать ошибок, чтобы поддерживать работу интернета. Да, окончательные решения принимают люди (по крайней мере, сейчас), но эти решения основаны на ошибочной, а иногда и совершенно мнимой «помощи» ИИ. Политики должны регулировать использование ИИ в облачных вычислениях и критически важной инфраструктуре. Можно предпринять несколько шагов для решения проблемы этой технологической бомбы замедленного действия. Можно было бы запретить использование ИИ или консультации с ним для инженеров-программистов, работающих над определенными проектами. Также можно было бы ввести обязательное требование регулярного обновления любой информации, на которую опирается ИИ, или усилить защиту от внешних злоумышленников. Если рассматривать нейронные сети как инструменты, мы сможем более четко осознать социальные издержки проектных решений, принимаемых лабораториями ИИ. Потребуется много лет, чтобы понять социальные издержки сегодняшних решений. Каковы долгосрочные последствия для психического здоровья людей, если машины создаются для того, чтобы утешать их, заманивать в отношения, выступать в роли коллег или терапевтов? А ещё фильтрация и обобщение новостей с помощью ИИ формируют наши политические взгляды, и как большие языковые модели еще больше затягивают нас в наши собственные изолированные «пузыри»? Как эти когнитивные ярлыки изменяют наш мозг и сокращают нашу способность к концентрации внимания? И каковы последствия отравления всего доступного нам источника письменного текста и изображений отходами ИИ. Чо вообще делать? 

Правильное согласование ИИ с человеческими ценностями — это реальная проблема, и для её решения потребуются реальные решения. Но люди, находящиеся по другую сторону этих болтливых «чёрных ящиков» — сотрудники, которых вытесняют с рабочих мест и обманывают, пациенты, получающие сомнительные терапевтические или юридические консультации от чат-бота, — не имели реального влияния на решения, которые определили их собственное затруднительное положение.

В настоящий момент создатели этих систем, похоже, больше заботятся о том, чтобы представить свои будущие модели как автономных агентов со сверхчеловеческим разумом, чем о принятии ответственности за реальные проблемы, которые они уже создают для человечества. Как можно манипулировать интернетом с помощью ИИ? Теоретически треть всего интернета может в любой момент выйти из строя из-за неэффективного использования ИИ. Иностранные противники могут использовать системы ИИ для нарушения работы критически важной интернет-инфраструктуры. Есть опасность, что злоумышленники могут обманом заставить ИИ вообще удалить интернет.

Поэтому политикам следует принять меры. Однако проблема усугубляется, если учесть, как злоумышленники могут воспользоваться этой ситуацией. Возможность манипулировать ИИ со стороны иностранных правительств вызывает опасения уже несколько лет, и обсуждается широкий спектр вариантов: от обучения ИИ неправильному мышлению - например, путем предоставления ему ложной информации о методах военной подготовки, тем самым «обучая» его ошибочному мышлению, - до простого взлома. Но вывести интернет из строя было бы еще проще. Ситуация могла бы выглядеть так: иностранная разведывательная служба незаметно изменяет внутреннюю вики-страницу, информацию, используемую ИИ Amazon. Затем ИИ использует эту теперь уже намеренно искаженную вики-страницу, чтобы предоставить ложную информацию множеству программистов, что немедленно приведет к полной остановке работы значительной части интернета. Для этого не требуются месяцы или годы работы, как, например, для обучения ИИ. Также не требуется прямой взлом, который может быть обнаружен. Достаточно относительно простой правки внутренней вики-страницы, предположительно имеющей низкий уровень безопасности. И всё, считай приплыли!