Вот, собственно открытое письмо на сайте Future of Life Institute от 28 марта 2023. Pause Giant AI Experiments: An Open Letter. We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.* (Приостановить гигантские эксперименты с искусственным интеллектом: открытое письмо. Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4.)
Заметим: раньше против расширения возможностей и социально-экономических ролей т.н. "искусственного интеллекта"** выступали или противники цифро-финансового империализма (электронного концлагеря) или фракция фронды в арт-сообществе***.
Сейчас против расширения возможностей т.н. ИИ выступили знаковые тяжелые фигуры финансово-лояльного "прогрессизма" (как его понимает мировая элитка), начиная с Илона Маска. Причем площадкой сбора подписей стал Future of Life Institute (учрежденный опять-таки элиткой же для продвижения своей повестки).
Лично меня больше поразила не подпись Илона Маска (он и не такое подписывал), а подпись Стива Возняка. Дело в том, что Возняк точно знает**: нет никакого ИИ, а есть лишь статистический обработчик электронных таблиц, натянутый на "большие данные" (BigData), как кондом на глобус. Однако ж, Возняк подписал. Почему?
Причина может быть лишь одна: игры с BigData и генерацией ответов (или текстовых нарративов) по результатам их статобработки - привело к чему-то очень плохому для элитки. Настолько плохому для них, что они рекрутировали на борьбу со своей креатурой даже старую гвардию, стоявшую у истоков т.н. "цифровой революции".
Заметим: пакости вроде таргетной рекламы или целевой дезориентации избирателей создали плохие ситуации лишь для обывателей, а элитка от этого в восторге.
Но что-то случилось, и элитка метнулась демонизировать свою любимую креатуру.

Попробум разобраться по тексту открытого письма*.

...В начале идет привычное бла-бла-бла, говоримое про любые новые технологии:
"системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества".
...Смысловая часть - вот:
"мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе выполняющие? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать устаревшими и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?"
...Переводя с элитного языка на человеческий: они боятся, что общедоступные генераторы терабайтного сетевого мусорного нарратива - приведут к инфо-инфляции элитного контроля над электронными СМИ, на котором только и держится сейчас политическое и социально-рыночное доминирование элитной пирамиды.
Еще проще: они бояться потерять монополию на целевое замусоривание мозгов обывателя, тупящего в экран десктопа, ноутбука или смартфона.
Или (более околонаучно) они боятся срабатывания закона Донды, открытого как бы в шутку паном Станиславом Лемом в 1976-м в новелле "Профессор А. Донда" и в более практическом смысле комментированного в прикладном смысле мной в 2019-м в эссе "Закон Донды: коллапс знаний при сверхкритической плотности информационного мусора." ****
99.6% создаваемой сейчас информации - не будет замечено. Причем это своего рода рулетка. Оценка вероятности того, что информация не будет замечена (безотносительно к тому, есть ли в ней потенциальная польза). По мере того, как скорость порождения новой информации растет - вероятность того, что созданная информация вообще никогда никем не будет замечена стремится к 100%.
Практически это значит, что человечество вернется от глобального информационного мира - к информационному обмену между знакомыми. Т.е. в основном каждый потребитель и производитель информации будет вращаться в своем кругу - лишь крайне редко подбирая какой-то контент извне.
Теперь до элитки дошло... Но слишком поздно.
Звучит песня Dead By Sunrise - Too Late (Out Of Ashes)
[Видео]

...Такие дела...
---------------------------
Источники и материалы по теме.
*) 28 марта 2023. Открытое письмо на сайте IFL: Pause Giant AI Experiments: An Open Letter. We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.https://futureoflife.org/open-letter/pause-giant-ai-experiments/
The Future of Life Institute (FLI) is a nonprofit organization that works to reduce global catastrophic and existential risks facing humanity, particularly existential risk from advanced artificial intelligence (AI). The Institute's work is made up of three main strands: grantmaking for risk reduction, educational outreach, and advocacy within the United Nations, US government and European Union institutions. Its founders include MIT cosmologist Max Tegmark and Skype co-founder Jaan Tallinn, and its advisors include entrepreneur Elon Musk.
https://en.wikipedia.org/wiki/Future_of_Life_Institute
**) Методически такой ИИ не смог подняться выше исходной идеи Фрэнка Розенблатта, показанной в 1957-м - 1960-м (т.н. концепция многослойного персептрона, или т.н. искусственных нейронных сетей). Уже через 10 лет стало понятно, что в исходной (вполне гениальной) идее были, все-таки, слишком урезаны функции нейрона и игнорировались функции инфохимической среды, поэтому сети на таких виртуальных модельных нейронах достигнут, в лучшем случае, интеллекта медузы. Научное сообщество занялось было поисками продвинутой модели, но еще через 10 лет начался экстенсивный рост ресурсов компьютерной памяти и вычислительной мощности. Кто-то решил. что при таких ресурсах BigData, для ИИ будет вполне достаточно интеллекта медузы. Перспективные исследования были свернуты, и прикладная наука бросилась искать пути форсированной набивки электронной медузы - массивами данных. В итоге, мы имеем сейчас не эпоху Искусственного Интеллекта, а эпоху Искусственного Имбецила (очень удобно - не надо даже менять аббревиатуру ИИ). ИИ, как сборщик и примитивный анализатор "больших данных", конечно, полезен - но только на очень ограниченном круге задач (заведомо ограниченном, как доказали Мински и Паперт в 1969-м).
https://alex-rozoff.livejournal.com/122271.html
«Кофейный тест» придумал сооснователь Apple Стив Возняк, чтобы оценить ловкость роботов и уровень машинного интеллекта. Он оценивает, насколько хорошо машина может справиться со следующей задачей: войти в случайный дом, найти кофе-машину, приготовить кофе и разлить его по чашкам. В отличие от философских тестов, например, теста Тьюринга, кофейный тест позволяет количественно оценить способности ИИ. Ни один из существующих роботов не смог его пройти.
https://hightech.plus/2018/10/29/shest-veshei-s-kotorimi-ne-spravlyayutsya-algoritmi-i-roboti
***) Материалы по новейшей истории цифровых луддитов:
28 апреля 2020 Две стратегии цифрового луддита: разрушить большие инфо-башни или создавать маленькие?
Стратегические цели цифровых луддитов исходя из доктрины Харриса получаются следующие:
a) Чтобы каждый (индивидуально или совместно с кем угодно, анонимно или с указанием имени - по своему выбору) имел возможность беспрепятственно создавать и использовать свои программно-аппаратные средства коммуникации и свои сети (локальные или глобальные).
b) Чтобы каждый (индивидуально или совместно с кем угодно) имел возможность беспрепятственно создавать и использовать любые средства защиты своей приватной жизни, своего приватного информационного пространства от любых средств мониторинга.
c) Чтобы никакие программно-аппаратные средства или электронные цифровые идентификаторы не вменялись в обязанность никакому индивиду или частному предприятию (право отказа от цифровые электронных средств частично или полностью - не должно подвергаться сомнению).
d) Чтобы любые ограничения методов, реализуемых программно-аппаратными средствами, и ограничения передаваемого контента, относились одинаково к любым субъектом (будь то частные лица, либо корпорации, либо государственные службы). Действие либо запрещается всем, либо не запрещается никому.
https://alex-rozoff.livejournal.com/241209.html
16 декабря 2022 Новые луддиты? На площадке ArtStation разгорается скандал из-за изображений, созданных нейросетями. Художники выступают против ИИ.
Художники начали размещать знак, который запрещает ИИ-искусство. Его автором выступил иллюстратор Николас Коул. Его протест поддержали сотни других авторов, которые начали размещать этот знак в своих портфолио, чтобы вывести его на главную страницу.
Однако после первых выступлений ситуация лишь ухудшилась. Компания Epic Games, которая владеет платформой, заявила, что не станет удалять контент, созданный нейросетями, поскольку не хочет препятствовать развитию ИИ-технологий, а сами правила площадки не запрещают использовать нейросети для создания новых изображений.
https://www.ixbt.com/news/2022/12/16/novye-luddity-na-ploshadke-artstation-razgoraetsja-skandal-izza-izobrazhenij-sozdannyh-nejrosetjami.html
****)
"Важно не количество сведений, а их плотность. Так же, как в случае с ураном. Рассеянный в глубине земли, уран безопасен. Условие взрыва - его выделение и концентрация. Так и в нашем случае. Информация в книгах или в головах людей может быть огромной, но она пассивна. Ее нужно сконцентрировать. За критической точкой произойдет цепная реакция... Перейдя критическую массу, она исчезнет, будто ее ветром сдуло. Это и есть Барьер Донды, граница прироста знаний. Конечно, их можно накапливать и дальше, но только в разреженном виде. Каждая цивилизация, которая до этого не додумается, попадает в ловушку: чем больше она соберет знаний, тем дальше откатится к невежеству. Знаешь, как близко мы подошли к этому порогу? Если поток информации будет нарастать такими же темпами, то через два года произойдет...
...Катастрофа произошла в точности так, как предсказал профессор. Сильнее всего она дала себя знать в развитых странах. Сколько библиотек было переведено на компьютеры в последние годы! И вдруг с лент, с кристаллов, с ферритовых пластин и криотронов в долю секунды испарился океан мудрости. Я вслушивался в задыхающиеся голоса дикторов. Не для всех падение было одинаково болезненным, но тот, кто выше влез по лестнице прогресса, чувствительнее с нее и свалился. В "третьем мире" после короткого шока наступила эйфория. Не нужно было, выбиваясь из сил, гнаться за передовыми, лезть вон из штанов и тростниковых юбочек, урбанизироваться, индустриализироваться, а особенно компьютеризироваться. Жизнь, которая недавно еще была нашпигована комиссиями, футурологами, пушками, очистными сооружениями и границами, вдруг расползлась в приятное болотце, в теплое однообразие вечной сиесты. И кокосы можно было достать без труда, а какой-то год назад они были мечтою - экспортный товар! И войска как-то сами собой разбрелись". (Станислав Лем. "Профессор А. Донда". 1976 год).
МОЙ КОММЕНТАРИЙ:
17 октября 2019 Закон Донды: коллапс знаний при сверхкритической плотности информационного мусора.
Простыми словами конспективно - по пунктам - что происходит:
1. Владельцы сайта "Рога-и-Копыта" хотят заработать миллион долларов на рекламе.
2. Для этого им надо добиться (условно) миллиарда просмотров своего сайта - пользователями интернет.
3. При условии п.2., "Рога-и-Копыта" получат соответствующий рейтинг в Google, и к ним автоматически придут рекламные баннеры множества фирм, оплачивающих показы.
4. При этом АБСОЛЮТНО НЕ ВАЖНО, ПОЧЕМУ ПОЛЬЗОВАТЕЛИ ЗАЙДУТ НА САЙТ "Рога-и-Копыта".
5. Исходя из п.3. и естественного критерия минимальных издержек, владельцы сайта "Рога-и-Копыта" за долю малую сиротскую нанимают Веселых Школяров (ВШ) для создания контента.
6. ВШ, совершенно не заботясь о достоверности (с чего бы им заботиться) грузят на сайт "Рога-и-Копыта" весь броский трэш, который найдут.
7. Более того, ВШ уже вооружились программой, которая собирает по интернету любой трэш, привлекающий аудиторию интернета (вызывающий клик при виде фразы в поиске Google).
8. Сайт "Рога-и-Копыта" оказывается набит трэшем про вампиров, оборотней, пришельцев-рептилоидов, маньяков, плоскую Землю, фэйковыми рецептами лечения всего абсолютно, и фэйковыми новостями о супербактерии в Африке, любовнице поп-звезды, шахте в ад к сатане, комете которая всех убьет, и долларе (евро, иене, рубле, юане) который завтра рухнет.
9. Сайт получает "Рога-и-Копыта" требуемый миллиард кликов и (соответственно) миллион долларов. То же самое делает еще N тысяч владельцев сайтов.
10. Интернет оказывается загажен трэшем так, что без специальных приемов там не найти даже однозначную информацию о температуре кипения воды, законах Ньютона, и форме Земли.
...работа - основанная на верной и четкой оценке общего уровня знаний и мотивов любопытства усредненного жителя усредненной развитой страны.
В мозгах этого жителя - бессмысленная информационная помойка, а мотивы любопытства этого жителя - пощекотать нервы и увидеть что угодно, лишь бы это выглядело круто.
И этот житель получает то, к чему у него мотив. Автоматизированные системы переработки информации и комбинаторного генерирования из нее неограниченного количества нового бессмысленного контента по заданным признакам психологической кликабельности - работают непрерывно.
...Вернемся к результатам исследования «Big Data, Bigger Digital Shadows, and Biggest Growth in the Far East».
99.6% создаваемой сейчас информации - не будет замечено. Причем это своего рода рулетка. Оценка вероятности того, что информация не будет замечена (безотносительно к тому, есть ли в ней потенциальная польза). По мере того, как скорость порождения новой информации растет - вероятность того, что созданная информация вообще никогда никем не будет замечена стремится к 100%.
В 2025-м году эта вероятность будет ориентировочно 99.92%
Где-то к 2030-му она превысит 99.999%.
Шанс любой новой информации быть хотя бы просто просмотренной составит менее 1/100.000
Практически это значит, что человечество вернется от глобального информационного мира - к информационному обмену между знакомыми. Т.е. в основном каждый потребитель и производитель информации будет вращаться в своем кругу - лишь крайне редко подбирая какой-то контент извне.
https://alex-rozoff.livejournal.com/165957.html

источник - alex_rozoff 
[3 ссылок 131 комментариев 5462 посещений]
читать полный текст со всеми комментариями