Вернор Виндж «Грядущая технологическая сингулярность: Как выжить в постчеловеческую эпоху»

«В ближайшие тридцать лет у нас появятся технические средства для создания сверхчеловеческого интеллекта. Вскоре после этого эра человека закончится». Вернор Виндж сказал это в 1993 году, так что небольшая ошибка простительна. Большие компьютерные сети смогли «осознать себя» как сущности, обладающие сверхчеловеческим разумом только в 2025 году. Вероятно ковид сказался.

Сейчас, в 2026 году мы находимся в новой реальности, управляемой нашими новыми электронными хозяевами. А вы что думали, огромные центры обработки данных (ЦОДы), мощности которых хватит чтоб реку вскипятить, созданы чтоб смешнявочки вам обсчитывать? Вот вы наивные! Это новый инструмент мировой гегемонии. Именно при его помощи сейчас мир переустраивают.

Если вы не понимаете словосочетания «технологическая сингулярность» — эта статья объяснит вам его суть и отметит возможные способы достижения этой самой технологической сингулярности. Не знаю, как относиться к изобретению искусственного интеллекта. С одной стороны он желанен, как инструмент для решения человеческих задач. С другой стороны есть опасение, что мы не сможем отличить предложенные им решения наших задач от решений его собственных задач. Но может быть у него не будет собственных задач? К чему может стремиться чистый интеллект без побудительных мотивов, заложенных в природу животных?

Наиболее безопасным способом достижения технологической сингулярности кажутся «усилители интеллекта». В принципе, этот сценарий развития уже можно наблюдать. Отдельные области человеческой деятельности настолько сложны, что осмысленно применять компьютеры для решения по-настоящему сложных проблем может только очень небольшое количество экспертов. Остальное обывательское большинство пользуется уже предложенными экспертами техническими решениями, подчас вообще не вникая в процессы, лежащие в их основе. Видимо в таком обществе обыватели превратятся по большей части в обузу. Ранее большой размер общества был необходим для его военной безопасности. Но сейчас для победы в войне уже не требуется большого количества людей — давно прошли те времена, когда бои шли по принципу «стенка на стенку». Как показывает практика, суть современной войны — соревнование мощностей и эффективностей экономик. Задача заключается в том, чтобы меньшим количеством ресурсов нанести наибольший ущерб противнику, принудив его к капитуляции. Вместо бомбардировщиков с большой бомбой, действующей по неизбирательному принципу, в ходу штурмовики с их точечными и целевыми ударами. Вместо бумажных карт — навигационные системы. Вместо ближнего пулемётного боя — системы раннего обнаружения, распознавания свой-чужой, скрытности и боеприпасы типа «выстрелил-забыл». В проектировании всё большее распространение получают САПР, в производстве — безлюдные автоматические производственные линии на основе роботов и станков с ЧПУ. Ресурсов становится всё меньше, а общество потребления расходует их слишком нерационально. Внедряются системы учёта расхода ресурсов и их экономии. Дальнейшие методы экономии и автоматизации, видимо, неизбежно приведут к сокращению численности населения. Станет выгоднее воспитывать небольшое количество экспертов, а не массового обывателя.

В конечном счёте, правда, человечество скорее всего столкнётся с пределами возможностей мозга. Даже если мозг подключить к скоростным каналам обмена информацией, как это предполагается в статье, он в конечном счёте может столкнуться с нагрузкой, которая ему не под силу. Эффективнее будет заменять человека системами с искусственным интеллектом, решающими поначалу ограниченные задачи. Человечество будет уменьшаться, уступая своё место системам с искусственным интеллектом. В конечном счёте искусственный интеллект сможет функционировать почти автономно.

Может быть именно такой будет сингулярность? Почему-то в изобретение искусственного интеллекта до 2030 года я не верю, т.к. существенного прогресса в программировании с 1970-х годов я не наблюдаю, а закон Мура уже столкнулся с пределами роста.

Часто научную статью читать не менее интересно, чем художественное произведение. В «Технологической Сингулярности» Вернор Виндж рассуждает о путях и последствиях возникновения сверхчеловеческого интеллекта. Написано просто, доступно, логично, но впечатление производит сильнейшее. Когда ученые пишут о путешествии во времени, о перемещении быстрее скорости света, к этому относишься, как к фантастике, потому что хорошо понимаешь, если это и будет, то очень нескоро. Со сверхинтеллектом все гораздо реальнее. Прогресс компьютерных систем происходит на наших глазах. А до срока, названного Винджем, осталось всего лишь около 20 лет. И если все предположения сбудутся, то даже наше поколение, и все человечество в целом, окажутся во власти кардинально невообразимых перемен. Что-то стало тревожно....

Вот и настал 2023 год. Тот самый, о котором идёт речь в статье Вернора Винджа от 1993 года. Технологическая сингулярность так и не наступила (если, конечно, Искусственный Сверхразум не избавился от человечества и все мы теперь не более чем кластеры информации на носителях, о чём нас тактично забыли уведомить). Правда, пару лет назад начался бум нейросетей, но и они разумными не являются, просто умело перемножают матрицы. Люди так, конечно, не умеют. Зато стало понятно, для каких профессий настоящий интеллект не требуется). В статье Виндж на полном серьёзе предлагает составлять команды для игры в шахматы из человека и компьютера. Тогда уж стоит на соревнования по тяжёлой атлетике приглашать вилочные погрузчики, а по лёгкой — какие-нибудь колёсные дроны.

Вообще говоря, на моей памяти несколько прогнозов делаются регулярно и настойчиво десятилетиями — закончится нефть, появится эффективный термоядерный реактор, возникнет ИИ (и всех поработит или истребит, но это не точно). Так что призываю всех к позитивному мышлению, не надо бояться будущего.

Я прочитал впервые статью Винджа лет десять назад. Очень сильно впечатлился. Она и прочтенные вслед материалы других ученых и футурологов на несколько лет переформатировали мне мозги, жизненное целеполагание и тп. Я стал убежденным трансгуманистом, гиком и все такое прочее.

Сейчас интересно эту статью перечитывать с точки зрения «сбылось — не сбылось». Например, Виндж уповает на развитие «железа» и его мощностей, а современные разработчики нейронных сетей научились обходить «кремниевый тупик» и в один и тот же «хард» могут упихать тройной слой «софта». Или Виндж постоянно ссылается на шахматы, а теперь мерилом разумности машинного интеллекта стала го. Все как всегда в фантастике, изменения происходят и так, и не так, как их предсказывают.

Но главное Виндж указал точно в самом названии — ТЕХНОЛОГИЧЕСКАЯ сингулярность. В отличие от большинства западных зазывал «светлого завтра» типа Мичио Каку и иже с ним, Виндж еще и писатель. И он прекрасно понимает, что в футуристических измерениях важнейшим является фактор человека, общества, в котором он живет, превалирующей в этом обществе идеологии и тд, и тп. Он об этом особенно не говорит, но всегда имеет ввиду.

И вот тут и есть главное противоречие сингулярности, которое справедливо отметил коллега morbo в своем отзыве. Не будет при капитализме, особенно в его нынешнем империалистическом изводе, никакой Сингулярности. Она ему просто не нужна, а все, что не нужно — то дорого. Капитализм же тратиться попусту не будет. Как только денежные мешки поймут ,что автоматизация им выгоднее, чем естественной прирост податного и пашущего населения, это самое население немедленно пойдет под нож и будет заменено автоматикой. Немногие оставшиеся сверхбогачи с помощью техники превратятся в машинных богов, а потом — скорее всего — и сами будут заменены собственными цифровыми копиями. Вот тебе и вся сингулярность — дурацкий мир роботов.

Так что качественные скачки в эволюции человечества могут быть эффективными и позитивными только, если будут идти рука об руку с социальными и прочими гуманитарными изменениями. О чем Виндж к сожалению только косвенно упомянул в своей мощной и исторически ценной статье.