Технологическая сингулярность: часть 1

Друзья, вы, наверняка, за последние дни отметили обилие сообщений в Сети, в которых рассказывается об успехе в области искусственного интеллекта - программе, способной делать умозаключения в области научно-обоснованного принятия решений. Если вы почему-то вместо того, чтобы интересоваться технологическими прорывами пили пиво и грелись в лучах еще робкого весеннего солнышка - вот, вкратце, ссылка на Ленту, где всё, о чем я сказал выше, более-менее внятно расписано. В связи с этим, мне кажется, будет весьма уместно рассказать всё, что я знаю о технологической сингулярности - похоже, она наступит еще раньше, чем предполагали наиболее оптимистично настроенные трансгуманисты.

Итак, технологическая сингулярность. Впервые, похоже, этот термин использовал один из моих самых любимых НФ-писателей Вернор Виндж. В своей футурологической работе "Приближающаяся технологическая сингулярность: как выжить в постчеловеческую эру" (оригинал здесь, неплохой перевод от "Компьютерры" - вот он) доктор Виндж описывал сингулярность как момент создания интеллекта, радикально превосходящего человеческий. "Каковы будут последствия такого события?", - писал он, - "Когда сверхчеловеческий разум начнет принимать решения, технический прогресс ускорится, причем кардинальным образом. В результате скачка развития ничто не мешает появлению сущностей со всё более высоким уровнем интеллекта - что характерно, в коротком промежутке времени". Вскоре идею Винджа поддержал и развил Ник Бостром, директор Оксфордского инстиута будущего человечества. В своей статье "Как скоро появится сверхразум" он определяет сверхчеловеческий интеллект как "интеллект, который умнее, чем лучший человеческий мозг в абсолютно любой из областей, будь то научная созидательность, социальная активность или бытовая мудрость". Кроме того, в статье "Заметки об этике сверхинтеллекта" профессор ожидает появления новой разумной жизни на планете к 2035 году и указывает на важность дружелюбной к человеку мотивации сверхразума, учитывая его интеллектуальное превосходство над человеком.

С момента опубликования статьи Винджа идея сингулярности получила широкое распространение и развитие. На данный момент можно сказать, что существуют три школы (направления), каждая из который по-своему трактует концепцию технологической сингулярности.

Направление "ускоряющихся перемен". Идеолог - Рэймонд Куртцвел, автор множества оригинальных работ в области искусственного интеллекта и трансгуманизма. Мы, люди, по своей сути интуитивно ожидаем линейного роста прогресса; нам кажется, что открытия последовательно следуют одно за другим. Однако технологический прогресс подпитывает сам себя, следовательно, скорость прогресса постоянно увеличивается. Мир меняется намного быстрее, чем это было 100 лет назад, не говоря уже о мире 500-летней давности. Наше даже совсем недавнее прошлое очень слабо связано с тем, что мы встретим уже в недалеком будущем. Технический прогресс развивается не линейно, а по экспоненте, поэтому нам очень сложно предсказать, какие открытия произойдут в ближайшем времени, и, в частности, невозможно предсказать, когда произойдут ключевые перемены, такие, как создание искусственного интеллекта.

Направление "горизонта событий". Как и сам термин "сингулярность", понятие "горизонт событий" идет от астрофизики и обозначает события, будущее которых предсказать нельзя никакм способом. Идеолог - уже упомянутый фантаст, писатель и футуролог Вернор Виндж. Последние сто тысяч лет люди были самыми разумными существами на планете. Весь наш социальный и технологический прогресс - результат деятельности человеческого мозга. В ближайшем будущем технология позволит кардинально улучшить человеческий интеллект за счет создания человеко-машинных интерфейсов и искусственного интеллекта. В результате сами люди создадут будущее, которое окажется абсолютно непредсказуемым для текущего наблюдателя - поскольку предсказание поступков сверхчеловеческого интеллекта требует мышления на его уровне: точно так же комнатная собачка, которую, трясущуюся от страха, везут в машине на дачу, не имеет никакой возможности понять и осознать мотивов и поступков её владельца.

Направление "петли интеллекта". Основоположник - Элайя Вудковски, о котором ниже. Технология всегда была способом повышения интеллектуальности. Если технология позволит создать интеллект, значительно умнее, чем любой из живущих людей - то что помешает этому новому интеллекту создавать разумы, которые гораздо умнее его самого, тем самым замкнув петлю положительной обратной связи? Что будут делать люди, изобретя человеко-машинный интерфес? Разумеется, с помошью машин они создадут улучшенную и более разумную версию этого интерфеса. Улучшение интеллекта - это петлевой процесс: чем умнее ты становишься, тем больше возможностей сделать себя еще умнее. В пределе петля интеллекта должна привести к сверхразуму - но у меня, как у человека, живущего в реальном мире, первая ассоциация к слову "сверхразум" - это "бог", а поэтому столь далеко заглядывать, опять же, не имеет смысла.

Эти направления, на самом деле, не являются конфликтующими и противоборствующими школами; скорее, это научно-философские тенденции, дополняющие друг друга.

Что ж, если оставить в стороне эффектный голливудский мрачняк и полуистеричные нотки массовой прессы, то суть концепции технологической сингулярности в следующем: будущее человечества удивительно в своей непредсказуемости. Продолжение следует.

(вверху поста - работа "Don't waste robots" Рене Менна)