четверг, 28 августа 2008 г.

Конец радуги упирается в технологии, которые умнее нас

В Южной Калифорнии 2025 года, по версии Вернора Винджа, есть школа под названием Fairmont High, девиз которой “Изо всех сил стараться не устареть”. Возможно, это звучит не особо воодушевляюще, но, по мнению многих поклонников доктора Винджа, именно этот девиз выражает самую амбициозную, и во многом недосягаемую цель для любого члена нашего общества.

Доктор Виндж - математик и программист из Сан-Диего, научно-фантастические романы которого заслуженно получили пять престижных премий Хьюго и заработали хорошие отзывы даже от инженеров, анализирующих их техническое правдоподобие. Он умеет писать космооперы в лучшем смысле этого термина, но при этом подозревает, что межгалактические саги устаревают ничуть не медленнее, чем их герои-люди.

Вся проблема в концепции, описанной в оригинальном эссе доктора Винджа в 1993 году под названием “Надвигающаяся Технологическая Сингулярность” (неплохой перевод был опубликован в "Компьютерре"). Согласно этой концепции, к 2030 году компьютеры станут настолько мощны, что окажутся способны создать некую форму сверхразума. Доктор Виндж сравнивает этот момент в истории человечества с сингулярностью на краю черной дыры: граница, за которой старые правила больше неприменимы, потому что поступки и мотивация пост-человеческого разума и его технология будут столь же непостижимы для нас, как вся наша цивилизация непостижима золотой рыбке в аквариуме.

Сингулярность часто называют “экстазом техногиков,” но сам Виндж не ожидает от этого явления бесконечного счастья. Как программист и компьютерщик, он, конечно же, упивается грядущими технологическими чудесами, но, как романист, предполагает потенциальные катастрофы и волнуется о судьбе обычных, не таких уж изумительных людей, как, например, Роберт Гу, главный герой последнего романа доктора Винджа, “Конец Радуги”.
Роберт - английский профессор и известный поэт, который поражен болезнью Альцгеймера и томится в частном санатории до 2025 года, когда Сингулярность уже почти наступает и технология творит чудеса. Ему возвращают большую часть его умственных способностей; его 75-летнее тело омолаживают; даже его морщины исчезают. Но он настолько потерян и дезориентирован в этом чужом и непривычном новом мире, что ему приходится вернуться в среднюю школу для того, чтобы изучить основные навыки современной жизни. Wikipedia, Facebook, Second Life, Warcraft, iPhones, сотовая связь - всё, что было для него знакомо, стало странным устаревшим артефактом в мире, где все связаны со всеми и всем.

Благодаря специальным контактным линзам, компьютерам в вашей одежде и локационным датчикам, рассеянным повсюду, где бы вы ни были, вы постоянно видите непрерывный поток текста и виртуальных символов, накладывающихся на реальный мир. Пока вы болтаете с изображением далекого друга, которое точно такое же, как если бы друг шел рядом с вами, вы можете настроить вид окружающего городского пейзажа на свой вкус — добавив, скажем, средневековые башенки к урбанистическим зданиям; и в это же самое время вы прозрачно взаимодействуете с обширными сетями людей и компьютеров.

Для мизантропа Роберта, который едва-едва справлялся с электронной почтой в своей прошлой жизни, этот сетевой мир стал многозадачным адом. Он бежит от реальности в одно из своих старых прибежищ, Библиотеку, бывшую некогда интеллектуальным центром университета Калифорнии, но теперь настолько редко посещаемую, что бумажные книги Библиотеки собираются отправить в шреддер, чтобы освободить место для тематического парка виртуального мира. В библиотеке Роберт встречает несколько других “ретроградов от медицины”, все еще читающих печатные книги и пользующихся древними ноутбуками. Пытаясь доказать друг другу, что они еще на что-то годятся, заговорщики замышляют тайно спасти бумажную библиотеку.

Доктор Виндж, которому уже 63 года, может посочувствовать боли старших разве что в том случае, если в здании библиотеки находятся его собственные книги. “У людей в ‘Конце Радуги’, как у бабочек, длительность концентрации внимания на неком предмете ничтожна”, - говорит он, - “Они слетаются на интересующий предмет, мгновенно используют его необходимым образом, и моментально переключаются на что-то другое. Смотрите, в наше время люди волнуются, что сейчас больше нет пожизненной занятости. Насколько далеко можно зайти в этом вопросе? Я могу представить мир, где всё, что делается - это сдельная работа, и продолжительность сделки - меньше минуты.”

Для нас сейчас это звучит достаточно тревожно, но доктор Виндж рассматривает такой вариант как один из наименее неприятных сценариев будущего. За счет усиления интеллекта, или УИ, люди становятся гораздо умнее, объединяя знание друг с другом и с компьютерами, возможно, даже подключая машины непосредственно к мозгу. Альтернативой УИ, подчеркивает писатель, мог быть стать триумф искусственного интеллекта, поскольку ИИ далеко превосходит человеческие возможности. Если это произойдет, говорит доктор Виндж, сверхинтеллектуальные машины не станут ограничивать себя работой на своих хозяев-людей; мало того, при этом они не позволят себе даже остаться надежно запертыми в лабораториях. Он писал в своем эссе в 1993 году: “Вообразите себя запертым в вашем доме с доступом только к небольшому объему внешних данных от ваших владельцев. Если бы те владельцы думали со скоростью, скажем, в миллион раз медленнее, чем вы, то нет никакого сомнения, что в течение пары-тройки лет вашего времени вы могли придумать "полезный совет", который как бы "случайно" освободит Вас".

Чтобы избежать подобного сценария, доктор Виндж убеждает своих сторонников стать умнее, взаимодействуя с компьютерами. В финале “Конца Радуги” даже технофобу Роберту удается попасть в синхронизм с машинами, и есть признаки того, что Сингулярность явилась в форме сверхразумной человеко-машинной сети.

А может быть, и нет. Возможно, этот новый богоподобный разум, загадочно определяющий события, является чисто машинным. Доктор Виндж говорит, что он намеренно оставил эту неоднозначность. “Я думаю, есть неплохие шансы, что человечество будет самостоятельно участвовать в Сингулярности. Но, с другой стороны, мы можем оказаться за бортом эволюции, как когда-то оказались за бортом неандертальцы".

Но что случится с нами, если искусственный разум возьмет контроль на себя? Хорошо, говорит доктор Виндж, возможно, что искусственные постлюди используют нас тем же образом, которым мы используем волов и ослов. Но всё же он предпочитает думать, что они будут больше похожи на защитников окружающей среды, которые хотели бы сохранить более слабые разновидности, даже если это не составляет для них личного интереса. В любом случае все эти размышления лишены смысла, поскольку мы не можем предсказать и даже предположить мотивацию и цели сверхразума, который возникнет в результате Технологической Сингулярности, до которой осталось, в сущности, два-три десятка лет.

(использованы части статьи из New York Times)