воскресенье, 17 октября 2010 г.

Аннали Ньювитц: Сингулярность - это не рай

Вся сеть сейчас обсуждает великолепный пост главного редактора io9 Аннали Ньювитц, в котором она мечом здравомыслия карает фанатов сингулярности, разнося в пух и прах идею райской пост-сингулярной жизни. Основная мысль, которую старается донести Аннали, заключается в том, что сингулярность - это не будущее на стероидах. Глупо и наивно представлять постсингулярный мир как технологическую утопию, потому что никогда ранее технологические сдвиги не появлялись без сопутствующих им негативных явлений.
Показательный пример: пенициллин. Открытый в результате опытов в области биологии, а затем усовершенствованный за счет успехов биотехнологий, пенициллин избавил людей от болезней, которые поражали их столетиями. Он стал во всех смыслах переломным препаратом, а момент изобретения пенициллина - событие, которое вполне можно назвать сингулярностью. Средняя продолжительность жизни людей значительно увеличилась, в медицине произошла настоящая революция. И тем не менее, в долгосрочной перспективе он оставляет нас не менее уязвимыми к болезням, как и до своего появления. Бактерии мутируют, появляются новые страшные инфекции, каких не было раньше. Сейчас мы постепенно отказываемся от антибиотиков в пользу пробиотиков; мы усиленно разрабатываем генную терапию, чтобы преодолеть проблемы, которые сами создали повсеместным использованием пенициллина и его производных. И именно так в реальной жизни работают технологии, по значимости близкие к сингулярным. Они решают тяжелые проблемы, безусловно. Они спасают жизни. Но также попутно они и создают проблемы, которые мы даже не можем себе вообразить, которые совершенно непостижимы для науки и техники пред-сингулярного состояния.
Вообще, если попытаться обобщить расхожее видение пост-сингулярного мира, то картина, примерно, получится наподобие следующей. После сингулярности все люди будут жить  очень долго, если не вечно. Они станут строить космические корабли с помощью нанороботов, которые собирают их прямо из атомов углерода. Мудрый и всезнающий искусственный интеллект справится со всеми бедами человечества, предостережет его от ошибок и выдаст каждому рецепт персонального счастья. На что это всё похоже? На религию, конечно. Больше всего это похоже на старую добрую религиозную муть, на трогательные истории о лучшей доле для всех нас, которая уже не за горами. Проблема с любой религией заключается в том, что верить или не верить в волшебные силы, которые приведут нас к счастью - это личный выбор каждого, но вот основывать на этой иллюзорной почве здание будущего - это безумие. В раю всегда всё прекрасно. В будущем - нет.

Сто лет назад, в разгар индустриального бума, будущее точно так же казалось безоблачным. Промышленное массовое производство оказалось сингулярной технологией, которая перевернула мир - обеспечила достаток и свободное время миллионам людей. Но практически ни один из восторженных голосов, воспевавших индустриализацию, не предвидел последствий сингулярности - разрушение природы и окружающей среды. Причем "окружающей среды" - в самом что ни на есть бытовом смысле: Фридрих Энгельс, гулявший по улицам Манчестера в середине 19-го вида, был поражен страшной картиной жизни в грязи промышленных районов города. В результате появилась его работа "Состояние рабочего класса в Англии", которая ошеломила реформаторов, полагавших, что индустриализация решит все социальные проблемы и снимет ношу тяжелого физического труда даже с беднейших слоёв. Индустриализация преобразила всю планету, всю её экосистему, атмосферу и ближний космос. Мир стал совершенно иным - и, при этом, меньше всего похожим на рай.

Сейчас мы изо всех сил стараемся решить проблемы, вызванные промышленной революцией. Если история, настоящая история, и способна дать нам урок, то он заключается в неоднозначности каждой новой технологии. Все они решают какие-то проблемы, но обязательно создают новые. Более того, страшно то, что чем безопаснее видится новая технология, тем ужаснее оказываются непредвиденные последствия её применения. Но это не значит, что нужно любыми способами стараться замедлить прогресс. Нужно лишь всегда помнить: рай бывает только в сказках. Каждый раз, когда на горизонте появляется технология сингулярного уровня, нужно не бросаться паковать чемоданы для дороги в райскую жизнь, а продумывать запасные варианты, чтобы свести к минимуму негативные эффекты сингулярности. И в следующий раз, читая научную фантастику, подумайте, нет ли в ней привкуса религиозного сахара? Нет ли в ней мира, в котором все проблемы решены, а новых не появилось? Где история человечества игнорируется? Если да, не тратьте время - это сладкий дурман сингулярности. Возьмитесь лучше за фэнтези: слащавого добра там столько же, а претензий и предсказаний гораздо меньше.