Сборник статей Под редакцией А. В. Турчина Препринт Проект Российского Трансгуманистического Движения Москва 2011
Скачать 8.92 Mb.
|
7. СкрипыВыяснение того, какие сценарии являются скрипами, является более трудным из-за включения понятия «желательности» в определение скрипа. Если мы не знаем, что есть «желательное», мы не можем сказать, какие сценарии являются скрипами. Однако есть ряд сценариев, которые следует считать скрипами, исходя из наиболее разумных интерпретаций. 7.1. Захват власти превосходящим интеллектом, загруженным в компьютерПредположим, что загрузка сознания в компьютер возникнет раньше, чем будет создан искусственный интеллекта человеческого уровня. Загрузка — это разум, перенесенный с биологического мозга в компьютер, который эмулирует вычислительный процесс, имеющий место в исходной биологической нейронной сети (Bostrom et al. 1999; Kurzweil 1999; Merkle 1994; Hanson 1994). Успешный процесс загрузки разума сохранит изначальную память, навыки, ценности и сознание.Загрузка разума упростит улучшение его интеллекта путем запуска на большей скорости, добавления дополнительных компьютерных ресурсов или оптимизации архитектуры. Можно предположить, что улучшение загрузки выше некого уровня приведет к появлению позитивной обратной связи, когда продвинутая загрузка будет способна находить пути сделать себя еще умнее; и более умная следующая версия будет, в свою очередь, еще успешнее в улучшении себя, и так далее. Если этот быстрорастущий процесс произойдет внезапно, он может привести к тому, что загрузка достигнет сверхчеловеческого уровня интеллекта, тогда как все остальные разумные существа останутся примерно на человеческом уровне. Такое колоссальное интеллектуальное преимущество легко может дать ей соответственно большую власть. Она может, например, быстро создать новые технологии или совершенные нанотехнологические конструкции. Если такая загрузка имеет склонность к не допускать других к тому, чтобы тоже загрузиться в компьютер, она сможет сделать это. Тогда постчеловеческий мир может быть отражением частных эгоистических предпочтений этой загрузки (которые в худшем случае будут хуже, чем просто бесполезными). Такой мир легко может стать реализацией только малой части того, что возможно и желательно. Этот исход — Скрип. 7.2. Сверхинтеллект с ошибкойОпять-таки, существует возможность, что плохо запрограммированный сверхинтеллект возьмет власть и реализует те ошибочные цели, которые были ошибочно ему даны. 7.3. Глобальный репрессивный тоталитарный режимПодобным образом, можно представить, что фанатичное мировое правительство, основываясь, возможно, на ошибочных религиозных или этических убеждениях, сформируется, будет стабильным и решит реализовать только очень малую часть из всех тех позитивных вещей, которые постчеловеческий мир может иметь. Такое мировое правительство, очевидно, может быть сформировано небольшой группой людей, если они будут контролировать первый сверхинтеллект и смогут задавать его цели. Если сверхинтеллект внезапно возникнет и станет достаточно сильным, чтобы захватить власть над миром, то этот постчеловеческий мир может отражать только уникальные ценности собственников или проектировщиков этого сверхинтеллекта. В зависимости от того, каковы эти цели, этот сценарий может считаться Скрипом. 7.4. Нечто непредвиденное1Все остальное. Сценарии Скрипа кажутся имеющими значительную вероятность и потому должны быть восприняты всерьез в нашем стратегическом планировании. Можно пытаться доказать, что одна ценность, которая содержит в себе значительную часть того, что мы считаем желательным в постчеловеческом мире, состоит в том, что этот мир содержит в себе настолько много, насколько это возможно, людей, которые сейчас живы. Помимо всего прочего, многие из нас очень хотят не умирать (во всяком случае, не сейчас) и иметь шанс стать постлюдьми. Если мы примем это, то тогда любой сценарий, в котором переход к постчеловеческому миру отложен достаточно надолго, чтобы почти все современные люди умерли до этого (предполагая, что они не были успешно сохранены посредством крионики (Merkle 1994; Ettinger 1964)) будет Скрипом. В случае провала попыток продления жизни или массового распространения крионики, даже гладкий переход к полностью развитому постчеловечеству через 80 лет будет составлять значительный риск существованию, если мы определим «желательность» конкретно по отношению к людям, которые живы сейчас. Это предположение, однако, отягощено глубокой проблемой о природе ценностей, которую мы не будем пытаться решить здесь. |
Похожие:
 | Сборник праворазъяснительных статей разработан во исполнение плана Главного управления Минюста России по Республике Крым и Севастополю... | | Настоящий сборник представляет собой очередной выпуск собрания философской публицистики Е. П. Блаватской. Он включает работы, написанные... |
| Использование и охрана лесов: проблемы реализации законодательства: Сборник статей /Под ред. Боголюбова С. А., Мининой Е. Л. ИзиСП,... |  | Использование и охрана лесов: проблемы реализации законодательства: Сборник статей /Под ред. Боголюбова С. А., Мининой Е. Л. ИзиСП,... |
| С современная поэзия: русская и зарубежная (сборник статей) / Под ред. А. В. Татаринова. Краснодар: zarlit, 2011 | | Рабочая программа по географии для 6-9 классов специальной (коррекционной) школы VIII вида составлена на основе Программы специальных... |
| Современные социально-политические технологии: Сборник научных статей / Под ред. Мерзляковой Г. В., Баталовой Л. В., Берестовой Е.... | | Проект «Общественный контроль за качеством оказания дорогостоящей лекарственной помощи российским гражданам на территории Российской... |
| Настоящий сборник продолжает собрание философской публицистики Е. П. Блаватской. В нем представлены статьи, публиковавшиеся в журналах... | | Российского Союза ректоров «Стратегия развития высшей школы в новых социально-экономических условиях: лидерство, результативность,... |