Активные щиты Ц новый выбор, основанный на новых технологиях. Чтобы зас
тавить их работать, потребуется творческий, междисциплинарный синтез и
дей в проектировании, стратегии и международных отношениях. Они предлож
ат новые возможности, которые могут позволить нам избежать старых тупик
ов. Они очевидно предложат ответ на старый вопрос защиты без угрозы Ц но
не простой ответ.

Власть, зло, некомпетентност
ь и лень

Я обрисовал, как нанотехнология и продвинутый ИИ дадут огромную власть в
едущей силе Ц власть, которая может быть использована чтобы уничтожить
жизнь, или чтобы расширить и освободить её. Поскольку мы не можем останов
ить эти технологии, представляется, что мы должны как-то справиться с воз
никновением концентрации власти, большей, чем любая другая в истории.
Нам понадобится подходящая система институтов. Чтобы безопасно управл
ять сложными технологиями, эта система должна иметь способы оценивать о
тносящиеся к делу факты. Чтобы управлять безопасно большой мощью, она до
лжна включать эффективные способы контроля и балансы, а её цели и методы
должны сохраняться открытыми для тщательного общественного контроля.
Наконец, поскольку это поможет нам заложить основы нового мира, лучше, чт
обы оно направлялось нашими общими интересами, в рамках надёжных принци
пов.
Мы не начинаем с нуля; мы будем строить на основе тех институтов, которые у
нас есть. Они различны. Не все из наших институтов Ц государственные чин
овники в массивных серых зданиях; они включают такие расплывчатые и живы
е образования, как свободная пресса, исследовательское сообщество и сет
ь активистов. Эти децентрализованные институты помогают нам контролир
овать серые бюрократические машины.
Отчасти мы встречаемся с новой версией древней и общей проблемы огранич
ения злоупотребления властью. Это не представляет никакой значительно
й, фундаментальной новизны, и принципы и институты либеральной демократ
ии, которым много сотен лет, подсказывают, как это может быть решено. Демок
ратические правительства уже имеют физическую власть, чтобы взорвать к
онтиненты и захватить, посадить в тюрьму и убить их жителей. Но мы можем жи
ть с этими возможностями, потому что эти правительства достаточно покор
ные и стабильные.
Грядущие годы возложат большую ношу на наши институты. Принципы предста
вительного правительства, свободы слова, процесса сбора налогов, правил
а законов и защита прав человека будут оставаться решающими. Чтобы подго
товиться к новым видам бремени, нам понадобится расширить и вдохнуть нов
ую жизнь в эти принципы и институты, которые их поддерживают; защита своб
оды слова относительно технических вопросов может быть решающей. Хотя м
ы сталкиваемся с серьёзным вызовом, есть повод надеяться, что мы сможем н
а него достойно ответить.
Есть также, конечно, очевидные причины для сомнения, что мы сможем на него
достойно ответить. Но отчаяние заразно и противно, и оставляет людей в по
давленном состоянии. Кроме того отчаяние кажется неоправданным, вопрек
и знакомым проблемам: зло Ц слишком ли мы злы, чтобы делать правильные ве
щи? Некомпетентность Ц слишком ли мы глупы, чтобы делать правильные вещ
и? Лень Ц слишком ли мы ленивы, чтобы подготовиться?
Хотя это был бы слишком поспешным предсказывать радужное будущее, эти пр
облемы не кажутся непреодолимыми.
Демократические правительства Ц большие, небрежные и иногда безответ
ственные за жестокости, однако они не кажутся злом, в целом, хотя они могут
включать людей, которые заслуживают этого ярлыка. В действительности их
лидеры получают власть во многом выказывая поддержку общепризнанным и
деям добра. Наша главная опасность в том, что стратегии, которые кажутся х
орошими, могут вести к несчастью, или что действительно хорошие стратеги
и не будут найдены, опубликованы и воплощены во время, чтобы возыметь дей
ствие. Демократии страдают больше от лени и некомпетентности, чем от зла.

Некомпетентность будет кончено неизбежна, но должна ли она быть фатальн
ой? Мы, человеческие существа, по своей природе глупы и невежественны, одн
ако мы иногда ухитряемся объединить наши кусочки компетентности и знан
ия, чтобы достигать великих вещей. Никто не знает, как долететь до Луны и н
икто никогда не узнает, однако дюжина людей прошлась по её поверхности. М
ы преуспели в технических вопросах, потому что научились строить инстит
уты, которые собирают многих людей вместе, чтобы генерировать и проверят
ь идеи. Эти институты добиваются надёжности путём избыточности, и качест
во их результатов зависит от во многом от того, как сильно это нас заботит
и как напряжённо мы работаем. Когда мы концентрируем достаточно внимани
я и ресурсов на надёжности, мы часто преуспеваем. Это Ц то, почему полёты
на Луну закончились успешно без гибели в космосе и почему никакое ядерно
е оружие никогда не было запущено и не взорвалось по случайности. И это то
, почему мы можем суметь управлять нанотехнологией и продвинутым ИИ с до
статочной осторожностью, чтобы гарантировать компетентную работу. Неу
стойчивые люди с ограниченными способностями могут объединиться, чтоб
ы образовать стабильные, компетентные институты.
Лень Ц интеллектуальная, моральная и физическая Ц кажется возможно на
шей самой большой опасностью. Мы можем только отвечать на великие вызовы
великими усилиями. Сделают ли достаточно людей достаточные усилия? Никт
о не может этого сказать, поскольку никто не может сказать за любого друг
ого.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117