戰(zhàn)略與生存簡單分析

1、21/21第十二章 戰(zhàn)略與生存不情愿采納新的補救方式就會產(chǎn)生新的邪惡，因為時刻是最偉大的改革者。弗朗西斯培根在前面的章節(jié)我的討論貼近于技術(shù)可能性的牢固基礎(chǔ)。那個地點，我將冒險深入到政治和人類行為領(lǐng)域。那個基礎(chǔ)是比較軟一些的，然而技術(shù)事實和進化法則仍將在那個領(lǐng)域提供可靠的支持。被進化的壓力推動的技術(shù)競賽，正把我們帶向未知的危險，我們需要查找到應付它們的方法。因為我們在前面差不多看到了面臨的巨大的危險，因此考慮停止盲目的奔馳是有意義的。然而我們能做些什么呢？個人克制作為個體，我們能夠克制自己不去做可能導致危險能力的研究。的確，大多數(shù)人會克制，因為大多數(shù)人不是第一線研究人員。但那個策略也不能阻止進步

2、：在我們的多元化的世界，總有其他人會把研究工作向前推進的。地點抑制個人克制的策略（至少在這件情況上）帶有簡單的無所作為的意味。但地點政策的策略又如何呢？比如游講議員提議并通過抑制某些研究的法律？這事實上也是一種個人行為，目的是強迫集體無所作為。盡管這種策略可能在某個都市，行政區(qū)，國家，或聯(lián)盟內(nèi)抑制研究，但也不能關(guān)心指導我們的方向，而只會使某些不受我們操縱的力量取得領(lǐng)導地位。這種類型的公眾運動只能在人民掌握權(quán)力的地區(qū)停止研究，同時最大的成功可能也僅僅是打開了使一個更專制的國家成為領(lǐng)導力量的大門。在考慮核武器的情況下，爭論通常圍繞著單方面裁軍和非暴力（至少是非核化）抵抗。核武器能夠被用來摧毀軍事設(shè)

3、施和使恐懼氣氛蔓延，然而不能用來占據(jù)地區(qū)或者操縱人民不能直接地。核武器也不能抑制游擊戰(zhàn)爭和社會動亂，因此一個裁軍的策略和抵抗運動具有某種程度的參考意義。從另一方面來講，單邊抑制納米技術(shù)和AI，將在抵抗不起作用的情況下導致單方面裁軍。一個好斗的國家會利用這些技術(shù)來攻占和統(tǒng)治（或消滅）象甘地的印度那樣的國家，或者武裝起來的為自由而獻身的戰(zhàn)士。這值得強調(diào)。沒有一些新的方法來改革世界上的專制性國家，簡單的壓制研究的運動就不能取得完全的成功。而沒有完全的成功，任何要緊的成功都意味著民主國家的災難。即使不能得到，這種類型的努力也將吸引激進的人們的熱情和工作，使稀缺的人類資源白費在無意義的策略上。更甚者，抑

4、制策略將會使研究者互相疏遠，挑起盟友之間的爭斗并白費更多的人類資源。這種無意義和分裂的前景使這一策略應該被幸免。盡管如此，壓制是不可幸免會被提出的，因為它簡單而直接“危險來了？讓我們停止它！”，還有地點立法的成功能夠保證短期的效果：“危險來了？我們能夠現(xiàn)在就地停止它，在開始的時候?！?危險在開始時可能會失敗，然而可能可不能引起每個人的注意。簡單壓制的念頭大概會誘發(fā)專門多方法。怎么講，地點政府壓制本地的危險是個傳統(tǒng)，例如，通過阻止本地的污染者，減少本地的污染。通過地點抑制來阻止全球危險大概也是類似的，不管可能有什么差不。我們將需要地點組織和政治壓力，但必須建立在一個可用策略的基礎(chǔ)上。全球抑制協(xié)議

5、在一個更有希望的途徑上，我們能夠用地點壓力通過磋商來達成可證實的，世界范圍的禁令。一個類似的策略可能能操縱核武器。然而停止納米技術(shù)和人工智能將造成問題的順序位置不同，至少因為以下兩個緣故。第一，這些技術(shù)不象核武器是明確定義的：因為目前的核技術(shù)需要某些稀有的同位素，這和其他技術(shù)是有區(qū)不的。它能夠被定義同時（原則上）被禁止。然而現(xiàn)代生物化學逐步走向納米技術(shù)，現(xiàn)代計算機技術(shù)逐步走向AI。沒有一條自然分界線。由于每個小的進步都將帶來醫(yī)學的、軍事的、經(jīng)濟的利益，我們?nèi)绾螛硬拍苓_成一個世界性的禁止協(xié)議呢？第二，這些技術(shù)比核武器更有效：因為反應堆和武器系統(tǒng)都相當大，通過觀看就能夠限制秘密力量的規(guī)模和強度。然

6、而危險的復制機是專門微小的，AI軟件是無形的。我們?nèi)绾文苊靼啄硞€實驗室差不多達到了突破的邊緣了呢？最后，我們?nèi)绾文苊靼啄硞€地下室中的黑客差不多達到了突破的邊緣了呢？通常的查證方法差不多不管用了，這也使得世界范圍內(nèi)的磋商和禁止變得幾乎不可能。面對正確的國際協(xié)議的壓力將使我們的道路更安全，然而協(xié)議只是簡單地抑制危險的步伐。再一次，地點壓力成為可用策略的一部分。強制性全球抑制假如和平協(xié)議不起作用，人們可能會考慮用軍事力量來抑制危險的進步。然而因為存在驗證的問題，單獨使用軍事壓力是不夠的。強迫壓制進步的需求會轉(zhuǎn)變?yōu)橐环N制服和占據(jù)敵對勢力的力量看起來不是個安全策略。還有，戰(zhàn)勝的力量本身會成為一個要緊的技

7、術(shù)力量，擁有巨大的軍事力量和使用它的意愿。這種力量能保證會壓制自己的進步嗎？而且即使能夠，它能永久保持全球性的警惕嗎？假如不能，威脅就會秘密滋生，在一個活性盾的開放性研究被阻止的環(huán)境下。結(jié)果將會是災難性的。民主國家中的軍事力量有巨大的用處，然而軍事力量本身不能解決我們的問題。我們不能通過一個制服和壓制研究的策略來得到安全。這些停止研究的策略不管是通過個人無作為，地點無作為，磋商協(xié)議，或是制服世界都大概注定會失敗。然而反對進步的觀點仍然將扮演一個重要角色，因為我們需要選擇，聰慧地制定推遲威脅到來的目標，直到我們能夠做好預備。警惕者的壓力是因該有的，然而應該是關(guān)心引導進步，而不是停止它。單邊領(lǐng)先假

8、如嘗試壓制AI和納米技術(shù)的研究是無意義和危險的，那么相反的過程一個單方面的努力又如何呢？這是太緊迫的問題了。在民主國家中將不能在完全保密的情況下產(chǎn)生戰(zhàn)略性的突破。這需要太多的人和太多的時刻。由于蘇聯(lián)領(lǐng)導人能明白我們的努力，他們就會相當關(guān)注，而我們的突破會被他們視為威脅。假如納米技術(shù)被作為一個秘密的軍事項目的一部分來開發(fā)，他們的情報分析家將會擔心某種小而有力的武器，或許是基于一種可編程的“微生物”。依照這種情況，我們的對手可能會搶先采取主動進攻。因此民主國家在此技術(shù)上保持領(lǐng)先是重要的，而假如我們采納明顯的非威脅政策再加上這種力量我們就會特不安全。力量的平衡假如我們按照上述任何一個策略行動都將引起

9、激烈的沖突。壓制納米技術(shù)和AI的嘗試會觸及到研究者、企業(yè)、軍事組織、和病人的切身利益。嘗試通過這些技術(shù)來獲得單邊優(yōu)勢會引起我們和我們對手的競爭。所有的策略都會引起沖突，然而有必要使所有的策略都引起西方社會的分裂或者使世界變得惡劣嗎。為了尋求一條中間道路，我們要尋求一種建立在技術(shù)平衡基礎(chǔ)上的力量平衡。這看起來會延伸四十年來的和平狀態(tài)。然而那個地點的關(guān)鍵詞是“看起來”：立即到來的突破將會專門突然并動搖舊的平衡狀態(tài)。在過去，一個國家能夠承受幾年的技術(shù)落后并保持大致的軍事平衡。有了快速的復制機或先進的AI，一天的落后差不多上致命的。穩(wěn)定的平衡看來確實是不可奢望的了。合作開發(fā)在原則上，存在一種方法能夠保

10、證在民主國家和蘇聯(lián)集團之間取得技術(shù)平衡：我們能夠合作開發(fā)技術(shù)，共享我們的工具和信息。盡管這也存在明顯的問題，但至少是更實際一些。合作談判是可能的嗎？武器限制條約談判的失敗會立即出現(xiàn)在腦海，而合作看起來更復雜和更困難。然而真是如此嗎？在武器限制談判中，每一方都試圖阻止另一方的行動，這加深了他們的對抗關(guān)系。更有，它也引起歡迎武器限制的集團和制造武器的集團之間的沖突。更糟的，磋商圍繞著措辭和含義的爭論，每一方都有自己的語言并歪曲它本身的含義。從另一方面來講，合作使兩方面朝著一個共同目標前進，這能夠減緩對抗的關(guān)系；還有，它也能夠減輕每個集團間的沖突，因為合作的努力會建立項目而不是消除項目；最后兩方會用

11、一種共同的語言來討論一種科學的和工程上的使用數(shù)學和圖表的語言。同時，合作有清晰的邊界和可見的結(jié)果。在1970年代中期，美國和蘇聯(lián)開展了一個聯(lián)合太空打算，在政治關(guān)系緊張之前他們差不多在為一個聯(lián)合太空站作了一些試驗性打算。這不是孤立的事件，在太空或在地面，聯(lián)合打算和技術(shù)交換差不多進行了專門多年了。盡管有問題，技術(shù)合作也可保證至少和武器限制一樣容易也許更容易，考慮到后來的更大的努力。在AI和納米技術(shù)被關(guān)注的情況下，合作和有效的武器限制將是相似的。要核實武器操縱條約需要持續(xù)地親熱地由一方的專家去觀看另一方的實驗室一種和可想象的最完全的合作接近的關(guān)系。然而合作會出現(xiàn)什么結(jié)果？它可能能保證平衡，然而平衡不

12、能保證穩(wěn)定。假如兩個面對面的持槍的槍手互相都高度恐懼，他們的力量是平衡的，然而首先開槍的一個能夠消除另一個的威脅。在技術(shù)開發(fā)中的合作，除非認真打算和操縱，將會給每一方提供可怕的武器而卻不提供防護。誰能保證其中的一方能突然打擊而不受損害？即使有人能保證這一點，那么其他力量的問題呢還有愛好者呢？以及意外事件呢？在上一章我描述了這些問題的一種解決方案：開發(fā)，測試，并構(gòu)造活性盾。它提供了對新問題的一種新的補救方法，還沒人能提出另一種可供選擇的方案。假如有人提出了，我們應該首先考慮如何建筑和是否它們能讓我們采取可用的對策。戰(zhàn)略的綜合個人克制，地點抑制，選擇延遲，國際協(xié)議，單方增強，和國際合作所有的策略都

13、能關(guān)心我們?nèi)ヅ﹂_發(fā)活性盾?？紤]一下我們現(xiàn)在的情況，民主國家在科學和技術(shù)的大部分領(lǐng)域處于世界領(lǐng)先地位差不多幾十年了，我們今天在計算機和生物技術(shù)方面處于領(lǐng)導地位，因此，我們是領(lǐng)導力量?？雌饋硪矝]有理由講我們不能保持這種領(lǐng)先地位。象上一章所討論的，領(lǐng)導力量將能使用幾種策略來掌握組裝機突破。這包括使用密封組裝機實驗室和受限的組裝機，并保守初始組裝機開發(fā)的秘密。在我們使用這些策略的同時，我們能夠開發(fā)活性盾技術(shù)。這種技術(shù)反過來又能夠關(guān)心我們實現(xiàn)一個安全的，多樣性的以后。這一策略的第二部分和目前的敵對力量之間的政策相關(guān)。那個地點，我們必須保持主動并把威脅降到最低。技術(shù)平衡可不能起作用，我們也不可能放棄領(lǐng)先

14、地位。這使得力量和領(lǐng)導成為我們的僅有的真正的選擇，并使得非威脅姿態(tài)更難實現(xiàn)。那個地點我們再一次需要穩(wěn)定的、可信賴的機構(gòu)：假如我們能使它們用心地朝向目標，那么即使我們的對手也將在一定程度上信任它。為了使我們的對手（和我們自己）安心，這些機構(gòu)應該盡可能地開放，并與他們的任務一致。我們也能建立一個機構(gòu)扮演與蘇聯(lián)合作的角色。通過邀請他們參與，即使他們拒絕我們提出的條件，我們也能夠傳達我們的意圖使他們放心。假如蘇聯(lián)情愿同意，他們就能得到聯(lián)合開發(fā)的一個立足點。假如民主社會在突破到來時依舊強大，假如我們能幸免威脅到任何政府操縱它的版圖，那么我們的對手可能就可不能覺得攻擊有什么好處。因此，我們就可能不通過合作

15、來完成，假如需要的話。活性盾 vs 太空武器考慮我們會如何樣在更傳統(tǒng)的領(lǐng)域應用活性盾是有用的。在傳統(tǒng)上，防備需要使用和進攻一樣的武器。這也是“防備”意味著“制造戰(zhàn)爭的能力”的一個緣故，和什么緣故對“防備”的努力也使對手可怕的理由。目前提出的太空防備將擴展這種形式。幾乎任何能夠摧毀導彈的防備系統(tǒng)都能夠摧毀對方的防備或加強空間的封鎖，阻止對方搶占制高點。這種“防備”有進攻的味道，因此軍備競賽會導致另一種危險的飛躍。進攻和防備是如此不可分的嗎？從歷史上來看是如此。城墻在有戰(zhàn)士防守的情況下才能夠阻擋入侵者，然而戰(zhàn)士也能夠去入侵不的國家。當我們想象武器的時候，通常也會想象出使用它的手和使用它的意愿歷史教

16、育我們要想到最壞的情況。而今天，歷史上第一次，我們開始學習如何樣建筑和武器有本質(zhì)不同的防備系統(tǒng)?？紤]在太空的例子，我們現(xiàn)在能設(shè)計能夠傳感（看起來象一千枚導彈剛剛發(fā)射），處理（看起來是企圖首先打擊），和動作（摧毀那些導彈?。┑难b置。假如一個系統(tǒng)只能反擊一堆導彈，那么它就不能被用來進攻或做太空封鎖，更好的，它能夠被設(shè)計成不能區(qū)不進攻方。盡管設(shè)計者可能有戰(zhàn)略意圖，它也不聽從任何將軍的命令。它只能把太空變成進攻導彈的危險區(qū)域。象海洋和山脈限制了早期戰(zhàn)爭一樣，它會為每一方都提供一些防護。盡管會用到武器技術(shù)（傳感器，跟蹤器，激光，制導裝置，等等），但這種防備并不是武器系統(tǒng)，因為它的角色全然上是不同的。這種

17、類型的系統(tǒng)需要一個有區(qū)不的名稱：它們，事實上，是一種活性盾一個用來描述任何非威脅性的自動或半自動防備系統(tǒng)的詞語。通過為各方提供防備又不威脅對方，活性盾能夠減弱軍備競賽。由活性盾引起的技術(shù)，經(jīng)濟，和戰(zhàn)略的話題是復雜的，它們可能或不可能被應用于前組裝機時代。假如它們是有用的，就會有幾種可能的建筑途徑。一種途徑是，合作的民主社會單方面建筑。為了讓其它的國家能檢驗系統(tǒng)能夠和不能夠干什么，我們能夠同意多方視察關(guān)鍵性的設(shè)計、組件、以及生產(chǎn)過程。我們不必泄露所有的相關(guān)技術(shù)，因為明白什么和明白如何去做是不一樣的。另一種不同的途徑，我們能夠合作開發(fā)防護系統(tǒng)，通過有限的技術(shù)轉(zhuǎn)讓和最低限度的合作和檢驗的需求。我們在

18、禁止太空武器方面比禁止納米技術(shù)方面有更多的機會，這也許是最好的減少近期風險的路子。在選擇操縱軍備競賽的長期戰(zhàn)略上，我們必須考慮更多的幾步。在本章中我的簡單分析暗示了傳統(tǒng)的基于談判和可證實的限制的軍備操縱方法，不能用于納米技術(shù)。假如這是關(guān)鍵，我們就需要進展不同的途徑?；钚远茏罱K會提供一個新的，穩(wěn)定的方法來解決太空軍備競賽。通過探究這種方法，我們能夠探究所有活性防護系統(tǒng)的差不多原理。假如我們開發(fā)出了它們，我們就能夠獲得經(jīng)驗，并能夠制定制度來保證我們的生存?；钚远苁且粋€基于新技術(shù)的新選項。要讓它們能工作需要工程上的制造性、各學科間的綜合、和國際上的戰(zhàn)略。它們提供了能讓我們幸免過去出現(xiàn)的僵持狀態(tài)的新選

19、擇。它們顯然也提供了一個解決非威脅性愛護問題的答案但不是個簡單的答案。力量、邪惡、無能和懶惰我差不多概要描述了納米技術(shù)和先進AI系統(tǒng)將會帶給領(lǐng)導力量多大的威力能夠被用來摧毀生命的威力，或者延長并解放生命。由于我們不能停止這些技術(shù)的進展，那么我們就必須應對這種歷史上從來沒有過的濃縮的威力巨大的力量。我們需要一個相應的組織機構(gòu)體系，為了能安全地掌握復雜的技術(shù)，那個體系必須具有推斷事實的各種方法；為了能安全地掌握力量，它必須能綜合有效的檢查和平衡，它的目標和采納的方法必須對公眾開放并同意公眾審查；最后，因為它能關(guān)心我們?yōu)樾率澜绲旎?，因此它最好由我們的共同興趣指引，并限制在某些原則的框架內(nèi)。我們不能從

20、湊合開始，我們要依靠現(xiàn)有的機構(gòu)。它們是不同的，不是所有的機構(gòu)差不多上官僚主義的并都躲在巨大的灰色建筑中的；它們包括象自由出版，研究團體，和先進的網(wǎng)絡(luò)如此的充滿活力的機構(gòu)；這些分布廣泛的機構(gòu)關(guān)心我們操縱灰色的、官僚主義的機器。部分來講，我們面對的是一個關(guān)于限制濫用權(quán)力的古老而又一般的問題的新的版本。這可不能帶來巨大的和全然的新奇變化，同時有幾個世紀歷史的自由民主的法則和機構(gòu)也告訴了我們?nèi)绾螛咏鉀Q它。民主政府差不多掌握了能夠摧毀陸地和能夠抓住，監(jiān)禁和殺死人民的物理能力，然而我們能夠在這種能力下存活因為這些政府相當和氣和穩(wěn)定。立即到來的時代將會給我們的機構(gòu)帶來更重的擔子。關(guān)于有代表性的政府、自由言論

21、、權(quán)力作用、法制、愛護人 權(quán)的原則依舊是至關(guān)緊要的。為了承擔新的責任，我們需要擴展和振興這些原則和支持它們的機構(gòu)。愛護技術(shù)方面的言論自由也是至關(guān)緊要的。盡管我們面對一個巨大的挑戰(zhàn)，然而我們依舊有理由希望去面對它。因此，依舊有明顯的理由懷疑我們能迎接它，然而無望是傳染性的和令人討厭的，同時會使人沮喪。另外，無望也是未被證實的，盡管是熟悉的問題：邪惡我們太邪惡而不能做正確的事了嗎？無能力我們太笨而不能做正確的事了嗎？懶惰我們太懶而不去做預備嗎？盡管預測以后是玫瑰色的有點輕率，然而這些問題看來也不是不可解決的。民主政府是大的，臃腫的，同時有時造成暴行，但它們總體上來講并不邪惡，盡管它們?nèi)菁{那些能夠被稱為邪惡的人。事實上，它們的領(lǐng)導人要緊通過公開贊成那些傳統(tǒng)的好的方法來獲得權(quán)力。我們的首要危險是那些看起來好的然而會引起災難的政策，或者真正好的政策沒有被建立，公布和實現(xiàn)效力。民主遭受懶惰和無能的痛苦多于邪惡。無能因此是不可幸免的，然而是致命的嗎？我們?nèi)祟惿鷣泶_實是愚蠢和無知的，但我們常常設(shè)法組合我們的能力和知識的碎片來完成偉大的情況。沒人明白如何到達月球，也沒人學習過，然而差不多有十二個人在月球表面閑逛過了。我們在技術(shù)方面成功是因為我們學會了建立關(guān)心人們生成和測