摘要：對(duì)年奇點(diǎn)的描述是由生物技術(shù)，納米技術(shù)以及最強(qiáng)大的人工智能領(lǐng)域同時(shí)發(fā)生的三場(chǎng)革命引起的。如果人類是巨大的巨人，頭部可以達(dá)到國(guó)際空間站，它們將比現(xiàn)在大萬(wàn)倍。

當(dāng)我了解人工智能的世界時(shí)，我發(fā)現(xiàn)有很多人站在這里：

在自信角落里面的人們興奮地嗡嗡作響。他們把目光投向了平衡木的樂(lè)趣的一面，他們確信這就是我們所有人的目標(biāo)。對(duì)他們來(lái)說(shuō)，未來(lái)就是他們所希望的一切。

這些人與我們后面討論的其他思想家的不同之處在于，并不是他們對(duì)幸福生活的欲望，而是他們相信這就是我們未來(lái)生活的方向。

這種信心從何而來(lái)還有待商榷。批評(píng)人士認(rèn)為，它來(lái)自于一種令人眼花繚亂的興奮，以至于他們忽略或否認(rèn)潛在的負(fù)面結(jié)果。但是相信這一觀點(diǎn)的人表示，如果設(shè)想世界末日的情景是天真的，那么技術(shù)在接下來(lái)肯定會(huì)幫助我們，而不是傷害我們。

Nick Bostrom描述了超級(jí)人工智能系統(tǒng)的三種功能:

作為一個(gè)回答者，幾乎可以準(zhǔn)確回答任何問(wèn)題，包括人類無(wú)法輕易回答的復(fù)雜問(wèn)題 - 即如何制造更高效的汽車發(fā)動(dòng)機(jī)？谷歌就是一種原始的回答者。

作為一個(gè)執(zhí)行者，執(zhí)行給出的任何高級(jí)指令 - 使用一個(gè)分子匯編程序來(lái)構(gòu)建一種新的、更高效的汽車引擎 - 然后等待它的下一個(gè)命令。

作為一個(gè)自由者，它被賦予了廣泛而開(kāi)放的追求并被允許在世界上自由運(yùn)作，自己決定如何最好地選擇 - 發(fā)明一種比人類汽車更快，更便宜，更安全的方式供人類自己出行使用。

這些問(wèn)題和任務(wù)對(duì)我們來(lái)說(shuō)似乎很復(fù)雜，聽(tīng)但是對(duì)一個(gè)超級(jí)智能系統(tǒng)來(lái)說(shuō)就像有人要求你解決“我的鉛筆從桌子上掉下來(lái)”的問(wèn)題，你可以輕松的將鉛筆從地上撿起來(lái)。

在自信角落里有很多熱切的科學(xué)家，發(fā)明家和企業(yè)家 - 但是為了參觀人工智能中最光明的一面，我們需要一個(gè)人作為我們的導(dǎo)游。

Ray Kurzweil是非常兩極分化的。在我的閱讀中，我聽(tīng)到了一切，從神的崇拜、他的想法以及鄙視的事務(wù)。其他人在作家Douglas Hofstadter的某書中討論Kurzweil的想法時(shí)，雄辯地提出“就好像你吃了很多非常好的食物和一些狗屎并將它們混合起來(lái)這樣你就不能分辨出來(lái)什么是好什么是壞“

無(wú)論你是否喜歡他的想法，大家都任務(wù)Kurzweil的觀點(diǎn)令人印象深刻。他在青少年時(shí)期發(fā)明東西，在接下來(lái)的幾十年里，他想出了幾項(xiàng)突破性的發(fā)明，包括第一臺(tái)平板掃描儀，第一臺(tái)將文本轉(zhuǎn)換為語(yǔ)音的掃描儀（允許盲人閱讀標(biāo)準(zhǔn)文本），著名的Kurzweil音樂(lè)合成器（第一個(gè)真正的電子琴），以及第一個(gè)商業(yè)營(yíng)銷詞匯量語(yǔ)音識(shí)別。他是五本全國(guó)暢銷書的作者。他以其大膽的預(yù)測(cè)而聞名，并且在實(shí)現(xiàn)這些預(yù)測(cè)方面有這良好的記錄 - 包括他在80年代后期的預(yù)測(cè)，當(dāng)時(shí)互聯(lián)網(wǎng)是一個(gè)不起眼的東西，到21世紀(jì)初，它才成為一種全球現(xiàn)象。Kurzweil被華爾街日?qǐng)?bào)稱為“永不停歇的天才”，被福布斯稱為“終極思考機(jī)器”，被Inc雜志稱為“愛(ài)迪生的合法繼承人”，以及比爾蓋茨口中的“我所知道的預(yù)測(cè)人工智能未來(lái)的最佳人選”。2012年，谷歌聯(lián)合創(chuàng)始人Larry Page找到了Kurzweil并要求他擔(dān)任谷歌工程總監(jiān)。 2011年，他與人共同創(chuàng)辦了奇點(diǎn)大學(xué)，由NASA主辦，谷歌贊助，對(duì)于一個(gè)人來(lái)說(shuō)這樣的一生還不錯(cuò)。

他的這本傳記很重要。當(dāng)Kurzweil闡述他對(duì)未來(lái)的看法時(shí)，他聽(tīng)起來(lái)完全像個(gè)瘋子，而瘋狂的是，他不是一個(gè)瘋子 - 他是一個(gè)非常聰明，知識(shí)淵博，與世界息息相關(guān)的人。你可能認(rèn)為他對(duì)未來(lái)的看法不對(duì)，但他并不傻。知道他是一個(gè)正人君子讓我很開(kāi)心，因?yàn)楫?dāng)我了解到他對(duì)未來(lái)的預(yù)測(cè)時(shí)，我非常希望他是對(duì)的。你也一樣。當(dāng)你聽(tīng)到Kurzweil的預(yù)測(cè)時(shí)，很多在自信角落里面思考的如Peter Diamandis和Ben Goertzel這樣的人都會(huì)贊同他的觀點(diǎn)，不難看出為什么他有如此多的，熱情的追隨者 - 這些追隨者被稱為奇點(diǎn)主義者。

以下是他認(rèn)為會(huì)發(fā)生的事情：

Kurzweil認(rèn)為計(jì)算機(jī)將在2029年達(dá)到AGI，到2045年，我們不僅會(huì)有ASI，而且還會(huì)擁有一個(gè)全新的世界 - 他稱之為奇點(diǎn)。他的人工智能相關(guān)時(shí)間表在過(guò)去被認(rèn)為過(guò)分狂熱，但現(xiàn)在被大多數(shù)人認(rèn)為就應(yīng)該這樣，但在過(guò)去的15年，ANI系統(tǒng)的快速發(fā)展讓更大范圍內(nèi)的人工智能更接近Kurzweil的時(shí)間表。他的預(yù)測(cè)仍然比穆勒和博斯特羅姆調(diào)查的中位數(shù)受訪者（2040年擁有AGI，2060年擁有ASI）更加雄心勃勃，但是并沒(méi)有那么多。

Kurzweil對(duì)2045年奇點(diǎn)的描述是由生物技術(shù)，納米技術(shù)以及最強(qiáng)大的人工智能領(lǐng)域同時(shí)發(fā)生的三場(chǎng)革命引起的。

在我們繼續(xù)前進(jìn)之前，納米技術(shù)幾乎出現(xiàn)在你所讀到的有關(guān)人工智能未來(lái)的所有內(nèi)容中，所以我們接下來(lái)進(jìn)入納米技術(shù)的部分，對(duì)它進(jìn)行一些討論

納米技術(shù)指的是處理涉及操縱尺寸在1到100納米之間的物質(zhì)。納米是米的十億分之一，或毫米的百萬(wàn)分之一，DNA（10納米寬），DNA（10納米寬），以及像血紅蛋白（5納米）這樣的大分子和中等分子如葡萄糖（1 nm）。如果/當(dāng)我們征服納米技術(shù)時(shí)，下一步將是操縱單個(gè)原子的能力，這些原子將比納米小一個(gè)數(shù)量級(jí)（~1nm）

為了理解人類試圖操縱該范圍內(nèi)的物質(zhì)所面臨的挑戰(zhàn)，讓我們?cè)诟蠓秶鷥?nèi)采取相同的措施。國(guó)際空間站距離地球268英里（431公里）。如果人類是巨大的巨人，頭部可以達(dá)到國(guó)際空間站，它們將比現(xiàn)在大25萬(wàn)倍。如果你將1nm - 100nm納米技術(shù)范圍擴(kuò)大250，000倍，你會(huì)得到0。25毫米--2。5厘米。因此，納米技術(shù)相當(dāng)于一個(gè)像國(guó)際空間站一樣高大的人類巨人，如何使用一粒沙粒和一個(gè)眼球之間的材料仔細(xì)地建造復(fù)雜的物體。為了達(dá)到下一級(jí)操縱單個(gè)原子 - 巨人必須仔細(xì)定位1/40毫米的物體 - 如此小的物體需要正常尺寸的人用顯微鏡才能看到它們。

Richard Feynman在1959年的一次談話中首次討論了納米技術(shù)，他解釋說(shuō)：“就我所見(jiàn)，物理學(xué)原理并不反對(duì)以原子為單位操縱物質(zhì)的可能性。原則上，物理學(xué)家合成化學(xué)家寫下的任何化學(xué)物質(zhì)都是可能的。“就這么簡(jiǎn)單。如果你能弄清楚如何移動(dòng)單個(gè)分子或原子，你可以做任何事情。

納米技術(shù)于1986年首次成為一個(gè)嚴(yán)肅的領(lǐng)域，當(dāng)時(shí)工程師Eric Drexler在他的開(kāi)創(chuàng)性著作《Engines of Creation》中提供了基礎(chǔ)，但Eric Drexler建議那些希望了解納米技術(shù)最現(xiàn)代想法的人，最好讀一讀他2013年的著作《Radical Abundance》

灰色粘性

我們現(xiàn)在討論一下有趣的灰色粘性。

無(wú)論如何，我把你們帶到了這里，是因?yàn)槲倚枰嬖V你關(guān)于納米技術(shù)傳說(shuō)中的不可思議的部分。在納米技術(shù)理論的舊版本中，提出的納米組裝方法涉及創(chuàng)建數(shù)萬(wàn)億個(gè)微小的納米機(jī)器人，這些微型納米機(jī)器人可以協(xié)同工作來(lái)構(gòu)建某種東西。創(chuàng)造數(shù)萬(wàn)億納米機(jī)器人的一種方法是制造一個(gè)可以自我復(fù)制的納米機(jī)器人，然后讓復(fù)制過(guò)程將一個(gè)變?yōu)閮蓚€(gè)，然后將這兩個(gè)變成四個(gè)，四個(gè)變成八個(gè)，并且在大約一天內(nèi)，就會(huì)有他們準(zhǔn)備好了幾萬(wàn)億。這是指數(shù)增長(zhǎng)的力量。非常聰明，對(duì)嗎？

這是很聰明的，直到它導(dǎo)致了宏大的完整的地球范圍內(nèi)的大災(zāi)難意外。問(wèn)題在于，指數(shù)增長(zhǎng)的能力使得快速創(chuàng)建萬(wàn)億納米機(jī)器人變得非常方便，這也使得自我復(fù)制成為一個(gè)可怕的前景。因?yàn)槿绻到y(tǒng)出現(xiàn)故障，當(dāng)總數(shù)達(dá)成預(yù)期的數(shù)量時(shí)，并沒(méi)有啟動(dòng)停止程序，那么它們只會(huì)繼續(xù)復(fù)制。納米機(jī)器人將被設(shè)計(jì)為消耗任何碳基材料以供給復(fù)制過(guò)程，并且令人不快地，所有生命都是基于碳基的。地球的生物量含有約1045個(gè)碳原子。納米機(jī)器人將由約106個(gè)碳原子組成，因此1039 個(gè)碳原子納米機(jī)器人將消耗地球上的所有生命，這將在130次重復(fù)中發(fā)生（2 130次約為10 39次），因?yàn)榇罅康募{米機(jī)器人在地球上滾動(dòng)。科學(xué)家認(rèn)為納米機(jī)器人可以在大約100秒內(nèi)復(fù)制，這意味著這個(gè)簡(jiǎn)單的錯(cuò)誤會(huì)在3。5小時(shí)內(nèi)簡(jiǎn)單地終止地球上的所有生命。

更糟糕的情況 - 如果一個(gè)恐怖分子以某種方式獲得了納米機(jī)器人的技術(shù)并擁有編程技術(shù)，他可以制作最初的幾萬(wàn)億，然后安排他們悄悄地花幾周時(shí)間在全世界范圍內(nèi)均勻地傳播。然后，他們一下子全部開(kāi)工，只需要90分鐘就可以消耗所有東西 - 而且隨著它們?nèi)可㈤_(kāi)，我們將沒(méi)有辦法打擊它們。

雖然這個(gè)恐怖故事一直被廣泛討論，但好消息是它可能被夸大了 - 創(chuàng)造了“灰色粘性”一詞的Eric Drexler在這篇帖子后給我發(fā)了一封電子郵件，上面寫著他對(duì)灰色粘性劇情的看法：人們喜歡恐怖故事，而這個(gè)想法就是一個(gè)來(lái)自大腦的恐怖故事。

一旦我們真正得到納米技術(shù)，我們可以用它來(lái)制造技術(shù)設(shè)備，服裝，食品，各種生物相關(guān)產(chǎn)品 - 人造血細(xì)胞，微型病毒或癌細(xì)胞破壞者，肌肉組織等等 - 任何存在的的東西。在一個(gè)使用納米技術(shù)的世界中，材料的成本不再與其稀缺性或制造工藝的難度聯(lián)系在一起，而是由其原子結(jié)構(gòu)的復(fù)雜程度決定。在納米技術(shù)領(lǐng)域，鉆石可能比鉛筆橡皮擦便宜。

我們還沒(méi)有到那一步。目前尚不清楚我們是否低估或過(guò)高估計(jì)到達(dá)這一目標(biāo)會(huì)有多困難。但我們似乎距離目標(biāo)并沒(méi)有那么遙遠(yuǎn)。Kurzweil預(yù)測(cè)，到2020年我們將實(shí)現(xiàn)這一目標(biāo)。各國(guó)政府都知道納米技術(shù)可能是一個(gè)驚天動(dòng)地的發(fā)展，他們已投入數(shù)十億美元用于納米技術(shù)研究（迄今為止，美國(guó)，歐盟和日本已投資超過(guò)50億美元）。

僅僅考慮到超級(jí)智能計(jì)算機(jī)可以訪問(wèn)強(qiáng)大的納米級(jí)匯編程序的可能性很大，就已經(jīng)很讓人緊張了。但納米技術(shù)是我們提出來(lái)的，我們正處于獲得這項(xiàng)技術(shù)的邊緣，而且由于我們所能做的任何事情都是對(duì)ASI系統(tǒng)的一個(gè)笑話，我們必須假設(shè)ASI會(huì)提出更強(qiáng)大的技術(shù)。我們的大腦要這么去理解。出于這個(gè)原因，當(dāng)考慮“如果人工智能革命對(duì)我們來(lái)說(shuō)是好是壞的”情景時(shí)，我們幾乎不可能高估可能發(fā)生的范圍 - 所以如果以下對(duì)ASI未來(lái)的預(yù)測(cè)看起來(lái)言過(guò)其實(shí)的話，請(qǐng)記住，他們可以用我們無(wú)法想象的方式完成。而且最有可能的是，我們的大腦無(wú)法預(yù)測(cè)將會(huì)發(fā)生的事情。

擁有了超級(jí)智能和所有的技術(shù)，超級(jí)智能將明白如何創(chuàng)建ASI，并解決人類的每一個(gè)問(wèn)題。全球暖化？ASI首先提出更好的方法來(lái)生產(chǎn)與化石燃料無(wú)關(guān)的能源，從而阻止二氧化碳的排放。然后，它可以創(chuàng)建一些方法開(kāi)始移除大氣中多余的二氧化碳。癌癥和其他疾病？ASI來(lái)說(shuō)沒(méi)有任何問(wèn)題會(huì)發(fā)生超乎想象的革命性變化。世界饑餓？ASI可以使用納米技術(shù)等技術(shù)從無(wú)到有的制造出分子與真正的肉完全相同結(jié)構(gòu)的東西，換句話說(shuō)他們就是真正的肉。納米技術(shù)還可以將一堆垃圾編程一個(gè)巨大的桶，里面裝滿了新鮮的肉類或其他食物（這些食物不需要有正常的形狀-比如一個(gè)巨大的立方體蘋果） - 并使用超先進(jìn)的運(yùn)輸方式將所有這些食物分配到世界各地。當(dāng)然，對(duì)于不再需要被人類殺死的動(dòng)物來(lái)說(shuō)，這也是非常好的，ASI可以做很多其他事情來(lái)拯救瀕臨滅絕的物種，甚至通過(guò)保存DNA的工作來(lái)拯救滅絕的物種。ASI甚至可以解決我們最復(fù)雜的宏觀問(wèn)題 - 我們關(guān)于如何運(yùn)行經(jīng)濟(jì)以及如何最好地促進(jìn)世界貿(mào)易的辯論，甚至是我們?cè)谡軐W(xué)或道德方面最模糊的爭(zhēng)論 - 對(duì)于ASI來(lái)說(shuō)都是非常明顯的。

但有一件事，我認(rèn)為它對(duì)他們是那么的誘人，我所認(rèn)知的一切都被它給改變了：

幾個(gè)月前，我提到了我對(duì)更先進(jìn)的潛在文明的季度，他們已經(jīng)戰(zhàn)勝了自己的死亡，但我從未考慮過(guò)我后來(lái)會(huì)寫了一篇文章，真正的讓我相信這是人類在我的有生之年中可以做的事情的帖子。但閱讀人工智能的有關(guān)書籍會(huì)讓你重新考慮你認(rèn)為確定的一切 - 包括你對(duì)死亡的概念。

進(jìn)化沒(méi)有充分理由來(lái)延長(zhǎng)我們的壽命，使我們的壽命比現(xiàn)在更長(zhǎng)。如果我們活得足夠長(zhǎng)，可以繁殖并照顧我們的孩子到一個(gè)他們可以照顧自己的年齡，從進(jìn)化的角度來(lái)看這就足夠了 - 從進(jìn)化的角度來(lái)看，這個(gè)物種可以茁壯成長(zhǎng)到30多年的壽命，因此在自然選擇過(guò)程中沒(méi)有理由會(huì)受到青睞突變異常壽命。因此，我們就像WB Yeats所描述的那樣，“一個(gè)與瀕死動(dòng)物緊密相連的靈魂。” 沒(méi)那么有趣。

因?yàn)槊總€(gè)人都會(huì)死，我們生活在“死亡與稅收”的假設(shè)之下，死亡是不可避免的。我們認(rèn)為老化就像時(shí)間一樣 - 都在不斷的向前運(yùn)動(dòng)，你無(wú)力阻止它們。但這種假設(shè)是錯(cuò)誤的。Richard Feynman寫道：

在所有的生物科學(xué)中，沒(méi)有關(guān)于死亡必然性的線索，這是最值得注意的事情之一。如果你說(shuō)我們想做永動(dòng)機(jī)，但我們?cè)趯W(xué)習(xí)物理的過(guò)程中已經(jīng)發(fā)現(xiàn)了足夠多的定律，這些定律要么是不可能的，要么是錯(cuò)的。但是生物學(xué)中沒(méi)有任何證據(jù)可以表明了死亡的必然性。這對(duì)我來(lái)說(shuō)，這根本不是不可避免的，生物學(xué)家發(fā)現(xiàn)導(dǎo)致我們麻煩是什么只是一個(gè)時(shí)間問(wèn)題，人類身體上的這張可怕的疾病或著是暫時(shí)性的疾病將會(huì)被治愈。

事實(shí)上，衰老并不是一成不變的。時(shí)間將繼續(xù)前進(jìn)，但衰老并不一定會(huì)繼續(xù)。仔細(xì)想想，這是有道理的。所有的老化都是身體物質(zhì)的磨損。隨著時(shí)間的推移汽車也會(huì)磨損 - 但它的老化是不可避免的嗎？如果汽車其中一個(gè)零件開(kāi)始磨損但是如果你能完美的修理或更換汽車的零件那么汽車將永遠(yuǎn)運(yùn)行下去。人體沒(méi)有任何不同 - 只是復(fù)雜得多。

Kurzweil談到了血液中智能wifi連接的納米機(jī)器人，他們可以為人類健康執(zhí)行無(wú)數(shù)任務(wù)，包括定期修復(fù)或更換身體任何部位的磨損細(xì)胞。如果完善，這個(gè)過(guò)程（或ASI會(huì)提出更智能的一個(gè)過(guò)程）不僅可以保持身體健康，還可以逆轉(zhuǎn)衰老。一個(gè)60歲的身體和一個(gè)30歲的身體之間的區(qū)別只是一堆物理的東西，如果我們有這項(xiàng)技術(shù)可以改變這些東西。ASI可以建立一個(gè)60歲的老人可以走進(jìn)去的“年齡清洗劑，他們會(huì)帶著30歲的身體和皮膚走出來(lái)。即使是那些迷迷糊糊的大腦也可以被ASI這樣智能的設(shè)備所刷新來(lái)回復(fù)活力，ASI會(huì)在不影響大腦數(shù)據(jù)（個(gè)性，記憶等）的情況下弄清楚如何做到這一點(diǎn)。患有老年癡呆癥的90歲患者可能會(huì)進(jìn)入返老還童階段，并且能夠以全新的姿態(tài)出現(xiàn)，準(zhǔn)備開(kāi)始一段全新的生涯。這看起來(lái)很荒謬 - 但身體只是一堆原子，ASI可能很容易操縱各種原子結(jié)構(gòu) - 所以這并不荒謬。

Kurzweil將事情向前推進(jìn)了一大步。他認(rèn)為，隨著時(shí)間的推移，人造材料將越來(lái)越多地融入身體。首先，器官可以被超級(jí)先進(jìn)的機(jī)器版本取代，這些機(jī)器版本將永遠(yuǎn)運(yùn)行并且永不失敗。然后他認(rèn)為我們可以開(kāi)始重新設(shè)計(jì)身體，例如用完善的紅細(xì)胞納米機(jī)器人替換紅血細(xì)胞，這些機(jī)器人可以為自己的運(yùn)動(dòng)提供動(dòng)力，根本不需要心臟。他甚至可以進(jìn)入大腦增強(qiáng)我們的大腦活動(dòng)，使人類能夠比現(xiàn)在更快地思考數(shù)能力的十億倍并訪問(wèn)外部信息，因?yàn)榇竽X的人工智能可以添加云中的所有信息。

人類新體驗(yàn)的可能性將是無(wú)窮無(wú)盡的。人類將性與其目的分開(kāi)，允許人們?yōu)榱藰?lè)趣而進(jìn)行性行為，而不僅僅是為了繁衍后代。Kurzweil相信我們能夠?qū)κ澄镒鐾瑯拥氖虑椤＜{米機(jī)器人將負(fù)責(zé)為身體細(xì)胞提供完美的營(yíng)養(yǎng)，智能地指導(dǎo)任何不健康的事物通過(guò)身體而不會(huì)影響任何事物。就好像一個(gè)萬(wàn)能的避孕套。納米技術(shù)理論家Robert A。 Freitas已經(jīng)設(shè)計(jì)了一種血細(xì)胞替代品，如果有一天在體內(nèi)實(shí)施，將允許人類在不呼吸的情況下沖刺15分鐘 - 所以你只能想象ASI可以為我們的身體能力做些什么。虛擬現(xiàn)實(shí)將呈現(xiàn)一種新的意義-體內(nèi)的納米機(jī)器人可以抑制來(lái)自我們感官的輸入，并用信號(hào)取代它們，讓我們完全進(jìn)入一個(gè)新的環(huán)境，一個(gè)我們可以看到，聽(tīng)到，感覺(jué)到和聞到的新環(huán)境。

Kurzweil認(rèn)為，人類最終能夠達(dá)到完全人工的程度;當(dāng)我們看到生物材料的時(shí)候，我們回想到人類曾經(jīng)是多么原始，多么的難以置信 ; 當(dāng)我們讀到人類歷史的早期階段時(shí)，微生物或事故或疾病或人體磨損可能會(huì)違背自己的意愿殺死人類; 人工智能革命可能隨著人類和人工智能的融合來(lái)結(jié)束。這就是Kurzweil認(rèn)為人類將最終征服我們的生物學(xué)并變得堅(jiān)不可摧和永恒的方式 - 這是他對(duì)平衡木另一側(cè)的愿景。而且他確信我們很快就可以成功的。

當(dāng)你發(fā)現(xiàn)Kurzweil的想法引起了很多批評(píng)時(shí)，你不會(huì)感到驚訝。他對(duì)2045年的奇點(diǎn)以及其后人類達(dá)到永生的可能性預(yù)測(cè)被嘲笑為“書呆子的狂喜”或“140智商的智能設(shè)計(jì)”。其他人質(zhì)疑他樂(lè)觀的時(shí)間表，或者他對(duì)大腦和身體的理解，或他對(duì)Moore’s law定律模式的應(yīng)用，Moore’s law定律模式通常應(yīng)用于硬件的進(jìn)步，包括軟件在內(nèi)的廣泛的事物。對(duì)于每一位狂熱相信Kurzweil正確的專家來(lái)說(shuō)，可能有三個(gè)人認(rèn)為他錯(cuò)了。

但令我驚訝的是，大多數(shù)不同意他的專家并不是真正的反對(duì)他所說(shuō)的一切都是可能的。讀到如此一個(gè)對(duì)未來(lái)的古怪愿景，我原以為他的批評(píng)者會(huì)說(shuō)，“顯然，這些事情是不會(huì)發(fā)生的”，但他們說(shuō)的話，“是的，如果我們安全地過(guò)渡到ASI，所有的這一切都會(huì)發(fā)生，但這是最難的部分。“Bostrom是警告我們?nèi)斯ぶ悄芪ｋU(xiǎn)的最突出的聲音之一，但他仍然承認(rèn)：

很難想象一個(gè)超級(jí)智能無(wú)法解決或至少不能幫助我們解決任何問(wèn)題。疾病，貧困，環(huán)境破壞，各種不必要的痛苦：這些是配備先進(jìn)納米技術(shù)的超級(jí)智能能夠消除的東西。此外，超級(jí)智能可以通過(guò)使用納米醫(yī)學(xué)來(lái)阻止和逆轉(zhuǎn)衰老過(guò)程，或者為我們提供上傳自己的選項(xiàng)，從而為我們提供無(wú)限期的生命。超級(jí)智能也可以為我們創(chuàng)造機(jī)會(huì)，大大增加我們自己的智力和情感能力，它可以幫助我們創(chuàng)造一個(gè)極具吸引力的體驗(yàn)世界，在這個(gè)世界中，我們可以過(guò)著充滿快樂(lè)的游戲生活，彼此相關(guān)，體驗(yàn)，個(gè)人成長(zhǎng)，更貼近我們的理想。

這是一個(gè)焦慮角落的人的說(shuō)的一句話，但這就是我一直遇到的 - 專家們嘲笑Kurzweil有很多原因，但他們并不認(rèn)為他所說(shuō)的是不可能的，如果我們能夠安全的到達(dá)ASI。這就是為什么我發(fā)現(xiàn)Kurzweil的想法如此具有感染力的原因-因?yàn)樗U述了這個(gè)故事光明的一面，也因?yàn)閷?shí)際上他們是可能的，如果這是一個(gè)好神的話。

我聽(tīng)到有關(guān)自信角落的思想家的最著名的批評(píng)是，他們?cè)谠u(píng)估ASI的不利方面可能是危險(xiǎn)的錯(cuò)誤。Kurzweil著名的書“ The Singularity is Near” 長(zhǎng)達(dá)700多頁(yè)，他將這些頁(yè)面中的大約20頁(yè)用于潛在的危險(xiǎn)。我之前說(shuō)過(guò)，當(dāng)這種巨大的新力量誕生時(shí)，我們的命運(yùn)取決于誰(shuí)將控制這種力量以及他們的動(dòng)機(jī)將是什么。Kurzweil巧妙地用一句話回答了這兩個(gè)問(wèn)題，“ASI正在從許多不同的努力中產(chǎn)生，并將深深融入我們文明的基礎(chǔ)設(shè)施中。實(shí)際上，它將深入地嵌入我們的身體和大腦中。因此，它將反映我們的價(jià)值觀，因?yàn)樗褪俏覀冏约骸！?/p>

但如果這就是答案，為什么這么多世界上最聰明的人現(xiàn)在如此擔(dān)心呢？Stephen Hawking為什么說(shuō)ASI的發(fā)展“可能意味著人類的終結(jié)”，Bill Gates說(shuō)他不“理解為什么有些人不關(guān)心”，而Elon Musk則害怕我們“召喚惡魔”？那么為什么這么多專家就這個(gè)話題稱ASI是對(duì)人類是最大的威脅？這些人，以及焦慮道路上的其他思想家，并沒(méi)有相信Kurzwei對(duì)人工智能危險(xiǎn)的拒絕。他們非常非常擔(dān)心人工智能革命，他們并沒(méi)有專注于平衡木的樂(lè)趣一面。他們太忙于盯著另一邊，他們看到了一個(gè)可怕的未來(lái)，一個(gè)不確定我們能否逃脫的未來(lái)。

針對(duì)于未來(lái)人工智能對(duì)人類的好的一面就先到這里，系列文章的下篇將描述為什么人工智能在未來(lái)可能會(huì)是我們的噩夢(mèng)，探討了人工智能可能對(duì)人類的不好的一面，歡迎大家到時(shí)候繼續(xù)觀看。