但是，如果老王回到了1750年，然后覺(jué)得被嚇尿是個(gè)很囧的體驗(yàn)，于是他也想把別人嚇尿來(lái)滿足一下自己，那會(huì)發(fā)生什么？于是老王也回到了250年前的1500年，邀請(qǐng)生活在1500年的小李去1750年玩一下。小李可能會(huì)被250年后的很多東西震驚，但是至少他不會(huì)被嚇尿。同樣是250來(lái)年的時(shí)間，1750和2015年的差別，比1500年和1750年的差別，要大得多了。1500年的小李可能能學(xué)到很多神奇的物理知識(shí)，可能會(huì)驚訝于歐洲的帝國(guó)主義旅程，甚至對(duì)于世界地圖的認(rèn)知也會(huì)大大的改變，但是1500年的小李，看到1750年的交通、通訊等等，并不會(huì)被嚇尿。

其次，你可能聽(tīng)過(guò)“奇點(diǎn)”或者“技術(shù)奇點(diǎn)”這種說(shuō)法。這種說(shuō)法在數(shù)學(xué)上用來(lái)描述類似漸進(jìn)的情況，這種情況下通常的規(guī)律就不適用了。這種說(shuō)法同樣被用在物理上來(lái)描述無(wú)限小的高密度黑洞，同樣是通常的規(guī)律不適用的情況。Kurzweil則把奇點(diǎn)定義為加速回報(bào)定律達(dá)到了極限，技術(shù)進(jìn)步以近乎無(wú)限的速度發(fā)展，而奇點(diǎn)之后我們將在一個(gè)完全不同的世界生活的。但是當(dāng)下的很多思考人工智能的人已經(jīng)不再用奇點(diǎn)這個(gè)說(shuō)法了，而且這種說(shuō)法很容易把人弄混，所以本文也盡量少用。

現(xiàn)在，人類已經(jīng)掌握了弱人工智能。其實(shí)弱人工智能無(wú)處不在，人工智能革命是從弱人工智能，通過(guò)強(qiáng)人工智能，最終到達(dá)超人工智能的旅途。這段旅途中人類可能會(huì)生還下來(lái)，可能不會(huì)，但是無(wú)論如何，世界將變得完全不一樣。

弱人工智能是在特定領(lǐng)域等同或者超過(guò)人類智能/效率的機(jī)器智能，一些常見(jiàn)的例子：

現(xiàn)在的弱人工智能系統(tǒng)并不嚇人。最糟糕的情況，無(wú)非是代碼沒(méi)寫好，程序出故障，造成了單獨(dú)的災(zāi)難，比如造成停電、核電站故障、金融市場(chǎng)崩盤等等。

而且創(chuàng)造強(qiáng)人工智能的難處，并不是你本能認(rèn)為的那些。

用計(jì)算機(jī)科學(xué)家Donald Knuth的說(shuō)法，“人工智能已經(jīng)在幾乎所有需要思考的領(lǐng)域超過(guò)了人類，但是在那些人類和其它動(dòng)物不需要思考就能完成的事情上，還差得很遠(yuǎn)。”

讀者應(yīng)該能很快意識(shí)到，那些對(duì)我們來(lái)說(shuō)很簡(jiǎn)單的事情，其實(shí)是很復(fù)雜的，它們看上去很簡(jiǎn)單，因?yàn)樗鼈円呀?jīng)在動(dòng)物進(jìn)化的過(guò)程中經(jīng)歷了幾億年的優(yōu)化了。當(dāng)你舉手拿一件東西的時(shí)候，你肩膀、手肘、手腕里的肌肉、肌腱和骨頭，瞬間就進(jìn)行了一組復(fù)雜的物理運(yùn)作，這一切還配合著你的眼睛的運(yùn)作，使得你的手能都在三維空間中進(jìn)行直線運(yùn)作。對(duì)你來(lái)說(shuō)這一切輕而易舉，因?yàn)樵谀隳X中負(fù)責(zé)處理這些的“軟件”已經(jīng)很完美了。同樣的，軟件很難識(shí)別網(wǎng)站的驗(yàn)證碼，不是因?yàn)檐浖溃∏∠喾矗且驗(yàn)槟軌蜃x懂驗(yàn)證碼是件碉堡了的事情。

同樣的，大數(shù)相乘、下棋等等，對(duì)于生物來(lái)說(shuō)是很新的技能，我們還沒(méi)有幾億年的世界來(lái)進(jìn)化這些能力，所以電腦很輕易的就擊敗了我們。試想一下，如果讓你寫一個(gè)程序，是一個(gè)能做大數(shù)相乘的程序容易寫，還是能夠識(shí)別千千萬(wàn)萬(wàn)種字體和筆跡下書寫的英文字母的程序難寫？

你可以輕易的描述圖形中透明或不透明的圓柱和3D圖形，但是電腦就看不出來(lái)了。電腦會(huì)描述出2D的陰影細(xì)節(jié)，但是人腦卻能夠把這些陰影所展現(xiàn)的深度、陰影混合、房屋燈光解讀出來(lái)。

要達(dá)到強(qiáng)人工智能，肯定要滿足的就是電腦硬件的運(yùn)算能力。如果一個(gè)人工智能要像人腦一般聰明，它至少要能達(dá)到人腦的運(yùn)算能力。

用來(lái)描述運(yùn)算能力的單位叫作cps（calculations per second，每秒計(jì)算次數(shù)），要計(jì)算人腦的cps只要了解人腦中所有結(jié)構(gòu)的最高cps，然后加起來(lái)就行了。

Kurzweil把對(duì)于一個(gè)結(jié)構(gòu)的最大cps的專業(yè)估算，然后考慮這個(gè)結(jié)構(gòu)占整個(gè)大腦的重量，做乘法，來(lái)得出人腦的cps。聽(tīng)起來(lái)不太靠譜，但是Kurzweil用了對(duì)于不同大腦區(qū)域的專業(yè)估算值，得出的最終結(jié)果都非常類似，是10^16 cps，也就是1億億次計(jì)算每秒。

現(xiàn)在最快的超級(jí)計(jì)算機(jī)，中國(guó)的天河二號(hào)，其實(shí)已經(jīng)超過(guò)這個(gè)運(yùn)算力了，天河每秒能進(jìn)行3.4億億。當(dāng)然，天河二號(hào)占地720平方米，耗電2400萬(wàn)瓦，耗費(fèi)了3.9億美元建造。廣泛應(yīng)用就不提了，即使是大部分商業(yè)或者工業(yè)運(yùn)用也是很貴的。

Kurzweil認(rèn)為考慮電腦的發(fā)展程度的標(biāo)桿是看1000美元能買到多少cps，當(dāng)1000美元能買到人腦級(jí)別的1億億運(yùn)算能力的時(shí)候，強(qiáng)人工智能可能就是生活的一部分了。

也就是說(shuō)現(xiàn)在1000美元能買到的電腦已經(jīng)強(qiáng)過(guò)了老鼠，并且達(dá)到了人腦千分之一的水平。聽(tīng)起來(lái)還是弱爆了，但是，讓我們考慮一下，1985年的時(shí)候，同樣的錢只能買到人腦萬(wàn)億分之一的cps，1995年變成了十億分之一，2005年是百萬(wàn)分之一，而2015年已經(jīng)是千分之一了。按照這個(gè)速度，我們到2025年就能花1000美元買到可以和人腦運(yùn)算速度抗衡的電腦了。

至少在硬件上，我們已經(jīng)能夠強(qiáng)人工智能了（中國(guó)的天河二號(hào)），而且十年以內(nèi)，我們就能以低廉的價(jià)格買到能夠支持強(qiáng)人工智能的電腦硬件。

強(qiáng)人工智能到超人工智能之路

通過(guò)自我改進(jìn)來(lái)達(dá)成強(qiáng)人工智能的人工智能，會(huì)把“人類水平的智能”當(dāng)作一個(gè)重要的里程碑，但是也就僅此而已了。它不會(huì)停留在這個(gè)里程碑上的。考慮到強(qiáng)人工智能之于人腦的種種優(yōu)勢(shì)，人工智能只會(huì)在“人類水平”這個(gè)節(jié)點(diǎn)做短暫的停留，然后就會(huì)開(kāi)始大踏步向超人類級(jí)別的智能走去。

所以，當(dāng)人工智能開(kāi)始朝人類級(jí)別智能靠近時(shí)，我們看到的是它逐漸變得更加智能，就好像一個(gè)動(dòng)物一般。然后，它突然達(dá)到了最愚笨的人類的程度，我們到時(shí)也許會(huì)感慨：“看這個(gè)人工智能就跟個(gè)腦殘人類一樣聰明，真可愛(ài)。”

但問(wèn)題是，從智能的大局來(lái)看，人和人的智能的差別，比如從最愚笨的人類到愛(ài)因斯坦的差距，其實(shí)是不大的。所以當(dāng)人工智能達(dá)到了腦殘級(jí)別的智能后，它會(huì)很快變得比愛(ài)因斯坦更加聰明：

從這邊開(kāi)始，這個(gè)話題要變得有點(diǎn)嚇人了。我在這里要提醒大家，以下所說(shuō)的都是大實(shí)話——是一大群受人尊敬的思想家和科學(xué)家關(guān)于未來(lái)的誠(chéng)實(shí)的預(yù)測(cè)。你在下面讀到什么離譜的東西的時(shí)候，要記得這些東西是比你我都聰明很多的人想出來(lái)的。

像上面所說(shuō)的，我們當(dāng)下用來(lái)達(dá)成強(qiáng)人工智能的模型大多數(shù)都依靠人工智能的自我改進(jìn)。但是一旦它達(dá)到了強(qiáng)人工智能，即使算上那一小部分不是通過(guò)自我改進(jìn)來(lái)達(dá)成強(qiáng)人工智能的系統(tǒng)，也會(huì)聰明到能夠開(kāi)始自我改進(jìn)。

現(xiàn)在關(guān)于人工智能什么時(shí)候能達(dá)到人類普遍智能水平還有爭(zhēng)議。對(duì)于數(shù)百位科學(xué)家的問(wèn)卷調(diào)查顯示他們認(rèn)為強(qiáng)人工智能出現(xiàn)的中位年份是2040年——距今只有25年。這聽(tīng)起來(lái)可能沒(méi)什么，但是要記住，很多這個(gè)領(lǐng)域的思想家認(rèn)為從強(qiáng)人工智能到超人工智能的轉(zhuǎn)化會(huì)快得多。以下的情景很可能會(huì)發(fā)生：一個(gè)人工智能系統(tǒng)花了幾十年時(shí)間到達(dá)了人類腦殘智能的水平，而當(dāng)這個(gè)節(jié)點(diǎn)發(fā)生的時(shí)候，電腦對(duì)于世界的感知大概和一個(gè)四歲小孩一般；而在這節(jié)點(diǎn)后一個(gè)小時(shí)，電腦立馬推導(dǎo)出了統(tǒng)一廣義相對(duì)論和量子力學(xué)的物理學(xué)理論；而在這之后一個(gè)半小時(shí)，這個(gè)強(qiáng)人工智能變成了超人工智能，智能達(dá)到了普通人類的17萬(wàn)倍。

這個(gè)級(jí)別的超級(jí)智能不是我們能夠理解的，就好像蜜蜂不會(huì)理解凱恩斯經(jīng)濟(jì)學(xué)一樣。在我們的語(yǔ)言中，我們把130的智商叫作聰明，把85的智商叫作笨，但是我們不知道怎么形容12952的智商，人類語(yǔ)言中根本沒(méi)這個(gè)概念。

但是我們知道的是，人類對(duì)于地球的統(tǒng)治教給我們一個(gè)道理——智能就是力量。也就是說(shuō)，一個(gè)超人工智能，一旦被創(chuàng)造出來(lái)，將是地球有史以來(lái)最強(qiáng)大的東西，而所有生物，包括人類，都只能屈居其下——而這一切，有可能在未來(lái)幾十年就發(fā)生。

想一下，如果我們的大腦能夠發(fā)明Wifi，那么一個(gè)比我們聰明100倍、1000倍、甚至10億倍的大腦說(shuō)不定能夠隨時(shí)隨地操縱這個(gè)世界所有原子的位置。那些在我們看來(lái)超自然的，只屬于全能的上帝的能力，對(duì)于一個(gè)超人工智能來(lái)說(shuō)可能就像按一下電燈開(kāi)關(guān)那么簡(jiǎn)單。防止人類衰老，治療各種不治之癥，解決世界饑荒，甚至讓人類永生，或者操縱氣候來(lái)保護(hù)地球未來(lái)的什么，這一切都將變得可能。同樣可能的是地球上所有生命的終結(jié)。

當(dāng)一個(gè)超人工智能出生的時(shí)候，對(duì)我們來(lái)說(shuō)就像一個(gè)全能的上帝降臨地球一般。

這時(shí)候我們所關(guān)心的就是