隨著人工智能的興起，一些人提出了這樣的警告：我們可能正處在創(chuàng)造一種新的生命形式的邊緣，它不僅標(biāo)志著進(jìn)化上的突破，也會(huì)對(duì)人類(lèi)物種的生存構(gòu)成潛在威脅。真的是這樣嗎？

機(jī)器人幼兒園

“歡迎來(lái)到機(jī)器人幼兒園，” 38歲的彼得•阿比爾（Pieter Abbeel）在加州大學(xué)伯克利分校機(jī)器人學(xué)實(shí)驗(yàn)室門(mén)口說(shuō)。阿比爾2000年獲得了斯坦福大學(xué)的計(jì)算機(jī)科學(xué)博士學(xué)位，在“如何教會(huì)機(jī)器人聰明地思考”領(lǐng)域，他是一名世界級(jí)的專(zhuān)家。

但是在教會(huì)它們聰明地思考之前，阿比爾首先必須教會(huì)它們思考。“這就是為什么我們說(shuō)這是幼兒園的原因，”他開(kāi)玩笑說(shuō)。布雷特（Brett）是一個(gè)六英尺高的人形機(jī)器人，是這個(gè)幼兒園眾多“學(xué)生”中的一個(gè)。它由硅谷廠商柳樹(shù)車(chē)庫(kù)（Willow Garage）制造，幾年前被該實(shí)驗(yàn)室買(mǎi)下用來(lái)做實(shí)驗(yàn)。阿比爾和學(xué)生教布雷特玩玩具：木錘、塑料玩具飛機(jī)、一些巨型樂(lè)高積木。

可編程工業(yè)機(jī)器人出現(xiàn)已經(jīng)很久了，你可以在工廠里看到那種將模塊插入PC板的機(jī)器人，它們重復(fù)同樣的動(dòng)作，每小時(shí)300次。那種機(jī)器人并不智能。

但近年來(lái)，機(jī)器學(xué)習(xí)（模仿人類(lèi)大腦、讓機(jī)器自己學(xué)習(xí)東西的算法）取得了很多突破，計(jì)算機(jī)識(shí)別語(yǔ)音和視覺(jué)模式的能力因而突飛猛進(jìn)。

阿比爾的目標(biāo)是給機(jī)器人灌輸一種通用智能——認(rèn)識(shí)世界，以便它們能夠自己學(xué)會(huì)完成任務(wù)的方式。他還有很長(zhǎng)的路要走。 “機(jī)器人的學(xué)習(xí)能力還不如一個(gè)兩歲的小孩，”他說(shuō)。布雷特學(xué)會(huì)了完成一些簡(jiǎn)單任務(wù)，比如疊衣服。

對(duì)于人類(lèi)來(lái)說(shuō)很簡(jiǎn)單的事情，比如明白桌子上一團(tuán)皺巴巴的東西實(shí)際上是一條毛巾，這對(duì)于機(jī)器人來(lái)說(shuō)卻相當(dāng)困難。部分原因是機(jī)器人沒(méi)有常識(shí)，沒(méi)有之前嘗試疊毛巾的記憶，以及最重要的是，它們對(duì)毛巾是什么東西完全沒(méi)有概念。它們看到的只是一塊顏色。

小孩子在解決問(wèn)題時(shí)，往往會(huì)持續(xù)不斷地調(diào)整自己的做法。阿比爾從中受到啟發(fā)，開(kāi)創(chuàng)了一種讓機(jī)器人自學(xué)的方法。現(xiàn)在，當(dāng)布雷特整理衣物時(shí)，它會(huì)用手抓起卷成團(tuán)的毛巾，試圖弄明白它的形狀，搞清如何折疊它。這聽(tīng)起來(lái)很幼稚，但機(jī)器人學(xué)習(xí)疊毛巾就是這么不容易。

這將把我們帶向何方？

智能機(jī)器可以執(zhí)行的任務(wù)的復(fù)雜性正在呈指數(shù)級(jí)增長(zhǎng)。最終這將把我們帶向何方？如果機(jī)器人能夠自己學(xué)會(huì)疊毛巾，有朝一日它也會(huì)學(xué)會(huì)給你做飯，給你做手術(shù)，甚至打仗嗎？

人工智能可能有助于解決我們面臨的一些復(fù)雜問(wèn)題，比如治療癌癥和應(yīng)對(duì)氣候變化——但在短期內(nèi)，它也有可能用來(lái)開(kāi)展監(jiān)視活動(dòng)、破壞隱私，進(jìn)行電子推銷(xiāo)。除此之外，更大的問(wèn)題也隱隱呈現(xiàn)出來(lái)：機(jī)器有朝一日會(huì)擁有獨(dú)立思考、對(duì)問(wèn)題進(jìn)行推理，以及展示情緒的能力嗎？沒(méi)人知道這些問(wèn)題的答案。

智能機(jī)器的興起不同于其他任何技術(shù)革命，因?yàn)樗罱K和“人性”這個(gè)概念利益攸關(guān)。我們有可能正處在創(chuàng)造一種新的生命形式的邊緣，它不僅標(biāo)志著進(jìn)化上的突破，也會(huì)對(duì)人類(lèi)物種的生存構(gòu)成潛在威脅。

但這場(chǎng)革命已經(jīng)開(kāi)始。去年夏天，伯克利團(tuán)隊(duì)給一個(gè)仿真機(jī)器人安裝了一個(gè)短期記憶系統(tǒng)。參與該項(xiàng)目工作的計(jì)算機(jī)科學(xué)家謝爾蓋•萊文（Sergey Levine）說(shuō)，在機(jī)器人身上測(cè)試這個(gè)記憶程序時(shí)，他們注意到“一件怪事”，他們向它發(fā)出一個(gè)命令，讓它把一個(gè)木釘放在的兩個(gè)孔洞中的一個(gè)里面，或者放左邊，或者放右邊。

為了做比較，他們?cè)跊](méi)有記憶程序的時(shí)候重做了實(shí)驗(yàn) ，結(jié)果令他們吃驚：機(jī)器人仍然能夠把木釘放在正確的孔洞中。沒(méi)有了記憶程序，它是怎么記得該放哪里的？ “最終我們發(fā)現(xiàn)，一旦機(jī)器人接收到命令，它就把胳膊朝著正確的孔洞伸過(guò)去，”萊文說(shuō)。然后，在命令消失后，它可以根據(jù)自己身體的姿勢(shì)，知道該放哪個(gè)孔洞。實(shí)際上，機(jī)器人是自己想出了一個(gè)方法來(lái)正確地執(zhí)行這個(gè)命令。 “這真是非常令人驚訝，”萊文說(shuō)。 “而有點(diǎn)令人心驚肉跳。”

發(fā)展人工智能是在“召喚惡魔”？

人工智能領(lǐng)域一再出現(xiàn)新的突破：今年1月，DeepMind表示它已經(jīng)開(kāi)發(fā)了一種算法，擊敗了歐洲冠軍圍棋。圍棋比象棋更加復(fù)雜，而這種名為AlphaGo的算法將在3月中旬挑戰(zhàn)世界圍棋冠軍。當(dāng)然，人類(lèi)在這種快速發(fā)展中起到了作用，但是人們不免也會(huì)覺(jué)得，我們似乎已經(jīng)在智能機(jī)器的進(jìn)化中達(dá)到了某個(gè)拐點(diǎn)。難道我們正要目睹一個(gè)新物種的誕生嗎？還需要多長(zhǎng)的時(shí)間，機(jī)器就會(huì)變得比我們更加聰明？

在近期的一次會(huì)議上，特斯拉及SpaceX公司創(chuàng)始人伊隆•馬斯克（Elon Musk）突發(fā)驚人之語(yǔ)，說(shuō)發(fā)展人工智能是在“召喚惡魔”。不過(guò)他后來(lái)承認(rèn)，這么說(shuō)有點(diǎn)言過(guò)其實(shí)。他說(shuō)，“智能機(jī)器的突飛猛進(jìn)提出了一些嚴(yán)肅的問(wèn)題，我們需要考慮自己作為人類(lèi)的身份，需要考慮我們正在為自己打造什么樣的未來(lái)。”正如他所指出的，我們對(duì)機(jī)器的依賴(lài)已經(jīng)是個(gè)不爭(zhēng)的事實(shí)：“我們已經(jīng)成為了那種靠機(jī)電裝置維持生命的人了，你試試把手機(jī)關(guān)上一段時(shí)間——你就會(huì)明白幻肢綜合癥是什么意思。”

這并不是說(shuō)，超級(jí)智能機(jī)器只有在變得超級(jí)邪惡之后，才會(huì)對(duì)我們?nèi)祟?lèi)構(gòu)成威脅。 “人工智能真正的風(fēng)險(xiǎn)不是惡意，而是競(jìng)爭(zhēng)力，”物理學(xué)家霍金最近提出。 “超級(jí)智能機(jī)器將非常善于實(shí)現(xiàn)自己的目標(biāo)，如果這些目標(biāo)與我們的目標(biāo)不一致，我們就麻煩了。你踩死螞蟻，可能并不是因?yàn)槟闶且粋€(gè)邪惡的螞蟻仇恨者，但如果你負(fù)責(zé)一個(gè)水電綠色能源項(xiàng)目，有一個(gè)蟻丘被水淹沒(méi)，那螞蟻就是純屬倒霉。我們不能讓人類(lèi)陷入螞蟻的這種處境。”

現(xiàn)在的人工智能有多聰明？

盡管現(xiàn)在我們有了更聰明的算法，更強(qiáng)大的機(jī)器人，超級(jí)智能機(jī)器卻仍然更像是科幻而非科學(xué)的產(chǎn)物。Facebook人工智能研究主管揚(yáng)•樂(lè)康（Yann LeCun）說(shuō)，“人工智能現(xiàn)在的聰明程度和老鼠差不多。”他說(shuō)得沒(méi)錯(cuò)。IBM花了多年時(shí)間編程，投入了數(shù)以百萬(wàn)計(jì)的美元，在2011年推出了“沃森”（Watson）程序。沃森在《危險(xiǎn)邊緣》智力游戲節(jié)目中，擊敗了最出色的人類(lèi)選手，現(xiàn)在它是IBM公司“認(rèn)知計(jì)算”項(xiàng)目的基礎(chǔ)。

它可以每秒讀取8億個(gè)頁(yè)面，可以消化維基百科的全部語(yǔ)料，更不用說(shuō)積累了幾十年的法律和醫(yī)學(xué)期刊了。但是它不能教你如何騎自行車(chē)，因?yàn)樗闹悄茴l譜很狹窄——它不知道這個(gè)世界實(shí)際上是如何運(yùn)轉(zhuǎn)的。Aristo是最先進(jìn)的人工智能程序之一，但它無(wú)法理解這樣一句話(huà)：“人呼吸空氣。”因?yàn)橐斫膺@一點(diǎn)，你需要一般性的知識(shí)——它卻沒(méi)有這樣的知識(shí)。即使它知道這句話(huà)中每個(gè)詞的定義，它也不知道人們呼吸空氣是為了生存；不知道人是每分鐘呼吸一次空氣，還是一輩子只呼吸一次。還一些令人印象深刻的服務(wù)，比如Skype翻譯（目前只有預(yù)覽版），用戶(hù)可用兩種不同的語(yǔ)言進(jìn)行實(shí)時(shí)對(duì)話(huà)，但它也有很長(zhǎng)的路要走。如果你與意大利的一個(gè)人聊天，你對(duì)天氣的談?wù)摚赡軙?huì)被翻譯成對(duì)《圣經(jīng)》的評(píng)論。

這并不是說(shuō)智能機(jī)器的興起就沒(méi)有風(fēng)險(xiǎn)。自主武器系統(tǒng)，比如武裝無(wú)人機(jī)，可以利用面部識(shí)別技術(shù)和其他數(shù)據(jù)來(lái)開(kāi)展暗殺活動(dòng)，這樣的危險(xiǎn)確實(shí)是存在的。

但它們并不對(duì)整個(gè)人類(lèi)的生存構(gòu)成威脅。有些人會(huì)想象，朝鮮黑客會(huì)突然開(kāi)發(fā)出新的算法，讓金正恩擁有了世界終結(jié)者那樣的攻擊力，這其實(shí)不太可能。因?yàn)槿斯ぶ悄芎蚷Phone不一樣，不是你寫(xiě)一個(gè)新應(yīng)用就能大功告成的事情。它更像構(gòu)建互聯(lián)網(wǎng)本身——只能通過(guò)時(shí)間來(lái)完成，它需要大量的增量發(fā)展。

夸張的想象掩蓋了真正的風(fēng)險(xiǎn)

事實(shí)上，夸張的想象反而掩蓋了智能機(jī)器興起帶來(lái)的真正風(fēng)險(xiǎn)——導(dǎo)致工人失業(yè)，在戰(zhàn)爭(zhēng)中更多使用自主武器，以及這樣一個(gè)事實(shí)：我們?cè)绞且蕾?lài)機(jī)器，出問(wèn)題的時(shí)候（無(wú)論是技術(shù)故障還是黑客攻擊），我們的風(fēng)險(xiǎn)就會(huì)越大。

這是一個(gè)關(guān)于“異化”（alienation）的問(wèn)題。如果在一個(gè)世界中，我們和機(jī)器說(shuō)話(huà)的時(shí)候多過(guò)和人說(shuō)話(huà)，而藝術(shù)不過(guò)是一種諧調(diào)悅目的算法輸出，異化就會(huì)出現(xiàn)。此外，人工智能時(shí)代也會(huì)帶來(lái)嚴(yán)重的隱私挑戰(zhàn)，這不僅僅是說(shuō)有智能無(wú)人機(jī)從上空監(jiān)視你，而且也是說(shuō)一些公司會(huì)跟蹤你的一舉一動(dòng)，目的就是為了向你銷(xiāo)售東西。

夸張的想象也掩蓋了我們與機(jī)器更深入地合作可能帶來(lái)的好處。大多數(shù)研究者，比如DeepMind的杰米斯•哈斯比斯，他們認(rèn)為，如果我們給機(jī)器提供資料，它們就可以幫我們解決諸如疾病和醫(yī)療這樣的重要問(wèn)題，可以幫助科學(xué)家應(yīng)對(duì)氣候變化等等。

技術(shù)革命往往會(huì)激發(fā)恐懼感——有時(shí)候合情合理，有時(shí)則不然。工業(yè)革命初期，英國(guó)紡織工人砸壞了機(jī)器，因?yàn)閾?dān)心自己的飯碗會(huì)被機(jī)器搶走（確實(shí)如此）。電力時(shí)代開(kāi)始的時(shí)候，人們覺(jué)得電線(xiàn)可能會(huì)引起精神錯(cuò)亂（其實(shí)沒(méi)有）。而在20世紀(jì)50年代，家電廠商還認(rèn)為很快就會(huì)出現(xiàn)核動(dòng)力吸塵器。

實(shí)際上，人類(lèi)已經(jīng)在和機(jī)器一起合作，你很難想象未來(lái)會(huì)有什么不同——不管機(jī)器人以后變得多么復(fù)雜。 著名的計(jì)算機(jī)科學(xué)家賈瑞恩•拉尼爾（Jaron Lanier）曾說(shuō)過(guò)：“算法是人類(lèi)設(shè)計(jì)的，它們反映了設(shè)計(jì)者的偏見(jiàn)。”無(wú)論是好是壞，無(wú)論我們會(huì)創(chuàng)造什么樣的未來(lái)，它都是我們?yōu)樽约涸O(shè)計(jì)和建造出來(lái)的。