《西部世界》（Westworld）級(jí)其余人工智能會(huì)有多風(fēng)險(xiǎn)呢？國外媒體Futurism撰文稱，該電視劇商量了有關(guān)人工智能倫理和認(rèn)識(shí)的一些哲學(xué)成績，固然實(shí)際中不年夜能夠會(huì)涌現(xiàn)劇中那樣的血腥場景，但我們最好照樣要好好看待我們的AI機(jī)械人。

　　“這些殘酷的歡愉，終將以殘酷終局。”在莎士比亞和邁克爾·克萊頓的助力下，HBO的《西部世界》提醒了打造先輩的人工智能技巧會(huì)帶來的一些隱憂。

　　在《西部世界》里，表面跟人沒甚么兩樣的AI棲身于一個(gè)看似美國西部的園區(qū)。旅客只需花年夜筆的錢就可以前去園區(qū)，停止老式的西部冒險(xiǎn)運(yùn)動(dòng)。時(shí)代，他們可以隨便跟AI斗毆，也能夠***殺戮AI。旅客的槍枝能損害AI，但后者的則損害不了旅客。每次無機(jī)器人“逝世失落”，它的身材就會(huì)被收受接管清算，擦除記憶，然后再被送回園區(qū)。

　　《西部世界》中的AI平安成績

　　《西部世界》的創(chuàng)作靈感來自克萊頓之前的一部同名片子，它讓我們不由思慮我們將可以或許在多年夜水平上掌控先輩的迷信發(fā)明物。但與最后的片子分歧，《西部世界》電視劇里的機(jī)械人其實(shí)不是無惡不作的反派腳色，而是被描述成富有同情心、乃至很有人道的腳色。

　　不出不測的是，該園區(qū)的平安隱憂很快就顯現(xiàn)。園區(qū)由一名白叟擔(dān)任打理，他可以或許隨便給機(jī)械人進(jìn)級(jí)法式，不經(jīng)由其別人的平安檢討。那些機(jī)械人涌現(xiàn)回想起被荼毒的跡象。傍邊有個(gè)腳色提到，只要一行代碼可以或許阻攔機(jī)械人損害人類。

　　該節(jié)目只是談到了會(huì)帶來AI平安隱憂的一部門成績：一個(gè)“有歹意的機(jī)械人”應(yīng)用先輩的AI蓄意損害人類；軟件小小的毛病可帶來致命影響；在代碼層面臨人類的掩護(hù)缺乏。

　　不外，該節(jié)目提醒的許多平安和倫理品德成績都取決于機(jī)械人能否無意識(shí)。現(xiàn)實(shí)上，該電視劇在異常賣力地探討一個(gè)異常艱苦的成績：甚么是認(rèn)識(shí)？除此以外，人類可以或許發(fā)明出無意識(shí)的器械嗎？假如能的話，我們能掌握它呢？我們能否想要找出這些成績的謎底？

　　為了思慮這些成績，筆者采訪了喬治亞理工年夜學(xué)AI研討員馬克·里德爾和紐約年夜學(xué)哲學(xué)家年夜衛(wèi)·查爾莫斯（David Chalmers）。里德爾努力于研討打造發(fā)明性的AI，查爾莫斯則以其“認(rèn)識(shí)困難”論述而著稱。

　　AI能感觸感染到痛苦悲傷嗎？

　　被問到停止了相干編程的機(jī)械人會(huì)在多年夜水平上感觸感染到痛苦悲傷時(shí)，里德爾說道，“起首，我否決對(duì)人類、植物、人形機(jī)械人或許AI實(shí)行暴力行動(dòng)。”他接著說明道，關(guān)于人類和植物來講，感到到的痛苦悲傷是一種“避開特定安慰”的警報(bào)旌旗燈號(hào)。

　　但是，關(guān)于機(jī)械人來講，“最接近的類比能夠是強(qiáng)化進(jìn)修的機(jī)械人會(huì)碰著的體驗(yàn)，這類機(jī)械人須要停止試錯(cuò)進(jìn)修。”這類AI在停止某種行為后會(huì)收到或正面或負(fù)面的反應(yīng)，然后它會(huì)響應(yīng)調(diào)劑它將來的行動(dòng)。里德爾說，那種負(fù)面的反應(yīng)會(huì)更“相似于在盤算機(jī)游戲中輸失落分?jǐn)?shù)”，而不是感到到痛苦悲傷。

　　“機(jī)械人和AI可以經(jīng)由過程編程來像人類那樣‘表達(dá)’痛苦悲傷，”里德爾說道，“但那種痛苦悲傷會(huì)是一種幻覺。制作這類幻覺是有來由的：讓機(jī)械人可以或許以一種很輕易獲得懂得和惹起共識(shí)的方法向人類表達(dá)本身的心坎狀況。”

　　里德爾其實(shí)不擔(dān)憂AI會(huì)感觸感染到痛苦悲傷的成績。他還說，假如機(jī)械人的記憶每晚都被完整擦除，它會(huì)感到甚么都沒產(chǎn)生過一樣。但是，他指出了一個(gè)潛伏的平安成績。強(qiáng)化進(jìn)修要可以或許正常運(yùn)作，AI須要采用因正面反應(yīng)而優(yōu)化的行為。假如機(jī)械人的記憶沒有被完整擦除——假如機(jī)械人開端記起曾產(chǎn)生在本身身上的蹩腳閱歷——那它能夠會(huì)試圖躲避那些觸發(fā)負(fù)面反應(yīng)的行為或許人 。

　　里德爾說，“實(shí)際上，這些機(jī)械人可以或許進(jìn)修事后籌劃以最合算的方法下降取得負(fù)面反應(yīng)的能夠性……假如機(jī)械人除曉得取得正面反應(yīng)照樣負(fù)面反應(yīng)以外，其實(shí)不清晰本身的行為會(huì)帶來的影響，那這也能夠意味著它們會(huì)提早行為來避免遭到人類的損害。”

　　但他指出，在可預(yù)感的將來，機(jī)械人的才能還缺乏以帶來這類擔(dān)心。假設(shè)機(jī)械人真有那末壯大的才能，那會(huì)給它們帶來負(fù)面反應(yīng)的成績能夠會(huì)給人類帶來威逼。

　　AI可以或許取得認(rèn)識(shí)嗎？

　　查爾莫斯的意見則略有分歧。“我是這么看認(rèn)識(shí)成績的，這些存在無意識(shí)仿佛不存在甚么疑問……它們表示得具有異常豐碩的情緒生涯……這表現(xiàn)在它們可以或許感到痛苦悲傷和思慮成績上……它們其實(shí)不只是表示出前提反射式的行動(dòng)，它們還會(huì)思慮它們地點(diǎn)的處境，它們有在停止推理。”

　　“很明顯，它們是有知覺的。”他彌補(bǔ)道。查爾莫斯說，與其測驗(yàn)考試界說機(jī)械人如何才算成心義，還不如想一想它們?nèi)狈α松趺础Ｋ赋觯钪饕氖牵鼈內(nèi)狈ψ栽谝庵竞陀洃洝５牵覀冊(cè)S多人都邑不自發(fā)地墮入習(xí)氣傍邊，難以自拔。不可勝數(shù)的人都存在極真?zhèn)€記憶成績，但沒有人認(rèn)為強(qiáng)奸或許殺戮他們并沒有不當(dāng)。

　　“在這個(gè)節(jié)目中，假如說荼毒AI是被許可的，那是由于它們?nèi)狈α松趺矗諛佑捎谄溆嗑売桑?rdquo;查爾莫斯問道。在查爾莫斯看來，《西部世界》描寫的特定場景也許其實(shí)不實(shí)際，由于他其實(shí)不以為二專心智實(shí)際會(huì)帶來認(rèn)識(shí)，乃至關(guān)于機(jī)械人也不會(huì)。“比擬之下，經(jīng)由過程編程讓機(jī)械人直接監(jiān)控本身的設(shè)法主意要來得簡略很多”

　　但這照樣會(huì)帶來風(fēng)險(xiǎn)。“假如你面臨的是像這么龐雜、像這么聰慧的機(jī)械人，你會(huì)想它能否很輕易掌握？”查爾莫斯問道。任何情形下，以欠妥的方法看待機(jī)械人都能夠會(huì)給人類的平安帶來威逼。打造有意識(shí)的機(jī)械人，我們會(huì)見臨它們學(xué)到毛病的經(jīng)驗(yàn)的風(fēng)險(xiǎn)；非有意地（或許像《西部世界》那樣成心地）打造無意識(shí)的機(jī)械人，我們也面對(duì)它們由于被荼毒和壓制而對(duì)抗人類的風(fēng)險(xiǎn)。

　　在《西部世界》第二集中，招待員被問她是否是“真人”，她答復(fù)說，“假如你分辯出來，又有甚么所謂呢？”這番話聽上去仿佛很有事理。