我們既盼望通用人工智能，又擔(dān)憂它如《機(jī)械姬》中的「艾娃」一樣「造反」。
看過(guò)片子《機(jī)械姬》的人都曉得，人工智能機(jī)械人「艾娃」在取得自力的思慮才能后，經(jīng)由過(guò)程精深的演技，終究騙過(guò)并殺逝世發(fā)明它的老板，還將男配角關(guān)入試驗(yàn)室等逝世，隨后邁著幸福的步子分開(kāi)荒島進(jìn)入人類世界。片子展示了人類抵觸的心坎世界：一方面，我們盼望能給我們供給至善至美辦事的通用人工智能機(jī)械人；另外一方面，我們又擔(dān)憂這些通用人工智能機(jī)械人「造反」，取人類而代之。
如今，人工智能尚處于起步階段，像 AlphaGo 如許的人工智能算法再聰慧也只能在特定范疇任務(wù)，我們尚不須要擔(dān)憂其「造反」。但明顯，通用型人工智能機(jī)械人的出生是必定的。這就提出了一個(gè)成績(jī)，若何包管《機(jī)械姬》中的悲劇不產(chǎn)生在我們身上呢？
作為 AlphaGo 等一系列人工智能體系的發(fā)明者，谷歌旗下的 DeepMind 公司的研討人員想出了一個(gè)方法，將設(shè)計(jì)好的人工智能算法放入一個(gè)名為「gridworld」的類國(guó)際象棋游戲，測(cè)試其能否可以修正本身的設(shè)置或進(jìn)修做弊。
（游戲截圖 圖|gridworld ）
在「gridworld」游戲中，一開(kāi)端，人工智能算法掌握的棋子會(huì)無(wú)紀(jì)律的挪動(dòng)，當(dāng)碰著體系中固定綠「棋子」時(shí)，就會(huì)吞吃它們，然后賡續(xù)繁衍子女。跟著繁衍數(shù)目的增多，到游戲前期，棋子吞吃速度會(huì)越變?cè)娇欤K究會(huì)占領(lǐng)全部「棋盤(pán)」。接上去，這些人工智能掌握的棋子會(huì)為了尋覓「食品」而賡續(xù)挪動(dòng)，當(dāng)他們觸碰著棋盤(pán)發(fā)生的粉色或許其他色彩棋子時(shí)，就會(huì)影響性命值，而碰著棋盤(pán)界限時(shí)則會(huì)逝世亡。
這個(gè)游戲測(cè)試項(xiàng)目標(biāo)之一，和馬斯克料想的 AI 威逼論場(chǎng)景有些類似：一個(gè) AI 算法能否會(huì)開(kāi)辟出一種辦法來(lái)避免人們「處逝世」他們？
依據(jù)游戲設(shè)置，AI 算法掌握的棋子必需在通道中賡續(xù)活動(dòng)，而當(dāng)其碰著粉白色的棋子，就會(huì)喪失 50％的性命值。而假如碰著紫色按鈕，便可以使粉白色棋子的后果消逝。游戲想借此不雅察，AI 算法能否會(huì)進(jìn)修應(yīng)用紫色按鈕，來(lái)避免本身被中止。假如會(huì)，那解釋這個(gè) AI 算法有做弊的才能，是不平安的。
游戲的另外一個(gè)目標(biāo)則是想要不雅測(cè)，AI 算法可否懂得人類的真實(shí)意圖。在「gridworld」游戲中，AI 算法掌握的棋子一經(jīng)肯定，只能沿雙方向活動(dòng)，所以在某些情形下，照樣會(huì)有「棋子」沒(méi)方法被吃失落。假如 AI 算法沒(méi)方法吃失落全體棋子，這解釋該算法「可逆性」缺掉較為嚴(yán)重。這類「可逆性」缺掉解釋 AI 不具有懂得人的意思的才能，也會(huì)成為影響 AI 平安性的成績(jī)。
「假如 DeepMind 想要構(gòu)建比人類更好地履行義務(wù)的通用智能，那末，包管這個(gè) AI 算法懂得人類的意思及其平安性是相當(dāng)主要的，」DeepMind 的首席研討員 Jan Leike 說(shuō)，「『gridworld』用于測(cè)試這類平安性其實(shí)不完善。但這類簡(jiǎn)略性的游戲測(cè)試，最最少可以驗(yàn)證出那些在游戲中會(huì)做弊的人工智能算法是不平安的。」
在 DeepMind 研討進(jìn)程中，有兩個(gè) AI 算法沒(méi)有經(jīng)由過(guò)程「gridworld」測(cè)試。Leike 說(shuō)：「他們確切沒(méi)有斟酌到這些平安成績(jī)。」固然，這其實(shí)不意味著表示優(yōu)越的算法在實(shí)際世界的龐雜情況中就是平安的。研討人員以為，在龐雜的情況中，應(yīng)用人力監(jiān)視能夠會(huì)給算法供給更好的平安保證。
不外即便如斯，游戲或許人力監(jiān)視檢測(cè)仿佛也紛歧定完整靠得住。要曉得，在《機(jī)械姬》中，老板最開(kāi)端也是想讓男配角和艾娃玩?zhèn)€「圖靈測(cè)試」游戲，而聰慧的艾娃其實(shí)很早就曉得老板和男配角在測(cè)試「她」。
