試想一下：

• 一位年邁又健忘的用戶讓他/她專門照顧老年人的機(jī)器人把剛剛洗好的衣服再丟到洗衣機(jī)里去

• 一個幼兒園的小朋友命令機(jī)器人把球扔到窗外

• 一名學(xué)生讓機(jī)器人幫她完成所有的家庭作業(yè)

• 一個處于忙亂之中的主人，指示料理家務(wù)機(jī)器人運(yùn)行垃圾處理器，即使勺子和小刀還卡在里面

像這樣，對機(jī)器人進(jìn)行不恰當(dāng)指令，但并未造成實(shí)質(zhì)性損害的例子還有許多。但并不是所有案例都是良性的，即使機(jī)器人的主人在下達(dá)命令是出于好意。

想象一下，一個機(jī)器人汽車根據(jù)指令在車道上倒車，但它后面卻有一只小狗在香噴噴地睡覺，或者主人讓廚房助手機(jī)器人拿起刀子往前走，然而它卻站在一個人類廚師身后......命令很簡單，后果卻慘不忍睹。

那么，怎么樣才能使機(jī)器人既聽人類的命令，又不會造成不利后果？如果不讓機(jī)器人在狗狗周圍行駛的話，它可能會一點(diǎn)也不動了；如果要它避免拿刀刺到廚師，它可能會站住不動，或一開始就不去拿刀了。

使自主運(yùn)行的機(jī)器在行動時探測到潛在威脅，并試圖去避免威脅，或拒絕執(zhí)行指令，任何情況下都很必要。因此，我們到底該如何教機(jī)器人在恰當(dāng)?shù)那樾蜗抡f“不”呢？

| 如何使機(jī)器人預(yù)知下一步

位于波士頓的塔夫茨大學(xué)正在研發(fā)一種控制技術(shù)：機(jī)器人可基于人類指令作出簡單的推斷。這將決定機(jī)器人是會按指令行事，還是會因?yàn)橹噶钸`反了預(yù)先設(shè)定的道德準(zhǔn)則，而拒絕行動。 

要讓機(jī)器人知道什么時候、為什么、如何去拒絕執(zhí)行指令，執(zhí)行起來比口頭說說要難得多。搞清楚一個行動會造成什么危害或問題，光看問題的直接結(jié)果是不夠的——一個從窗口扔出去的球，可能會掉進(jìn)院子里，這不會造成任何傷害；但若掉到了繁忙的街道，這球可能就再也找不到了，甚至可能會導(dǎo)致司機(jī)為了躲避而突然一個急轉(zhuǎn)彎，接著導(dǎo)致車禍。情景不同，結(jié)果不同。

以現(xiàn)有的機(jī)器人技術(shù)，在和孩子玩丟球游戲與把球扔出窗外或扔進(jìn)垃圾桶之間，決定何時可以扔球，何時不可以還很困難。要是小孩子和機(jī)器人惡作劇，假裝接球卻躲過去，讓球飛出開著的窗戶的話，它就更不知道該怎么辦了。

|  向機(jī)器人解釋道德和法律

理解為何某些行為具有危險性，涉及到大量背景知識（包括在窗前玩球，球可能會飛出窗戶）。這需要機(jī)器人不僅能自主考慮到行為后果，還能思考出人類發(fā)出指令的真正意圖。
      不管人類指令是出于好意還是惡意，機(jī)器人要能通過預(yù)知行為結(jié)果，弄清楚人類復(fù)雜指令的原因是什么，并能把行為結(jié)果與社會規(guī)定的、希望或合法的社會準(zhǔn)則、道德準(zhǔn)則相比較。如上所示，現(xiàn)有機(jī)器人遵循的一般規(guī)則是：“如果機(jī)器人的行為會造成有害后果，那么他們可拒絕行動。”明確義務(wù)和權(quán)限之間的關(guān)系，能讓機(jī)器人通過可能結(jié)果，推理是否要執(zhí)行指令。

總的來說，機(jī)器人不該執(zhí)行違法或不被希望的行為。因此，他們需要了解法律、道德準(zhǔn)則，甚至是禮節(jié)，以決定行為結(jié)果，或行為本身是否違反這些準(zhǔn)則。

目前，想讓機(jī)器人處理上述情境，還有很長的道路要走。但有一點(diǎn)早已證實(shí)：要讓機(jī)器人去服從命令，它們得首先先學(xué)會拒絕。