據國外媒體報導，跟著人工智能的成長，愈來愈多的迷信家開端擔心人工智能會給人類帶來各類難以估計的影響，乃至能夠是災害。在近日揭幕的“TED2017”年夜會上，盤算機專家斯圖爾特-拉塞爾再次收回正告稱，人類制作出的事物（人工智能）將能夠退化得比人類更聰慧。拉塞爾建議，人類必需要在機械人外部預置不肯定性，以戒備它們的反水。

　　美國加州年夜學伯克利分校盤算機傳授斯圖爾特-拉塞爾說明說，固然他自己也支撐人工智能的研討，但總感到制作出一種比本身物種更加聰慧的事物其實不必定是功德情。拉塞爾建議，為了避免機械人接收我們人類，我們必需制作出忘我心的機械人，即在它們的目的義務中存在必定法式的不肯定性，應當教會它們人類價值不雅方面的常識。經由過程向人工智能體系中灌注貫注“人類知識”，迷信家必需從新界說人工智能，如許我們能力制作出無益的機械。

　　拉塞爾表現，機械人應當依照某種軌則或定律去編程，就好比科幻作家艾薩克-阿西莫夫提出的機械人三定律，以避免它們在履行義務時形成有意識的損害。艾薩克-阿西莫夫所提出的機械人三定律重要內容包含：1）機械人不得損害人類，或因作壁上觀令人類遭到損害；2）在不違反第必定律的條件下，機械人必需屈服人類的敕令；3）在不違反第一落第二定律的條件下，機械人必需掩護本身。是以，在為機械人編程時，就必需將利他主義、謙遜謹嚴的立場和其它一些人類價值不雅方面的優勝性編寫出來。拉塞爾以為，“這是人類與人工智能相互順應、協調相處的第一步。”

　　不外，蘋果Siri高等研發主管湯姆-格魯伯對人類和人工智能的將來抱有較為悲觀的立場。他以為，人工智能將可用于加強人類的忘卻力，讓人類不再會忘卻任何工作。格魯伯表現，“人工智能所帶來的超人才能是弗成防止的，這可以或許讓我們記住每一個人的名字，記住聽過的每首歌或許看過的任何事物。人工智能可以或許與人類協作，而不是很多人所擔憂的反抗，它們可以或許贊助我們人類克服極限。若何應用這一壯大的迷信技巧，我們有本身的選擇。我們既可讓它們與我們競爭，也能夠讓它們與我們協作。它們只會讓我們戰勝局限，做得更好。機械人變得愈來愈聰慧，我們人類也會加倍聰慧。”