斯蒂芬·霍金、馬斯克等人曾在國際人工智能聯(lián)席會議上，支撐經(jīng)由過程制止不受人類無意識掌握的防御性自立兵器，來阻攔人工智能軍備比賽的提議。筆者認(rèn)同他們的不雅點，也以為在需要時應(yīng)簽訂一個條約來束縛人工智能軍事化。

　　人類明天要守衛(wèi)本身，可應(yīng)用的兵器曾經(jīng)太多了，關(guān)于核兵器的管控早已經(jīng)是年夜成績，我們其實不須要在慣例兵器以外，還把人工智能用于兵器。

　　人工智能最年夜的價值在于低本錢、高效力、密集性，經(jīng)由過程年夜數(shù)據(jù)、智能進(jìn)修敏捷晉升其才能。人類對人工智能的掌握和掌握力又是軟弱和未知的。明天曾經(jīng)有年夜量的無人機(jī)、智能機(jī)械人被用于軍事行為，而將來所謂“不須要人類干涉就可以選擇目的和交兵的兵器”，關(guān)于人類社會發(fā)生的威逼變得弗成預(yù)知。外面上，這些智能機(jī)械人或是無人機(jī)作戰(zhàn)，會削減兵士的傷亡，然則這些智能機(jī)械人和無人機(jī)的進(jìn)擊對象是誰？重要照樣人類。

　　人工智能兵器最龐雜的成績，在于它的便宜與弗成控。不像核兵器制作須要極高的技巧，很難取得的原料和昂揚本錢。人工智能兵器便于年夜范圍臨盆，并經(jīng)由過程多種渠道流暢。比來我們曾經(jīng)看到在敘利亞疆場涌現(xiàn)了由平易近用無人飛機(jī)改革而成，攜帶了榴彈進(jìn)擊型的無人機(jī)，一架無人機(jī)和一支步槍的價錢鄰近，可以年夜批量臨盆，很輕易取得。

　　人工智能兵器的弗成控性還在于，即便由技巧年夜國臨盆出不須要人類干涉就可以選擇目的和交兵的兵器，但這類兵器受人類掌握的能夠性是未知的，在年夜量人工智能參與，具有了壯大的進(jìn)修才能以后，它會怎樣選擇進(jìn)擊目的，我們一竅不通，無人能包管它會被有用掌握，不會工資復(fù)制。

　　是以，在人工智能兵器還沒成為下一個“原槍彈”之時，年夜國起首須要擔(dān)起義務(wù)，在國際上構(gòu)成一個相似于制止化學(xué)和生物兵器國際協(xié)議一樣的條約，制止把人工智能用于軍事，而不克不及單靠迷信界的“良知”。假如有一天，年夜量小型、低本錢、弗成控的殺人機(jī)械眾多成災(zāi)，乃至涌現(xiàn)人工智能兵器回避人類監(jiān)管的情形，再談治理和掌握曾經(jīng)太晚了。