（朱啟超 國防科技年夜學(xué)國度平安與軍事計謀研討所所長）

　　進入21世紀，信息技巧、新資料技巧、新動力技巧、先輩制作技巧等范疇的成長沖破，驅(qū)動著人工智能的第三次海潮囊括全球，塑造著科技反動、家當(dāng)反動和軍事反動的極新面孔，惹起很多國度的高度看重。最近幾年來，人們在津津有味人工智能帶來無窮成長機會的同時，官場首腦、學(xué)界年夜咖、科技年夜佬等也紛紜表達了對人工智能能夠帶來平安挑釁的擔(dān)心。好比，俄總統(tǒng)普京以為人工智能是全部人類的將來，它將為人類供給偉大機會，但同時也存在某些沒法猜測的威逼。霍金生前曾呼吁人類須要掌握以人工智能為代表的新興科技，以避免它們在將來能夠?qū)θ祟惿嫀頁錅缧酝啤ｑR斯克宣稱人工智能是關(guān)系人類文明生死的最年夜威逼，而馬云則在一次地下演講中以為，跟著人工智能逐步祛除人類任務(wù)崗?fù)ぃ軌蛞谌问澜缒暌箲?zhàn)。

　　這些擔(dān)心究竟是為了吸引眼球而聳人聽聞，照樣心胸悲憫而庸人自擾？究竟應(yīng)若何客不雅對待人工智能能夠帶來的平安挑釁？筆者以為，人們關(guān)于人工智能的平安擔(dān)心是因為人工智能自己的技巧龐雜性、科幻顏色和運用理論的初始性形成的，是必定階段人們對人工智能深刻認知的折射反應(yīng)。

　　人工智能本是個外來詞，來自英語artificial intelligence的翻譯。廣義的人工智能是指機械人及其相干技巧，狹義的人工智能則是指可以或許模仿、延長、替換人的行動的相干技巧。這類界說方法其實為我們懂得人工智能帶來了技巧上的難度。從廣義來看，機械人相干技巧就包含了機械人設(shè)計制作、形式辨認、交換進修等許多方面。從狹義來看，任何只需是可以或許模仿、延長、替換人的行動的相干技巧都可以為是人工智能技巧，好比模仿人的思想推理、人的五感交互、人的行動形式等技巧。是以，不管是廣義照樣狹義都可以看出，人工智能不是一項單一的技巧，而是多項技巧組成的龐雜系統(tǒng)。這就為我們懂得人工智能及其能夠激發(fā)的平安成績帶來的艱苦，乃至因為關(guān)于技巧的不懂得形成了關(guān)于人工智能想象中的平安擔(dān)心或認知黑洞。

　　人工智能的技巧特征決議了人工智能具有光鮮的科幻顏色。《太空遨游》《異形》《機械姬》《終結(jié)者》等與人工智能相干的科幻年夜片許多，給人們留下了深入印象，也供給了豐碩的想象空間。因為關(guān)于技巧細節(jié)缺少懂得，關(guān)于將來的無窮向往，關(guān)于未知世界的天性恐怖，招致人們關(guān)于人工智能及其能夠發(fā)生的平安挑釁有了更多的想象，乃至走向人工智能終將撲滅人類這類極端。

　　從1956年人工智能概念的提出，半個多世紀曩昔，人們迎來了人工智能成長的第三次海潮。這一次海潮最年夜的特色是人工智能激發(fā)科技反動、家當(dāng)反動、軍事反動的交錯并進，激起了人工智能成長的微弱動力。但即使如斯，人工智能不管是從科技立異自己，照樣家當(dāng)業(yè)態(tài)和軍事運用的理論，都照樣處于一種遠未成熟的低級階段，許多科技根源成績、實際辦法成績和立異成長形式亟待獲得沖破。好比，人工智能相干腦迷信研討仍有年夜片空白，人機共生的相干實際還未樹立，人工智能家當(dāng)生態(tài)還不完美，等等。

　　客不雅對待人工智能能夠帶來的平安挑釁，是我們懂得人工智能、成長人工智能、管控人工智能的條件。人工智能自己成長的上述特色，為人們懂得人工智能帶來了難度乃至妨礙。客不雅對待人工智能能夠帶來的平安挑釁，起首須要建立準確的思想理念。

　　一是要秉承迷信的立場。人工智能帶來的平安挑釁既能夠來自于技巧不成熟，也有能夠因為工資治理管控上的疏掉，必需用迷信的立場，停止量力而行的剖析。普通來講，人工智能激發(fā)的平安成績可以分為三個條理：一是某行業(yè)某范疇或某體系內(nèi)平安操作規(guī)程治理方面的平安風(fēng)險；二是國度平安層面臨于政治、經(jīng)濟、金融、科技、國防等范疇帶來的平安挑釁；三是因為人工智能技巧的跨國應(yīng)用激發(fā)的收集平安、太空平安、核平安、反恐行為甚至國際平安管理等方面的挑釁。人工智能在分歧層面帶來的平安挑釁具有分歧的特色及應(yīng)對請求，需賜與差別看待，而不克不及一鍋煮乃至張冠李戴。

　　二是要保持成長的立場。整體上看，人工智能帶來的平安挑釁仍處于可控的規(guī)模，人們對人工智能將來成長的擔(dān)心，重要在于人工智能作為一項技巧能夠觸發(fā)更多的平安成績。另外一方面，人類作為這個星球上智力水面最高的靈長類生物，一旦人類創(chuàng)造的人工智能超出了人類本身，將弗成防止地激發(fā)對將來的天性的驚恐。汗青上，每次工業(yè)反動或技巧反動的到來早期，因為人們關(guān)于技巧的認知與理論體驗絕對缺少，都曾激發(fā)過必定水平的驚恐。

　　好比第一次工業(yè)反動早期作坊工人關(guān)于機械的抵抗與損壞，第二次工業(yè)反動早期人們關(guān)于電力應(yīng)用欠妥形成人員傷亡的驚恐。作為賡續(xù)成長演進的人類文明的產(chǎn)品，須要我們用成長的眼力對待人工智能的正面感化和能夠激發(fā)的平安挑釁，既充足施展人工智能的潛力造福人類，又可以或許有備無患管控人工智能能夠激發(fā)的平安危機。當(dāng)人們越是可以或許客不雅對待人工智能帶來的平安挑釁，就越可以或許開拓人工智能平安科技與平安家當(dāng)立異的藍海。

　　三是要保持協(xié)作的立場。人工智能技巧與信息技巧的成長慎密相干，特別是挪動寬帶通訊、年夜數(shù)據(jù)、云盤算、物聯(lián)網(wǎng)等范疇的技巧沖破，將增進人工智能相干技巧和家當(dāng)?shù)某墒臁募记商厣矗斯ぶ悄芘c信息技巧相似，都具有低本錢、易分散、難封控的特點，而且技巧一旦成熟，市場的邊沿本錢將年夜年夜下降，乃至被以為屬于“零邊沿本錢”的技巧。這使得人工智能能夠激發(fā)的平安成績也將具有易分散、難封控的特色。好比，若監(jiān)管缺掉，一個黑客就有能夠應(yīng)用新的人工智能算法及入侵技巧損壞一個國度的電網(wǎng)、公共交通批示收集等的正常運轉(zhuǎn)，激發(fā)年夜面積的災(zāi)害性效果，乃至殃及無辜。

　　從實際上說，社會信息化智能化程度越高，將會關(guān)于技巧系統(tǒng)越發(fā)依附，而一旦原本的技巧系統(tǒng)遭到?jīng)_擊，將發(fā)生新的不肯定性和軟弱性。在信息技巧、人工智能技巧等年夜成長的時期，我們面對的平安挑釁出現(xiàn)出技巧龐雜性、系統(tǒng)軟弱性的兩重特點。正因如斯，必需保持開放協(xié)作的立場，國度當(dāng)局部分、社會行業(yè)范疇及國民個別等應(yīng)配合增強對人工智能的技巧認知和理論體驗，配合應(yīng)對人工智能能夠帶來平安挑釁，那些“大家自掃門前雪”獨善其身的設(shè)法主意已與這個時期愈來愈脫節(jié)。

　　總之，關(guān)于人工智能新的成長海潮，既不克不及只看到其利而自覺追捧，也不克不及由于其潛伏的平安威逼而踟躇不前。必需客不雅熟悉人工智能的成長運用，假如人們可以或許在將來的理論中賡續(xù)防止對人工智能相干平安成績的誤會、誤判和誤用，人類依然可以或許掌控本身的命運。