AI Now 在其舉行的 AI 專家年度研究會(huì)約請(qǐng)了一百多位相干范疇的研討人員，會(huì)議評(píng)論辯論了 AI 對(duì)社會(huì)經(jīng)濟(jì)的影響，在會(huì)上，AI Now 宣布了第二份 AI 年度研討申報(bào)。

　　固然"對(duì) AI 抱有很高的希冀，但我們也要留意到，疾速推動(dòng)將 AI 體系整合到高風(fēng)險(xiǎn)范疇正面對(duì)著偉大的挑釁。就拿刑事司法范疇來說，Propublica 團(tuán)隊(duì)及多邏輯學(xué)者發(fā)明，法庭和法律部分用于猜測(cè)刑事罪犯再次犯法的算法，能夠?qū)Ψ且崦绹舜嬗邢喈?dāng)明顯的成見。而在醫(yī)療保健范疇中，匹茨堡年夜學(xué)醫(yī)學(xué)中間的研討發(fā)明，一種用于醫(yī)治肺炎的 AI 體系缺乏了一項(xiàng)對(duì)嚴(yán)重并發(fā)癥的風(fēng)險(xiǎn)評(píng)價(jià)。教導(dǎo)范疇中，德克薩斯州的教員評(píng)價(jià)算法存在嚴(yán)重缺點(diǎn)，教員們是以告狀了他們地點(diǎn)的學(xué)區(qū)并取得勝利。

　　上述這些例子只是冰山一角，沒有提到的、還沒有為人所知的例子還有許多。帶來的一個(gè)挑釁是，AI 行業(yè)今朝缺乏尺度化的測(cè)試形式和審核辦法，沒法完整防止算法誤差來保證它們的平安性。但是，晚期的 AI 體系正被引入多個(gè)范疇，如醫(yī)療、金融、司法、教導(dǎo)和任務(wù)場(chǎng)合。這些體系愈來愈滲透人們的平常生涯中，用于猜測(cè)人們的音樂喜好、生病幾率、合適的任務(wù)和假貸金額等等。

　　羅列的這些成績(jī)并不是蓄意濫用 AI 技巧而至，而是由于在 AI 技巧的應(yīng)用進(jìn)程中，沒有效于確保平安性或許公正性的相干流程及尺度，更沒有深刻思慮它們帶來的社會(huì)效應(yīng)。盡人皆知，當(dāng)新藥上市前，一定經(jīng)由嚴(yán)厲的測(cè)試，并連續(xù)檢測(cè)中歷久的后果。在這類范疇要慎之又慎，由于一旦失足，將會(huì)給人們形成嚴(yán)重?fù)p害。關(guān)于高風(fēng)險(xiǎn)范疇的 AI 體系亦如斯。

　　AI Now 在這份申報(bào)中，為 AI 行業(yè)的研討人員和決議計(jì)劃者供給了十項(xiàng)建議。須要留意的是，這十項(xiàng)建議并不是處理方法，而是進(jìn)一步任務(wù)的終點(diǎn)。雖然 AI 產(chǎn)物正在敏捷成長(zhǎng)，但對(duì)算法成見和公平的研討尚處于晚期階段，假如想要確保 AI 體系可以或許被擔(dān)任任地安排與治理，還有許多的工作須要去做。AI Now 表現(xiàn)，他們將努力于進(jìn)一步研討，并停止普遍的社辨別享。

　　十項(xiàng)建議

　　建議一

　　刑事司法、醫(yī)療保健、福利和教導(dǎo)等高風(fēng)險(xiǎn)范疇內(nèi)的焦點(diǎn)公共機(jī)構(gòu)不該再應(yīng)用“黑盒子”的 AI 技巧和算法體系，包含未經(jīng)審查和驗(yàn)證的情形下應(yīng)用預(yù)練習(xí)模子，采取第三方供給商受權(quán)的 AI 體系及外部創(chuàng)立的算法。

　　公共機(jī)構(gòu)應(yīng)用這類體系會(huì)惹起"對(duì)這類法定訴訟法式的嚴(yán)重任憂。這些體系至多要經(jīng)由公共審計(jì)、測(cè)試和審查的流程，并遵照響應(yīng)的問責(zé)制。

　　這帶來了一個(gè)嚴(yán)重改變：這條建議反應(yīng)了 AI 及相干體系曾經(jīng)對(duì)一些嚴(yán)重決議計(jì)劃發(fā)生了影響。在曩昔一年，亦有很多可這一點(diǎn)作證的研討申報(bào)。人們也執(zhí)政向這個(gè)目的進(jìn)步：從特克薩斯州教員評(píng)價(jià)訴訟案到 10 月份紐約市議會(huì)一項(xiàng)關(guān)于保證算法決議計(jì)劃體系的通明度和測(cè)試的法案。

　　James Vacca，來自紐約市布隆克斯區(qū)的市議員，2015 年提出地下市政決議計(jì)劃算法的提案。

　　建議二

　　在宣布 AI 體系之前，企業(yè)應(yīng)當(dāng)停止嚴(yán)厲的預(yù)宣布測(cè)試，以確保不會(huì)因?yàn)榫毩?xí)數(shù)據(jù)、算法或其他體系設(shè)計(jì)的緣由，招致體系涌現(xiàn)任何毛病及誤差的產(chǎn)生。

　　因?yàn)?AI 范疇的成長(zhǎng)一日千里，是以停止測(cè)試的辦法、假定和測(cè)試成果，都應(yīng)當(dāng)?shù)叵峦鳌⒂忻靼装姹荆兄陧槕?yīng)更新進(jìn)級(jí)及新的發(fā)明。

　　AI Now 以為，開辟體系并從中獲利的公司應(yīng)承當(dāng)響應(yīng)的測(cè)試及保證環(huán)節(jié)的義務(wù)，包含預(yù)宣布版的測(cè)試。AI 范疇離尺度化辦法還有很長(zhǎng)的路要走，這也是為何 AI Now 建議這些辦法和假定須要地下審查和評(píng)論辯論的緣由。假如假以光陰，AI 范疇制訂出了硬朗性測(cè)試尺度，那末這類開放性相當(dāng)主要。即便采取了尺度化辦法，試驗(yàn)室測(cè)試也未必能碰到一切的毛病和盲點(diǎn)，是以也就有了第三項(xiàng)建議。

　　建議三

　　在宣布 AI 體系后，公司應(yīng)持續(xù)監(jiān)控其在分歧情況和社區(qū)中的應(yīng)用情形。

　　監(jiān)視的辦法和成果應(yīng)經(jīng)由過程地下通明、學(xué)術(shù)嚴(yán)謹(jǐn)?shù)倪M(jìn)程來界定，并向"擔(dān)任。特殊是在高風(fēng)險(xiǎn)決議計(jì)劃情況中，應(yīng)優(yōu)先斟酌傳統(tǒng)邊沿化社區(qū)的不雅點(diǎn)和經(jīng)歷。

　　確保 AI 和算法體系的平安性長(zhǎng)短常龐雜的成績(jī)，在給定體系的性命周期中須要堅(jiān)持連續(xù)的進(jìn)程，而非做完就忘的短時(shí)間磨練。為了確保 AI 體系不會(huì)由于文明假定和范疇產(chǎn)生轉(zhuǎn)變時(shí)引入毛病和誤差，是以須要對(duì)靜態(tài)用例和情況停止監(jiān)控。異樣值得留意的是，很多 AI 模子和體系有通用性，其產(chǎn)物能夠會(huì)采取即插即用的附加功效，如情緒檢測(cè)或許臉部辨認(rèn)等。這意味著供給通用 AI 模子的公司也可斟酌選擇曾經(jīng)同意應(yīng)用的功效，這些功效曾經(jīng)斟酌過潛伏的缺點(diǎn)和風(fēng)險(xiǎn)等身分。

　　建議四

　　讓 AI 體系運(yùn)用于任務(wù)場(chǎng)合治理和監(jiān)測(cè)方面（包含雇用和人力資本環(huán)節(jié)），還須要停止更多的研討并制訂響應(yīng)的政策。

　　這項(xiàng)研討將重點(diǎn)彌補(bǔ)現(xiàn)有主動(dòng)化替換工人的研討，要特殊留意對(duì)休息者權(quán)力和做法的潛伏影響，特別是要留意把持的潛伏行動(dòng)和在雇用和提升進(jìn)程中有意強(qiáng)化的成見。

　　HireVue 成立于 2004 年，總部位于美國猶他州，是收集雇用的前驅(qū)之一，并一向努力于網(wǎng)上視頻面試。但它不只僅是應(yīng)用收集攝像頭贊助企業(yè)面試應(yīng)聘者，HireVue 還可以供給雇用治理處理計(jì)劃，贊助企業(yè)處置求職請(qǐng)求，并制訂決議計(jì)劃，而應(yīng)聘者只需經(jīng)由過程手機(jī)或電腦錄制視頻。

　　關(guān)于 AI 和休息力的爭(zhēng)辯平日會(huì)合中在自愿流浪掉所的工人身上，這是一個(gè)異常嚴(yán)重的成績(jī)。然則，AI Now 也以為懂得 AI 和算法體系在全部任務(wù)場(chǎng)合中應(yīng)用的情形，也一致主要，包含行動(dòng)助推（AI 前哨注：行動(dòng)經(jīng)濟(jì)學(xué)中的助推實(shí)際，經(jīng)由過程解析人的認(rèn)知行動(dòng)，設(shè)計(jì)更人道化、有用的選擇情況，影響人們的行動(dòng)，贊助人們更好的做決議計(jì)劃。該實(shí)際由 Thaler 提出，是以取得 2017 年諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)。）、到檢測(cè)環(huán)節(jié)，再到績(jī)效評(píng)價(jià)的一切進(jìn)程。例如，一家名為 HireVue 的公司比來安排了一個(gè)基于 AI 的視頻面試辦事，用于剖析應(yīng)聘者的講話、肢體說話和腔調(diào)，肯定應(yīng)聘者能否相符一家給定公司的“最好員工”的尺度，因?yàn)檫@些體系能夠會(huì)削減多樣性并穩(wěn)固現(xiàn)有的成見，是以人們須要下更多的工夫去充足懂得 AI 若何融入治理、雇用、調(diào)劑和平常任務(wù)場(chǎng)合的理論中。

　　行動(dòng)經(jīng)濟(jì)學(xué)家 Richard Thaler 提出了助推實(shí)際，是以取得了 2017 年諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)。

　　建議五

　　制訂尺度，跟蹤體系全部性命周期的來源、開辟進(jìn)程及練習(xí)數(shù)據(jù)集的應(yīng)用情形。

　　為了更好地懂得和監(jiān)視誤差和代表性誤差（representational skews）的成績(jī)，這條建議長(zhǎng)短常有需要的。除卻更好地記載練習(xí)數(shù)據(jù)集的創(chuàng)立和保護(hù)進(jìn)程外，AI 誤差范疇的社會(huì)迷信家和丈量研討人員還應(yīng)當(dāng)持續(xù)磨練現(xiàn)有的練習(xí)數(shù)據(jù)集，并盡力懂得能夠已存在現(xiàn)實(shí)任務(wù)中的潛伏盲區(qū)和誤差。

　　AI 依附年夜范圍數(shù)據(jù)來發(fā)明形式并作出猜測(cè)。這些數(shù)據(jù)反應(yīng)了人類汗青，但也弗成防止地反應(yīng)了練習(xí)數(shù)據(jù)集的成見和偏見。機(jī)械進(jìn)修技巧關(guān)于提取統(tǒng)計(jì)形式很拿手，但常常在歸納綜合罕見案例的進(jìn)程中疏忽了分歧的異常值，這就是為何不依據(jù)數(shù)據(jù)外面價(jià)值停止誤差研討的主要緣由。這類研討要從懂得 AI 體系的數(shù)據(jù)從哪里開端，并尋蹤這些數(shù)據(jù)在體系中若何應(yīng)用，還要跟著時(shí)光推移來驗(yàn)證給定的數(shù)據(jù)集。懂得這一點(diǎn)，人們方能更好懂得數(shù)據(jù)中反響的毛病與誤差，從而開辟出能在數(shù)據(jù)的開辟和收集中辨認(rèn)這類情形并加重其毛病的辦法。

　　建議六

　　超出狹窄的技巧界限，跨學(xué)科成長(zhǎng) AI 誤差研討懈弛解戰(zhàn)略的研討。

　　誤差成績(jī)由來已久，是一個(gè)構(gòu)造性的成績(jī)，處理這個(gè)成績(jī)的需要門路之一就是深度的跨學(xué)科研討。研討人員試圖找出可以或許依然如故的完全處理的辦法，卻不知這嚴(yán)重低估了這個(gè)成績(jī)?cè)谏鐣?huì)層面中的龐雜性。須知在教導(dǎo)、醫(yī)療保健、刑事司法等范疇中，誤差成績(jī)戰(zhàn)爭(zhēng)等活動(dòng)的遺產(chǎn)都有本身的汗青和理論。不聯(lián)合響應(yīng)的范疇專業(yè)常識(shí)，就不克不及完全處理誤差成績(jī)。要處理誤差成績(jī)就須要跨學(xué)科的協(xié)作，并尊敬分歧學(xué)科的紀(jì)律。

　　比來，AI 和算法誤差范疇的任務(wù)有喜人的跡象，但 AI Now 提示人們不要向壁虛擬，不然，極可能會(huì)涌現(xiàn)體系在不曉得若何優(yōu)化下卻被“優(yōu)化”的風(fēng)險(xiǎn)。盤算機(jī)迷信家可以經(jīng)由過程與司法、醫(yī)學(xué)、社會(huì)學(xué)、人類學(xué)和流傳學(xué)等范疇的專家協(xié)作，在 AI 數(shù)據(jù)構(gòu)成及高低文集成之前，更好地輿解數(shù)據(jù)地城的構(gòu)造性不屈等的成績(jī)。

　　建議七

　　亟需 AI 體系落地運(yùn)用的審查尺度與標(biāo)準(zhǔn)。

　　制訂這些尺度與標(biāo)準(zhǔn)須要聯(lián)合各類學(xué)科及同盟的不雅點(diǎn)，制訂進(jìn)程要以地下、嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)立場(chǎng)停止，并按期審查和修訂。

　　今朝還沒有肯定的辦法可以或許權(quán)衡評(píng)價(jià) AI 體系在其運(yùn)用的社會(huì)范疇中所發(fā)生的影響。鑒于今朝尚處晚期的 AI 體系曾經(jīng)給一些高風(fēng)險(xiǎn)的社會(huì)范疇形成了影響，這是一個(gè)必需看重的成績(jī)，燃眉之急是制訂 AI 范疇的尺度和辦法。

　　建議八

　　AI 范疇的公司、年夜學(xué)、會(huì)議及其他好處相干者應(yīng)頒布介入其任務(wù)的女性、多數(shù)族裔和其他邊沿群體的人數(shù)。

　　如今許多人熟悉到這一成績(jī)：今朝 AI 范疇研討人員缺少多樣性，但該成績(jī)的嚴(yán)重性缺少細(xì)粒度數(shù)據(jù)的論證。為了樹立真正包涵的任務(wù)場(chǎng)合，須要對(duì)科技行業(yè)的任務(wù)文明停止更深條理的評(píng)價(jià)，這就須要數(shù)據(jù)的支持，而不是僅僅多雇傭女性和多數(shù)族裔就完事。

　　發(fā)明 AI 體系的人自己持有的假定和不雅點(diǎn)必將會(huì)影響到 AI 體系。AI 的開辟人員多為男性白人，有著類似的教導(dǎo)配景。今朝已有證據(jù)注解這類情形會(huì)形成成績(jī)，如語音助手“聽不懂”女性聲響、AI 助手沒法供給有關(guān)婦女安康的信息等。文明的多樣性研討在普通科技范疇有必定的停頓，但在 AI 范疇的結(jié)果卻寥若晨星。假如 AI 要向平安、公正、可以或許普遍運(yùn)用的偏向成長(zhǎng)，人們就不克不及只存眷多樣性和包涵性，還要確保 AI 公司的文明是迎接文明女性、多數(shù)族裔和其他邊沿群體的。

　　建議九

　　AI 行業(yè)應(yīng)聘任盤算機(jī)迷信與工程之外的學(xué)科專家，并確保他們具有決議計(jì)劃權(quán)。

　　跟著 AI 在分歧的社會(huì)和機(jī)構(gòu)范疇的運(yùn)用日增月益，影響愈來愈多的高風(fēng)險(xiǎn)決議計(jì)劃，人們必需盡力將社會(huì)迷信家、司法學(xué)者和其他范疇的專家聯(lián)合起來，配合指點(diǎn) AI 的創(chuàng)立與整合，構(gòu)成歷久的理論標(biāo)準(zhǔn)。

　　正如人們不愿望讓律師去優(yōu)化深度神經(jīng)收集一樣，人們也不該該讓 AI 研討人員可以或許成為刑事司法專家。同理，關(guān)于一切須要整合信息技巧的其他社會(huì)范疇亦如斯。是以，人們須要司法、安康、教導(dǎo)等范疇的專家介入出去，贊助引導(dǎo)決議計(jì)劃，確保 AI 不會(huì)老練地低估該范疇的龐雜流程、汗青和情況。

　　建議十

　　AI 范疇須要嚴(yán)厲監(jiān)視和問責(zé)機(jī)制，確保 AI 范疇棄舊圖新。

　　旨在引誘人力資本范疇的品德守則應(yīng)附有強(qiáng)無力的監(jiān)視和問責(zé)機(jī)制。須要進(jìn)一步展開任務(wù)，就若何將高條理的倫理準(zhǔn)繩和最好做法原則與平常開辟進(jìn)程，促銷和產(chǎn)物宣布周期停止本質(zhì)性接洽。

　　一些盤算機(jī)行業(yè)集團(tuán)機(jī)構(gòu)正在制訂品德守則，以確保 AI 開辟的平安與對(duì)等。但是，這些做法都是出于團(tuán)隊(duì)自愿，普通只要絕對(duì)高真?zhèn)€組織才會(huì)將請(qǐng)求 AI 開辟人員將"好處放在較高的優(yōu)先級(jí)。然則，配合好處若何決議？將由誰決議？除去由誰代表"好處這一成績(jī)外，AI 代碼在品德方面還要聯(lián)合明白的問責(zé)機(jī)制，還須認(rèn)識(shí)到 AI 行業(yè)在鼓勵(lì)形式和權(quán)利分派方面存在紕謬稱的情形。

　　譯者感言：

　　AI 最年夜的成績(jī)是人們沒法準(zhǔn)確地說明 AI 體系為什么做出那樣的決議，沒有方法解開它的蓋子，窺視外部的任務(wù)場(chǎng)景，我們只能選擇信任它。這就為我們帶來了偉大的挑釁。我們?cè)撊艉涡湃?AI 呢？這也是全球"廣泛擔(dān)心的成績(jī)之一。哈佛法學(xué)院互聯(lián)網(wǎng)司法傳授 Jonathan Zittrain 已經(jīng)說：“在技巧贊助下，我們的體系變得愈來愈龐雜，我很擔(dān)憂人類的自立性被削減。假如我們?cè)O(shè)置了體系，然后將其忘諸腦后，體系的自我演化帶來的效果能夠讓我們懊悔莫及。對(duì)此，今朝還沒有明白的品德層面上的斟酌。”

　　假如我們可以或許制訂行業(yè)尺度和品德尺度，并周全懂得 AI 存在的風(fēng)險(xiǎn)，然后樹立以倫理學(xué)家、技巧專家和企業(yè)引導(dǎo)工資焦點(diǎn)的監(jiān)管機(jī)制異常主要。這是應(yīng)用 AI 為全人類謀福利的最好方法。人工智能的潛力與威逼，其實(shí)一向都取決于人類本身。