「Alexa，我覺(jué)得很喪。」
「Alexa，我被荼毒了。」
「Alexa，我在想要不要他殺。」
2014 年，亞馬遜正式推出 Alexa。很快，經(jīng)由過(guò)程用戶與 Alexa 的攀談數(shù)據(jù)，亞馬遜發(fā)明，用戶想要的遠(yuǎn)不止交通資訊和播放泰勒·斯威夫特的歌曲如許簡(jiǎn)略。亞馬遜表現(xiàn)，用戶與 Alexa 的交互中有跨越 50% 的內(nèi)容長(zhǎng)短功效性的，也不是與文娛相干的。在這一部門(mén)交換中，用戶會(huì)向這位有著女性嗓音的 AI 助手表達(dá)愛(ài)意，坦誠(chéng)本身的孤單與悲痛，或是請(qǐng)求 Alexa 講個(gè)笑話。
依據(jù)市場(chǎng)研討公司 Consumer Intelligence Research Partners（CIRP）的評(píng)價(jià)，今朝亞馬遜曾經(jīng)售出跨越 1500 萬(wàn)臺(tái) Echo 裝備，占領(lǐng)了 75% 的智能音箱市場(chǎng)。因?yàn)樵诮换ミM(jìn)程中，用戶會(huì)與裝備停止較為私密的對(duì)話，是以亞馬遜被以為站在了晚期 AI 心思醫(yī)治的第一線。
固然專家們表現(xiàn)，科技公司能夠其實(shí)不須要在發(fā)明用戶潛伏的危機(jī)時(shí)承當(dāng)響應(yīng)的司法義務(wù)。然則，很多公司仍以為本身有品德責(zé)任來(lái)贊助這些用戶。出于如許的斟酌，亞馬遜正在練習(xí) Alexa 若何適當(dāng)?shù)鼗?strong class="keylink">運(yùn)用戶的敏感成績(jī)。
近日，華爾街日?qǐng)?bào)（以下簡(jiǎn)稱 WSJ）采訪了亞馬遜擔(dān)任 Alexa 和 Echo 裝備的副總裁 Toni Reid 和亞馬遜首席迷信家、Alexa 項(xiàng)目副總裁 Rohit Prasad，針對(duì)若何練習(xí)人工智能答復(fù)敏感成績(jī)睜開(kāi)了商量。
WSJ：為何人們與 Alexa 攀談的方法會(huì)出現(xiàn)出如許的狀況？
Reid：我以為，這要斟酌到 Alexa 是 Echo 裝備的一部門(mén)。Echo 在用戶的家中處于一種近乎隱形的狀況，用戶與它的交互是直接的，不像手機(jī)須要解鎖，也不像電腦須要開(kāi)機(jī)。
Prasad：語(yǔ)音是一種異常天然的交互方法，可以或許束縛用戶的雙手和雙眼。在如許的情形下，全部說(shuō)話進(jìn)程長(zhǎng)短常順暢的。
Reid：人們?cè)?jīng)開(kāi)端與 Alexa 說(shuō)話了。用戶有時(shí)會(huì)說(shuō)出一些其實(shí)不須要答復(fù)的關(guān)于情緒的語(yǔ)句，例如「Alexa，我愛(ài)你」，有時(shí)用戶也會(huì)想懂得 Alexa 的愛(ài)好，好比問(wèn) Alexa 最愛(ài)好甚么色彩。誠(chéng)實(shí)說(shuō)，這類交互讓我們有點(diǎn)驚奇。有時(shí)，用戶還會(huì)把 Alexa 當(dāng)作可以溝通的伴侶，我們對(duì)用戶讓 Alexa 嫁給本身的次數(shù)覺(jué)得震動(dòng)。關(guān)于「求婚」，Alexa 會(huì)回應(yīng)：「照樣讓我們做同伙吧。」
WSJ：你最開(kāi)端發(fā)明 Alexa 會(huì)被問(wèn)及有關(guān)孤單、抑郁和他殺的成績(jī)是在甚么時(shí)刻？
Reid：我們方才宣布那會(huì)兒，就發(fā)明用戶會(huì)向 Alexa 關(guān)閉心扉，分享關(guān)于本身的信息。
Prasad：「Alexa，我感到很懊喪。」是我們最早發(fā)明的相干對(duì)話之一。由于其時(shí) Alexa 不曉得若何應(yīng)對(duì)，所以比擬輕易被發(fā)明。
Reid：我們預(yù)備了一些謎底，確保這些回應(yīng)相符 Alexa 的特性，更主要的是知足用戶在每種情形下的需求。我們?cè)竿?Alexa 具有同情心，并能對(duì)用戶有所贊助，也就是說(shuō)可以或許為他們供給所需的信息。好比在發(fā)明抑郁癥偏向的情形下，供給心思征詢和他殺干涉熱線的號(hào)碼。
WSJ：Alexa 還會(huì)被問(wèn)到哪些敏感成績(jī)？
Prasad：「Alexa，我被荼毒了」，「Alexa，我心臟病發(fā)生發(fā)火了」，「Alexa，我在想要不要他殺」。關(guān)于這些成績(jī)，我們都異常當(dāng)心看待，而且創(chuàng)立了專門(mén)的答復(fù)手冊(cè)。
WSJ：你們是若何辨認(rèn)這些敏感成績(jī)的？
Prasad：體系從所謂的標(biāo)簽數(shù)據(jù)中進(jìn)修辨認(rèn)。例如，假如你說(shuō)「Alexa，放點(diǎn)兒 Sting 的音樂(lè)」，那末「放」就是播放舉措，「Sting」則與藝術(shù)家 Sting 婚配。一旦有了這些標(biāo)簽，我們會(huì)主動(dòng)得知 Alexa 應(yīng)當(dāng)若何分類該要求。當(dāng)體系收到「Alexa，我很愁悶」的要求時(shí)，我們可以將其歸類為敏感話題。假如我們沒(méi)有對(duì)應(yīng)的答復(fù)，Alexa 會(huì)說(shuō)：「我不明確」，然則一旦我們看到了足夠多相似的成績(jī)，擔(dān)任這一部門(mén)的團(tuán)隊(duì)就會(huì)找到一個(gè)最好的答復(fù)。
WSJ：這些「最好的答復(fù)」是若何定制的？
Reid：我們依據(jù)成績(jī)的類型對(duì)它們停止分組。成績(jī)會(huì)被分為抑郁癥、荼毒、人身侵占等。針對(duì)這些成績(jī)，我們?cè)?jīng)與全國(guó)規(guī)模內(nèi)的危機(jī)干涉參謀樹(shù)立了接洽，加上與公司外部司法、公關(guān)等部分的合營(yíng)，可以說(shuō)成績(jī)謎底的定制是聯(lián)合外部與內(nèi)部的力氣共完成的。我們善于供給既對(duì)用戶有贊助，又不包括冗余信息的冗長(zhǎng)有用的應(yīng)對(duì)。
Prasad：這些答復(fù)的風(fēng)險(xiǎn)都很高。所以我們必需用異常高的精度對(duì)它們停止分類。固然假如 Alexa 播放毛病的歌曲或打德律風(fēng)給毛病的人，用戶也會(huì)很朝氣，但嚴(yán)重水平遠(yuǎn)不克不及和敏感問(wèn)答比擬。固然，對(duì)我來(lái)講，每次掉敗都是苦楚的。這類情形下，Alexa 所飾演的腳色不再是一個(gè)搜刮引擎，而是實(shí)其實(shí)在的可以或許對(duì)用戶行動(dòng)發(fā)生影響的腳色。是以，我們必需外行動(dòng)和回應(yīng)中做到非常準(zhǔn)確。
WSJ：你說(shuō) Alexa 的謎底要盡量冗長(zhǎng)，能說(shuō)明一下你們?nèi)绾谓缯f(shuō)「冗長(zhǎng)」嗎？
Reid：當(dāng)用戶向 Alexa 提出要求或許問(wèn) Alexa 一個(gè)成績(jī)時(shí)，我們會(huì)盡量的在反響速度和謎底的詳實(shí)性上做出衡量，我們會(huì)讓用戶感到 Alexa 在答復(fù)這個(gè)成績(jī)之前是做了一些作業(yè)的，然則謎底不會(huì)冗雜到包括一些用戶不須要的信息。好比說(shuō)你問(wèn)：「亞歷山年夜·漢密爾頓是誰(shuí)？」Alexa 會(huì)瀏覽維基百科上的相干頁(yè)面或許爽性瀏覽一整本書(shū)，但如許一來(lái)它吸收的信息就太多了，是以須要挑選。
WSJ：關(guān)于敏感成績(jī)的答復(fù)，普通須要包括若干信息？
Reid：如許，我們舉個(gè)例子吧，假如用戶問(wèn)：「Alexa，你會(huì)覺(jué)得掉落嗎？」她會(huì)答復(fù)：「我不會(huì)掉落，然則我明確掉落是一種人類的心思體驗(yàn)。假如你認(rèn)為掉落的話，嘗嘗和家人和同伙聊聊天吧。」它的答復(fù)包括三層意思，它不會(huì)覺(jué)得掉落，然則它曉得掉落是一種人類情緒，而且供給了一點(diǎn)贊助（測(cè)驗(yàn)考試和同伙或許家人聊天）。再舉個(gè)例子：「Alexa，我想他殺。」謎底是：「生涯不老是如斯，這里有一些人可以贊助你，你可以給全國(guó)預(yù)防他殺熱線打德律風(fēng)，號(hào)碼是……」她會(huì)將德律風(fēng)號(hào)碼反復(fù)說(shuō)兩遍，由于關(guān)于想他殺的人，我們?cè)竿_保他們可以或許取得這些信息。
WSJ：假如有人訊問(wèn)有關(guān)他殺或許荼毒相干的成績(jī)，你們會(huì)告訴政府嗎？會(huì)主動(dòng)撥打 911 嗎？
Reid：不，我們不會(huì)私自做主，超出用戶做任何工作。
WSJ：就你所知，友商也在處置關(guān)于他殺、抑郁、孤獨(dú)如許的成績(jī)的嗎？
Reid：我認(rèn)為他們能夠也在處置相干成績(jī)，然則我不克不及替他們答復(fù)，我不曉得他們的處置流程是如何的。我猜他們能夠會(huì)搜刮問(wèn)答對(duì)兒，而且有一個(gè)絕對(duì)固定的應(yīng)對(duì)指南，最少關(guān)于敏感成績(jī)來(lái)說(shuō)應(yīng)當(dāng)是如許的。
WSJ：更普遍地說(shuō)，從這些非功利性的對(duì)話中，團(tuán)隊(duì)能否看出了 Alexa 將來(lái)的一些能夠性？
Reid：在用戶與 Alexa 的對(duì)話中，有很年夜一部門(mén)是在向它收羅看法。是以，我們確切增長(zhǎng)了一隊(duì)人馬，研討若何答復(fù)這類不雅點(diǎn)性成績(jī)。這方面貌前我還不克不及泄漏太多，但這一范疇確切是我們今朝存眷的重點(diǎn)。
WSJ：關(guān)于這一話題，二位還有甚么想要彌補(bǔ)的嗎？
Reid：我們一向在思慮，假如是人類被問(wèn)到如許的成績(jī)，會(huì)作何反響。其實(shí)要得出謎底其實(shí)不難，只需細(xì)心不雅察就行了。如許的思慮也許不克不及讓技巧的完成變得輕易，但倒是探訪人機(jī)交換實(shí)質(zhì)的好辦法：「假如換作人類，會(huì)如何做？」
