Synced最近對全年的人工智能十大“失敗案例”進(jìn)行了首次總結(jié)(2018 in Review： 10 AIFailures)。

　　AI人臉識別闖紅燈 董明珠躺槍

　　董明珠在寧波“闖紅燈”被抓?原來是在過馬路時公交廣告上董小姐的“大頭照”太明顯，一下子被闖紅燈人臉識別系統(tǒng)捕捉到，竟然誤以為是真人!董小姐人在家中，卻在社交媒體上不幸躺槍成了“jaywalker”。

　　那輛巴士剛好被投放了印有董明珠頭像的廣告。當(dāng)這輛巴士行駛在寧波中山東路，經(jīng)過江夏橋東一帶時，恰好從中間垂直方向穿過了一條亮著紅燈的斑馬線，而車身廣告上董明珠的照片正臉剛好對準(zhǔn)了一側(cè)的紅燈，如果是個真人的話，TA的確是在闖紅燈。高大上的AI檢測系統(tǒng)頓時變成“人工智障”，把照片當(dāng)成了真人，直接把這輛公交車拍了下來，還鎖定了車身上董明珠的照片，判定此人闖紅燈。該系統(tǒng)還從數(shù)據(jù)庫里搜索，把董明珠的車身廣告照片和一行「***，在江夏橋東違法闖紅燈」曝光到了大屏幕上。寧波交警事后回應(yīng)稱，技術(shù)人員已經(jīng)對該系統(tǒng)進(jìn)行了全面升級。

　　Uber自動駕駛汽車殺死一名行人

　　在公共道路上第一個已知的與車輛相關(guān)的自動駕駛行人死亡事件中，優(yōu)步的自動駕駛SUV于3月28日在亞利桑那州的Tempe市撞倒了一名女性行人，致其當(dāng)場死亡。

　　Uber發(fā)現(xiàn)其自動駕駛軟件決定在汽車傳感器檢測到行人后卻沒有采取任何行動。根據(jù)美國國家運輸安全委員會關(guān)于事故的初步報告，這是因為Uber的自動模式禁用了沃爾沃工廠安裝的自動緊急制動系統(tǒng)。

　　在悲劇發(fā)生之后，Uber在北美城市暫停了自駕駕駛測試，而Nvidia和豐田也在美國停止了自駕車道路測試。事故發(fā)生8個月后，Uber宣布計劃在匹茲堡恢復(fù)自駕車路試，盡管該公司的自駕車未來仍然不明朗。

　　IBM Watson醫(yī)療保健出現(xiàn)重大漏洞

　　BM最初是一個問答機(jī)器，一直在廣泛的應(yīng)用程序和流程(包括醫(yī)療保健)中探索Watson的AI功能。 2013年，IBM開發(fā)了Watson首個針對癌癥治療推薦的商業(yè)應(yīng)用程序，該公司在過去五年中與醫(yī)院和研究中心建立了許多重要的合作伙伴關(guān)系。但Watson AI Health并沒有給醫(yī)生留下深刻印象。一些人抱怨它對癌癥治療提出了錯誤的建議，可能會導(dǎo)致嚴(yán)重甚至致命的后果。

　　據(jù)報道，在沒有顯著進(jìn)步的項目上花費數(shù)年后，IBM正在縮小Watson Health的規(guī)模并裁掉該部門員工的一半以上。

　　亞馬遜AI招聘工具性別歧視

　　據(jù)報道，亞馬遜人力資源部門在2014年至2017年期間使用了支持AI的招聘軟件來幫助審核簡歷并提出建議。然而，該軟件對男性申請人更有利，因為其模型是在過去十年中提交給亞馬遜的簡歷上接受培訓(xùn)的，當(dāng)時雇用了更多的男性候選人。

　　據(jù)報道，該軟件降級了包含“女性”一詞的簡歷，或暗示申請人是女性，例如因為他們曾就讀過女子大學(xué)。亞馬遜此后放棄了該軟件。該公司并未否認(rèn)使用該工具提出建議，但表示從未用于評估候選人。

　　DeepFakes將色情主角錯認(rèn)成《星戰(zhàn)》Daisy Ridley

　　去年12月，Reddit網(wǎng)上出現(xiàn)了一些國際頂級女星——25歲《星戰(zhàn)》女星黛絲烈尼(Daisy Ridley)的色情視頻，原因竟然是是“DeepFakes”采用生成對抗網(wǎng)絡(luò)，將明星的臉與色情視頻中女性的臉進(jìn)行了交換。

　　雖然面部交換技術(shù)已經(jīng)開發(fā)多年，但DeepFakes的方法顯示，任何擁有足夠面部圖像的人現(xiàn)在都可以制作他們自己非常有說服力的假視頻。色請視頻的創(chuàng)作者，就是將《星球大戰(zhàn)》知名演員Daisy Ridley的臉與上面的色情女星交換了。

　　2018年，逼真的名人假視頻依舊充斥著互聯(lián)網(wǎng)。雖然這種方法在技術(shù)上并非“失敗”，但其潛在的危險是嚴(yán)重而深遠(yuǎn)的：如果視頻證據(jù)不再可信，這可能會進(jìn)一步鼓勵流傳假新聞。