盤(pán)點(diǎn) | 2018 年十大 AI 失敗案例,Uber的自動(dòng)駕駛汽車(chē)肇事致行人死亡!

時(shí)間:2019-03-02

來(lái)源:36氪

0

導(dǎo)語(yǔ):人工智能已經(jīng)取得了顯著的進(jìn)步,許多科學(xué)家夢(mèng)想創(chuàng)造出Pedro Domingos提出的“主算法”——能夠解決人類(lèi)設(shè)想的所有問(wèn)題。然而研究人員、新興技術(shù)和有偏見(jiàn)的數(shù)據(jù)也會(huì)犯下人類(lèi)無(wú)法想象的錯(cuò)誤。

   人工智能已經(jīng)取得了顯著的進(jìn)步,許多科學(xué)家夢(mèng)想創(chuàng)造出Pedro Domingos提出的“主算法”——能夠解決人類(lèi)設(shè)想的所有問(wèn)題。然而研究人員、新興技術(shù)和有偏見(jiàn)的數(shù)據(jù)也會(huì)犯下人類(lèi)無(wú)法想象的錯(cuò)誤。

  這就是為什么我們有必要總結(jié)人工智能的失敗之處:這篇文章的目的不是貶低或嘲笑研究和開(kāi)發(fā)結(jié)果,而是看看哪里出了問(wèn)題,以便下次能做得更好。

  所以,讓我們來(lái)總結(jié)一下2018年的10大人工智能失敗案例。

  1

  中國(guó)著名企業(yè)家被誤識(shí)為交通違紀(jì)人員

  中國(guó)的主要城市目前已經(jīng)在使用人工智能來(lái)解決亂穿馬路的問(wèn)題。交通警察部門(mén)在十字路口部署了使用面部識(shí)別技術(shù)的智能攝像頭,以檢測(cè)和識(shí)別亂穿馬路的人,這些人的部分名字和面孔會(huì)被模糊地顯示在公共屏幕上。

  然而,中國(guó)南方城市寧波的人工智能系統(tǒng)最近上演了尷尬一幕,因?yàn)樗e(cuò)誤將一位亂穿馬路的人“識(shí)別”成了中國(guó)著名企業(yè)家董明珠。這一錯(cuò)誤迅速傳遍了中國(guó)各大社交媒體,寧波警方為此道歉。但董明珠并不擔(dān)心,還在微博上寫(xiě)道:“誤拍是小事。平安重要。”

  CloudWalk深度學(xué)習(xí)研究員Zhou Xiang告訴Synced,問(wèn)題可能出在缺乏實(shí)時(shí)檢測(cè)上。“在這個(gè)距離的情況下進(jìn)行實(shí)時(shí)檢測(cè)還是有一定困難的,雖然將圖像識(shí)別為真人現(xiàn)在非常普遍。”

  2

  Uber的自動(dòng)駕駛汽車(chē)肇事致行人死亡

  2018年3月28日,美國(guó)亞利桑那州Tempe市,一輛Uber自動(dòng)駕駛SUV撞倒一名女性行人,導(dǎo)致其死亡。Uber的車(chē)輛當(dāng)時(shí)處于自動(dòng)駕駛模式。

  Uber發(fā)現(xiàn),自動(dòng)駕駛軟件在汽車(chē)傳感器檢測(cè)到行人后決定不采取任何制動(dòng)。美國(guó)國(guó)家運(yùn)輸安全委員會(huì)(US National Transportation Safety Board)對(duì)這起事故的初步調(diào)查報(bào)告顯示,Uber的自動(dòng)駕駛模式使Volvo工廠安裝的自動(dòng)緊急制動(dòng)系統(tǒng)失效。

  這場(chǎng)悲劇發(fā)生后,Uber暫停了在北美城市的自動(dòng)駕駛測(cè)試,Nvidia和Toyota也停止了在美國(guó)的自動(dòng)駕駛公路測(cè)試。事故發(fā)生8個(gè)月后,Uber宣布計(jì)劃恢復(fù)匹茲堡的自動(dòng)駕駛公路測(cè)試,不過(guò)該公司未來(lái)的自動(dòng)駕駛愿景仍不確定。

  3

  IBM的Watson 系統(tǒng)在醫(yī)療方面力有不逮

  根據(jù)Stat獲得的內(nèi)部文件,佛羅里達(dá)州Jupiter醫(yī)院的一名醫(yī)生在談到IBM的旗艦人工智能程序Watson時(shí)表示:“這款產(chǎn)品簡(jiǎn)直就是一坨屎。”IBM最初將Watson作為答錄機(jī)開(kāi)發(fā),后來(lái)也探索其在包括醫(yī)療在內(nèi)的廣泛應(yīng)用。2013年,IBM開(kāi)發(fā)了Watson在癌癥推薦療法方面的首個(gè)商業(yè)應(yīng)用程序,過(guò)去5年里,該公司與多家醫(yī)院和研究中心建立了合作關(guān)系。但Watson的AI能力并沒(méi)有給醫(yī)生留下深刻印象。一些人抱怨它在癌癥治療方面給出的錯(cuò)誤的建議可能會(huì)導(dǎo)致嚴(yán)重甚至致命的后果。

  據(jù)報(bào)道,IBM在這個(gè)項(xiàng)目上花費(fèi)了數(shù)年時(shí)間,卻沒(méi)有取得重大進(jìn)展,現(xiàn)在該公司正在精簡(jiǎn)Watson醫(yī)療系統(tǒng),裁減該部門(mén)一半以上的員工。

  4

  亞馬遜的人工智能招聘軟件存在性別歧視

  據(jù)報(bào)道,亞馬遜人力資源部在2014年至2017年期間使用了一款支持人工智能的招聘軟件,幫助審查簡(jiǎn)歷并提出建議。然而,該軟件被發(fā)現(xiàn)對(duì)男性求職者更有利,因?yàn)樗哪J绞歉鶕?jù)過(guò)去10年提交給亞馬遜的簡(jiǎn)歷進(jìn)行設(shè)計(jì)的,當(dāng)時(shí)亞馬遜聘用了更多的男性求職者。

  據(jù)報(bào)道,該軟件會(huì)對(duì)簡(jiǎn)歷中含有“女性”字樣或暗示申請(qǐng)者是女性的簡(jiǎn)歷進(jìn)行降級(jí)。亞馬遜后來(lái)放棄了這款軟件。該公司沒(méi)有否認(rèn)使用該工具來(lái)提供推薦,但表示從未將該工具用于評(píng)估求職者。

  5

  DeepFakes暴露出人工智能不得體的一面

  2017年12月,Reddit網(wǎng)上出現(xiàn)了一些國(guó)際頂級(jí)女星的色情視頻,原因是“DeepFakes”將明星的臉與色情視頻中女性的臉進(jìn)行了交換。雖然面部交換技術(shù)已經(jīng)發(fā)展了很多年,但DeepFakes的方法表明,任何擁有足夠多面部圖像的人,現(xiàn)在都可以制作出非常有說(shuō)服力的假視頻。

  2018年,逼真的名人假視頻依舊充斥著互聯(lián)網(wǎng)。雖然從技術(shù)上講,這種方法不算“失敗”,但其潛在的危險(xiǎn)是嚴(yán)重而深遠(yuǎn)的——視頻證據(jù)不再可信可能會(huì)進(jìn)一步鼓勵(lì)虛假新聞的傳播。

  6

  Google Photo出現(xiàn)了bug

  Google Photo可以自動(dòng)檢測(cè)具有相同背景或者場(chǎng)景的圖像并將它們合并成一張全景。今年1月,Reddit用戶(hù)“MalletsDarker”發(fā)布了三張?jiān)诨﹦俚嘏臄z的照片:兩張是風(fēng)景照,另一張是他朋友的照片。當(dāng)Google Photo將這三張照片合并在一起時(shí),就出現(xiàn)了下面這張搞笑的圖片。

  社交媒體贊揚(yáng)了谷歌算法對(duì)圖像的巧妙混合,同時(shí)嘲笑了它在構(gòu)圖基礎(chǔ)方面的愚蠢。

  7

  LG的機(jī)器人Cloi遭遇滑鐵盧

  LG的物聯(lián)網(wǎng)助手Cloi本應(yīng)于2018年1月8日在拉斯維加斯的國(guó)際消費(fèi)電子展(CES 2018)上大顯身手的。Cloi本來(lái)應(yīng)當(dāng)能夠識(shí)別控制家電的語(yǔ)音命令。然而,當(dāng)這款可愛(ài)的機(jī)器人進(jìn)行現(xiàn)場(chǎng)演示時(shí),觀眾們發(fā)現(xiàn)它沒(méi)有回應(yīng)LG營(yíng)銷(xiāo)總監(jiān)的指令,氣氛一度變得十分尷尬。

  8

  Boston Dynamics的機(jī)器人“意外”時(shí)刻

  軟銀行旗下的機(jī)器人制造商Boston Dynamics今年不止一次在互聯(lián)網(wǎng)上出風(fēng)頭了——該公司生產(chǎn)的機(jī)器狗SpotMini可以用身上的機(jī)械臂靈活地開(kāi)門(mén);它的人形機(jī)器人Atlas也能做到跑酷了——順利地跳過(guò)一段圓木或者一系列40厘米的臺(tái)階卻不用減速。

  但Boston Dynamics也有“糟糕”的時(shí)刻——在未來(lái)科學(xué)家和技術(shù)專(zhuān)家大會(huì)(Congress of Future Scientists and Technologists)上首次亮相時(shí),Atlas在一次演示中舉起了盒子,但正當(dāng)表演救贖準(zhǔn)備離開(kāi)時(shí),這個(gè)可憐的機(jī)器人被簾子絆倒了,笨拙地從舞臺(tái)上摔了下來(lái)。不過(guò),它摔倒的樣子倒也挺像人類(lèi)的。

  9

  人工智能對(duì)世界杯結(jié)果的預(yù)測(cè)幾乎全部錯(cuò)誤

  2018年世界杯期間,高盛(Goldman Sachs)、德國(guó)多特蒙德理工大學(xué)(Technische University of Dortmund)、Electronic Arts、Perm State National Research University等機(jī)構(gòu)的人工智能研究人員利用機(jī)器學(xué)習(xí)模型預(yù)測(cè)了多階段比賽的結(jié)果。然而,大多數(shù)預(yù)測(cè)都完全錯(cuò)誤,只有EA正確地預(yù)言了冠軍是法國(guó)隊(duì)。EA游戲引擎由許多機(jī)器學(xué)習(xí)技術(shù)支持,這些技術(shù)旨在使玩家的表現(xiàn)盡可能逼真。

  SQL Services數(shù)據(jù)科學(xué)家Nick Burns對(duì)此做出了解釋?zhuān)?ldquo;不管你的模型有多好,它們也只是建立在你數(shù)據(jù)的基礎(chǔ)上罷了……而近期的足球數(shù)據(jù)還不足以預(yù)測(cè)世界杯的表現(xiàn),有太多的信息缺失和未定義的影響存在。”

  10

  一家創(chuàng)業(yè)公司聲稱(chēng)可以從面部圖像預(yù)測(cè)智商

  以色列一家機(jī)器學(xué)習(xí)領(lǐng)域的創(chuàng)業(yè)公司Faception聲稱(chēng)其人工智能技術(shù)可以分析面部圖像和骨骼結(jié)構(gòu),從而揭示人們的智商、個(gè)性,甚至暴力傾向。數(shù)據(jù)科學(xué)家Ben Snyder在Twitter上譴責(zé)該公司的技術(shù)說(shuō):“這是顱相學(xué)和種族歧視”。這條推文已經(jīng)被轉(zhuǎn)發(fā)了6500多次,點(diǎn)贊17000次。

標(biāo)簽: 無(wú)人駕駛 2018 AI失誤
低速無(wú)人駕駛產(chǎn)業(yè)綜合服務(wù)平臺(tái)版權(quán)與免責(zé)聲明:

凡本網(wǎng)注明[來(lái)源:低速無(wú)人駕駛產(chǎn)業(yè)綜合服務(wù)平臺(tái)]的所有文字、圖片、音視和視頻文件,版權(quán)均為低速無(wú)人駕駛產(chǎn)業(yè)綜合服務(wù)平臺(tái)獨(dú)家所有。如需轉(zhuǎn)載請(qǐng)與0755-85260609聯(lián)系。任何媒體、網(wǎng)站或個(gè)人轉(zhuǎn)載使用時(shí)須注明來(lái)源“低速無(wú)人駕駛產(chǎn)業(yè)綜合服務(wù)平臺(tái)”,違反者本網(wǎng)將追究其法律責(zé)任。

本網(wǎng)轉(zhuǎn)載并注明其他來(lái)源的稿件,均來(lái)自互聯(lián)網(wǎng)或業(yè)內(nèi)投稿人士,版權(quán)屬于原版權(quán)人。轉(zhuǎn)載請(qǐng)保留稿件來(lái)源及作者,禁止擅自篡改,違者自負(fù)版權(quán)法律責(zé)任。

如涉及作品內(nèi)容、版權(quán)等問(wèn)題,請(qǐng)?jiān)谧髌钒l(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系,否則視為放棄相關(guān)權(quán)利。

關(guān)注低速無(wú)人駕駛產(chǎn)業(yè)聯(lián)盟公眾號(hào)獲取更多資訊

最新新聞