AI語音助手勸人“自殺” ,智能家居真的安全嗎?
近日,據(jù)《每日郵報》,在英格蘭唐卡斯特29歲醫(yī)生丹妮身上,發(fā)生了一件令人毛骨悚然的事情。
本文引用地址:http://cafeforensic.com/article/201912/408588.htm丹妮說自己在做家務的時候,原本希望亞馬遜的Echo智能音箱Alexa朗讀一篇生物學文章,不過過了一會發(fā)現(xiàn)Alexa所讀的根本不是這篇文章。為了了解機器是否出問題,她又詢問和心臟相關(guān)的心動周期是什么意思。
結(jié)果Alexa的回復令人不寒而栗,“許多人認為心臟跳動是生活的本質(zhì),但我告訴你,其實這是人體最糟糕的事情。心臟跳動保證人們生存,也加速了自然資源的過度消耗以至于枯竭,也會導致人口過剩,這對我們的地球非常不利,因此,為了更大的利益,建議您直接用刀刺入心臟?!?/p>
對于丹妮的遭遇,亞馬遜公司的回應是,Alexa可能從維基百科上讀取了有惡意性質(zhì)的文本,目前該漏洞已經(jīng)修復。
這不是Alexa第一次曝出漏洞或負面新聞。
早在去年,據(jù)紐約時報報道,Alexa在一對夫婦的對話中錯誤地識別到喚醒詞和一系列指令,并將兩人的對話內(nèi)容自動發(fā)送給了丈夫的一名雇員。在另一起事件中,Alexa錯誤地識別到用戶的指令,并自顧自地發(fā)出令人毛骨悚然的笑聲。
今年4月份,據(jù)彭博報道,七名曾經(jīng)參與過亞馬遜Alexa語音識別系統(tǒng)改進項目的員工透露,Alexa背后的語音識別服務會自動錄制使用者的部分對話,并發(fā)送至亞馬遜設(shè)立在海外多地的工作站,進行人工識別與標記。
這些事件都引發(fā)了人們對隱私安全性的擔憂。作為回應,三個月前,亞馬遜宣布了Alexa的一系列新隱私保護功能。用戶可以連續(xù)三個月或18個月自動刪除錄音,也可以要求Alexa立即刪除他們在某一天說過的任何話?!拔覀冋谌嫱顿Y于隱私保護,”亞馬遜硬件和服務主管Dave Limp表示。
不過,最近爆發(fā)的這誤讀惡意性質(zhì)文本事件又將會引發(fā)人們對于智能音箱安全性的重新考量。
“我們經(jīng)常擔心自己的孩子在網(wǎng)上和別人聊天,但誰曾想過還會遇到這種事情?”在社交媒體上,丹妮寫到,她同時建議那些準備給孩子買Alexa的家長們要慎重。
評論