在國(guó)外人工智能成功幫助犯罪分子詐取22萬(wàn)歐元？

有消息稱華爾街日?qǐng)?bào)報(bào)道，3月英國(guó)的一家能源公司的老板讓CEO給匈牙利的供應(yīng)商打款22萬(wàn)歐元，可后來(lái)他得知，他的老板并未讓他打款?？墒窃趺磿?huì)發(fā)生這種戲劇性的失誤呢？原來(lái)CEO確信老板讓他打款，是因?yàn)樗拥搅死习宓碾娫?，要求他一小時(shí)內(nèi)進(jìn)行匯款，而且電話聲音確認(rèn)是老板。另外電話里還附了一封電子郵件，這樣CEO更加確信是老板吩咐無(wú)疑。

事實(shí)上，這是一個(gè)配備人工智能設(shè)備的詐騙人員正在使用deepfake軟件模仿這位高管的聲音，要求他的下屬在一小時(shí)內(nèi)進(jìn)行匯款。

裕利安宜公司的一位發(fā)言人后來(lái)告訴《華盛頓郵報(bào)》:“該軟件不僅能夠模仿聲音，連音調(diào)、斷句和德國(guó)口音都能模仿。電話里還附帶了一封電子郵件，能源公司的執(zhí)行官就答應(yīng)了?！?

在詐騙人員提出之后的要求后，這家能源公司的執(zhí)行官給他真實(shí)的老板打了電話，結(jié)果發(fā)現(xiàn)他同時(shí)接通著兩處電話，方才驚覺(jué)被騙了。裕利安宜拒絕透露這家能源公司或其德國(guó)母公司的名稱。

《華盛頓郵報(bào)》稱，這些錢(qián)現(xiàn)在已經(jīng)沒(méi)有了，已經(jīng)通過(guò)匈牙利和墨西哥的賬戶轉(zhuǎn)移到世界各地。

這種情況可能不是頭次發(fā)生。據(jù)《華盛頓郵報(bào)》報(bào)道，網(wǎng)絡(luò)安全公司賽門(mén)鐵克(Symantec)表示，他們已經(jīng)遇到了至少三起deepfake語(yǔ)音欺詐案件。賽門(mén)鐵克對(duì)《華盛頓郵報(bào)》表示，至少有一起案件造成了數(shù)百萬(wàn)美元的損失。這起案件似乎與裕利安宜確認(rèn)的那起不同。

這種情況突顯出人工智能研究令人擔(dān)憂的本質(zhì)，尤其是圍繞著視頻和音頻的AI創(chuàng)造。雖然沒(méi)有一家擁有大型、有能力的人工智能研究機(jī)構(gòu)的公司公開(kāi)開(kāi)發(fā)deepfake視頻軟件，但一些公司正在音頻領(lǐng)域加大研發(fā)力度。

谷歌備受爭(zhēng)議的Duplex服務(wù)使用人工智能模仿真人的聲音，這樣它就可以代表用戶打電話。一些規(guī)模較小的初創(chuàng)企業(yè)正在智能手機(jī)上免費(fèi)提供類似的服務(wù)，有時(shí)涉及隱私和數(shù)據(jù)收集方面的問(wèn)題。與此同時(shí)，科技公司和學(xué)術(shù)界的研究人員正試圖開(kāi)發(fā)deepfake檢測(cè)軟件。

在未來(lái)人工智能更加進(jìn)步的一天，我們更應(yīng)該積極優(yōu)化我們的人工智能防御系統(tǒng)，杜絕非法分子有可乘之機(jī)。

更多新聞資訊歡迎關(guān)注無(wú)錫市思美達(dá)科技有限公司，我們提供粘膠服務(wù)。