據報道,AI生成的埃隆·馬斯克的形象,已經出現在數千條虛假廣告中,並導致了數十億美元的欺詐損失。德勤預計,AI驅動的「深度僞造」(deepfake)預計每年將造成數十億美元的欺詐損失。
去年年底,82歲的退休老人Steve Beauchamp觀看了一段視頻。視頻中馬斯克支持一個承諾快速回報的激進投資機會,口型與聲音都高度吻合,看起來極爲真實。於是,Beauchamp聯繫了這家公司,開設了一個248美元的帳戶。
經過數週的一系列交易,Beauchamp耗盡了他的退休帳戶,最終投資了69多萬美元(約合495萬元)。但令這位老人沒有想到的是,這些錢最終卻消失了,輸送給了那些處於AI驅動的新犯罪前沿的數字騙子。
原因是:騙子對馬斯克的一篇真實採訪進行編輯,利用AI工具,使用複製品代替了他的聲音。如今,AI技術已經足夠先進,可以改變微小的嘴部動作,以匹配他們爲數字欺詐而編寫的新劇本。對於一個普通的觀衆來說,這種操縱可能是難以察覺的。
Beauchamp對此表示:「畫面上的人物,的確是他(馬斯克)。現在,我真的不知道是不是AI讓他說出了那番話。但就畫面而言,那就是他。」
近幾個月來,數千個AI驅動的視頻(即「深度僞造」)充斥着互聯網,這些視頻以「虛假的馬斯克言論」欺騙了數十名潛在投資者。據德勤估計,這種由AI驅動的「深度僞造」預計每年將造成數十億美元的欺詐損失。
這些視頻的製作成本只有幾美元,可以在幾分鐘內完成。它們在社交媒體上得到推廣,包括在Facebook的付費廣告中,從而擴大了其影響力。
監控和檢測「深度僞造」的Sensity公司的聯合創始人Francesco Cavalli表示:「這可能是有史以來最大的由『深度僞造』驅動的騙局。」這些視頻往往栩栩如生,捕捉到了馬斯克標誌性的相對僵硬的節奏和南非口音。
Sensity分析了2000多個「深度僞造」,稱馬斯克是這些視頻中最常見的發言人。Sensity發現,自去年年底以來,馬斯克參與了近1/4的「深度僞造」騙局。而在那些專注於數字加密貨幣的虛假視頻中,馬斯克的參與率更是高達近90%。
此外,著名投資者禾倫·巴菲特和亞馬遜創始人傑夫·貝索斯,也經常出現在這種「深度僞造」廣告中。
對此,馬斯克尚未發表評論。