據報道，AI生成的埃隆·馬斯克的形象，已經出現在數千條虛假廣告中，並導致了數十億美元的欺詐損失。德勤預計，AI驅動的「深度僞造」（deepfake）預計每年將造成數十億美元的欺詐損失。
去年年底，82歲的退休老人Steve Beauchamp觀看了一段視頻。視頻中馬斯克支持一個承諾快速回報的激進投資機會，口型與聲音都高度吻合，看起來極爲真實。於是，Beauchamp聯繫了這家公司，開設了一個248美元的帳戶。
經過數週的一系列交易，Beauchamp耗盡了他的退休帳戶，最終投資了69多萬美元（約合495萬元）。但令這位老人沒有想到的是，這些錢最終卻消失了，輸送給了那些處於AI驅動的新犯罪前沿的數字騙子。
原因是：騙子對馬斯克的一篇真實採訪進行編輯，利用AI工具，使用複製品代替了他的聲音。如今，AI技術已經足夠先進，可以改變微小的嘴部動作，以匹配他們爲數字欺詐而編寫的新劇本。對於一個普通的觀衆來說，這種操縱可能是難以察覺的。
Beauchamp對此表示：「畫面上的人物，的確是他（馬斯克）。現在，我真的不知道是不是AI讓他說出了那番話。但就畫面而言，那就是他。」
近幾個月來，數千個AI驅動的視頻（即「深度僞造」）充斥着互聯網，這些視頻以「虛假的馬斯克言論」欺騙了數十名潛在投資者。據德勤估計，這種由AI驅動的「深度僞造」預計每年將造成數十億美元的欺詐損失。
這些視頻的製作成本只有幾美元，可以在幾分鐘內完成。它們在社交媒體上得到推廣，包括在Facebook的付費廣告中，從而擴大了其影響力。
監控和檢測「深度僞造」的Sensity公司的聯合創始人Francesco Cavalli表示：「這可能是有史以來最大的由『深度僞造』驅動的騙局。」這些視頻往往栩栩如生，捕捉到了馬斯克標誌性的相對僵硬的節奏和南非口音。
Sensity分析了2000多個「深度僞造」，稱馬斯克是這些視頻中最常見的發言人。Sensity發現，自去年年底以來，馬斯克參與了近1/4的「深度僞造」騙局。而在那些專注於數字加密貨幣的虛假視頻中，馬斯克的參與率更是高達近90%。
此外，著名投資者禾倫·巴菲特和亞馬遜創始人傑夫·貝索斯，也經常出現在這種「深度僞造」廣告中。
對此，馬斯克尚未發表評論。