報道によると、エロン・マスクのイメージを生成したAIは、数千の偽の広告で使用され、数十億ドルの詐欺損失を引き起こしました。デロイトによると、AIによる「ディープフェイク」は、毎年数十億ドルの詐欺損失を引き起こすと予想されています。
昨年末、82歳の退職老人であるスティーブ・ボーシャンプは、あるビデオを観ました。そのビデオでは、マスク氏が約束する高いリターンが得られる先進的な投資機会をサポートしており、口の動きと声が非常に一致しており、非常にリアルに見えました。その後、ボーシャンプはその会社に連絡し、248ドルの口座を開設しました。
数週間の一連の取引の後、ボーシャンプは彼の退職口座を使い果たし、69万ドル（約495万元）以上を投資しました。しかし、この老人には想像できなかったことは、このお金が最後には消えて、AIによってドライブされる新しい犯罪の前線にいる数字の詐欺師たちに送られたということです。
理由は、詐欺師たちは、マスクの真実のインタビューを編集し、AIツールを使って彼の声の代わりに複製品を使用しました。今日、AI技術は十分に発達しており、彼らが数字詐欺のために書かれた新しい脚本に合わせるために、微細な口の動きを変えることができます。一般観客にとって、このような操作は気付かれにくいかもしれません。
ボーシャンプ氏は、「映像の人物は本当に彼（マスク氏）です。今、私は本当に、彼がAIにあの言葉を言わせたのかどうかわからない」と述べました。「しかし、映像から判断すると彼が言ったのは確かである」とも述べました。
数か月間にわたり、数千のAIによるビデオ（つまり「ディープフェイク」）がインターネット上を氾濫し、「偽りのマスク発言」のために数十人の潜在的投資家を騙しました。デロイトによると、AIによる「ディープフェイク」は、毎年数十億ドルの詐欺損失を引き起こすと予想されています。
これらのビデオの制作コストはわずか数ドルであり、数分で完成します。それらはソーシャルメディアで促進され、Facebookの有料広告を含みます。これにより、その影響力が拡大しました。
「ディープフェイク」を監視および検出するSensityの共同創設者であるフランチェスコ・カバリによると、「これは深刻な「ディープフェイク」使用詐欺の可能性がある、史上最大級の事件の一つである可能性があります。」これらのビデオはよく作られており、マスク氏の特徴的なやや硬直したリズムと南アフリカの訛りをとらえています。
Sensityは2000以上の「ディープフェイク」を分析し、これらのビデオの中で最も一般的なスポークスマンはマスク氏であると述べています。 Sensityは、昨年末以来、マスク氏が約1/4の「ディープフェイク」詐欺に関与していると発見しました。また、暗号資産に特化した偽のビデオでは、マスク氏の参加率が90％近くに上ることがわかりました。
さらに、有名投資家であるウォーレン・バフェット氏やアマゾンドットコムの創業者であるジェフ・ベゾス氏も、このような「ディープフェイク」広告に頻繁に登場しています。
マスクはこれについてコメントしていない。