Deepfakes 充斥 Facebook 政治廣告，將該平台變成詐騙者的金礦

Facebook 的政治廣告空間越來越成為深度偽造詐騙和欺騙性內容的遊樂場，該平台的一些頂級廣告商捏造了美國政客承諾不存在的政府付款的視頻。

今年夏天，白宮新聞秘書卡羅琳·萊維特 （Karoline Leavitt） 的篡改視頻聲稱美國人可以申請 5,000 美元的救濟支票，並將用戶重定向到一個名為 Get Covered Today 的網站。類似的虛假視頻描繪了參議員伊麗莎白·沃倫和伯尼·桑德斯做出相同的承諾。“這不是一個噱頭，”沃倫的模仿說，儘管實際上確實如此。

根據技術透明度項目（來自《紐約時報》）的一項新分析，使用這種欺騙手段的 63 家廣告商約佔 Facebook 前 300 名政治廣告支出者的五分之一。

在過去七年中，他們總共投放了近十五萬個廣告，花費了近四千九百萬美元。雖然其中許多帳戶已被暫停，但超過一半的帳戶在本週還繼續發布新廣告。

“唯一比這些被用來欺騙美國人的深度偽造人工智能視頻更糟糕的是，Meta 從這些詐騙廣告中賺取了數千萬美元，”沃倫參議員說，並呼籲在網上加強消費者保護。

擁有 Facebook 的 Meta 禁止冒充官員或採用欺騙性做法的廣告，聲稱將「大力」執行這些規則，並承諾投資技術防禦。然而批評者表示，該公司的執法緩慢、在很大程度上是自動化的和被動的，依賴用戶或研究人員來標記詐騙。

人工智慧工具的興起使製作欺騙性廣告變得更加容易，社群媒體平台現在是網路詐欺的主要載體，超過了電話或簡訊詐騙。包括新加坡在內的聯邦監管機構和政府正在向 Meta 施壓，要求其進行打擊，並威脅說，如果該平台不採取行動，將處以罰款。

隨著 Meta 每年的廣告收入接近 160 億美元，技術透明度項目的分析表明，短期利潤往往優先於平台完整性和用戶安全。

“鐘擺已經轉向更多的短期收入考慮，而不是平台的長期健康狀況，”前 Meta 員工兼在線信任專家 Rob Leathern 說。“也許在某個時候，它必須轉向另一個方向。”