（一）定義

深度偽造技術（Deepfake）是指利用人工智能、機器學習、神經網絡等方法來偽造圖片、音頻及視頻等內容的一種技術手段。它是人工智能技術發展過程中衍生出來的，核心原理是利用生成對抗網絡或者卷積神經網絡等算法對語音、圖像、文字等信息內容進行修改。例如，2017 年，一位網名為 “deepfakes” 的用戶利用人工智能技術，將以色列女演員蓋爾?加朵的臉替換在色情片女主角上，并發布一系列換臉女明星的色情片視頻，深度偽造技術由此首次出現在大眾視野。

基于深度學習的生成模型是深度偽造的技術基礎，主要有生成對抗網絡（GAN）和變分自編碼器（VAE）。生成對抗網絡包括生成器和分類器，通過兩者的對抗訓練，最終達到生成以假亂真的圖片的目的。目前較為常用的生成對抗網絡模型有 InfoGAN、CycleGAN 等。變分自編碼器相比自編碼器具有更好的耐噪聲能力，在深度偽造過程中通過添加解碼器和編碼器或者在編碼中注入信息來進行身份或動作的篡改。

深度偽造技術的發展帶來了嚴重的安全威脅，因此人們開始關注針對深度偽造技術的對抗策略。圖像與視頻的深度偽造檢測技術主要分為針對偽造痕跡進行取證的檢測方法和數據驅動的檢測方法。前者主要檢測 “圖像處理取證，生物信息，融合痕跡，時序連貫和模型指紋” 等圖像偽造痕跡；后者則利用卷積神經網絡對常用的人臉偽造方法進行檢測，得到相關的特征向量，再判斷輸入圖像是否經過偽造。語音深度偽造檢測一般分為前端和后端，分別從音頻中提取聲學特征，以及利用分類模型根據聲學特征對目標音頻進行分類，從而判斷語音是否經過偽造。目前，一些先進的深度偽造檢測工具和技術也在不斷涌現，如 Sentinel、英特爾的實時深度偽造檢測器、WeVerify、微軟視頻驗證工具以及使用音視元素不匹配進行深度偽造檢測的技術等。這些工具和技術利用先進的人工智能算法，以不同的方式分析和檢測深度偽造，為應對深度偽造的威脅提供了有力的手段。

深度偽造技術對國際關系的影響不可小覷。它會破壞國際社會的戰略互信并沖擊脆弱的和平環境。從國際形勢穩定的角度看，深度偽造與其他顛覆性數字技術相結合，將極大地降低全球和區域多邊機構以及國際關系行為體彼此間的信任。根據美國權威數據科學公司的一項測試，通過語音生成算法，只需要借助兩小時的語料并訓練五天時間，就可以模擬一份以假亂真的特朗普向俄羅斯宣戰的語音。對于在國際社會試圖制造事端的國家與非國家行為體而言，它們可以隨時獲取和利用深度偽造技術，擴大參與并深度影響國際關系形勢。

深度偽造很可能會成為國際恐怖活動的催化劑。早期的恐怖組織缺乏制作虛假但可信的音頻和視頻的資源，如今隨著深度偽造技術的成熟，它們可以輕而易舉地制造這類作品了?？植澜M織通過深度偽造的視頻或音頻，針對對手包括政府官員發表煽動性言論或從事挑釁性行動，最大限度地對其目標受眾產生有利于恐怖組織的影響。例如，恐怖組織可能利用深度偽造技術制作虛假的領導人講話，煽動民眾的不滿情緒，從而達到其恐怖活動的目的。

深度偽造技術可能操縱新聞輿論，消解公眾信任，影響社會穩定。人工智能為虛假信息的傳播者提供了快速偵察目標國家社交媒體受眾并識別其心理弱點的能力。人工智能驅動的系統可以快速生成修改過的內容和深度偽造的數字產品，從而推動針對目標國家民眾和國家利益的虛假敘事，沖擊目標國家民眾的心理。

眾所周知，我們對世界的經驗以及我們對世界作出自信判斷能力需要我們有一些證據來源。然而，深度偽造技術的出現使得這些證據的真實性受到了挑戰。虛假的新聞報道、視頻和圖片可能會誤導公眾，影響公眾對事件的判斷和決策。例如，在一些重大事件中，深度偽造的新聞報道可能會引發社會的恐慌和不穩定。

此外，深度偽造技術還可能被用于政治目的，影響選舉結果。虛假的候選人演講視頻、新聞報道可能會誤導選民，影響選舉的公正性和合法性。在一些國家的選舉中，已經出現了深度偽造技術被用于影響選舉的情況，這引起了國際社會的廣泛關注。

在快手信息流投放中，常常會遇到新計劃新素材流量少以及老計劃老素材消耗低等問題。新計劃新素材流量少可能表現為新廣告是否過審、新廣告計劃 / 組是否開啟、日預算是否過低等情況。若出現這些問題，需要檢查基礎設置、適當提高日預算。同時，定向是否過多也會影響流量，適當放開定向后，1 - 2 個小時觀察曝光數量。此外，新廣告視頻內容若和歷史素材一致也會導致流量少，此時需要修改素材，視頻情節可以一致，但拍攝的主人公要不一致。還有 OCPC 出價過低的情況，可適當提高目標轉化出價（5%-20%），3 個小時調整一次。若自查無果，可提供廣告計劃、組、廣告 ID 給快手運營，說明具體表現及嘗試的操作。

老計劃老素材可能會出現 ECPM 高但消耗低的情況。定向過多時，適當放開定向，放開后 1 - 2 個小時觀察曝光數量。若 ECPM 每小時持續下跌、CTR 每小時下跌，可更換視頻封面。廣告質量分過低、負反饋多、素材過于虛假誘導時，需要修改視頻內容。實際 CVR 過低時，要檢查視頻是否引導下載、視頻與頁面內容相關性是否高、下載地址 / 表單提交是否暢通。自查無果同樣可提供廣告計劃、組、廣告 ID 給快手運營，說明具體情況及嘗試操作。

深度偽造技術給消費者和企業帶來了巨大損失，成為網絡欺詐的難題。例如，僅 2022 年一年，冒名欺詐就給英國消費者造成了 1.07 億英鎊的損失，給美國消費者造成了 26 億美元的損失，給新加坡造成了 1.01 億新元的損失。在中國，利用 AI 實施電信詐騙的案例也屢見不鮮。2023 年 5 月，內蒙古包頭市公安局電信網絡犯罪偵查局發布一起使用智能 AI 技術進行電信詐騙的案件，福州市某科技公司法人代表郭先生 10 分鐘內被騙 430 萬元。騙子通過智能 AI 換臉和擬聲技術，佯裝好友對他實施了詐騙。

在企業側，不法分子可通過深度偽造技術偽造員工身份，進而非法訪問企業內部系統。通過精心制作的偽造視頻和音頻，模仿高層管理人員的面部表情、語氣甚至行為模式，增加對指令的信任度，實現非法操作或竊取敏感數據。這不僅可能導致企業遭受重大經濟損失，還可能泄露核心商業機密，影響企業的競爭力。Gartner 預測，到 2026 年，30% 的企業將因為 AI 生成的人臉生物識別深度偽造攻擊，而認為此類身份認證和驗證解決方案不再能夠起到可靠的作用。到 2025 年，生成式 AI 的采用將導致企業機構所需的網絡安全資源激增，使應用和數據安全支出增加 15% 以上。

政府在應對深度偽造技術帶來的風險中起著至關重要的作用。制定相關法律法規是明確深度偽造技術使用邊界和責任的關鍵步驟。例如，中國已出臺《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》和《生成式人工智能服務管理暫行辦法》等法律法規，對計算機合成內容進行管控，要求對算法生成合成的信息做顯著標識，并明確了提供互聯網新聞信息服務的算法推薦服務提供者和使用者的責任，不得生成合成虛假新聞信息。

歐盟于 2022 年 6 月更新《反虛假信息行為準則》，要求社交媒體公司從其平臺上刪除深度偽造和其他虛假信息，否則將處以高達公司全球營收 6% 的罰款。歐盟《數字服務法》也要求平臺展示舉報和刪除非法內容的機制。

美國眾議員也提出了相關法案，如《真實的政治廣告法案》和《人工智能披露法案》，對競選廣告提出人工智能生成內容披露要求，在任何人工智能生成的內容中添加披露聲明。

通過這些法律法規的制定和實施，可以有效地加強對深度偽造技術的監管，打擊利用該技術進行的違法犯罪活動。

科技公司和研究機構應承擔起技術防范的重任。加大對深度偽造技術的研究力度，開發相應的技術手段來檢測和防范深度偽造內容的傳播。

目前，已經有許多先進的深度偽造檢測技術涌現出來。例如，英特爾推出的 FakeCatcher 實時深度偽造檢測儀，以 96% 的準確率檢測出虛假視頻，并在幾毫秒內返回結果。微軟視頻驗證工具可以分析靜態照片或視頻，并提供置信度分數，以表明媒體是否被操縱，檢測深度偽造的混合邊界和人眼無法察覺的細微灰度元素。

此外，基于頻域信息的深度偽造檢測算法也取得了優秀的準確率和 ROC 曲線下面積，且在面對低質量視頻時，具有更好的魯棒性。

科技公司和研究機構還應不斷創新，提高虛假內容識別準確率，為防范深度偽造提供更強大的技術支持。

加強對深度偽造技術的科普宣傳是提高公眾辨別能力的重要途徑。通過教育和培訓，提高公眾的科學素養，增強對深度偽造技術的認知和警惕。

可以利用各種媒體渠道，如電視、報紙、網絡等，向公眾普及深度偽造技術的原理、風險和識別方法。例如，介紹深度偽造技術是如何通過人工智能算法生成虛假內容的，以及如何通過一些特征來判斷視頻、音頻或圖像是否為深度偽造。

同時，還可以通過舉辦科普講座、展覽等活動，讓公眾親身體驗深度偽造技術的效果，提高他們的辨別能力。

提高公眾意識不僅可以減少深度偽造對個人的影響，還可以形成全社會共同防范深度偽造的良好氛圍。