Deepfake 威脅與困境：當今數位時代的新危機

2024-03-01

隨著我們深入數位時代，Deepfake 技術的威脅變得日益嚴重，呈現出一種既新穎又令人擔憂的悖論。想像一下，在一個「眼見不為憑」的世界裡，你的身分可以在不知不覺中被劫持，你的數位影像可能被用於娛樂消遣，甚或是犯罪。

事實上，這不是一個未來預測，而是正在發生的今日現實。

2019 年，中國的陌陌科技短暫地提供了一個換臉應用程式的未來潛力展示，它不僅展現了 Deepfake 技術劃時代的創新性，同時也預示了其危險的陷阱。陌陌科技展示了 Deepfake 將徹底改變數位媒體的生態，但在隱私侵犯的大聲疾呼中，這項應用程式很快就消聲匿跡。

但這和我們的關係是什麼呢？如今生物特徵辨識變得越來越普及，人臉辨識被廣泛運用於身分驗證環節，因此 Deepfake 技術的濫用將對於個人及國家安全造成前所未有的風險。Authme 作為 AI 身分驗證公司，正身處於這場技術防衛戰的前線，探索我們如何運用 AI 反制 AI，透過最新解決方案確保你的數位身分安全！

Deepfake 技術如何運作？

Deepfake 又稱為「深偽技術」，透過 AI 生成對抗網路（簡稱 GANs）生成逼真的假造圖像，它由兩個網路構成，分別是負責生成假圖像及影片的生成網路（Generative Network），以及負責辨識其真偽的鑑別網路（Discriminating Network）。

生成網絡： AI 模型透過學習，嘗試創造看起來非常相似的全新圖片或影像。
辨別網絡： 另一個 AI 模型負責檢視生成網路所創造的圖像，透過兩者比較決定新生成的影像是否足夠逼真。

這是它們的合作模式：

生成網絡創造一個影像，辨別網絡對其進行審查，如果辨別網絡能夠識別出它是假的，則會向生成網絡提供如何改進的反饋。
生成網絡獲得反饋後，根據建議改善，並創造更真實的影像。與此同時，辨別網絡也變得更擅長識別假造影像。
透過兩者相互對抗、來回訓練，經過不斷學習與優化後，最終製作出像真度極高的假影像。

Deepfake 技術的運作模式，意味著這項技術正不斷變得更個完善，使得辨別這些假冒訊息變得加倍困難，並凸顯了開發檢測工具和防止濫用的重要性。

Deepfake 技術就如雙面刃

翻轉娛樂產業及行銷生態

在倫理道德允許的範圍內，Deepfake 技術可協助生成名人的數位肖像，從而弱化他們親自到場的必要性，將有機會影視產業帶來極高的效益。未來新時代的廣告將不再需要名人親自拍攝，透過 Deepfake 生成內容即可創造沈浸式且高度符合要求的結果。然而，這個令人感到興奮的前景仍需要明確的法律框架來確保使用他人形象的倫理與規範。

應對數位時代的安全風險

Deepfake 技術複雜且精密，直接挑戰了傳統的安全措施，相對地也提升了人臉辨識認證技術的要求。

個人：隱私與身分安全隱憂Deepfake 換臉技術若被濫用於詐騙行為，例如操縱人臉肖像創建假帳戶或冒領財產，將導致嚴重的隱私洩露和身分盜竊。因此，「人臉辨識」在身分驗證的部署中扮演著保護個人身分及財產安全的關鍵角色。
企業：加強驗證的急迫性2020 年，詐騙者透過 Deepfake 技術使用 Elon Musk 的假冒人臉進行金融詐騙，顯示企業對於 Deepfake 技術防禦強度不足，也強調了企業需要在其資安防護措施中使用人臉辨識的關鍵需求，確保通訊的真實性並防範由 Deepfake 引發的詐騙事件。
國家：對抗虛假訊息的傳播Deepfake 技術也被濫用於捏造新聞和冒充公眾人物，這對國家安全構成重大威脅。2018 年一段美國前總統歐巴馬侮辱川普的 Deepfake 影片，這類假消息不僅擾亂視聽、挑起社會對立，甚至影響國家安全。這種情況顯示政府需投入資源 Deepfake 檢測技術，並且教育民眾關於數位媒體識讀的重要性。

對抗 Deepfake 威脅的策略

制定法律以對抗 Deepfake

Deepfake 技術的出現及發展已超越了目前法律框架的制定範圍，在 Deepfake 被濫用的案例對社會造成一定的威脅後，全球逐漸取得共識，必須制定 Deepfake 技術相關的法律規範。不僅需要填補現有的法律空白，還仰賴設計專責單位來認證技術相關內容，以提高監控網路平台和管理用戶生成 Deepfake 內容的責任，保障更安全的網路環境。

利用 AI 技術強化身分驗證

Deepfake 源自於 AI 技術，因此我們也可以透過 AI 技術對抗其所帶來的威脅，我們可以開發能夠判斷影像是否由 Deepfake 生成的檢測工具，以輔助審查人眼無法察覺的細節，例如眼睛反射不一致、膚色變化、甚至是臉部微血管流動等細微特徵。Google 和 Facebook 等科技巨頭率先啟動了識別和減緩 Deepfake 影像傳播的倡議，標誌著保持社交媒體平台訊息真實性的重要一步。

Authme：抵禦 Deepfake 的解決方案

Authme 身為 AI 身分驗證公司，我們積極研究防範 Deepfake 相關的技術與解決方案。我們的身分驗證服務採用自有開發的 AI 人臉辨識技術，透過主動及被動活體檢測分析，能夠辨識 2D 影像翻拍、3D 面具、Deepfake 偽冒攻擊，並且通過 ISO-30107 國際標準認證，提供企業及政府全面的防禦機制，有效防範身分冒用及詐騙犯罪，確保數位身分生態系統的安全。