由人工智慧(Artificial Intelligence, AI)衍生的深度偽造(Deepfake)技術,已讓「眼見為憑」有待商榷,也逐漸成為全球面臨的重大資安、國安問題,考驗著各國政府應對的能力。
有圖未必有真象
隨著人工智慧技術越來越強大、機械學習能力不斷突破,「深度學習」(Deep Learning)加上「偽造」(Fake),造就了「深度偽造」。
聊天機器人散佈謊言、換臉應用程式製作色情影片、複製聲音進行詐騙等事件層出不窮,去控制一些已經成為錯誤資訊超級傳播者的深度偽造,刻不容緩。
事實上,人工智慧正在重新定義「眼見為憑」這句諺語,因為它可憑空創造大量圖像,發出一些人從未說過的話。這些深度偽造已經侵蝕了網路信任。
中國最近通過廣泛的規則來監管深度偽造,但大多數國家似乎還在努力跟上快速發展的偽造技術,因為擔心監管可能會阻礙創新或被濫用來限制言論自由。
臉書(Facebook)母公司Meta去年曾刪除關於烏克蘭總統澤倫斯基(Volodymyr Zelensky)的深偽影片。片中他敦促公民放下武器並向俄羅斯投降。
烏克蘭總統澤倫斯基(Volodymyr Zelensky) (資料照/烏克蘭總統府官網)
深度造假普及 始於換臉技術
由於製造人工智慧合成的文本、音訊和影片沒有任何障礙,因此在身份盜竊、金融詐騙和損害聲譽方面被濫用的可能性,已引發全球警報。
美國政治風險諮詢公司「歐亞集團」(Eurasia Group)指出,人工智慧工具是「大規模破壞武器」(weapons of mass disruption)。
「歐亞集團」在一份報告中警告,「人工智慧技術的進步將侵蝕社會信任,賦予煽動者和威權主義者權力,並擾亂企業和市場」,「深度偽造、臉部辨識和語音合成軟體的進步,將使得對一個人的肖像控制權,成為過去的遺物」。
在知名演員艾瑪.華森(Emma Watson)出現在一個深度偽造音頻,朗讀納粹德國領袖希特勒自傳「我的奮鬥」(Mein Kampf)後,英國人工智慧公司「Eleven Labs」承認,其音訊工具已遭人濫用於「惡意目的」。
深偽濫用 資訊末日恐到來
深度偽造已愈來愈可能導致歐洲執法機構「歐洲刑警組織」(Europol)所說的「資訊末日」(information apocalypse;Infocalypse),許多人無法區分事實和虛構。
歐洲刑警組織指出,「專家擔心這可能會導致公民不再擁有共同的現實,或者可能造成社會混淆,無法確定哪些資訊來源是可靠的」。
中國政府已經警告深度偽造會對「國家安全和社會穩定構成威脅」並實施新規定,要求提供深度偽造服務的企業獲取用戶的真實身份。他們還要求對深度偽造的內容進行適當的標記,以避免「任何混淆」。
在美國,國會推動成立一個特別工作小組來監管深度偽造。但數位權利活動人士警告,立法過度可能會扼殺創新或傷及合法內容。
至於歐洲聯盟則就擬議的「人工智慧法案」(AI Act)展開激烈討論。
這項歐盟希望在今年通過的法律,將要求使用者披露深度偽造。但許多人擔心,如果該立法不涵蓋創意或諷刺內容,可能會成為一個毫無效力的工具。
資訊生態系統變得不可信
美國雪城大學(Syracuse University)教授戴維斯(Jason Davis)指出,「如何恢復數位信任,是現在真正的問題」。
他說,「檢測工具正在創建,而且來得相對較快。但深偽技術的發展速度可能更快。就像網路安全一樣,我們永遠無法解決這個問題,只能希望跟上」。
許多人已開始努力理解諸如聊天機器人ChatGPT等新技術。由美國人工智慧研發公司OpenAI創建的ChatGPT,能夠就幾乎任何主題,生成令人信服的文本。
媒體監管機構「新聞守門人」(NewsGuard)指出,這是「下一個偉大的錯誤資訊超級傳播者」,「該工具正在壞人手中武器化」。
AI專家示警,深度偽造技術日趨成熟、普及。只要有心和有一台可上網的電腦,隨時隨地都能「弄假成真」。
「深度造假: 比真實還真的AI合成技術,如何奪走人類的判斷力,釀成資訊末日危機?」(Deep Fakes and the Infocalypse: What You Urgently Need To Know)這本書的作者希克(Nina Schick)指出,「深度偽造不只能換掉人的外表,更在無形中改造人的大腦!人人都可能成為詐騙、抹黑、攻擊的受害者,而加害者還能將罪行統統推給AI」。
但希克也指出,深度偽造並不可怕,「可怕的是毫無準備」。為了更有效對抗資訊末日,了解現況就是第一步。