close
臺灣之音立刻下載官方APP
開啟
:::

眼見難為憑 深度偽造考驗事實查核能力

  • 時間:2023-03-21 15:00
  • 新聞引據:採訪、法新社
  • 撰稿編輯:楊明娟
眼見難為憑 深度偽造考驗事實查核能力
AI專家示警,深度偽造技術日趨成熟、普及。只要有心和一台可上網的電腦,隨時隨地都能「弄假成真」。(圖: Pixabay)

由人工智慧(Artificial Intelligence, AI)衍生的深度偽造(Deepfake)技術,已讓「眼見為憑」有待商榷,也逐漸成為全球面臨的重大資安、國安問題,考驗著各國政府應對的能力。

有圖未必有真象

隨著人工智慧技術越來越強大、機械學習能力不斷突破,「深度學習」(Deep Learning)加上「偽造」(Fake),造就了「深度偽造」。

聊天機器人散佈謊言、換臉應用程式製作色情影片、複製聲音進行詐騙等事件層出不窮,去控制一些已經成為錯誤資訊超級傳播者的深度偽造,刻不容緩。

事實上,人工智慧正在重新定義「眼見為憑」這句諺語,因為它可憑空創造大量圖像,發出一些人從未說過的話。這些深度偽造已經侵蝕了網路信任。

中國最近通過廣泛的規則來監管深度偽造,但大多數國家似乎還在努力跟上快速發展的偽造技術,因為擔心監管可能會阻礙創新或被濫用來限制言論自由。

臉書(Facebook)母公司Meta去年曾刪除關於烏克蘭總統澤倫斯基(Volodymyr Zelensky)的深偽影片。片中他敦促公民放下武器並向俄羅斯投降。


烏克蘭總統澤倫斯基(Volodymyr Zelensky) (資料照/烏克蘭總統府官網)

深度造假普及 始於換臉技術

由於製造人工智慧合成的文本、音訊和影片沒有任何障礙,因此在身份盜竊、金融詐騙和損害聲譽方面被濫用的可能性,已引發全球警報。

美國政治風險諮詢公司「歐亞集團」(Eurasia Group)指出,人工智慧工具是「大規模破壞武器」(weapons of mass disruption)。

「歐亞集團」在一份報告中警告,「人工智慧技術的進步將侵蝕社會信任,賦予煽動者和威權主義者權力,並擾亂企業和市場」,「深度偽造、臉部辨識和語音合成軟體的進步,將使得對一個人的肖像控制權,成為過去的遺物」。

在知名演員艾瑪.華森(Emma Watson)出現在一個深度偽造音頻,朗讀納粹德國領袖希特勒自傳「我的奮鬥」(Mein Kampf)後,英國人工智慧公司「Eleven Labs」承認,其音訊工具已遭人濫用於「惡意目的」。

深偽濫用 資訊末日恐到來

深度偽造已愈來愈可能導致歐洲執法機構「歐洲刑警組織」(Europol)所說的「資訊末日」(information apocalypse;Infocalypse),許多人無法區分事實和虛構。

歐洲刑警組織指出,「專家擔心這可能會導致公民不再擁有共同的現實,或者可能造成社會混淆,無法確定哪些資訊來源是可靠的」。

中國政府已經警告深度偽造會對「國家安全和社會穩定構成威脅」並實施新規定,要求提供深度偽造服務的企業獲取用戶的真實身份。他們還要求對深度偽造的內容進行適當的標記,以避免「任何混淆」。

在美國,國會推動成立一個特別工作小組來監管深度偽造。但數位權利活動人士警告,立法過度可能會扼殺創新或傷及合法內容。

至於歐洲聯盟則就擬議的「人工智慧法案」(AI Act)展開激烈討論。

這項歐盟希望在今年通過的法律,將要求使用者披露深度偽造。但許多人擔心,如果該立法不涵蓋創意或諷刺內容,可能會成為一個毫無效力的工具。

資訊生態系統變得不可信 

美國雪城大學​(Syracuse University)教授戴維斯(Jason Davis)指出,「如何恢復數位信任,是現在真正的問題」。

他說,「檢測工具正在創建,而且來得相對較快。但深偽技術的發展速度可能更快。就像網路安全一樣,我們永遠無法解決這個問題,只能希望跟上」。

許多人已開始努力理解諸如聊天機器人ChatGPT等新技術。由美國人工智慧研發公司OpenAI創建的ChatGPT,能夠就幾乎任何主題,生成令人信服的文本。

媒體監管機構「新聞守門人」(NewsGuard)指出,這是「下一個偉大的錯誤資訊超級傳播者」,「該工具正在壞人手中武器化」。

AI專家示警,深度偽造技術日趨成熟、普及。只要有心和有一台可上網的電腦,隨時隨地都能「弄假成真」。

「深度造假: 比真實還真的AI合成技術,如何奪走人類的判斷力,釀成資訊末日危機?」(Deep Fakes and the Infocalypse: What You Urgently Need To Know)這本書的作者希克(Nina Schick)指出,「深度偽造不只能換掉人的外表,更在無形中改造人的大腦!人人都可能成為詐騙、抹黑、攻擊的受害者,而加害者還能將罪行統統推給AI」。

但希克也指出,深度偽造並不可怕,「可怕的是毫無準備」。為了更有效對抗資訊末日,了解現況就是第一步。

相關留言

本分類最新更多