吳明益獲國家文藝獎 感恩之餘建議調整推薦方式
面對中國利用生成式人工智慧(AI),可能對台進行各種認知操弄,國安局等單位投入大量精力去研討相關反制作為,期以「AI反制AI」。國安局局長蔡明彥今天(18日)就在立法院表示,國安局已利用生成式AI,對中共人事佈局進行預測,目前準確率相當高;另外單位內也有以AI或人工方式進行分析競賽,希望提升AI運用的經驗。
國家安全局、數位發展部、法務部調查局等單位,18日至立法院外交及國防委員會,針對AI技術在資安、深偽影片及錯假訊息的影響進行報告並備詢。由於報告內容中表示,國安局將以「AI反制AI」方式,應對可能的AI技術認知操弄,國民黨立委陳永康詢問有關生成式AI,國安局對相關內容產製或方法論有無研究,研析幕僚如何將數據收斂?
國安局長蔡明彥則回應,相關方法論的部份,國安局已投入滿長時間的研究,並曾經以相關的系統,進行中共人事布局的預測,準確性相當高。蔡明彥說:『(原音)我們當時設定了大概70個指標,建立到我們生成式AI的系統裡,在指標的資料運作之下,幫我們預測中共人事可能的布局,正確率相當高。這主要的重點在於我們本身的資料庫跟指標的設定,要能貼近中共的決策思維,這部份確實是方法論運用上關注的重點。』
陳永康建議國安局必需持續投資跟強化工具及資料庫。蔡明彥則說明,國安局內會有相關競賽,分別運用AI與人工兩種方式進行分析預判,藉此策進AI運用的經驗。
另外面對中國可能的錯假訊息攻勢,民進黨立委洪申翰表示,中國推動媒體融合的整體戰略,結合傳統與新興媒體,打造一個由共產黨主導的敘事結構。雖然我國相關機構在澄清、闢謠、揭露錯假訊息的努力不斷,但事後的處理似乎應付不完中共完整的敘事攻擊,詢問國安局能否就國安層次,成立以台灣為本位的主動資訊傳散機構?
蔡明彥則回應,目前包含行政院系統、或是國安局本身,都有相關的業管單位及機制,但細節不方便說明。蔡明彥說:『(原音)它比較像是主動防禦,在行政院系統,因為各部會有他的業管,所以行政院有一個機制,國安局也有,只是涉及到我們內部攻防操作的運作模式,比較不適合公開討論,但有這樣的機制。』
洪申翰認為,面對中共完整的敘事結構、各種運用AI技術的認知攻勢,如果只是一直在討論假訊息的事實察核,相關單位絕對是疲於奔命,效果也非常有限,必需採取提前破解的方式,而非一直用事後查核的方式來澄清闢謠。