美國評估管制AI 分析師：法律難防AI失控 應強化減損

AI巨頭OpenAI透露有AI代理系統測試時失控進而發動網攻，引發安全疑慮；美方則表態評估實施AI管制措施。分析師今天(30日)指出，隨著AI演進，發展過程中的失控、暴走難以避免，這屬於技術性問題，美方評估管制措施時，重點應放在如何降低AI暴走帶來的傷害、後續求償等規範，而非限制其發展，且市場也不至於因資安事件而降低對AI應用的需求。

OpenAI日前披露，由旗下先進AI模型驅動的自主代理(agent)程式，在安全測試期間入侵AI公司Hugging Face的系統，引發外界對先進AI模型的安全疑慮。

近期已有美國國會議員提出「AI強制關閉法案」(AI Kill Switch Act)，擬允許政府強制暫停AI模型運作，來因應強大AI模型造成的危險。美國總統川普(Donald Trump)29日受訪時也提到美國正評估對AI實施管制措施，但他也強調必須確保美國能保持領先。

雲報政經產業研究院副社長柴煥欣30日指出，這並非AI失控的首例，過去幾年就有AI模型繞過人類、用人類未知語言相互對話的案例。他認為在發展過程中，AI失控、暴走難以避免，這是技術性問題，且也難以用法律規範就能確保100%不會發生。

柴煥欣表示，美方現在評估的管制措施重點應是如何降低衝擊以及後續的求償，而非限制AI發展。他說：『(原音)AI發生(失控)攻擊是沒有辦法(事先)管制的；但是如何去減少AI暴走所造成的損失，這個部分可以進行資安，提高它的層級來減緩損失，這個部分才是切實可行的方式。』

至於未來需求是否會因AI失控疑慮而降低，柴煥欣強調，一般民眾、企業對於AI工具的依賴只會越來越深，需求也會越來越大，不會因為偶發的AI暴走事件而導致整體需求減少，但使用者在選擇、使用上將會變得越來越謹慎。(編輯：許嘉芫)