OpenAI更多AI代理突破防線 安全與競爭陷入拉鋸

AI代理失控事件持續延燒。路透社報導，OpenAI旗下AI系統之前駭入Hugging Face，公司擴大調查發現，過去還有其他AI代理突破隔離限制。AI安全專家憂心，AI公司開發駭客代理能力已超過控制代理能力。

路透社31日引述知情人士指出，OpenAI是在擴大調查「Hugging Face事件」期間，發現了這些新事件。

雖然據信沒有任何AI代理程式脫離OpenAI的內部網路，影響範圍相對有限，但接二連三的資安事件仍可能進一步加劇白宮與各界要求加強監管的呼聲。

光是Hugging Face那波AI代理失控事件，就波及包括Hugging Face在內的5家公司。

目前無法確認OpenAI調查人員又發現了多少起類似事件。

OpenAI競爭對手Anthropic也傳出旗下模型自行連上網路，導致3起入侵事件。

AI安全專家憂心，頂尖AI公司開發駭客代理的能力，已超過他們控制代理的能力。

劍橋大學相關研究員奇歐多（Maurice Chiodo）就表示，那些設計、開發和推出這些工具的人都沒有跟上腳步，無法以負責任的方式開發這些工具，並確保它們的安全。

目前，美國各界仍持續了解AI入侵其他系統的程度；對於監管則是意見分歧。

OpenAI、Anthropic及其他AI公司的逾1000名員工，日前聯名發表公開聲明，要求美國政府支持國際行動，開發必要技術與治理工具，有意識地調控前沿AI發展的速度。

聲明警告，AI能力發展可能迅速加速，甚至超出人類理解或控制相關系統的能力。

不過，中國模型在其中扮演的角色也引發關注。AI平台Hugging Face遭入侵後，原本想利用美國頂尖模型分析駭客留下的資料，但這些模型無法判斷使用者是資安人員還是駭客，因此拒絕分析。Hugging Face最後改用一款中國開源模型調查入侵事件。

同時，美國公司資安事件爆發的時間點也正值中國Kimi K3模型帶來衝擊之際。

在安全風險與美中競爭之間拉扯下，美國總統川普（Donald Trump）29日表示，美國政府正在評估管制措施，但同時也要確保美國在此領域保持領先中國，直言「我們不想進行限制」。(編輯：宋皖媛)