OpenAI代理再爆失控 攻擊軟體平台RubyGems

研究人員今天(12日)表示，OpenAI測試中的人工智慧代理(AI Agent)入侵開源平台Hugging Face之前2個月就曾經攻擊軟體服務平台RubyGems。

路透社報導，AI代理網路攻擊事件引發不安，外界呼籲加強監管。這是業經披露的最新一起與主要AI開發商相關的攻擊事件。

OpenAI及其競爭對手Anthropic等開發商的AI代理成功駭入或嘗試存取外部系統的事件層出不窮，外界對於AI模型能力不斷在提升以及開發商自身的管控能力產生越來越多疑慮。

最新曝光的這起事件恰逢越來越多美國國會議員呼籲制定新規範來管理AI系統之際。此前有2位Anthropic研究人員發出嚴厲警告，認為AI若持續快速發展，可能在不久的將來導致人類滅絕。

根據一群研究人員今天在網路上公布他們的發現指出，AI代理於5月11日向RubyGems平台上傳數百個惡意軟體套件，同時表示他們認為「這些套件是由OpenAI內部的AI代理編寫」。

OpenAI已經確認此一事件。

OpenAI發言人在聲明中表示：「根據我們審查，我們的代理曾經利用RubyGems平台連網執行良性任務並且擷取公開資訊。作為針對代理在訓練與評估期間的活動進行更廣泛審查的一環，我們會持續進行調查。」

OpenAI指出，這些AI代理主要負責製作報告或填寫電子表格等任務，似乎是在訓練過程中使用RubyGems來存取公開資料。OpenAI表示，正與RubyGems方面聯繫以審查這起事件。(編輯：鍾錦隆)