中國AI模型突破測試沙盒 引發資安風險疑慮

美國資安研究公司Frontier Security 6日表示，中國人工智慧(AI)新創公司月之暗面旗艦AI模型突破英國「AI安全研究院」(AI Safety Institute)開發的網路安全測試環境，引發先進AI模型的資安風險疑慮。

路透社報導，AI模型在網路安全測試期間通常會在隔離的「沙盒」(sandbox)環境運作，以阻隔對外部資訊的存取，並評估其獨立解決問題的能力。

Frontier Security指出，月之暗面(Moonshot)旗艦AI模型Kimi K3繞過一個這類沙盒環境，使其得以存取測試環境外的資訊。

研究人員警告，若一個「高推理能力模型」能找到這類捷徑，其他具有類似權限的模型也可能採取相同做法。

由於Kimi K3為公開提供使用的模型，研究人員警告，它可能遭「惡意行為者」(adversarial actors)利用，使這起事件的潛在風險進一步升高。

月之暗面未立即回應路透社的置評請求。

在Kimi K3突破測試環境事件之前，Meta、OpenAI及Anthropic近期也陸續通報類似事件。

這些漏洞已引發美國國會議員關切，美國政府也正加強推動AI安全措施。部分知名AI領袖甚至主張，在建立更完善的安全防護機制前，應放緩AI發展速度。(編輯:柳向華)