川普政府告知AI業者 開放權重AI模型擬不納安全測試

2名知情人士透露，川普政府4日告知AI開發商，不會對開放權重(open-weight)AI模型進行自願性安全測試。民團認為，這種私下討論的作法，恐令外界對政府評估AI模型的安全性更添疑慮。

路透社報導，開放權重是指核心組件公開可用的人工智慧(AI)系統，像是輝達(Nvidia)的Nemotron和Meta的Llama；閉源模型則由特定公司控制，美國主要閉源模型開發商包括OpenAI、Google和Anthropic。

據5名熟悉會議的消息人士透露，白宮邀集Meta、Anthropic、Google、輝達和OpenAI人員討論尚未公開的測試規則。

在此之前，OpenAI和Anthropic才先後揭露旗下AI工具在測試期間，曾駭入其他公司系統，引發美國國會議員關注，擔心AI模型功能愈來愈強大，恐被用於發動或協助網路攻擊。OpenAI 4日表示，旗下模型在測試期間又涉及另一起與AI系統連接網路有關的網路安全事件。

白宮媒體辦公室未回應路透社的置評請求。

科技政策倡議團體「負責任創新美國人」(Americans for Responsible Innovation)表示，僅向少數公司透露這套架構，而非向大眾公開，「擴大聯邦監管的嚴重漏洞，讓外界對聯邦政府如何評估先進AI模型的安全性存有疑問」。

「負責任創新美國人」主要致力推動美國官員執行「保護公眾免受傷害」的相關政策。

川普政府6月曾表示，AI安全性測試是專為具複雜網路攻擊能力的AI模型所設計，屬自願性質，而OpenAI和Anthropic均擁有具先進網路安全能力的模型。

5名民主黨聯邦參議員4日呼籲川普與國會合作通過法案，強制美國最頂尖的AI模型都必須接受永久性的安全審查。

民主黨參議員在信中表示：「美國最先進AI系統面臨不透明、逐案審查限制的同時，中國的替代方案卻顯得更便宜、更容易取得且更容易預測部署，美國承擔不起建立這種政策環境的代價。」

川普政府在公開場合鮮少透露更多訊息，僅表示美國官員正在監控OpenAI駭客事件。OpenAI執行長阿特曼(Sam Altman)上週曾親訪白宮。(編輯:柳向華)