OpenAI的機器人主管卡琳諾斯基(Caitlin Kalinowski)7日表示她已經辭職,因為該公司與美國政府達成協議,允許其技術用於戰爭和國內監控。
這家ChatGPT的開發生上個月與美國國防部簽訂了國防合約,在幾個小時前,其競爭對手Anthropic拒絕讓軍方無條件使用其技術。
在被批評於缺乏監管的情況下給予軍事官員太多權力後,OpenAI執行長阿特曼(Sam Altman)隨後在X發文表示,這家公司將修改合約,讓其模型不會被用於「對美國人與美國居民的國內監控」。
卡琳諾斯基表示,她非常關心「機器人團隊和我們共同完成的工作」,但「在缺乏司法監管的情況下監控美國人,以及缺乏人為授權的致命自主權,是應該比現在更深思熟慮的界線。」
卡琳諾斯基在X發文指出:「這是關乎原則,而非人。」
卡琳諾斯基在後續發文中寫道,她對於OpecAI與國防部草率達成協議的表達異議。
卡琳諾斯基指出:「必須說清楚的是,我的問題是這項公告太草率,沒有界定任何限制。」
卡琳諾斯基說:「這首先是一個治理問題。這件事情太過重要,不能草率達成協議或公告。」
Anthropic拒絕授權使用Claude AI模型,引發美國官員的反彈。
卡琳諾斯基曾在Meta任職,負責開發擴增實境眼鏡。