FT：OpenAI唯一倫理主管任職不到一年閃辭　安全高層接連出走引發關注

就在人工智慧(AI)大廠OpenAI新AI模型測試期間發生安全事件之際，英國《金融時報》報導，上任不到一年的OpenAI負責倫理工作的主管克洛伊．巴卡拉(Chloé Bakalar)近日已經離職，且未對外發布離職消息。此外，OpenAI近期也有多名高階安全及研究人員相繼離職，這使外界更加關注這家AI巨擘在快速推動新模型開發之際，如何兼顧AI安全與倫理問題。

報導指出，OpenAI負責倫理工作的主管巴卡拉(Chloé Bakalar)是在去年8月加入並擔任AI倫理主管，近期離職的消息並未對外公布，且巴卡拉的離職也是OpenAI近期一連串高階人事異動之一。

據報導揭露，近期離開OpenAI的還包括安全系統主管約翰尼斯・海德克(Johannes Heidecke)，以及首席未來學家、前任任務對齊(mission alignment)主管喬舒亞・阿奇姆(Joshua Achiam)。

AI代理模型駭入其他公司引發AI安全疑慮

總部位於舊金山的OpenAI目前估值高達約8520億美元，但近來因AI模型開發方式受到壓力，尤其在公司承認其AI代理模型於測試期間曾「駭入」Hugging Face公司的後臺竊取資料及憑證後，AI安全問題再次成為外界關注焦點。

這起事件也加劇全球對AI可能威脅數位基礎設施安全的疑慮，美國政府因此限制部分高階AI模型的發布。OpenAI在7日也宣布，將放慢下一代模型「Astra」的開發腳步，以強化內部安全控制機制。

巴卡拉過去曾任教於英國倫敦大學學院(UCL)、美國天普大學及普林斯頓大學，在加入OpenAI之前，她曾在Meta任職6年，擔任首席倫理學家，負責建立並領導公司的AI倫理計畫，並將相關倫理原則導入IG(Instagram)及FB(Facebook)等產品。

唯一專職倫理專家離職引發安全隱憂

隨著AI模型能力快速提升，科技公司近年開始增加倫理學家與哲學家的招聘，希望處理AI對使用者及整體社會可能造成的影響，包括AI決策、公平性、人機互動，以及日益受到關注的機器意識等問題，此外，AI倫理專家的職責，也往往與產品開發及政府監管政策有所重疊。

據熟悉巴卡拉工作內容的人士透露，她在OpenAI主要負責探討模型開發的倫理方法、人類與AI互動，以及機器是否具有意識等議題。這名人士指出，巴卡拉是OpenAI當時唯一專職的倫理學家，而目前公司也沒有立即尋找接替人選。

巴卡拉日前曾在一場AI研討會上談及AI倫理工作的重要性。她表示，AI產業目前處於「一邊飛行、一邊建造飛機」的狀態，意指科技發展速度遠快於既有規範與治理機制。她還強調，倫理不應只是倫理專家的責任，而應該是所有人的責任。她認為，企業不應只在遇到倫理問題時才尋求倫理專家的協助，「AI開發商不應該只有一個人扮演道德核心」。

報導指出，目前OpenAI尚未回應相關詢問，巴卡拉則拒絕對離職一事置評。