憂AI脫離人類控制 Anthropic提議全球暫緩開發

人工智慧(Artificial intelligence, AI)公司Anthropic 4日提議全球暫停開發最強大的人工智慧系統，因為最新的人工智慧模型開始顯露出可能脫離人類控制的跡象。

這家總部設於舊金山、開發了Claude系列人工智慧模型的公司在一份報告中表示，全球減緩尖端人工智慧的研發「可能是一件好事」，但警告表示，若只有一家公司停止研發，只會讓競爭對手迅速超越。

該報告指出：「我們相信，如果世界可以選擇放緩或暫時停止前沿人工智慧的研發，將能使社會結構和協調研究跟上技術發展的步伐。」

Anthropic表示，要真正實現暫停研發，尤其需要中國和美國等多個國家的多家大型人工智慧同時同意停止研發，並制定所有人都能核實的規範。

該公司表示：「如果沒有全球協調機制，企業和政府將不得不在競爭和地緣政治壓力下，就安全問題做出艱難的決定。」

該公司遭到了業界其他公司和白宮官員的反對，他們認為Anthropic過度關注於最壞的情況，誇大了風險，並採用打著安全旗號阻礙競爭對手發展的策略。

儘管如此，白宮還是承認了該公司Mythos模型的強大功能。由於其網路安全能力，該模型尚未向公眾開放，目前僅部署在少數經過審核的機構中。

這項提議將在華盛頓和矽谷(Silicon Valley)面臨重重阻力。美國官員和科技高層一再主張，人工智慧發展的任何放緩，都可能使中國在這場被許多人視為本世紀決定性科技競賽的領域中，獲得決定性的戰略優勢。

然而，美國總統川普(Donald Trump)表示，他在最近訪問北京期間，討論了與中國在人工智慧安全問題上合作的可能性。

川普本週還簽署了一項行政命令，允許政府在最強大的美國人工智慧模型發佈之前，對其進行30天的初步審查。(編輯:王志心)