人工智慧公司OpenAI在14日宣布，將鬆綁對聊天機器人ChatGPT的限制，其中包含允許向經認證的成年用戶提供色情內容，作為該公司所謂「像對待成人一樣對待成人用戶」原則的一部分。

OpenAI執行長阿特曼(Sam Altman)在X發文表示，為解決心理健康問題，對話式AI將受到更嚴格的監管，這將使得其聊天機器人「對許多沒有心理健康問題的用戶來說實用性/樂趣較低」。

這些嚴格的安全管制，是因為加州一名青少年芮恩(Adam Raine)在今年自殺身亡，他的父母提告，宣稱ChatGPT提供他如何自殺的具體建議。

美國聯邦貿易委員會也對包含OpenAI在內的幾家科技公司啟動了一項調查，有關AI聊天機器人如何對兒童和青少年造成潛在的負面影響。

阿特曼14日表示：「由於這個問題的嚴重性，我們希望把事情做好」，並表示OpenAI的新安全工具現在將允許公司放寬限制，同時仍然能夠解決嚴重的心理健康風險。

OpenAI的計畫包含釋出一款更新版本的ChatGPT，允許用戶客製化他們的AI助理人格，包含更像人類的回應、大量使用表情符號，或是跟朋友一樣的行為等選項

最重大的改變將在12月推出，屆時Open AI計畫推出更全面的年齡驗證機制，允許向經認證的成年人提供色情內容。

OpenAI尚未立即提供其年齡認證機制的細節，或計畫針對成人內容實施的額外保護措施。

OpenAI已經在9月針對18歲以下用戶提供了專用的ChatGPT體驗，自動導引至適齡內容，並阻擋圖像與色情內容。

OpenAI也表示，正在開發基於行為的年齡預測技術，依據用戶與ChatGPT的互動，來推估其年齡是否滿18歲。(編輯：陳士廉)