
遭控鼓勵青少年自殺 ChatGPT將推出家長監控功能
美國人工智慧(AI)公司OpenAI 2日指出,將為聊天機器人ChatGPT增加家長監控功能,一週前一對美國夫婦控稱這套系統鼓勵他們的青少年兒子自殺。
法新社報導,OpenAI在部落格貼文指出,「接下來一個月內,家長將能…將自己的帳號與青少年子女帳號連結,並控制ChatGPT對其子女的回應,讓其符合年齡適宜的模型行為規則。」
OpenAI表示,當系統偵測到青少年處於「劇烈苦惱時刻」,家長也會收到ChatGPT的通知。
芮恩夫婦上週在加州州法院提出訴訟,控稱ChatGPT在2024年到2025年間,與他們的兒子亞當.芮恩(Adam Raine)建立了親密關係,最終導致他結束自己的生命。
訴狀指控,在2025年4月11日的最後一次對話中,ChatGPT協助16歲的亞當偷取父母...
