中國網路監管機構「中央網絡安全和信息化委員會辦公室」(簡稱中央網信辦)今天(27日)發布「人工智能擬人化互動服務管理暫行辦法」草案，加強對擬人化AI與人類互動的監管，並公開徵求大眾的意見。

路透社報導，隨著中國AI產業快速發展，北京當局正試圖強化AI相關安全與倫理規範。根據「人工智能擬人化互動服務管理暫行辦法」草案，擬人化互動服務作為人工智能技術應用的新形態，兼具技術與風險，包括擬人化互動服務能與用戶建立情感連結，對使用者的心理和行為產生深層影響，並可能隨著長期互動建立類似人際關係的情感紐帶；未成年人與長者在使用上，更需要適當的引導和保護，來防止過度依賴，且擬人化互動能更為直接輸出內容，價值觀傳遞更加隱蔽和潛移默化，對用戶的影響更為深遠。

因此，該草案規定，業者必須識別用戶狀態，評估其情緒和對AI擬人化服務的依賴程度，並針對濫用AI行為提出警告。若發現用戶表現出極端情緒或成癮行為，供應商應採取必要措施進行干涉。

草案也劃定AI內容與行為的「紅線」，明定不得生成危害國家安全、散佈謠言或宣揚暴力色情的內容。

此外，AI業者也必須為產品使用安全負責，並建立演算法審核、數據安全和個資保護系統。(編輯：許嘉芫)