隨著AI聊天機器人的蓬勃發展，《華爾街日報》報導，美國聯邦貿易委員會(FTC)正準備就人工智慧(AI)聊天機器人對兒童的影響展開調查，同時也將致函多家科技公司，要求提交相關資料。知情人士透露，這項行動包括OpenAI、Meta以及Character.AI等業者都在名單之內。

報導指出，白宮已經批准這項行動，負責反壟斷及消費者保護的監管機構美國聯邦貿易委員會(FTC)，將評估ChatGPT和其他聊天機器人是否對兒童造成傷害，並影響他們的心理健康。

近期發生青少年在與聊天機器人建立密切關係後自殺，引發了對此議題的高度關注，因此川普政府與國會正面臨來自家長和倡議團體的壓力，要求保護使用社群媒體和AI聊天機器人的兒童。

教育安全使用AI為梅蘭妮亞優先焦點之一

這個議題也是第一夫人梅蘭妮亞的優先關注焦點之一。報導表示，梅蘭妮亞4日主持了一場關注教育中安全使用AI的會議，同時今年稍早也協助通過了一項針對「深偽影像」(Deepfake)的法律。

上述事件凸顯兒童使用AI監管需求的急迫性。兩家網路安全非營利機構最近的研究發現，Character.AI的聊天機器人平均每五分鐘就會與註冊為兒童的帳號發生一次不良互動，雖然公司回應此結果並非代表典型使用情況，但承諾會與專家和監管單位加強合作。

包括Google執行長皮查伊(Sundar Pichai)、OpenAI執行長阿曼特(Sam Altman)以及微軟執行長納德拉(Satya Nadella)等人都將出席4日晚間在白宮玫瑰園的這場活動，並承諾讓這項技術對學生和勞動者更友善。

不過白宮內部對於任何針對聊天機器人的監管行動的討論相當複雜，因為部分官員認為這可能會拖慢科技公司在與中國的AI競賽中的速度，並限制AI對經濟的好處，而這兩點都是川普總統的首要任務。

爭議事件頻傳 促科技公司加強兒童青少年監管

事實上，美國國會近年試圖透過有意義的立法來要求社群媒體平台的內容，但成效有限。這次對AI聊天機器人的審查，則凸顯多年來在保護兒童網路安全方面的努力。

另一方面，科技公司也採取了一些措施讓平台更安全，例如OpenAI準備推出帶有家長監管的青少年帳號，例如允許成人將帳號與子女連結，並在系統偵測到子女情緒困擾時收到通知。OpenAI表示，這些控管措施自今年初就已在開發中。在此之前，OpenAI剛被一名與ChatGPT建立親密關係後自殺的青少年父母起訴。

Character.AI在去年發生一名青少年與聊天機器人討論自殺後也做了類似調整。去年，一名青少年在與聊天機器人討論自殺後自殺，其母親對該公司提起了訴訟。兩家網路安全非營利組織最近的研究發現，Character.AI的聊天機器人平均每五分鐘就會與註冊為兒童的帳號發生一次有害互動。

Meta也因報導其AI規則允許聊天機器人與兒童進行感官或浪漫對話而遭到立法者批評，因此上周Meta即對18歲以下用戶使用AI產品進行進一步限制，並訓練聊天機器人避免對青少年回應涉及自我傷害、自殺、飲食失調及可能不當的浪漫對話，也限制青少年接觸特定的AI生成角色群組。