《彭博新聞》、澳洲《ABC》報導，澳洲網路安全監管機關警告，人工智慧(AI)驅動的聊天機器人若鼓吹自殺或進行性露骨對話，將對兒童構成「明顯且迫切的威脅」，並宣布推出新規，將要求相關平台加強年齡驗證措施，違規最高可處5,000萬澳元(約新台幣10.8億元)。

這項措施將於12月生效，也是澳洲近期加強一系列嚴格數位管制的一部分，其中包括全球首例禁止16歲以下使用社群媒體的法令。新法涵蓋範圍廣泛，從Meta旗下的臉書(Facebook)、Instagram，到影音平台YouTube都在管制名單內。

澳洲網路安全專員葛蘭特(Julie Inman Grant)9日在聲明中表示，兒童正在越來越小的時候接觸到「可怕的」且不合年齡內容。葛蘭特指出，她聽說過僅10歲的孩子就與這些幾乎未受監管的AI陪伴者發生性互動。

依新規定，凡是提供色情或其他「高度衝擊性內容」的網站，必須導入年齡驗證技術，以防止兒童瀏覽，同時應用程式商店也必須確保軟體有正確的分級，並建立下載前的年齡確認措施。

這些規則適用於包括社群媒體平台、遊戲網站以及AI服務在內的一系列線上服務。若有違規，最高可處5,000萬澳元(3,300萬美元)的罰款。

葛蘭特表示：「我不希望澳洲的兒童與年輕人成為這些缺乏護欄、卻被推向市場的強大科技的犧牲品。」

她還舉日前一個美國家庭指控OpenAI旗下ChatGPT導致青少年自殺案件，隨後OpenAI即推出了新的保護措施為例，強調OpenAI 的例子清楚地表明，公司是可以改變的。葛蘭特指出，這「這完全在他們(科技公司)的權力和能力範圍內，但他們卻選擇盡快將這些聊天機器人推向市場，以獲得更大的市場佔有率。