美國人工智慧實驗室OpenAI在22日發布安全威脅報告表示，首次發現有中國團隊研發在社群媒體收集反中貼文的工具。OpenAI將此工具命名為「同儕審查」(Peer Review)。報導指出，中國利用ChatGPT建立監控系統，收集網路反中言論，並產生大外宣內容，包括攻擊中國異議人士或反美文章。OpenAI表示，已移除多個中國、北韓惡意活動帳號。

《紐約時報》引述OpenAI首席研究尼莫(Ben Nimmo)說法指出，這是該公司首次發現這種AI監控工具。同時OpenAI已封鎖相關使用者帳號，因其已違反「禁止使用AI進行通訊監視或未經授權個人監控」的公司政策。尼莫及OpenAI團隊認為，這個監控工具是以Meta公司的開源大型語言模式Llama為基礎所開發出來。

Llama是Meta開發的一種人工智慧技術，該公司將其技術開源(開放原始碼)，這意味Llama這個語言模式可以與全球的軟體開發人員共享自己的工作成果，但如今卻被中國用來開發監控工具。

可收集反中言論還可產生大外宣文章

《美國之音》報導OpenAI也發現，有中國用戶利用ChatGPT產生大外宣內容，包括用於攻擊中國異議人士蔡霞的英文貼文，以及西班牙文的反美新聞報導，同時也發現多篇文章都登上了拉丁美洲的新聞網站，其中某些簡短評論也出現在X平台。

OpenAI將這項AI大外宣行動稱為「資助煽動」(Sponsored Discontent)。尼莫表示，這也是OpenAI第一次發現中國外宣活動將長篇文章翻譯為西班牙文後，發佈在拉丁美洲媒體。尼莫強調，外界若不去了解他們(中國)使用AI的狀況，就無法將那些在X平台上的推文與網路新聞連結起來。

《INSIDE硬塞網路趨勢觀察》則提及，OpenAI發現這項AI監控工具是這些涉案用戶的活動時間都正好是中國的工作時段，且使用中文進行人工操作。根據OpenAI 的調查，這個監控網的核心工具是一款名為「千閱境外輿情AI助手」的AI監聽工具，這個工具號稱可以即時監控 X平台(前稱 Twitter)、臉書(Facebook)、YouTube、Instagram、Telegram和Reddit等平台的貼文和留言，同時專門鎖定關於中國政治和社會話題的討論，尤其是關於人權示威的訊息，再將分析結果直接發送給中國當局，甚至是中國駐外使館和情報人員。

柬埔寨情感、投資詐騙、北韓求職詐欺都以AI操作

此外，OpenAI也發現，北韓的惡意活動者則是利用AI產生虛構求職者的履歷和個人檔案，透過欺詐手段向西方企業求職。

另一組ChatGPT帳號則與一樁柬埔寨的「殺豬盤」(即情感詐騙，詐騙集團透過建立感情與信任，讓受害者落入詐騙陷阱)的詐騙活動有關，這些帳號以AI生成的評論發布在社群平台，用來吸引人們陷入投資騙局

儘管尼莫等研究人員認為，人工智慧技術確實可以達成這類活動，但人工智慧也可以幫助識別和阻止這類行為。但外界對人工智慧可能被用於監視、網路駭客與虛假宣傳和其他惡意目的的擔憂逐漸升高。

人們越來越擔心，人工智慧可能被用於監視、電腦駭客攻擊、造謠活動和其他惡意目的。雖然像尼莫這樣的研究人員表示，這項技術的確會助長這類活動，但他們也指出，人工智慧也可以用來幫助識別和阻止這類行為。