ChatGPT產生錯誤內容 美監管機構啟動調查

法新社13日報導，美國聯邦貿易委員會(FTC)正在對人工智慧(AI)開發商OpenAI進行調查，以確定其受歡迎的聊天機器人ChatGPT，是否因產生錯誤訊息而傷害消費者，以及其技術是否被用來不當的處理用戶個資。

微軟(Microsoft)公司所支持的OpenAI，在一份20頁的問卷調查中被通知了此項調查，該公司被要求描述用戶被錯誤詆毀的一些事件，並分享公司為了確保這種情況不再發生，所做的任何努力。

華盛頓郵報(Washington Post)率先報導了這項由美國監管單位發起的調查。

OpenAI去年11月推出ChatGPT震撼了全世界，因為ChatGPT展現了「大型語言模型」(Large Language Model)的能力，這是一種被稱為生成式AI的人工智慧形式，可以在短短幾秒鐘內生成類似於人類的內容。

在人們對這個技術感到驚嘆之際，有報導指出，這些模型也可能產出令人反感、錯誤或奇怪的內容，有時會被稱為「幻覺(hallucinations)」。

FTC主席麗娜汗(Lina Khan)12日在國會委員會聽證會上談話時，雖然沒有提到這項調查，但她告訴國會議員，她的機構關切ChatGPT可能的誹謗性產出。

麗娜汗說：「我們聽說了一些情況，包括人們的敏感資訊會被顯示出來，以回應其他人的詢問。」

麗娜汗補充指出：「我們聽說有關誹謗、中傷言論，以及完全不實的東西正在出現。這正是我們擔心的欺詐和欺騙的類型。」

根據這份問券，FTC的調查主要聚焦在這個部份會如何傷害到用戶，但也將探究OpenAI如何利用私人數據，來建立其領先世界的模型。

OpenAI的GPT-4，是ChatGPT本身與許多其他公司方案的基礎技術。這些公司付費給OpenAI，讓他們的用戶能夠使用其模型。

OpenAI執行長奧特曼(Sam Altman)在一則推文中表示，他很遺憾調查相關消息被洩露給了媒體，這會「無法建立信任」。

奧特曼補充說：OpenAI「當然」會與FTC合作，「這對我們來說非常重要，我們的技術是安全且有利於消費者，我們有信心我們有遵守法律。」

FTC的調查不一定會有後續行動，如果監管機構對公司的回覆感到滿意，就可以結案。 如果FTC認為有非法或不安全的行為，將會要求採取補救措施，並可能提起訴訟。 OpenAI和FTC沒有回應法新社的置評要求。