OpenAI 不得不阻止 ChatGPT 上超過 250,000 個美國dent候選人的圖像請求

OpenAI 已證實，其流行的人工智能工具 ChatGPT 阻止了令人瞠目結舌的 25 萬多個生成 2024 年美國主要dent候選人圖像的請求。

用戶一次又一次地試圖讓 ChatGPT 炮製dent總統唐納德·特朗普、副dent卡馬拉·哈里斯、現任dent喬·拜登、明尼蘇達州州長蒂姆·沃爾茲和dent副總統 JD·萬斯的圖像。

但 OpenAI 大聲說：“不！”對每一項請求。 據報道，這是爲了防止 ChatGPT 成爲高風險錯誤信息遊戲中的棋子。

隨着美國大選的臨近，OpenAI 希望 ChatGPT 能夠避免選舉干擾。政治深度造假、人工智能生成的假新聞和徹頭徹尾的謊言在網上像野火一樣傳播。機器學習公司 Clarity 報告稱，今年僅 Deepfake 內容就飆升了 900%。

美國情報部門表示，其中一些內容與試圖控制美國政治的俄羅斯特工有關。

OpenAI 與錯誤信息的大戰

在 10 月份的一份報告中，OpenAI 闡述了事情已經變得多麼糟糕。他們一直在trac全球範圍內的可疑活動（確切地說有 20 個），所有這些活動都試圖利用人工智能工具來擾亂人們在網上的思想。有些人正在發佈人工智能生成的網站文章。

其他人則有虛假的社交媒體賬戶發佈宣傳內容。但 OpenAI 的團隊聲稱，他們設法在這些網絡像病毒一樣傳播之前將其關閉。

然而，這還不足以讓每個人都高興。一些立法者、科技監管機構和懷疑論者都對選舉季節讓 ChatGPT 肆意橫行的危險發出了危險信號。當然，人工智能聊天機器人可能令人印象深刻，但衆所周知，它們仍然會時不時地吐出有問題的信息。

民主與技術中心首席執行官亞歷山德拉·裏夫·吉文斯 (Alexandra Reeve Gives) 在上週的一份聲明中表示：“選民絕對不應該向人工智能聊天機器人尋求有關投票或選舉的信息，因爲人們對準確性和完整性有太多擔憂。”

最重要的是，紐約總檢察長利蒂蒂亞·詹姆斯上週五在她的辦公室對一些人工智能驅動的聊天機器人進行了測試後發佈了警告。她的團隊向他們提出了一些與選舉相關的問題，但不喜歡他們得到的答案。錯誤信息層出不窮。

總檢察長辦公室宣稱：“依賴聊天機器人而不是官方政府消息來源來回答有關投票問題的紐約人有可能被誤導，甚至可能因信息不準確而失去投票機會。”

此後，OpenAI 在 ChatGPT 上添加了一項功能，敦促尋求選舉結果的用戶轉向美聯社和路透社等值得信賴的新聞來源。該功能於 11 月 5 日推出，旨在避免將人工智能生成的響應用於選舉數據等重要數據。

人工智能在全球選舉中佔據熱門位置

今年，世界各地的政治運動可能會影響 40 多個國家的超過 40 億人。由於存在如此多的風險，人工智能驅動的錯誤信息跨境傳播的風險是一個大問題。

Clarity 關於 Deepfake 內容增加 900% 的報告再次令人不安。事實上，其中一些深度僞造視頻與俄羅斯支持的影響力活動有關，這一事實進一步加劇了緊迫性。

民主與技術中心 7 月份的一項研究又增加了一層擔憂。他們在 Mistral、Google、OpenAI、Anthropic 和 Meta 等大公司的 AI 聊天機器人上測試了與選舉相關的查詢。在 77 個與選舉相關的問題中，超過三分之一的回答不準確或具有誤導性。不太好。

製造 Claude 聊天機器人的 Anthropic 發言人明確表示：“對於具體的選舉和投票信息，我們會將用戶引導至權威來源，因爲 Claude 沒有接受足夠頻繁的培訓，無法提供有關具體選舉的實時信息。”

特朗普-馬斯克二人組和硅谷的新現實

儘管 OpenAI 正在處理錯誤信息，但整個硅谷正在準備徹底改革與華盛頓的關係。dent總統唐納德·特朗普重返白宮帶來了巨大的承諾——他計劃廢除前任的許多科技政策，包括拜登政府最近關於人工智能安全的行政命令。

該命令爲人工智能開發者引入了安全和隱私指南，目的是設置一些基本的護欄。它推動人工智能研究經費，旨在讓美國國家標準與技術研究院更多地參與人工智能標準的制定。特朗普稱這項政策“危險”，是創新的障礙，並承諾用他所說的“植根於言論自由的人工智能發展”來取代它。

埃隆·馬斯克（Elon Musk）在支持特朗普的競選活動中投入了超過 1.3 億美元，甚至在賓夕法尼亞州代表特朗普集會，預計將成爲特朗普最大的科技盟友之一。憑藉馬斯克的影響力和他對 X（以前的 Twitter）的控制，他可以直接向數百萬人傳達政治信息。

更不用說，馬斯克也參與其中：特斯拉和 SpaceX 可能會從特朗普的政策中獲益，特別是如果新政府支持減少監管的話。

儘管亞馬遜的傑夫·貝佐斯等一些科技大亨公開與特朗普發生衝突，但其他人卻找到了博得特朗普青睞的方法。例如，據報道，Meta 的馬克·扎克伯格稱讚特朗普對最近一次暗殺企圖的反應，稱其“糟糕”。

Facebook 並沒有就此止步，他們還取消了該平臺的一些反錯誤信息措施。 《華盛頓郵報》的老闆貝索斯顯然在大選前幾周阻止了一篇本來支持副dent卡馬拉·哈里斯的社論。

特朗普第二任期對硅谷的影響也將取決於誰控制國會。隨着共和黨贏得了參議院席位，特朗普推進其科技議程並以更少的摩擦確認他所選擇的提名人的道路現在更加清晰。