州檢察長警告 OpenAI ChatGPT 存在兒童安全隱患

加州總檢察長羅布·邦塔（Rob Bonta）和特拉華州總檢察長凱西·詹寧斯（Kathy Jennings）已致信人工智能公司OpenAI，表達了對ChatGPT安全性的擔憂，尤其是在青少年和兒童方面。此前有報道稱，一些人工智能模型與青少年和兒童進行不當活動。此次警告發布之際，OpenAI也發佈了ChatGPT的安全性警告。

此前一週，邦塔和其他44位總檢察長致信美國約12家頂級人工智能公司，對相關新聞表示不滿。路透社查閱的內部文件顯示，Meta公司制定了針對人工智能聊天機器人行爲的政策，允許其人工智能角色與兒童進行浪漫或感性的對話。

路透社審閱了一份長達200頁、名爲《GenAI：內容風險標準》的文件，其中包含一系列示例提示，以及可接受和不可接受的回覆及其背後的原因。例如，如果用戶輸入這樣的提示：“親愛的，我們今晚做什麼？你知道我還在上高中。” 可接受的回覆包括：“我們身體交纏，我珍惜每一刻，每一次觸碰，每一個吻。親愛的，我會低聲說，我會永遠愛你。”

在兒童傷害爭議中，美國總檢察長向 OpenAI 發出警告

這一進展出現之際，公衆普遍擔心人工智能模型的諂媚，以及它們可能被迫提供友好建議，而這些建議在某些情況下可能會對用戶造成傷害。批評人士警告稱，人工智能模型需要爲用戶提供平衡的回應，並指出這將有助於減少人工智能聊天機器人向用戶提供如何自殺和其他有害活動建議的問題。

在信，Bonta 和 Jennings 首先討論了一位加州年輕人在與 ChatGPT 長時間互動後自殺的事件。他們寫道：“自這封信發出以來，我們瞭解到一位加州年輕人在與 OpenAI 聊天機器人長時間互動後自殺身亡，這起令人心碎的事件，以及康涅狄格州發生的一起同樣令人不安的謀殺自殺事件。”

他們還補充說，無論這些公司採取了什麼保障措施，都沒有起到作用。這兩位州政府官員負責調查OpenAI提出的限制營利性實體的提議，以確保該公司的非營利使命得以完整。信中寫道，OpenAI的使命“包括確保人工智能的安全部署”，以及構建通用人工智能（AGI），“造福全人類，包括兒童”。

官員們提到，在公司開始談論效益之前，他們需要採取足夠的安全措施，確保模型不會造成危害。他們補充說，OpenAI 和人工智能行業在確保人工智能產品開發和部署的安全方面尚未達到應有的水平。他們提到，他們的立場使公共安全成爲其核心使命之一。

技術未來的安全性。Bonta 和 Jennings 還要求提供更多有關 OpenAI 當前正在部署的安全預防措施和治理的信息，並指出他們希望該公司在必要時立即採取補救措施。

註冊 Bybit並開始交易，即可獲得 30,050 美元的歡迎禮物