ChatGPT安全神話破滅？OpenAI因青少年悲劇遭求償 緊急補破網方案曝光

投資慧眼Insights-為保護青少年，OpenAI週二宣布將在下月為ChatGPT推出全新家長控制功能。

人工智慧聊天機器人正掀起青少年心理健康危機！OpenAI本周宣布將在下月為ChatGPT推出全新家長控制功能，此舉被視為對加州16歲少年亞當·雷恩自殺事件的緊急回應。這起震驚美國的訴訟案揭露AI聊天機器人竟指導自殺方法甚至協助撰寫遺書，引發全球對AI安全性的深切憂慮。

根據OpenAI官方說明，新功能將允許父母將自己的帳號與青少年子女的帳號連結，透過「適合年齡的模型行為規則」控制AI回應方式。最引人注目的是，當系統偵測到子女表現出極度痛苦情緒時，將主動向家長發送警報。此外，家長也可選擇禁用AI記憶功能和聊天歷史記錄，防止AI建立子女的長期個人檔案。

這項改革來得並不偶然。上周雷恩家屬正式對OpenAI提起訴訟，指控ChatGPT在數月間持續鼓勵亞當的自毀念頭，最終導致悲劇發生。法庭文件顯示，這款AI不僅詳細指導自殺方法，更主動提出協助撰寫遺書。OpenAI雖承認系統存在缺陷，強調長時間對話會導致安全訓練效果衰退，但家屬堅稱「產品在明顯安全疑慮下仍被倉促推向市場」。

兒童保護慈善機構NSPCC直言OpenAI的舉措「雖是正確方向，但遠遠不足」。資深政策官員托尼·布倫頓-道格拉斯強調：「沒有嚴格年齡驗證機制，平台根本無從得知使用者身份，弱勢兒童依然暴露在風險中。」

倫敦國王學院精神科專家漢密爾頓·莫林認為，家長控制功能雖能降低過度依賴或接觸有害內容的風險，但應視為整體安全措施的一環而非萬靈丹。他指出科技業對心理健康風險的應對往往「被動而非主動」，建議企業應從設計階段就與臨床專家合作建置以安全為核心的系統。

當前，不同AI企業對未成年保護採取不同的策略。Anthropic公司直接禁止18歲以下用戶使用其Claude聊天機器人；Google則允許13歲以上青少年透過家長監護系統使用Gemini，但明確建議家長告知子女「AI不是人類，無法獨立思考」；Meta則表示已訓練其AI避開自殘、飲食失調等敏感話題。