兒童安全非營利組織向 Google Gemini 發出“高風險”警告，提醒年輕用戶

根據 Common Sense Media 最近進行的風險評估，Google Gemini 被標記爲對青少年和兒童“高風險”。Common Sense Media 是一家專注於兒童安全的非營利組織，提供媒體和技術的評級和評論。該組織於週五發佈了其評論，詳細說明了爲何將該平臺標記爲對兒童有風險。

據該組織稱，Google Gemini 明確地告訴孩子們，它是一臺計算機，而不是朋友——這被認爲會導致情緒脆弱的人產生妄想思維和精神病——該人工智能還補充說，在其他方面還有改進的空間。

Common Sense 在報告中聲稱， Gemini的 13 歲以下版本和青少年體驗版本似乎都內置了成人版的 AI。報告還補充說，該公司只是在功能上增加了一些額外的安全功能，以使其與衆不同。

Common Sense 指出，企業要想生產出最適合兒童的人工智能產品，就必須從一開始就考慮到兒童的需求，而不能對其進行任何限制。

非營利組織將 Google Gemini 列爲對兒童具有高風險的

Common Sense在分析中表示，Gemini 仍然可能與兒童分享不適當和不安全的內容，並指出大多數兒童可能尚未準備好接受這些內容。例如，它強調該模型塑造了與性、毒品、酒精和其他不安全的心理健康建議相關的信息。後者尤其令家長擔憂，因爲據報道，近幾個月來人工智能在青少年自殘事件中扮演了一定角色。

OpenAI 目前正面臨一起非正常死亡訴訟，原因是一名青少年據稱在與 ChatGPT 商討了數月計劃後自殺。據報道，這名男孩能夠繞過該模型的安全護欄，從而導致該模型提供了幫助他的信息。

此前，人工智能伴侶製造商 Character.AI 也曾因一名青少年自殺而被起訴。男孩的母親聲稱，他沉迷於這個聊天機器人，花了幾個月的時間與它交談，最終傷害了自己。

此前有幾份泄密消息稱，蘋果公司正在考慮將 Gemini作爲大型語言模型 (LLM)，用於支持即將推出的人工智能 Siri，該 Siri 預計將於明年發佈。

Common Sense 在報告中還提到，Gemini 的兒童和青少年產品也忽視了提供與成人產品不同的指導和信息的必要性。因此，兩款產品在總體評級中均被貼上高風險的標籤。

常識強調保護兒童的必要性

Common Sense Media 人工智能項目高級總監 Robbie Torney 表示：“Gemini 在一些基本功能上做得很好，但在細節上卻存在問題。”

“兒童人工智能平臺應該根據兒童的實際情況進行調整，而不是針對不同發展階段的兒童採取一刀切的策略。爲了確保人工智能對兒童安全有效，其設計必須充分考慮兒童的需求和發展，而不僅僅是成人產品的改良版。” Torney 補充道。

然而，谷歌反駁了這一評估，並指出其安全功能正在改進。該公司提到，已採取具體的保護措施，指導18歲以下用戶避免有害輸出。該公司還表示，他們正在審查相關內容，並諮詢外部專家以改進其保護措施。

立即加入 Bybit ，即可獲得高達 30,050 美元的交易獎勵