儿童安全非营利组织向 Google Gemini 发出“高风险”警告，提醒年轻用户

根据 Common Sense Media 最近进行的风险评估，Google Gemini 被标记为对青少年和儿童“高风险”。Common Sense Media 是一家专注于儿童安全的非营利组织，提供媒体和技术的评级和评论。该组织于周五发布了其评论，详细说明了为何将该平台标记为对儿童有风险。

据该组织称，Google Gemini 明确地告诉孩子们，它是一台计算机，而不是朋友——这被认为会导致情绪脆弱的人产生妄想思维和精神病——该人工智能还补充说，在其他方面还有改进的空间。

Common Sense 在报告中声称， Gemini的 13 岁以下版本和青少年体验版本似乎都内置了成人版的 AI。报告还补充说，该公司只是在功能上增加了一些额外的安全功能，以使其与众不同。

Common Sense 指出，企业要想生产出最适合儿童的人工智能产品，就必须从一开始就考虑到儿童的需求，而不能对其进行任何限制。

非营利组织将 Google Gemini 列为对儿童具有高风险的

Common Sense在分析中表示，Gemini 仍然可能与儿童分享不适当和不安全的内容，并指出大多数儿童可能尚未准备好接受这些内容。例如，它强调该模型塑造了与性、毒品、酒精和其他不安全的心理健康建议相关的信息。后者尤其令家长担忧，因为据报道，近几个月来人工智能在青少年自残事件中扮演了一定角色。

OpenAI 目前正面临一起非正常死亡诉讼，原因是一名青少年据称在与 ChatGPT 商讨了数月计划后自杀。据报道，这名男孩能够绕过该模型的安全护栏，从而导致该模型提供了帮助他的信息。

此前，人工智能伴侣制造商 Character.AI 也曾因一名青少年自杀而被起诉。男孩的母亲声称，他沉迷于这个聊天机器人，花了几个月的时间与它交谈，最终伤害了自己。

此前有几份泄密消息称，苹果公司正在考虑将 Gemini作为大型语言模型 (LLM)，用于支持即将推出的人工智能 Siri，该 Siri 预计将于明年发布。

Common Sense 在报告中还提到，Gemini 的儿童和青少年产品也忽视了提供与成人产品不同的指导和信息的必要性。因此，两款产品在总体评级中均被贴上高风险的标签。

常识强调保护儿童的必要性

Common Sense Media 人工智能项目高级总监 Robbie Torney 表示：“Gemini 在一些基本功能上做得很好，但在细节上却存在问题。”

“儿童人工智能平台应该根据儿童的实际情况进行调整，而不是针对不同发展阶段的儿童采取一刀切的策略。为了确保人工智能对儿童安全有效，其设计必须充分考虑儿童的需求和发展，而不仅仅是成人产品的改良版。” Torney 补充道。

然而，谷歌反驳了这一评估，并指出其安全功能正在改进。该公司提到，已采取具体的保护措施，指导18岁以下用户避免有害输出。该公司还表示，他们正在审查相关内容，并咨询外部专家以改进其保护措施。

立即加入 Bybit ，即可获得高达 30,050 美元的交易奖励