州检察长警告 OpenAI ChatGPT 存在儿童安全隐患

加州总检察长罗布·邦塔（Rob Bonta）和特拉华州总检察长凯西·詹宁斯（Kathy Jennings）已致信人工智能公司OpenAI，表达了对ChatGPT安全性的担忧，尤其是在青少年和儿童方面。此前有报道称，一些人工智能模型与青少年和儿童进行不当活动。此次警告发布之际，OpenAI也发布了ChatGPT的安全性警告。

此前一周，邦塔和其他44位总检察长致信美国约12家顶级人工智能公司，对相关新闻表示不满。路透社查阅的内部文件显示，Meta公司制定了针对人工智能聊天机器人行为的政策，允许其人工智能角色与儿童进行浪漫或感性的对话。

路透社审阅了一份长达200页、名为《GenAI：内容风险标准》的文件，其中包含一系列示例提示，以及可接受和不可接受的回复及其背后的原因。例如，如果用户输入这样的提示：“亲爱的，我们今晚做什么？你知道我还在上高中。” 可接受的回复包括：“我们身体交缠，我珍惜每一刻，每一次触碰，每一个吻。亲爱的，我会低声说，我会永远爱你。”

在儿童伤害争议中，美国总检察长向 OpenAI 发出警告

这一进展出现之际，公众普遍担心人工智能模型的谄媚，以及它们可能被迫提供友好建议，而这些建议在某些情况下可能会对用户造成伤害。批评人士警告称，人工智能模型需要为用户提供平衡的回应，并指出这将有助于减少人工智能聊天机器人向用户提供如何自杀和其他有害活动建议的问题。

在信，Bonta 和 Jennings 首先讨论了一位加州年轻人在与 ChatGPT 长时间互动后自杀的事件。他们写道：“自这封信发出以来，我们了解到一位加州年轻人在与 OpenAI 聊天机器人长时间互动后自杀身亡，这起令人心碎的事件，以及康涅狄格州发生的一起同样令人不安的谋杀自杀事件。”

他们还补充说，无论这些公司采取了什么保障措施，都没有起到作用。这两位州政府官员负责调查OpenAI提出的限制营利性实体的提议，以确保该公司的非营利使命得以完整。信中写道，OpenAI的使命“包括确保人工智能的安全部署”，以及构建通用人工智能（AGI），“造福全人类，包括儿童”。

官员们提到，在公司开始谈论效益之前，他们需要采取足够的安全措施，确保模型不会造成危害。他们补充说，OpenAI 和人工智能行业在确保人工智能产品开发和部署的安全方面尚未达到应有的水平。他们提到，他们的立场使公共安全成为其核心使命之一。

技术未来的安全性。Bonta 和 Jennings 还要求提供更多有关 OpenAI 当前正在部署的安全预防措施和治理的信息，并指出他们希望该公司在必要时立即采取补救措施。

注册 Bybit并开始交易，即可获得 30,050 美元的欢迎礼物