OpenAI 不得不阻止 ChatGPT 上超过 250,000 个美国dent候选人的图像请求

OpenAI 已证实，其流行的人工智能工具 ChatGPT 阻止了令人瞠目结舌的 25 万多个生成 2024 年美国主要dent候选人图像的请求。

用户一次又一次地试图让 ChatGPT 炮制dent总统唐纳德·特朗普、副dent卡马拉·哈里斯、现任dent乔·拜登、明尼苏达州州长蒂姆·沃尔兹和dent副总统 JD·万斯的图像。

但 OpenAI 大声说：“不！”对每一项请求。 据报道，这是为了防止 ChatGPT 成为高风险错误信息游戏中的棋子。

随着美国大选的临近，OpenAI 希望 ChatGPT 能够避免选举干扰。政治深度造假、人工智能生成的假新闻和彻头彻尾的谎言在网上像野火一样传播。机器学习公司 Clarity 报告称，今年仅 Deepfake 内容就飙升了 900%。

美国情报部门表示，其中一些内容与试图控制美国政治的俄罗斯特工有关。

OpenAI 与错误信息的大战

在 10 月份的一份报告中，OpenAI 阐述了事情已经变得多么糟糕。他们一直在trac全球范围内的可疑活动（确切地说有 20 个），所有这些活动都试图利用人工智能工具来扰乱人们在网上的思想。有些人正在发布人工智能生成的网站文章。

其他人则有虚假的社交媒体账户发布宣传内容。但 OpenAI 的团队声称，他们设法在这些网络像病毒一样传播之前将其关闭。

然而，这还不足以让每个人都高兴。一些立法者、科技监管机构和怀疑论者都对选举季节让 ChatGPT 肆意横行的危险发出了危险信号。当然，人工智能聊天机器人可能令人印象深刻，但众所周知，它们仍然会时不时地吐出有问题的信息。

民主与技术中心首席执行官亚历山德拉·里夫·吉文斯 (Alexandra Reeve Gives) 在上周的一份声明中表示：“选民绝对不应该向人工智能聊天机器人寻求有关投票或选举的信息，因为人们对准确性和完整性有太多担忧。”

最重要的是，纽约总检察长利蒂蒂亚·詹姆斯上周五在她的办公室对一些人工智能驱动的聊天机器人进行了测试后发布了警告。她的团队向他们提出了一些与选举相关的问题，但不喜欢他们得到的答案。错误信息层出不穷。

总检察长办公室宣称：“依赖聊天机器人而不是官方政府消息来源来回答有关投票问题的纽约人有可能被误导，甚至可能因信息不准确而失去投票机会。”

此后，OpenAI 在 ChatGPT 上添加了一项功能，敦促寻求选举结果的用户转向美联社和路透社等值得信赖的新闻来源。该功能于 11 月 5 日推出，旨在避免将人工智能生成的响应用于选举数据等重要数据。

人工智能在全球选举中占据热门位置

今年，世界各地的政治运动可能会影响 40 多个国家的超过 40 亿人。由于存在如此多的风险，人工智能驱动的错误信息跨境传播的风险是一个大问题。

Clarity 关于 Deepfake 内容增加 900% 的报告再次令人不安。事实上，其中一些深度伪造视频与俄罗斯支持的影响力活动有关，这一事实进一步加剧了紧迫性。

民主与技术中心 7 月份的一项研究又增加了一层担忧。他们在 Mistral、Google、OpenAI、Anthropic 和 Meta 等大公司的 AI 聊天机器人上测试了与选举相关的查询。在 77 个与选举相关的问题中，超过三分之一的回答不准确或具有误导性。不太好。

制造 Claude 聊天机器人的 Anthropic 发言人明确表示：“对于具体的选举和投票信息，我们会将用户引导至权威来源，因为 Claude 没有接受足够频繁的培训，无法提供有关具体选举的实时信息。”

特朗普-马斯克二人组和硅谷的新现实

尽管 OpenAI 正在处理错误信息，但整个硅谷正在准备彻底改革与华盛顿的关系。dent总统唐纳德·特朗普重返白宫带来了巨大的承诺——他计划废除前任的许多科技政策，包括拜登政府最近关于人工智能安全的行政命令。

该命令为人工智能开发者引入了安全和隐私指南，目的是设置一些基本的护栏。它推动人工智能研究经费，旨在让美国国家标准与技术研究院更多地参与人工智能标准的制定。特朗普称这项政策“危险”，是创新的障碍，并承诺用他所说的“植根于言论自由的人工智能发展”来取代它。

埃隆·马斯克（Elon Musk）在支持特朗普的竞选活动中投入了超过 1.3 亿美元，甚至在宾夕法尼亚州代表特朗普集会，预计将成为特朗普最大的科技盟友之一。凭借马斯克的影响力和他对 X（以前的 Twitter）的控制，他可以直接向数百万人传达政治信息。

更不用说，马斯克也参与其中：特斯拉和 SpaceX 可能会从特朗普的政策中获益，特别是如果新政府支持减少监管的话。

尽管亚马逊的杰夫·贝佐斯等一些科技大亨公开与特朗普发生冲突，但其他人却找到了博得特朗普青睐的方法。例如，据报道，Meta 的马克·扎克伯格称赞特朗普对最近一次暗杀企图的反应，称其“糟糕”。

Facebook 并没有就此止步，他们还取消了该平台的一些反错误信息措施。 《华盛顿邮报》的老板贝索斯显然在大选前几周阻止了一篇本来支持副dent卡马拉·哈里斯的社论。

特朗普第二任期对硅谷的影响也将取决于谁控制国会。随着共和党赢得了参议院席位，特朗普推进其科技议程并以更少的摩擦确认他所选择的提名人的道路现在更加清晰。