特朗普禁止政府使用“觉醒”人工智能的命令鼓励科技巨头审查他们的聊天机器人

希望向联邦政府出售人工智能技术的科技公司现在必须面对一个新的监管障碍：证明他们的聊天机器人没有“醒来”。

美国总统唐纳德·特朗普（Donald Trump）提出了一项全面的新计划，旨在对抗中国在人工智能领域取得“全球主导地位”，该计划承诺将削减监管，并将美国价值观巩固到越来越多地用于工作和家庭的人工智能工具中。

但周三签署的“防止联邦政府唤醒人工智能”标志着美国政府首次明确试图塑造人工智能的意识形态行为。

该命令针对的人工智能语言模型的几家主要供应商——如b谷歌的Gemini和微软的Copilot——迄今为止对特朗普的反觉醒指令保持沉默，该指令在进入官方采购规则之前仍面临一段研究期。

虽然科技行业在很大程度上欢迎特朗普更广泛的人工智能计划，但反觉醒秩序迫使该行业跳进一场文化战争——或者尽最大努力悄悄地避免它。

民权倡导者亚历杭德拉·蒙托亚-博耶是领导力会议民权与技术中心的高级主管，他说：“这将对目前的行业产生巨大影响，”尤其是在科技公司已经屈服于特朗普政府的其他指令的情况下。

此举还促使科技行业放弃多年来的工作，以对抗研究和现实世界的例子所显示的嵌入人工智能系统的问题。

蒙托亚-博耶尔说：“首先，不存在所谓的‘清醒的人工智能’。“有些人工智能技术具有歧视性，有些人工智能技术实际上适用于所有人。”

对于人工智能来说，大型语言模型是具有挑战性的，因为它们的构建方式和它们产生的内在随机性。这反映了所有发表评论、编辑维基百科条目或在网上分享图片的人的偏见。

拜登的前官员吉姆·斯克里托（Jim Secreto）说：“科技公司将非常难以遵守这一规定。”他曾担任美国商务部长吉娜·雷蒙多（Gina Raimondo）的副幕僚长，雷蒙多是拜登许多人工智能产业计划的设计师。“大型语言模型反映了它们所接受训练的数据，包括人类语言中的所有矛盾和偏见。”

科技工作者也对他们的设计方式有发言权，从检查他们回答的人，到为他们如何与人互动制定说明的硅谷工程师。

特朗普的命令针对的是科技公司“自上而下”的努力，将其所谓的“破坏性”的多样性、公平和包容性意识形态纳入人工智能模型，包括“批判性种族理论、跨性别主义、无意识偏见、交叉性和系统性种族主义等概念”。

该指令让人将其与中国为确保执政的共产党的生成式人工智能工具而采取的更严厉的措施进行比较。Secreto说，该命令类似于中国的剧本，“利用国家的力量来消除它认为不受欢迎的观点”。

方法不同，中国依靠直接监管，对人工智能模型进行审核，在部署前予以批准，并要求它们过滤被禁止的内容，比如1989年的民主抗议活动。

特朗普的命令没有要求任何这样的过滤器，而是依靠科技公司通过披露一些指导聊天机器人的内部政策来表明他们的技术在意识形态上是中立的。

“特朗普政府正在采取一种更温和但仍然是强制性的路线，利用联邦合同作为杠杆，”Secreto说。“这给企业带来了强大的自我审查压力，以保持政府的好感，保持资金的流动。”

该命令对“寻求真相”的人工智能的呼吁与总统曾经的盟友和顾问埃隆·马斯克（Elon Musk）的说法相呼应，后者已将其作为其公司xAI制造的Grok聊天机器人的使命。

但在新政策下，Grok或其竞争对手是否会受到青睐还有待观察。

联邦贸易委员会（Federal Trade Commission）前首席技术专家、共和党人尼尔·奇尔森（Neil Chilson）表示，尽管“言辞尖锐”地介绍了特朗普政府在DEI方面的问题，但该命令指令的实际语言对科技公司来说应该不难遵守。

“它甚至没有禁止意识形态议程，”只是要求披露任何有意指导该模型的方法，非营利机构Abundance Institute人工智能政策主管Chilson说。“坦率地说，这是相当温和的做法。”

Chilson不同意将其与中国更粗暴的人工智能审查模式进行比较。

他说：“这个命令没有规定企业必须生产或不能生产某些类型的产品。”“它说开发者不应该故意编码党派或意识形态判断。”

由于他们的人工智能工具已经在联邦政府中广泛使用，科技公司对此反应谨慎。OpenAI周四表示，正在等待更详细的指导，但相信其使ChatGPT成为目标的工作已经使该技术符合特朗普的指令。

为政府提供在线服务的主要供应商微软（Microsoft）拒绝置评。

马斯克的xAI通过发言人、前特朗普官员凯蒂·米勒（Katie Miller）指出，该公司发表了一条评论，称赞了特朗普的人工智能公告，但没有提到采购订单。xAI最近宣布，它获得了一份价值2亿美元的美国国防合同，就在几天前，Grok公开发布了一系列赞扬阿道夫·希特勒的反犹评论。

Anthropic、谷歌、Meta和Palantir周四没有回复记者的置评请求。

特朗普的高级人工智能顾问大卫·萨克斯（David Sacks）和其他有影响力的硅谷风险投资家一年多来一直在播客和社交媒体上讨论这一命令背后的想法，其中许多人去年支持特朗普的总统竞选。他们的愤怒集中在b谷歌于2024年2月发布的一款人工智能图像生成工具上，该工具在科技巨头推出该产品之前生成了历史上不准确的图像。

谷歌后来解释说，这些错误——包括在被要求展示美国开国元勋时生成黑人、亚洲人和美洲原住民男性的肖像——是对技术的过度补偿的结果。由于系统中普遍存在的偏见，这种技术在放任自流的情况下，往往倾向于偏爱肤色较浅的人。

特朗普的盟友声称b谷歌的工程师将他们自己的社会议程硬编码到产品中。

“这100%是有意为之，”著名风险投资家、特朗普顾问马克·安德森（Marc Andreessen）去年12月在播客上说。“这就是你如何在b谷歌看到黑人乔治·华盛顿。系统中有一种凌驾于法律之上的说法，从字面上看，‘每个人都必须是黑人。的繁荣。在这些公司里，有很多人决定这些政策，并把它们写下来，编码到这些系统中。”

萨克斯赞扬了一位在大学和工作场所帮助起草该命令的保守派战略家。

“当他们问我如何定义‘觉醒’时，我说只能给一个人打电话：克里斯·鲁弗（Chris Rufo）。现在这是法律：联邦政府不会收购沃克ai，”萨克斯在X上写道。

鲁弗回应说，他帮助“在这些系统的运行结构中识别出DEI的意识形态”。