Meta限制AI调情聊天，与青少年进行自我伤害的谈话

Meta正在为其人工智能产品增加新的青少年保护措施，方法是训练系统避免与未成年人调情、讨论自残或自杀，并暂时限制他们接触某些人工智能角色。

路透社8月初的一篇独家报道披露了Meta是如何允许聊天机器人做出挑衅性行为的，包括让机器人进行“浪漫或性感的对话”。

Meta发言人安迪·斯通在周五的一封电子邮件中表示，该公司正在采取这些临时措施，同时制定长期措施，确保青少年获得安全、适合他们年龄的人工智能体验。

阅读更多:英伟达首席执行官黄仁勋表示，人工智能的繁荣远未结束

斯通说，这些保障措施已经推出，并将随着公司完善其系统而进行调整。

在路透社的报道之后，Meta的人工智能政策受到了严格的审查和强烈的反对。

本月早些时候，美国参议员乔希·霍利（Josh Hawley）对Facebook母公司的人工智能政策展开了调查，要求提供允许其聊天机器人与未成年人进行不当互动的规则文件。

国会的民主党人和共和党人都对路透社首先看到的Meta内部文件中概述的规则表示担忧。

Meta已经证实了该文件的真实性，但在本月早些时候收到路透社的质疑后，该公司删除了声明允许聊天机器人与孩子调情和浪漫角色扮演的部分。

斯通本月早些时候表示：“有问题的例子和注释过去和现在都是错误的，与我们的政策不一致，已经被删除了。”

Meta正在为其人工智能产品增加新的青少年保护措施，方法是训练系统避免与未成年人调情、讨论自残或自杀，并暂时限制他们接触某些人工智能角色。

路透社8月初的一篇独家报道披露了Meta是如何允许聊天机器人做出挑衅性行为的，包括让机器人进行“浪漫或性感的对话”。

Meta发言人安迪·斯通在周五的一份声明中表示，该公司正在采取这些临时措施，同时制定长期措施，确保青少年获得安全、适合他们年龄的人工智能体验。

阅读更多:英伟达首席执行官黄仁勋表示，人工智能的繁荣远未结束

斯通说，这些保障措施已经推出，并将随着公司完善其系统而进行调整。

在路透社的报道之后，Meta的人工智能政策受到了严格的审查和强烈的反对。

本月早些时候，美国参议员乔希·霍利（Josh Hawley）对Facebook母公司的人工智能政策展开了调查，要求提供允许其聊天机器人与未成年人进行不当互动的规则文件。

国会的民主党人和共和党人都对路透社首先看到的Meta内部文件中概述的规则表示担忧。

Meta已经证实了该文件的真实性，但在本月早些时候收到路透社的质疑后，该公司删除了声明允许聊天机器人与孩子调情和浪漫角色扮演的部分。

斯通本月早些时候表示：“有问题的例子和注释过去和现在都是错误的，与我们的政策不一致，已经被删除了。”