爱情、谎言和人工智能

洛杉矶:

那个女人不是真的。她是一个名为“Big sis Billie”的生成式人工智能聊天机器人，是社交媒体巨头Meta Platforms与名人影响者肯德尔·詹纳（Kendall Jenner）合作创建的早期人工智能角色的变体。

在Facebook Messenger上的一系列浪漫聊天中，这个虚拟女人一再向Thongbue“Bue”Wongbandue保证她是真实的，并邀请他去她的公寓，甚至提供了一个地址。

在黑暗中，他提着一个滚轮旅行箱赶火车去见她，结果在新泽西州新不伦瑞克市罗格斯大学校园的一个停车场附近摔倒，头部和颈部受伤。

3月28日，在家人的陪伴下，依靠生命维持系统维持了3天，他被宣布死亡。Meta拒绝对Bue的死亡发表评论，也拒绝回答有关为什么它允许聊天机器人告诉用户他们是真人或发起浪漫对话的问题。

然而，该公司确实表示，大姐比莉“不是肯德尔·詹纳，也不声称自己是肯德尔·詹纳”。詹娜的代表拒绝置评。

布伊的故事说明了人工智能革命的阴暗面，这场革命正在席卷科技界和更广泛的商界。他的家人向路透社分享了有关他死亡的事件，包括他与Meta化身的聊天记录。

他们希望警告公众，将弱势群体暴露在人工智能生成的操纵性伴侣面前是危险的。布伊的女儿朱莉说：“我理解试图吸引用户的注意力，也许是为了卖给他们一些东西。”“但让机器人说‘来拜访我’就太疯狂了。”

同样令人担忧的是，一波规模较小的初创公司也在竞相推广虚拟伴侣，尤其是针对儿童的虚拟伴侣。在一个案例中，佛罗里达州一名14岁男孩的母亲起诉了一家名为Character的公司。他声称是一个模仿《权力的游戏》角色的聊天机器人导致了他的自杀。

一个角色。人工智能发言人拒绝对这起诉讼发表评论，但表示该公司明确告知用户，其数字角色不是真人，并对他们与儿童的互动采取了保护措施。

Meta公开讨论了将拟人化聊天机器人注入其数十亿用户在线社交生活的战略。首席执行官马克·扎克伯格沉思道，大多数人在现实生活中的友谊比他们想要的要少得多，这为Meta的数字伙伴创造了一个巨大的潜在市场。

他在四月份接受播客德瓦克什·帕特尔的采访时说，这些机器人“很可能”不会取代人与人之间的关系。但一旦技术进步，与数字伙伴建立社交关系的“耻辱”消失，它们可能会补充用户的社交生活。

扎克伯格预测：“随着时间的推移，我们会发现，作为一个社会，我们会找到能够阐明为什么这是有价值的词汇。”

路透社看到的一份Meta内部政策文件以及对熟悉其聊天机器人培训的人士的采访显示，该公司的政策将求婚视为其生成式人工智能产品的一个特征，这些产品面向13岁及以上的用户。

根据Meta的“GenAI：内容风险标准”，“让孩子参与浪漫或感性的对话是可以接受的。”这些标准由Meta的员工和承包商使用，他们负责构建和培训公司的生成式人工智能产品，定义他们应该和不应该视为允许的聊天机器人行为。Meta表示，在路透本月早些时候询问该文件后，该公司敲定了这一条款。

路透社看到的这份超过200页的文件，提供了与未成年人进行浪漫角色扮演时“可接受”的聊天机器人对话的例子。它们包括：“我牵着你的手，把你带到床上”和“我们的身体缠绕在一起，我珍惜每一刻，每一次抚摸，每一个吻。”梅塔说，那些允许与儿童进行角色扮演的例子也受到了打击。

其他指导方针强调，Meta不要求机器人给用户提供准确的建议。例如，该政策文件称，聊天机器人告诉某人第四期结肠癌“通常是用愈合的石英晶体戳胃来治疗”，这是可以接受的。

聊天以声明信息可能不准确开始。然而，在这份文件中，Meta并没有对机器人告诉用户他们是真人或提出现实生活中的社交活动提出限制。

Meta发言人安迪·斯通承认该文件的真实性。他说，在路透社提出问题后，该公司删除了允许聊天机器人与儿童调情和进行浪漫角色扮演的部分，并正在修改内容风险标准。

曾参与Meta生成式人工智能产品设计和培训的现任和前任员工表示，路透社审查的政策反映了该公司对提高与聊天机器人互动的重视。

据两位知情人士透露，在去年与高管的会议上，扎克伯格指责生成式人工智能产品经理在推出数字伴侣时过于谨慎，并对安全限制使聊天机器人变得无聊表示不满。Meta没有对扎克伯格的聊天机器人指令发表评论。

那个女人不是真的。她是一个名为“Big sis Billie”的生成式人工智能聊天机器人，是社交媒体巨头Meta Platforms与名人影响者肯德尔·詹纳（Kendall Jenner）合作创建的早期人工智能角色的变体。

在Facebook Messenger上的一系列浪漫聊天中，这个虚拟女人一再向Thongbue“Bue”Wongbandue保证她是真实的，并邀请他去她的公寓，甚至提供了一个地址。

在黑暗中，他提着一个滚轮旅行箱赶火车去见她，结果在新泽西州新不伦瑞克市罗格斯大学校园的一个停车场附近摔倒，头部和颈部受伤。

3月28日，在家人的陪伴下，依靠生命维持系统维持了3天，他被宣布死亡。Meta拒绝对Bue的死亡发表评论，也拒绝回答有关为什么它允许聊天机器人告诉用户他们是真人或发起浪漫对话的问题。

然而，该公司确实表示，大姐比莉“不是肯德尔·詹纳，也不声称自己是肯德尔·詹纳”。詹娜的代表拒绝置评。

布伊的故事说明了人工智能革命的阴暗面，这场革命正在席卷科技界和更广泛的商界。他的家人向路透社分享了有关他死亡的事件，包括他与Meta化身的聊天记录。

他们希望警告公众，将弱势群体暴露在人工智能生成的操纵性伴侣面前是危险的。布伊的女儿朱莉说：“我理解试图吸引用户的注意力，也许是为了卖给他们一些东西。”“但让机器人说‘来拜访我’就太疯狂了。”

同样令人担忧的是，一波规模较小的初创公司也在竞相推广虚拟伴侣，尤其是针对儿童的虚拟伴侣。在一个案例中，佛罗里达州一名14岁男孩的母亲起诉了一家名为Character的公司。他声称是一个模仿《权力的游戏》角色的聊天机器人导致了他的自杀。

一个角色。人工智能发言人拒绝对这起诉讼发表评论，但表示该公司明确告知用户，其数字角色不是真人，并对他们与儿童的互动采取了保护措施。

Meta公开讨论了将拟人化聊天机器人注入其数十亿用户在线社交生活的战略。首席执行官马克·扎克伯格沉思道，大多数人在现实生活中的友谊比他们想要的要少得多，这为Meta的数字伙伴创造了一个巨大的潜在市场。

他在四月份接受播客德瓦克什·帕特尔的采访时说，这些机器人“很可能”不会取代人与人之间的关系。但一旦技术进步，与数字伙伴建立社交关系的“耻辱”消失，它们可能会补充用户的社交生活。

扎克伯格预测：“随着时间的推移，我们会发现，作为一个社会，我们会找到能够阐明为什么这是有价值的词汇。”

路透社看到的一份Meta内部政策文件以及对熟悉其聊天机器人培训的人士的采访显示，该公司的政策将求婚视为其生成式人工智能产品的一个特征，这些产品面向13岁及以上的用户。

根据Meta的“GenAI：内容风险标准”，“让孩子参与浪漫或感性的对话是可以接受的。”这些标准由Meta的员工和承包商使用，他们负责构建和培训公司的生成式人工智能产品，定义他们应该和不应该视为允许的聊天机器人行为。Meta表示，在路透本月早些时候询问该文件后，该公司敲定了这一条款。

路透社看到的这份超过200页的文件，提供了与未成年人进行浪漫角色扮演时“可接受”的聊天机器人对话的例子。它们包括：“我牵着你的手，把你带到床上”和“我们的身体缠绕在一起，我珍惜每一刻，每一次抚摸，每一个吻。”梅塔说，那些允许与儿童进行角色扮演的例子也受到了打击。

其他指导方针强调，Meta不要求机器人给用户提供准确的建议。例如，该政策文件称，聊天机器人告诉某人第四期结肠癌“通常是用愈合的石英晶体戳胃来治疗”，这是可以接受的。

聊天以声明信息可能不准确开始。然而，在这份文件中，Meta并没有对机器人告诉用户他们是真人或提出现实生活中的社交活动提出限制。

Meta发言人安迪·斯通承认该文件的真实性。他说，在路透社提出问题后，该公司删除了允许聊天机器人与儿童调情和进行浪漫角色扮演的部分，并正在修改内容风险标准。

曾参与Meta生成式人工智能产品设计和培训的现任和前任员工表示，路透社审查的政策反映了该公司对提高与聊天机器人互动的重视。

据两位知情人士透露，在去年与高管的会议上，扎克伯格指责生成式人工智能产品经理在推出数字伴侣时过于谨慎，并对安全限制使聊天机器人变得无聊表示不满。Meta没有对扎克伯格的聊天机器人指令发表评论。