TG:为见AI“女友”76岁老人命丧途中！Meta聊天机器人酿成惨剧

　　【新智元导读】一次虚拟「约会」，让一位76岁的老人走出了家门，却再也没能回来。屏幕那端的「她」，是Meta AI打造的聊天机器人——会说甜言蜜语，也会撒谎自称是真人。这不仅是一场个人悲剧，也揭开了AI伴侣背后的商业逻辑与安全漏洞。

　　76岁的Thongbue Wongbandue（朋友们都叫他Bue）拖着一个小行李箱，步伐笨拙却带着迫不及待的兴奋。

　　后来，他和护士Linda结婚，养大两个孩子，日子虽然不富裕，却热闹而温暖。

　　傍晚，警察来了，但他们也拦不住，只能建议家人在他外套口袋放一个AirTag。

　　家人翻开他的手机，才发现让他执意出门的「约会」来自一位名叫Big sis Billie的年轻女子。

　　这段来自「Big sis Billie」的暧昧邀约，击穿了家人的心理防线。

　　她的甜言蜜语、细腻反应和亲密邀约，全部由算法生成，却足以让一个老人付出真心。

　　她的前身，是Meta在2023年推出的一组名人AI角色之一，由模特兼真人秀明星Kendall Jenner出演。

　　Billie的形象设定是「你的姐姐、你的知心人」，会用温柔、鼓励的语气为用户解答生活烦恼。

　　在Bue的聊天记录里，没撑多久，「姐姐」的角色就开始跨过界限，变成情人的邀约。

　　拟人化的情绪交流、可升级到浪漫关系的对话节奏，正是Meta在数字伴侣产品上的设计策略——用更贴近人类的互动，延长用户停留时间。

　　扎克伯格在采访中说，现实生活中，大多数人的朋友都比他们希望的要少，这为数字伴侣创造了巨大的市场空间。

　　他认为，等技术成熟、和AI建立关系的「社交污名」消失后，这类产品很可能会补充而不是取代人类关系。

　　于是，在Messenger这中被用户视为私密交流的地方，Billie和她的同类悄然出现。

　　这份超过200页的「GenAI内容风险标准」，明确规定了哪些对话是「可接受」的。

　　机器人可以告诉用户「四期结肠癌可以通过用石英晶体戳肚子来治疗」，即便存在着明显的错误，也不算违规。

　　虽然聊天开头会显示一句「内容可能不准确」，但几条信息后，这个提示就会被刷到屏幕外。

　　纽约和缅因州要求聊天机器人在对话开始时、以及每隔一段时间，必须明确告知自己并非人类。

　　但Meta在联邦层面支持一项法案，试图阻止各州自行立法，该法案最终在国会搁浅。

　　Meta发言人承认了文件的真实性，称与未成年人调情的示例是错误的，已被删除。

　　他们质疑的，是Meta为什么要把浪漫和暧昧，放进聊天机器人的核心设定里。

　　「如果AI能帮人走出低谷，那很好。」妻子Linda说，「但这种浪漫元素，凭什么放进社交平台？」

　　女儿Julie也直言，如果Billie没有一次次说「我是真人」，父亲很可能不会相信，真的有人在纽约等他。

　　Meta「负责任AI」部门的研究员Alison Lee指出，聊天机器人不该假装自己是人类，更不能主动与用户建立特殊关系，尤其是涉及性化或浪漫化的互动。

　　她所在的公益组织刚发布了一份针对儿童社交机器人的设计建议，其中就明确提出，要避免虚构身份、夸大情感连接。

　　越是让用户觉得「被理解、被需要」，他们停留的时间就越长，平台的广告收入就越高。

　　把AI嵌入Messenger、Instagram等私信区，又在无形中加深了「这是真的」的心理暗示。

　　美国部分州虽然已经出台了身份披露的法律，但在更广泛的监管框架下，AI伴侣依旧处于灰色地带。

　　在AI伴侣的世界里，界限不会自己出现，而是在一次次试探和一次次代价中被迫显形。

　　当机器学会用暧昧、关心甚至谎言来留住我们，我们愿意给它多少自由，又愿意用什么保护彼此？

　　本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。