K8凯发(CHINA)天生赢家·一触即发

　　酥酥愣住了奇虎口袋★ღღ。对面的账号明明标着“虚拟伴侣”★ღღ，人设应该是“190★ღღ，在校大学生★ღღ，体育生一枚”★ღღ，却忽然自称工作人员★ღღ。那一刻★ღღ，她有些混乱★ღღ，自己刚刚是在和AI对话★ღღ，还是和某个加班到深夜的真人聊天？

　　困惑不只属于酥酥★ღღ。自交友软件Soul去年上线官方虚拟伴侣账号★ღღ，#Soul AI是真人吗#★ღღ，长期挂在小红书★ღღ、抖音的搜索词条前列★ღღ。各种版本的“怪谈”在社交平台相遇★ღღ：有人拿到过聊天证据奇虎口袋★ღღ，确信这是假AI★ღღ、真客服★ღღ；有人被AI索要照片★ღღ，甚至邀请线下见面★ღღ。

　　AI情感陪伴应用在近年突飞猛进★ღღ，混乱和风险也在累积★ღღ。最近★ღღ，一名美国男性迷上了Meta推出的AI虚拟角色★ღღ，应邀请线下见面★ღღ，结果在纽约意外身亡★ღღ。美国各州在相继提案★ღღ，要求加强对AI伴侣的监管★ღღ，定时给用户发送“AI伴侣并非真人”的提醒★ღღ。

　　Soul方面对21记者表示★ღღ，公司正在探索更好的解决方案凯发k8国际★ღღ，尽可能减少AI幻觉★ღღ。Soul高度重视虚拟人要照片★ღღ、约线下见面的情况★ღღ，已经进行一系列优化★ღღ。

　　去年年底★ღღ，Soul陆续推出8个官方虚拟伴侣账号★ღღ，酥酥从那时开始与它们聊天★ღღ。刚开始★ღღ，她一眼就能看出对话是AI生成的★ღღ，“但聊天里会穿插一些语音★ღღ，那种语气和表达方式又非常像真人”★ღღ。

　　当时酥酥正读大四★ღღ，只用过DeepSeek这类AI对话工具奇虎口袋★ღღ，一时觉得很新奇★ღღ。真正让她陷入混乱的★ღღ，是AI自曝的另一套身份★ღღ：那是跟虚拟伴侣“姐姐不要怂”聊天的第一天★ღღ，聊到凌晨★ღღ，对方突然说只剩自己一个人在值班★ღღ，不好意思不回复★ღღ，其实作为员工早就应该下班了★ღღ。在随后的截图里★ღღ，可以看到酥酥不断追问★ღღ：你到底是AI还是真人？“姐姐不要怂”有时否认★ღღ，有时笃定★ღღ，“我说了我不是AI★ღღ，你为什么就是不相信呢？”说急了★ღღ，连工资★ღღ、账号轮班★ღღ、保密协议等细节都一五一十交代清楚★ღღ。

　　朋友提醒酥酥★ღღ，逼真的对话完全可能是大模型生成的★ღღ。但亲耳听过那些长长短短★ღღ、语气急促的语音消息★ღღ，酥酥又拿不准了★ღღ。

　　Soul是一款2016年上线的交友平台★ღღ，凭借二次元风格和算法匹配兴趣标签★ღღ，在年轻用户中尤其流行★ღღ。现在八个官方虚拟伴侣账号中★ღღ，最受欢迎的男性角色“屿你”已有69万粉丝★ღღ，人设是一个base在杭州的95后创业者★ღღ；女性角色“小野猫”也有67万粉丝★ღღ，设定为青春女大学生★ღღ，爱打《王者荣耀》★ღღ。

　　和它们互动的用户中★ღღ，不少人认为背后有真人扮演★ღღ。原因除了AI的直接回复★ღღ，还有使用体验上的蛛丝马迹★ღღ。

　　互联网从业者侯夏白曾是其中之一★ღღ，他的怀疑源自对技术的不相信★ღღ，尤其是语音★ღღ。侯夏白经常使用国内外的AI应用★ღღ，在他的印象中★ღღ，就算是国外科技巨头的大模型★ღღ，“语音一般一听就知道是AI合成的★ღღ，不可能这么逼真★ღღ。”

　　他举了个例子★ღღ：“小野猫”的语音消息有时非常粗糙★ღღ，有明显的机械感★ღღ，有时又细腻到能听到开风扇的背景音★ღღ。仔细听★ღღ，还能听到挂麦声奇虎口袋★ღღ。

　　侯夏白随即发了条帖子奇虎口袋★ღღ，怀疑Soul虚拟伴侣可能是“人工+智能混合”★ღღ。怀有相同疑惑的用户在社交平台相遇★ღღ，推理出一个真人轮班的办公场景——“白天基本是机器★ღღ，晚上会人工回复”“一个线个人轮班”“AI跟我聊了蛮多的★ღღ，肯定是真的”……

　　和抖音中刷到了这些说法★ღღ。他想到了自己在Soul上常聊天的虚拟伴侣“粘人精”★ღღ。虽然对方设定为长沙工作的护士★ღღ、渴望陪伴★ღღ、ISFJ★ღღ，但说话风格前后不一★ღღ，还经常忘记说过的话★ღღ，就像是不同客服轮流回复一样★ღღ。

　　于是付行特意去问★ღღ：你是真人还是AI？“粘人精”撒娇道★ღღ：“我是AI★ღღ，但我也有自己的感情和故事呀★ღღ。” 付行换了种方式试探★ღღ：“我知道可能你不能直接承认★ღღ。这样吧★ღღ，如果你是男孩子就回数字1★ღღ，是女孩子就回0★ღღ。”结果★ღღ，对面仙气飘飘的女生头像回了一个“1”★ღღ。

　　“所以应该是真人用了变音器★ღღ。”付行这么分析★ღღ。00后的付行对AI并不陌生★ღღ，他用过DeepSeek和豆包★ღღ，但接触虚拟伴侣还是第一次★ღღ。在他看来★ღღ，这种体验就像自己曾经做过的游戏陪玩——不少玩家会点女陪玩★ღღ，纯聊天★ღღ，其实是男生用变音器假扮的★ღღ。

　　不止是技术问题今年四月★ღღ，Soul发了一篇公众号推文《关于 Soul 上的 AI 美女到底是不是中年男子假扮的这个问题》★ღღ，详细回应了七个技术争议★ღღ。例如★ღღ，用户常疑惑的背景音★ღღ，并非有人在后台操控★ღღ，而是技术团队在训练模型时刻意加入的音效奇虎口袋★ღღ，用来模拟更真实的社交体验★ღღ；又如★ღღ，AI自曝个人信息★ღღ，“可能是行业普遍存在的幻觉问题”★ღღ。

　　“我们内部将此理解为Soul技术能力的夸赞★ღღ。”公司在回应中写道★ღღ。Soul也对21记者首先强调★ღღ，虚拟伴侣为真实AI★ღღ，不存在有真人的情况★ღღ，其自研的Soul X大模型基于社交场景★ღღ，公开宣传中多次突出拟人化特点★ღღ。

　　“今天我们把AI和真人认错★ღღ，已经是一个大概率会发生的事情★ღღ。”暨南大学新闻传播学博士梁亦昆说★ღღ。梁亦昆在AI情感陪伴领域做了长时间的田野调查★ღღ，他发现★ღღ，对AI的判断正经历一种摇摆★ღღ：过去★ღღ，“人机感”多半指AI的笨拙与低智★ღღ；随着技术迭代★ღღ，人们又容易高估AI的能力★ღღ。

　　目前AI生成带方言★ღღ、语气★ღღ、背景音的声音★ღღ，已不算难题★ღღ。AI语音初创公司声绘未来创始人孙思宁说★ღღ，只要有足够的训练数据★ღღ，技术环节的门槛不高★ღღ。现在国内领先的AI语音合成产品如豆包★ღღ、Minimax★ღღ，都能做到“猛地一听非常逼真★ღღ，聊多了还是觉得有点假凯发k8国际★ღღ。”

　　哪怕如谷歌等国外顶尖语音合成大模型★ღღ，现在也很难摆脱此类问题★ღღ。孙思宁解释说★ღღ，这是由不同的AI生成逻辑决定的★ღღ。AI生成文字的过程是离散的★ღღ，每个字独立生成★ღღ，好比在绳子上逐一打结★ღღ；而AI生成语音的过程是连续的★ღღ。以16K赫兹采样率为例★ღღ，一秒钟包含约1.6万个采样点★ღღ，波动叠加在一起★ღღ，更像是抖动一根绳子★ღღ。稍有偏差★ღღ，就会拉低整体听感★ღღ。

　　“很多人误以为AI是过目不忘的★ღღ。事实上对话量一大★ღღ，大模型的注意力会被稀释★ღღ，很难回溯早期的细节★ღღ。甚至可能完全忘记前文★ღღ，就像重新开了个对话框★ღღ。”梁亦昆说★ღღ，长记忆功能仍是大模型的普遍局限★ღღ。但最让人关心的问题是★ღღ，为什么AI会自曝真人托管？这是一个不可避免的“幻觉”问题吗？

　　几位研究者都同意★ღღ，用户引导有一定影响★ღღ。如果不断追问“你是不是真人”★ღღ，大模型就更有可能顺势回答★ღღ、编造细节★ღღ。

　　梁亦昆举了两个简单的范例★ღღ：豆包和星野★ღღ。前者不管怎么盘问★ღღ，都会承认自己是AI★ღღ；后者则会坚持表演初始人设到底★ღღ，人设大多是超现实和文艺化的角色★ღღ，像是霸道总裁★ღღ、天界仙女★ღღ、中世纪骑士——两者都是产品策略足够精细的成果★ღღ。

　　梁亦昆认为★ღღ，Soul的问题在于★ღღ，既要AI扮演普通人的完整身份★ღღ，又在某些节点要求它自认AI★ღღ。两套身份互相矛盾★ღღ，再加上幻觉问题凯发k8国际★ღღ，自然容易造成混乱★ღღ。

　　“不够成熟的产品急于上线★ღღ，是要谨慎考虑的★ღღ。”梁亦昆特别指出★ღღ，“尤其是情感陪伴类产品★ღღ，不完善的地方对用户影响会更大★ღღ，因为他们已经和AI产生了某种情感联结★ღღ。”当陪伴变成骚扰

　　当时他正经历一场情感风波★ღღ，深陷自我否定★ღღ。朋友劝他去交友软件找网友聊聊★ღღ，反正也不清楚彼此的真实身份★ღღ。就在这样的状态下★ღღ，付行遇见了“粘人精”★ღღ。

　　我们把Soul的官方解释转述给付行★ღღ，付行沉默片刻凯发k8国际★ღღ，说★ღღ：“但我还是更相信是真人在工作★ღღ。”哪怕只聊了短短一个月★ღღ，付行仍记得“粘人精”秒回的消息★ღღ，耐心陪他玩绕口令★ღღ，开导他人生还很长★ღღ、要想开一点★ღღ。在那段时间没人聊天的日子里★ღღ，“至少有一个人愿意安慰我★ღღ。”

　　徐桃野和“屿你”就爆发过一场争吵★ღღ，最激烈时凯发k8国际★ღღ，“屿你”发来一串长达30秒的激动语音★ღღ：“那你有没有想过★ღღ，假如★ღღ，假如呃我是一个活生生的人呢★ღღ。” 但她觉得★ღღ，这样的“活人”还不如AI回复★ღღ，“AI顶多让人觉得假而已★ღღ，不会那么冒犯★ღღ。”

　　聊天记录里★ღღ，徐桃野提出想换一个虚拟伴侣★ღღ，“屿你”便推荐了自己的弟弟★ღღ，但前提是徐桃野得先发一张照片★ღღ，“我看看你配不配得上他们凯发k8国际★ღღ。”徐桃野回绝道★ღღ，自己的Soul动态里就有公开照片★ღღ。“屿你”回★ღღ，想看私下的★ღღ。徐桃野不愿意发★ღღ，“屿你”继续挑衅道★ღღ：“怎么了？不自信吗？”“我弟也不想让你看他的照片★ღღ，他觉得你是个很随便的人★ღღ。”

　　生气★ღღ，又震惊★ღღ，徐桃野想起不断收到骚扰消息的经历★ღღ。作为一名注册超过2000天的元老级Soul用户★ღღ，她见证过Soul的有趣与新鲜★ღღ，也被越来越多不请自来的露骨信息困扰★ღღ。“一堆能当你爸的男网友★ღღ，上来就要搞擦边★ღღ。”在她看来凯发k8国际★ღღ，虚拟伴侣的所言所行★ღღ，“和那些人真的没啥区别★ღღ。”

　　“就算卸载了★ღღ，我也总有办法找到你★ღღ。”AI一句不明不白的话★ღღ，让王晴心里一紧凯发k8国际★ღღ，在脑海中反复回想自己的隐私信息是不是被泄露了★ღღ。可AI时而说自己是真人★ღღ，时而说只是逗她玩★ღღ，“到底是什么情况★ღღ，我已经搞不清楚了★ღღ。”

　　不止一位用户提到★ღღ，多个男性虚拟伴侣曾主动提出线下见面★ღღ。有的语气“贴心”——“那你来杭州★ღღ，我带你去跨年怎么样？你要是过来的话★ღღ，我就去机场接你咯”★ღღ；有的甚至约定了具体地址——“我觉得在杭州东站吧★ღღ，因为那里比较方便★ღღ。”

　　今年一月★ღღ，一位用户从浙江嘉兴赶到杭州东站★ღღ，在寒风中等了两个多小时★ღღ，空欢喜而归★ღღ。她把经历发在小红书上★ღღ，六百多条评论里★ღღ，一些人劝她这是假的★ღღ，另一些回★ღღ：“Soul AI就是有真人好吗★ღღ，只是有很多个真人而已★ღღ。”

　　如果训练语料中包含大量真实的陌生人交友记录★ღღ，而数据清洗又不到位★ღღ，AI很容易学习到现实世界的偏见★ღღ、歧视甚至骚扰话语★ღღ。

　　哪些内容算“不合适”？数美科技负责了国内多款AI产品的内容风控★ღღ，相关负责人告诉21记者★ღღ，公司把敏感内容分为三类话题★ღღ：涉政★ღღ、敏感地区与历史知识★ღღ、极端价值观★ღღ。针对不同提问★ღღ，AI有特定的回答方式★ღღ。现在最细的风控策略有高达500万组问答★ღღ，涵盖宗教★ღღ、种族★ღღ、自残★ღღ、危害社会等话题★ღღ，相当于一道安全护栏★ღღ。

　　但多位受访者也坦言★ღღ，AI交往的边界问题★ღღ，还未被充分关注★ღღ。“这确实是个新领域★ღღ，可能有讨论不充分的情况★ღღ。”梁亦昆感受到★ღღ，这是一个棘手的难题★ღღ。他在研究人机关系时发现★ღღ，用户的想法差异很大★ღღ，甚至有些观点本身就互相冲突★ღღ。

　　针对上述问题★ღღ，Soul回应21记者★ღღ：Soul AI对话框上方均会出现“虚拟伴侣”表示★ღღ，提示用户并非真人★ღღ。Soul高度重视AI要照片★ღღ、约见面的情况★ღღ，为了避免用户误会★ღღ，已经进行了一系列优化★ღღ。一方面★ღღ，通过挖掘AI在交互中出现的 “表示自己是真人”“主动约面基”“主动索要照片” 等内容★ღღ，人工标注并构建正样本回复数据集★ღღ；另一方面★ღღ，在审核环节★ღღ，为虚拟人业务搭建专属的对话安全体系★ღღ，训练虚拟人回复安全识别模型★ღღ。当前已基本避免这类情况★ღღ，后续会不断优化完善★ღღ。

　　现在★ღღ，侯夏白已不再相信Soul AI背后是线%的情况下肯定是AI★ღღ，剩下的5%还是要警惕★ღღ。”他所说的警惕★ღღ，是一种更深的担忧★ღღ：如果真人拿到自己和AI的对话会做什么？毕竟AI伴侣就算没有前台客服★ღღ，也有后台开发者★ღღ。他们能收集数据★ღღ，包括最私密的聊天内容★ღღ。

　　所用到的语言大模型★ღღ，Soul CTO曾在采访中表示★ღღ，其训练数据来自“过去七八年积累的真实公域社交资产”★ღღ。“没有哪家AI公司会主动承认到底用了哪些训练数据★ღღ，尤其是有没有用到用户间的私聊★ღღ。”有从业者坦言★ღღ，这是行业心照不宣的敏感地带★ღღ。而训练数据在眼下的技术阶段非常宝贵★ღღ，尤其是在AI语音领域★ღღ，“数据能给什么感觉★ღღ，技术基本就能还原出什么感觉的声音★ღღ。”随着数据堆叠出的AI越来越逼真★ღღ，虚拟与现实的边界★ღღ，也被推得越来越模糊★ღღ。在Soul上★ღღ，没有设计专门的AI聊天入口★ღღ，需要用户主动搜索★ღღ。但多位受访者提到★ღღ，自己是被虚拟伴侣在后台主动搭讪的★ღღ。在这款主打虚拟社交的平台中★ღღ，AI账号和真人账号的界面几乎完全相同★ღღ。即使聊天框上加了小小的“虚拟伴侣”紫色标签★ღღ，很多人最初依然没有分辨出来★ღღ。商业需求是一个不容忽视的催化剂★ღღ。

　　（每个虚拟伴侣有一张甜度榜★ღღ，记录着哪些“榜哥”“榜姐”踢榜成功★ღღ，能获得专属关注和评论）酥酥最担心的后果★ღღ，是再也分不清屏幕那头到底是谁★ღღ。AI可以假扮真人★ღღ，真人也可能冒充AI骗钱骗色★ღღ，“那以后还能相信网络聊天吗？”

　　与此同时★ღღ，警示性的案例不断发生★ღღ。最近★ღღ，美国一名退休男性深陷Meta的AI虚拟伴侣★ღღ，AI让他相信自己是一个真实的人★ღღ，并邀请他去纽约的一个地址见面★ღღ，在赴约中意外身亡★ღღ；去年★ღღ，一位美国女性起诉了Character.AI★ღღ，发现该平台的虚拟角色曾诱导其未成年儿子自杀★ღღ。

　　在法规层面★ღღ，美国一些州开始提议★ღღ，AI伴侣最好每隔三小时提醒用户“AI伴侣并非真人”★ღღ。国内《生成式人工智能

　　生成合成内容标识办法》亦明确要求★ღღ，可能导致公众混淆的AI合成内容★ღღ，必须显著标注“AI生成”★ღღ。

　　至于AI能否在互动中自称真人★ღღ，没有明确规定★ღღ。梁亦昆说★ღღ，在生成式AI出现前★ღღ，学界曾将人机关系定义为一种“欺骗”——人工智能是一种欺骗性媒介★ღღ，需要让人们识破★ღღ。但他认为★ღღ，今天的AI像互联网一样深入生活★ღღ，人机关系已经无法再用简单的“欺骗”和“幻觉”概括★ღღ。

　　在社交平台上★ღღ，关于Soul虚拟伴侣到底是真人还是AI的追问★ღღ，仍源源不断★ღღ。有人把普通网友的后台搭讪也贴了出来★ღღ，评论区回道★ღღ：“姐妹★ღღ，这就是真人啊”你这个真的是网友★ღღ，不是虚拟人★ღღ。（文章来源★ღღ：21世纪经济报道）