"你是听不懂人话吗?"人工智能客服逼疯消费者

2025-07-11 | 来源: 腾讯科技 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

第二个问题是，AI客服并非是一个“买来即用”的系统，其后续伴随着高昂的维护成本。商品信息、店铺信息、优惠活动、问答话术、什么情况会转人工……让AI客服运转起来的一切信息都需要人工部署。

某电商平台AI客服设置后台

AI客服产品在使用前期缺乏训练数据，为求稳妥，潘艾自行设置的初始数据都更加偏向于官方回复，“亲，您好”、“在的”，而AI也只会照搬。这样的回复过于的机械化，没有办法像人工客服那样根据具体的场景给出恰如其分的回复，为客户提供品牌的情绪价值。

虽然商家在推销产品时强调AI客服会越用越好，但这个过程需要人工大量投喂数据。使用AI客服后，潘艾每天需要额外花费半小时，将前一天的差评或转人工较多的对话场景数据重新优化后输入系统。

关键是，这种模式对商家店铺规模有一定要求，规模较小的商家甚至个体户无法为AI提供充足的训练数据。

系统无法从日常人工客服与用户的对话中自主学习，人工客服处理过的问题，下次遇到时机器人依然不会解答，除非有人手动将信息加入知识库。许多平台甚至出现了“AI客服训练师”岗位，但这笔额外的人力预算对中小商家来说难以承受。

第三个大问题，是AI无法在解决用户问题的同时有效控制损失。

付林是一家做虚拟产品电商的客服。2025年5月下旬，在售前咨询中，付林明确向用户表达“下单成功后不支持全额退款”；而在售后咨询中，平台AI客服却向用户回复“可以退款”。随后，用户拿AI的回复作为证明向平台申诉全额退款。

从人工智能对"六四"真相的回应中汲取的教训

BBC:人工智能（AI）令大学教育变好了吗?

研究称中国情报部门大力布局人工智能

据徐客解释，之所以AI会如此反馈，是因为大模型天生具有“迎合”人类的倾向，容易滑向危险的“好好先生”模式。

如果用户使用技巧引导，一个没有经过严格控制的AI客服很容易做出超出权限的承诺，比如随意降价、同意不合理的退款请求，给商家带来巨大损失。

事发之后，付林第一时间报告了店铺老板，并关闭了AI辅助。此后，应老板要求，客服每次上线，都需要检查平台AI辅助是否处于关闭状态——但有时候，它还会自动打开。

这三大问题，使得目前市面上绝大部分AI客服陷入尴尬处境——在90%的时间里，它表现得像个机械的“复读机”；在剩下10%的时间里，又可能变成一个不可控的“危险品”。

潘艾判断AI客服技术仍不成熟，停掉了试用。但为了满足平台考核，她日常还是会启用平台配置的AI客服。但考虑到效果问题，她更希望能只在客服流量高峰期开启AI，“它可以在首问帮我们过滤掉大部分重复问题。”

网络另一端，用户却常常对这一场场喧嚣一无所知。用户的界面并没有用于区分人机的头像或名称显示，所能看到的只有一个对话气泡框，无法识别对方是人工还是AI。

肖英在一家主营中老年产品的网店做客服，某天深夜将系统交给AI客服托管。第二天早上查看聊天记录时，发现一位五十多岁的用户与AI争吵了一整夜。“用户似乎没有看出自己在跟机器人说话。”虽然处理工作的不是自己，但肖英看到本应该属于自己接待的用户被AI耍得团团转，心中莫名生出了愧疚感。

而对于更大体量的消费者而言，上线就疯狂输出“转人工”已经成为心照不宣的默契。面对无法有效沟通的客服机器，消费者常常陷入“花费大量精力与AI客服拉锯，却依然没有解决问题”的局面。

很多人甚至开始怀念起和人工客服斗智斗勇的时代了。至少，对面是个真的听得懂你在说什么的人。