大模型时代的客服：危机中迭代，内卷中出海_大型模型叫什么

声明:本文来自于微信公众号 亿邦动力（ID:iebrun），作者:胡镤心，授权转载发布。

当一个成熟行业遇上一项新技术，变革绝没有想象中那么简单。

客服行业一直被认为是大模型最好的落地场景之一。同样基于自然语言，同样以对话服务为主，甚至大模型的对话框总令人不由自主想到客服的对话框。

对客服企业的产品经理来说，客户的聊天兴趣和聊天时长至关重要。“只要客户不挂机，就有成单的可能。”天润融通首席科学家田凤占介绍。

客服是一个极度成熟、极度内卷的行业，从最早使用电话的呼叫中心，到如今云化、SaaS化的联络中心，客服行业早已经历了多轮洗牌。与产品经理对大模型的兴奋相反，客服企业的商业化团队却极度冷静，担心一招不慎影响到现有产品。

如何保证数据安全?标注和训练多久ready?边际成本算得过来吗?

商业化团队的这些担心不无道理。“大家都有主营业务，谁敢冒这个险，把主营业务给干没了。”有头部厂商的商业化负责人分析。

当激动的产品经理碰到冷静的商业化团队，客服行业如何基于大模型改造现有产品，如何重新定义产品功能与用户体验，新产品能否规划化、商业化，一系列新问题都亟待解决。

01

接入大模型，做“金牌客服”

“要疯了”，这是Sobot智齿科技CTO吴立楠在“百模大战”拉开帷幕后的感受，彼时国外创业公司如雨后春笋，“大模型可以识别各种各样的文本素材，今天冒出一个基于文本的问答机器人，明天冒出一个基于PDF的问答机器人，后天又来一个基于脑图的机器人，客服行业太卷。”

这种卷对客服企业来说已经习以为常。此前，客服行业已经经历了两次“被颠覆”:第一次是呼叫中心从硬件向软件的转型（从语音卡+多媒体交换机走向软件+网关），发生于2006-2012年，70%的厂商消失在牌桌上;第二次是服务商集体SaaS化、云化，转型慢的企业开始掉队，发生于2013-2016年。

“所以我们对技术变革非常敏感。”天润融通首席科学家田凤占表示。天润融通成立于2006年，崛起于客服行业第一次转型期，经历了软件化和SaaS化两轮考验。去年年底，天润融通成立大模型研究团队，今年3月推出大语言模型垂直行业解决方案。

今年2月份，Sobot智齿科技CEO徐懿与CTO吴立楠也成立项目团队，将产品、算法、研发等部门的VP拉到一起，每周开脑暴会，一边研究能做什么，一边罗列客户痛点，同时找市场部做客户调研。

Sobot智齿科技的一体化客户联络解决方案，涵盖“服务、营销、私域、BPO外包”四大业务板块。4月4日，AIGC+智能客服融合能力Sobot AI上线，可以实现双库调用、自动应答、文本/文件材料上传等功能。

除了大模型带来的热度，在极度内卷的客服行业，客户难得对一个新产品感兴趣。“只要客户感兴趣，我们就能做得出来。”这是不少从业者的心声。

Sobot AI上线后，智齿科技后台有超过120家企业排队测试，每周都有20家新增客户，其中一半是新客户。智齿科技从一开始一周测试两家企业，到一周测试二十家企业。同时Sobot AI也在每周迭代。

只不过相比于海外创业公司只要装一个接口就可以上线新产品，国内的产品迭代更复杂——要基于新技术和现有产品之间的逻辑，重新定义产品功能，同时开展市场调研与客户反馈，再通过数据选择客户最痛的点进行产品化。

“相比那些从0到1的企业，我们迭代更加小心。”吴立楠解释。“如果在2014、2015年，一个惊人的产品横空出世，大家还会打一打，但现在，头部企业都经历了八九年的产品迭代，仅凭单一产品已经很难竞争了。”

容联云AI研究院院长刘杰指出，智能客服作为一种成熟的商业化品类，背后并非只有AI技术，而是融合了多种技术、涵盖“产品+运营+服务”的一体化解决方案。

比如容联七陌的客服机器人X-bot，在售前咨询中接入全渠道流量，建立用户画像;在售中记录详细需求，并通过CRM协作进行精准营销;售后还能支持跨部门协作，处理客户全生命周期的场景。

大模型引发关注后，容联七陌也组建了AIGC专项计划，第一时间拿到百度文心一言的内测接口，进行专项落地开发。4月底，容联七陌将大模型能力应用在X-Bot机器人中，实现自动生成语料、话术、流程方案等。

“想象一下，客户打来电话说电脑坏了，我们不需要再人工坐席，因为我们有一个大模型可以自动识别客户需求并归类，提高处理速度和准确率。”容联七陌AI产品负责人刘倩介绍说，“而且服务结束后，我们的大模型还会自动将对话记录整理成企业知识库。管理者需要采纳某条记录，也不用费心思去手动处理，只需要告诉大模型一声，它就会自动为你完成。这样不仅提高服务质量，还优化了整个服务流程。”

02

ChatGPT能让智能客服更上一层楼吗?

令客服企业充满危机感的，除了同行之间竞争，更重要的是那句口号“大模型重构一切。”

大模型将如何颠覆客服?这成为悬在所有人头上的达摩克利斯之剑。

但不少从业者都认为，“大模型对客服行业的影响，短期被高估，长期被低估。”

“短期来看，大模型只起到提效的作用。”吴立楠指出，“毕竟大模型落地需要载体，客服厂商占着应用场景，也占着业务熟悉度。但是长期看，客服的交互界面和产品形态还是不是现在这样，都是问题。在通用人工智能时代，可能消费者对着智能助理提出要求，后面就是AI和AI之间的交流。”

纵观市场上的所有尝试，亿邦动力注意到，AIGC+智能客服的实践目前主要集中在三个方面:

1提升知识库建设和运营效率

大模型带来的第一个改变就是企业知识库的建立和维护效率。

“机器人最常见的问题是冷启动。因为机器人在刚开始掌握的知识不够，需要不断添加语料，这个过程有些长。而且在冷启动阶段，机器人的服务能力通常比较弱。”田凤占在天润融通的直播中介绍。

通过AIGC模型，客户或训练师只要写两三条语料，就可以用大模型生成几十条或几百条语料。扩出来的语料经过剔除、检测等健康检查，就可以上线。

图片来源:天润融通官网

田凤占介绍，有一个客户有6000多条问答对，重复性很高，机器人回答的准确率只有43%。天润融通在一小时内将6000多条问答扩写至30万条，准确率提升到75%。“如果用手工写30万条，那至少要写一年。”

同时，大模型还可以自动抽取文档信息，提炼“问答对”。在天润融通的大语言模型垂直行业解决方案中，Word文档、PDF文件中的内容，都可以直接被生成为答案，运营人员只需要审核答案和进行调优。内测结果显示， 大模型可以节省高达约54.5%的知识管理成本。

图片来源:天润融通官网

2提高直接回答率

客服行业常见的另一个问题是“答非所问”。一些客户会因为机器人三番五次没有提供答案而转接人工客服。

“过去客服‘智障’的原因是不够智能，理解访客提问上需要大量的语料泛化，而且对上下文理解不够好，容易出现答非所问。”刘倩指出，“大模型恰恰相反，不需要太多数据量，不需要对模型参数进行改动，就能提供非常优秀的语言理解能力，并且它的强项是生成，不但能懂你问什么，而且还能给出相当流畅、富有逻辑性的答案。如果AIGC能应用在企业服务中，那在服务的能力、满意度、问题解决上无疑又是一个巨大的突破，而且人力成本还更低了。”

“不管在联络上还是电销上，大模型可以和客户更好互动，这就有望提高客户的兴趣度和互动时长。提高客户的互动时长，相当于提高了电销的转化率。只要客户不挂机，就有成单的可能。”田凤占介绍。

而在智齿科技的实测中，有了大模型之后，客服的直接回答率普遍提升20%左右，最夸张的企业直接回答率提升从30%提升至80%。

3提升企业运营效率

大模型还在改变程序员们的工作效率。

今年年初，智齿研发中心多条技术线的负责人将大模型引入研发的IPD流程，目前超过一半的程序员通过大模型自动生成代码。

To B公司看人效，吴立楠强调，AIGC实际上将之前一些伪装成脑力劳动的体力劳动，又变回了体力劳动。“有很多重复性工作，比如有些客服工作只需要调用知识库就能回答，有一些程序员只写增删改查，这些都是伪装成脑力劳动的体力劳动，现在它们又回归体力劳动本身。”

同时程序员的工作重心会转移，研发部门的组织结构也将随之调整。“以前是少部分人设计程序结构，大部分人写代码实现。以后可能大部分程序员都会去设计程序结构，具体的代码实现由大模型来做。”吴立楠补充。

值得注意的是，大模型落地除了需要相应的梳理产品逻辑和客户测试，还需要配套产业的成熟。

刘杰指出，作为一种商业化产品，智能客服有明确的业务目标和业务逻辑，大模型的通用能力不足以支撑B端应用，需要结合场景精调。

客服系统对回答的准确性有很高的要求，错误答案会误导客户，换句话说，大模型一本正经胡说八道的能力，在C端场景中会充满乐趣，在B端场景则会酿成大祸。

“它会说一些正确的但不属于这个企业的内容，比如把竞品信息推荐给你的客户。这本来是通用大模型的优势，但也会因为过于通用而产生哭笑不得的后果。这是我们必须解决的。”吴立楠介绍。

同时，大模型在语音客服中的应用还要受制于ASR（语音识别）、TTS（文字转语音）的成熟度。

当下的大模型应用都集中在文字客服领域，在语音客服场景下，除了话术内容生成，声音的拟人程度、语音识别率等因素都在影响大模型在语音客服中的效果。

在ASR（语音转文字）方面，实验室里的语音识别率已经达到99.5%或者99.8%，但现实场景中，大部分的载体都有音质上折损，导致ASR识别率参差不齐。

在TTS（文字转语音）方面，有商家测试发现，效果好的外呼都是人工录音，经测试，电子合成音和真人录音的转化率最多能差到10%，大模型就算对答如流，但没有真人录音或者高度拟人化的声音，效果仍不理想。

此外，客服行业在使用大模型的过程中，还受到国内大模型成熟度的制约。

国内目前唯一可以合规调用GPT的渠道只有Azure（微软云），但Azure对传输字段有限制。“如果没有办法解决数据传输的安全问题，那就只能等待国内大模型的成熟。”该商家解释。

值得注意的是，大模型擅长的多轮对话方式，目前主要应用于呼入场景，也就是消费者向企业客服咨询问题的场景。至于呼出环节，不管是短信提醒还是电话销售，尚且不在大模型的赋能范围内。从头部厂商的实践可以看到，大模型在客服行业的应用仍处于探索阶段，距离想象中的颠覆性变革尚有距离。

03

卷起来，到海外去

相比于产品团队的亢奋劲儿，商业化团队始终显得冷静。

“任何客户无法明显感受到的差异化，都不算差异化。”这是一个头部客服企业商业化负责人的口头禅，“很多小的变化，在客户那里是不会买单的，至少无法构成一个 To B的的商业决策或付费决策。”

究其根源，甲方的付费心理始终在对标人力成本。当中国的人力成本还比较便宜时，甲方的心理账户必然不会太高。“智能客服+AIGC的产品，不管按照license定价，或者按照调用量定价，大概不会特别便宜，除非大厂亏钱做。”该负责人补充。

在商业化团队看来，大模型的热闹，除了吸引部分客户的好奇心，距离大规模落地还有距离。

“在国内，新技术很难带来生态位上的颠覆式创新。短期内有优势的人，不是那些用上大模型的企业，而是那些能拿到电商平台接口的企业。”不少从业者表示。

有了电商平台接口，相当于有了源源不断的现金流和海量语料素材——拿到淘宝详情页接口或京东商城接口的商家，避免了机器人冷启动时的窘境，可以有条不紊地迭代机器人服务能力，并保证商业化的畅通。可以说在立竿见影方面，接口的效果远超大模型。

“这波大模型的真正利好出现在国外。”一知智能市场总监陈厚志分析，“中国的消费行业是真的卷，我们看到海外同行，都是把标价挂在官网上，自己下载使用，没有解决方案。中国公司出海还提供贴身服务，国外同行都惊呆了。”

2022年，一知智能跟着中国品牌一起走向海外市场。在一年多时间里，把 AI 电话打向了日韩、东南亚、欧美、澳洲等海外市场的消费者，形成了老客户召回、物流签收提醒、催付挽单、活动通知等一系列服务。

Sobot 智齿科技则计划在未来3年内，海外市场的收入占比要超过30%。目前智齿科技已初和Meta、AWS等达成生态合作，在渠道上与Facebook、Instagram、Line、WhatsApp以及Telegram衔接，并集成了VKey、CyberArk、BeyondTrust等企业的能力。2022年出海业务营收占整体营收的比例已近10%。

天润融通则将出海第一步选在了欧洲。2020年，天润融通的国际云联络中心落户法兰克福。

成立之初即面向海外市场的人工智能语音服务公司WIZ.AI，在4月初推出东南亚首个集成了ChatGPT能力的对话机器人TalkGPT，TalkGPT利用ChatGPT和WIZ.AI的本地化知识，可以自动生成多语言多版本的外呼话术，也可以像人工客服一样与客户交流，同时在1小时内可以和超过100万客户进行电话互动。

“过去中国SaaS出海会遇到很多产品能力、营销推广上的卡点，需要慢慢摸索和补课，才能拥有Local公司的能力。但当下不管是OpenAI、Google还是微软云的能力，都是全球通用，相当于中国SaaS企业史无前例地有了‘产品加速器’和‘营销放大器’。我觉得过去在当地靠着‘非完全竞争’市场环境里活得很舒服的、大概3000万到5000万美元的SaaS公司，应该担心中国‘以卷服务和迭代速度’著称的SaaS公司入侵。”陈厚志解释。

吴立楠也认为，大模型有助于客服厂商出海——海外调用接口，响应速度是毫秒级，只要持续训练，给客户带来价值，中国厂商的运营效率和贴身服务具有明显优势，“这个时间点，在海外比的就是跑通的速度有多快，跑通之后抢占市场的速度有多快。”

除了给海外格局带来影响，几乎所有从业者都认可AIGC对客户行业的长期价值是颠覆性的。“内燃机发明的时候，不是给马车加上一个引擎，而是要造出一辆汽车。当下，我们想到的都是给马车上加什么，但是往后看，可能整个客服行业都要变。”吴立楠分析。

但具体行业是怎么一步一步走过去，目前还没有人知道。“我们知道的是，你的产品如果脱离时代，如果太早来到，可能大家也不会接受。”吴立楠补充。