大模型技术在中信银行信用卡呼叫中心的应用之路

客户世界 | 2025年6月19日 | 期刊 | 评论已关闭 | 11

2023年10月，中央金融工作会议召开，会议提出金融机构要加大对科技创新、绿色转型、普惠小微、数字经济等方面的支持力度，做好“科技金融、绿色金融、普惠金融、养老金融、数字金融”五篇大文章。大模型技术作为金融科技的重要组成部分，在推动金融创新、提高金融服务效率和质量方面具有重要作用。银行业作为科技金融的“前锋部队”，各大银行均在部署大模型转型战略。呼叫中心因为其与客户高频交互、对话数据量大、数据的可获取性及业务流程的标准化等特点，在银行的大模型转型战略中，充当“先锋”。笔者在中信银行信用卡中心客服部负责科技创新工作，在大模型技术的浪潮下，积极探索大模型在呼叫中心的落地应用。

对大模型的态度变化

从最初视大模型为遥不可及的梦想，到对国内开源大模型的初步失望，直至如今理性审视大模型的技术实力。

自2017年起，我便致力于在客服领域引入创新技术，成功推动了文本机器人、语音导航、智能质检、坐席辅助等多个项目的实施，对各类智能技术的潜能与局限有着深入的认识。然而，当2022年底大模型技术闯入我的视野时，面对其动辄数千万乃至数十亿、甚至数千亿参数的规模，以及单次训练成本高达数千万美元的惊人开销，我断言这项技术短期内与我无缘，仿佛它是《流浪地球》中服务于空间站的高端机器人“MOSS”，遥不可及。

转折点出现在2023年3月，国内一家科技公司首发大模型，我于3月18日获得内测资格的那一刻，隐约感觉到大模型技术正逐步融入我的职业生活。但遗憾的是，最初公测的大模型版本及可私域部署的开源大模型，在与OpenAI的***系列应用对比后，令我略感失望；加之国内严格的监管环境、行业算力资源的紧张以及技术人才的匮乏，我开始质疑大模型能否真正解决工作中的实际问题。

随着国内大模型技术的不断攀升，特别是Agents、思维链等能力的增强，大模型的落地应用前景愈发广阔。我对大模型技术的信心日益坚定，相信它必将改变我们的工作方式。同时，我也对大模型技术持有了更加理性的态度，深入学习了其技术原理，清晰认知了大模型与其他智能技术的差异、各自的瓶颈所在，以及大模型技术能够为组织解决的问题边界、无法解决的问题领域，还有它与其他智能技术互补的可能性。

利用大模型技术做了些什么

2023年，我们在思想的波折中寻求突破；2024年，我们则勇敢地摸着石头过河，采取循序渐进的策略，从资源消耗较小的场景起步，逐步向资源消耗较大的场景迈进，从离线场景向实时场景过渡，最终实现了从单点对接到平台化建设的飞跃。

大模型，这位天生的语言大师，在处理语言任务时展现出了惊人的实力。我们依托大模型技术，提炼出表扬的关键沟通艺术，通过数据驱动的方法，输入大量获得表扬的卓越坐席对话文本，深度挖掘其沟通精髓，为整个团队赋能，进而提升了服务品质和客户满意度。同时，我们还利用大模型技术对企微对话策略进行了优化，使话术模板更加贴合企业微信的沟通风格，实现了用户体验与品牌表达的高度一致，显著提升了沟通效率与质量。在智慧营销方面，我们结合客户特性和场景特色，利用大模型技术生成了更加贴切的账单分期营销话术，通过AB测试验证，新话术使分期规模提升了8.79%，大大增强了营销的精准度和效果。此外，我们还借助大模型的力量，为社交媒体内容创新注入了新的活力，有效激发了创意，避免了内容的同质化，增强了互动性，进一步提升了品牌知名度和客户黏性。

大模型还具备出色的总结归纳能力，能够精准地从大段文字中提取所需内容，这与客服场景中的话务小结、智能工单等场景高度契合。在资源紧缺的背景下，我们利用大模型技术对投诉/销卡客户的历史通话进行离线摘要提取，总结归纳核心原因，帮助回电坐席快速了解事发经过，提供针对性的解决方案，有效降低了投诉升级的风险。同时，我们还尝试将这一能力应用于实时智能工单场景，利用大模型技术实时分析录音文本，高效提取关键信息，自动填充至工单相应字段，显著提升了接线坐席的工单处理速度，减轻了人工工作负担。

此外，我们还充分利用大模型的上下文理解能力和生成能力，新增了大模型问答功能，升级了知识库搜索功能。通过引入大模型及RAG技术，我们能够生成所搜索问题的精准答案，并提供知识来源供使用者参考，有效优化了复杂问题的解决路径。同时，我们还利用大模型技术将冗长复杂的描述性知识拆解为精炼、流畅的标准问答对，实现了多库合一，显著提升了知识库的一致性和实用性。高达84%的拆解可用率为多渠道提供了更高效的知识支持。另外，我们还新增了大模型文案助手功能，引入了“智慧办公”协同解决方案。通过精准的提示词驱动，大模型能够自动生成会议通知、会议纪要、PPT大纲等办公内容，不仅提升了员工的工作效率，还有效减轻了员工的工作负担，让每一位员工都能更加专注于核心业务。

随着大模型应用的不断拓展和深化，我们计划引进大模型管理平台、大模型标注平台以及大模型感知系统。通过引进先进的大模型管理平台，我们将能够更加科学地掌控大模型应用的运营流程；通过建设大模型预标注平台，我们将能够高效、准确地标注各类算法所需的数据，为新业务场景的探索提供坚实的数据支撑；通过搭建新一代感知系统，我们将能够增强对海量文本的识别与解析能力，挖掘数据间的未知关系，为未来跨领域技术创新的发展奠定坚实基础。

大模型技术应用难点及解决方案

大模型技术虽然发展迅速，但该技术在实际落地中超级应用尚未涌现，实践过程中仍面临诸多难题、挑战和不确定性。

大模型技术仍不成熟问题。当前，基础大模型仍处于频繁迭代的阶段，检索增强、多模态、智能体、思维链等新技术不断涌现，每一项技术的革新都可能对大模型的能力产生深远影响。在银行内部，大模型需通过私有化部署，面临追随新版本还是基于行内数据进行微调、训练私域大模型的抉择。此问题无固定答案，需根据具体场景灵活选择。因此，构建大模型管理平台至关重要，该平台能够上架不同尺寸、不同版本的大模型，并对不同应用场景进行效果评测，从而依据真实数据选出效果最佳、资源利用最优的大模型型号。

大模型技术人才和数据不足问题。智能化系统若运用不当，易逐渐失效，与传统平台系统仅需维护服务器不同。智能系统如同车辆，智能技术是引擎，决定动力；标注数据是燃油，决定能否启动；场景则是道路，优质场景能让智能技术发挥更佳。系统融合技术、数据、场景，更依赖内部人才。技术决定系统起点，运营则决定系统长远发展。技术可通过项目采购获取大厂支持，但运营需内部发力，特别是呼叫中心场景需频繁调整。人才培养上，我们采取“走出去、引进来、搭平台”策略，组织业务骨干交流学习，内部搭建创新技术学习平台，推送创新技术文章、小视频，定期举办创新技术培训、交流、分享，提升呼叫中心管理者对创新技术的敏感度及应用能力。数据对智能技术至关重要，我们利用大模型技术实现预标注，提高数据标注准确性和时效性，同时探索更多应用场景，积累实践经验与数据。

大模型技术融入后业务流程及系统工程改造问题。将大模型技术更好应用于现有业务，需改造业务流程及系统工程。在服务器资源紧张及技术不成熟的背景下，系统切换灵活性、架构设计的耦合性及可拓展性尤为关键。大模型的应用不仅限于简单加入其功能，更需在考虑性价比、绩效结果和全局布局后，以解决问题、提升业务结果及流程效率、创造更多价值为宗旨进行流程再造。需平衡标准化与个性化，新功能规划需满足现有业务，确保架构稳定的同时保留灵活性和拓展性。

因此，在大模型应用中，我们采取审慎探索策略，以跑通业务为前提，利用内部资源广泛探索应用场景，积累实践经验与数据。同时，积极学习，保持技术敏感度。应用落地时采用灵活耦合、可扩展的架构设计，便于后期替换更强大模型及扩大场景使用规模。

《客户世界》创办于2003年1月，是中国客户服务与数字运营行业的旗帜媒体。本文刊载于2025年句芒辑（总第237期），作者卢恒娜来自中信银行信用卡客服部；联络编辑：edit@ccmw.net