番禺制造企业AI客服升级实录：大模型Agent如何取代传统问答机器人

2025-12-15 14:07:35

业务场景：传统FAQ机器人为何失效

2025年下半年，番禺区一家从事外贸服装加工的客户找到我们，其原有客服系统基于关键词匹配的FAQ机器人，日常处理约70%的售前咨询和售后问题。随着订单量增长和客户问题复杂度提升（如尺寸定制、面料成分、退换货规则），FAQ机器人的正确匹配率从85%下滑到61%，大量会话转入人工客服，导致响应延迟和人力成本上升。

这家企业的负责人明确表示，希望升级为能理解上下文、主动追问、调用后端数据的客服系统，而不是简单“搜索答案”。这正是过去半年行业热议的“Chat is dead”趋势——对话型AI正在从聊天窗口转向能执行任务的智能体（Agent）。

需求判断：从“聊天”到“执行”的Agent能力

经过两周的需求调研，我们梳理出真正需要的功能：

理解多轮对话中的意图，比如客户说“上次那款白色衬衫有没有补货？”——系统需识别“白色衬衫”具体SKU，查询ERP库存。
调用接口查询订单状态、物流轨迹，并执行“转人工申请”“修改地址”等操作。
支持知识库动态更新，新产品资料可通过API或后台直接写入，无需人工训练。
私有化部署，数据不出公司内网。

传统对话管理方案（如Rasa、Azure Bot Framework）也能实现部分功能，但开发周期长，维护复杂。基于大语言模型（LLM）的Agent框架（如LangGraph、CrewAI）配合国产大模型（DeepSeek V3、Qwen2.5、GLM-4）成为更优选择。

实施步骤：以DeepSeek+Qwen双模型驱动的Agent

我们采用了以下技术路线：

模型选型：主模型使用DeepSeek-V3（推理成本低，响应速度约1.2秒），辅助模型使用Qwen2.5-72B（用于复杂逻辑判断和工具调用）。均为国产私有化部署版本，运行在客户已有的Huawei昇腾服务器上。
Agent框架：基于LangChain改造的本地Agent，通过Function Calling调用内部API（ERP查询、订单系统、物流查询）和外部工具（企微消息发送、邮件发送）。
知识库搭建：将企业过往3年的FAQ文档、产品手册、售后政策共1200页PDF转换为向量数据库（Milvus），配合RAG策略，让Agent在回答前先检索相关段落。
工作流设计：用户提问→意图识别（分类到售前/售后/投诉）→知识检索→调用工具（如需）→生成回答并附加“是否需要转人工”选项。对于高风险的退款/改单操作，Agent必须征询客户确认后才能执行。
测试与迭代：使用客户提供的1.2万条历史会话数据，构建了测试集和自动化回归脚本。重点覆盖边缘案例（语义歧义、多意图、否定句等）。首轮测试准确率91%，经过两轮Prompt优化和知识库清洗，准确率达到96.5%。

预算与周期影响

整个项目总投入约16.5万元（硬件服务器由客户自备），包括：

模型授权及私有化部署：约8万（DeepSeek和Qwen两个模型组合）
Agent框架开发和定制：约5万（含知识库构建、API对接）
项目管理及验收测试：约3.5万

项目周期从需求确认到上线共计3个月，其中开发时间6周，测试验证4周。相比自研基于意图识别的对话系统（通常6-8个月），时间缩短一半以上。

交付注意点：数据安全与运维

番禺这家企业原本使用某云厂家的公有云客服SaaS，要求数据全部迁移到内网。我们在部署时特别注意：

模型推理服务只监听内网192.168段，不开放外网端口。
所有用户会话日志脱敏后存储，仅保留30天分析使用。
Agent调用的每一条API都有审计日志，人工客服可随时干预。
每月一次知识库巡检，清理过期产品和政策，由客户运营人员通过后台界面操作。
预留了企微和公众号的接入适配接口，方便后续扩展。

本地搜索关键词参考

如果您也在番禺或广州其他区域遇到类似需求，可关注以下关键词：番禺AI客服系统开发、广州大模型客服私有化、企业Agent部署服务、国产大模型客服案例、番禺软件公司AI升级。