东莞工厂用AI客服替代30%人力：2024年大模型落地问答系统实录

场景：番禺模具厂遇到的客户咨询瓶颈

2023年12月，东莞长安镇一家200人的塑料模具厂找到我们，说销售团队每天要花4个小时回复重复的产品参数、交期和报价查询。他们试过传统关键词机器人，答非所问，客户直接要求转人工。老板说：我要的是能看懂工艺图纸描述、能算加工费的客服系统。

这个需求在广州天河、番禺的制造型企业和电商公司里非常典型。实体工厂和门店的客服离职率高、培训周期长，80%的咨询内容集中在规格、库存、价格、物流和售后规则上。如果我们能用大语言模型（当时国内已经能使用GLM、Qwen、MiniMax等开源模型）把企业知识库变成对话系统，就能把重复咨询的占比压到20%以内。

需求判断：到底该用大模型还是规则引擎

我们和东莞团队现场调研后做了判断：

• 如果咨询内容高度结构化（如查订单号、查物流），用GPT Codex或者Trae CN生成API对接即可，预算1-3万，两周上线。
• 如果涉及模糊匹配和参数计算（如“XX模具加工周期多长”“能不能报含税价”），必须引入大模型做语义理解和实体抽取，同时保留规则兜底。
• 东莞这家工厂有老ERP系统（自建，无开放API），需要做轻量级RPA抓取实时库存和价格，再投喂给AI客服模型。

最终我们选了GLM-130B（当时已能通过阿里云或智谱API调用）做底模，结合企业内部300份产品说明书和2000条历史对话记录做微调，部署在广州天河IDC机房。

实施步骤与关键节点

第一步（2024年1月第1周）：知识采集与清洗。工厂把PDF图纸、Excel报价单、微信聊天记录全部导出，我们去重、脱敏、分块，形成结构化知识库。注意：东莞工厂喜欢用微信群发报价，聊天记录里的价格字段需要用正则+小模型（如Qwen-1.8B）标注好。

第二步（第2周）：模型微调与接口开发。因为要支持粤语问价（很多东莞老板习惯用粤语语音输入），我们用MiniMax的语音接口做语音识别转文字，再交给GLM做意图识别。同时写了一个Codex脚本：员工在内部飞书群里发“帮我查HX-202模具库存”，系统自动调用老ERP的RPA接口返回结果。

第三步（第3周）：对接企业微信与话术配置。把AI客服挂在企业微信的“智能助手”位置，设置转人工规则：AI连续两次回答置信度低于0.7或客户输入“转人工”时，直接拉群给销售主管。同时做了敏感词过滤——东莞工厂有价格保密需求，对外报价需加签审批。

第四步（第4周）：试运行与数据看板。上线前三天只有10%客户流量进AI，人工质检每一条对话。确认无乱答后，逐步提升到80%分流。数据看板显示：客户等待时间从平均3分钟降到12秒，人工介入率从100%降到32%。

预算与周期参考

这家工厂的总投入（含微调、RPA、企业微信对接、一个月服务器费用）约7.2万元，其中大模型API调用费占30%。如果使用国产开源模型自建推理（比如用NVIDIA A10卡在本地跑），一次性硬件成本4万元，后续每月电费+带宽约2000元，更适合数据敏感的制造企业。

周期上，从签单到上线共28天，延期的瓶颈在于老ERP的RPA适配——对方的IT人员只有一位兼职，配合修改接口花了5天。在番禺、天河的项目里，类似问题占交付延误的60%。

交付后必须注意的几个坑

• 模型幻觉控制：大模型容易编造参数，尤其是报价类。我们给GLM加了“回答模板”，对价格、交期这类字段必须从数据库拉取，不推理。
• 企业微信消息频率限制：东莞工厂一天有6000+条咨询，企业微信对机器人的群发次数有限制，需要把高频重复问题（如物流查询）做成按钮菜单，减少API调用。
• 数据看板埋点：老板要看“哪些产品被问得最多”“哪个时间段咨询量最大”来调整生产。必须提前和工厂确认好分析维度，否则后期改模型输出结构很麻烦。

本地搜索关键词与选型建议

东莞企业主在百度或微信搜“东莞AI客服系统”“东莞智能问答软件”“广东大模型客服定制”“广州天河小程序与AI对接”的时候，通常会同时找三家比价。我们的建议是：先做一周对话记录人工标签，用规则引擎测试覆盖度，再决定要不要上大模型。如果规则能达到80%准确率，没必要用大模型——成本更高、响应更慢。

目前广州番禺的服装档口、东莞虎门的电子元件厂已经陆续开始用类似方案，主流的国产大模型选型是GLM或Qwen（阿里云通义千问），它们的中文业务理解能力在微调后足够应付90%的工业客服场景。如需对接老系统，推荐用Trae CN的低代码工具写RPA脚本，比自写Python快3倍。

（本文基于2024年1月实际交付案例整理，技术栈已反映当时可用版本。）