在经历两年的发展后，人工智能大语言模型的应用成为了热门话题，尤其是企业的落地应用。北京市科委发布的《北京市人工智能大模型行业应用分析报告》指出：“企业希望大模型实现集团级赋能，但难以找到切入点，建议将智能客服作为大模型落地之路的第一站。”

智能客服之所以成为大模型落地的首要选择，是因为其在理解用户问题、连续且全天候回答问题方面具有显著优势。虽然仍存在与真人客服之间的差距，但从成本效益的角度来看，大模型已被认为“可用”。

消费者也对大模型客服提出了批评，例如在网购场景中，AI客服虽然对话更为顺畅，但有时也会出现答非所问的情况。业内人士认为，虽然AI客服可以降低成本，但要使其从“可用”变为“好用”，还需要进一步升级。

许多企业早已将大模型技术应用于客服领域。一位北京创业公司员工表示：“大模型技术解决了用户连续提问的问题，它可以记住之前的提问，逻辑也比人工客服更清晰。”

容联云产业数字云事业群副总经理孔淼认为，大模型通过对语言的理解和初步的通用人工智能能力，解决了场景泛化问题，提升了可用的场景。

《北京市人工智能大模型行业应用分析报告》指出，在技术薄弱的行业中优先推广智能客服场景具有意义。从需求侧来看，企业可以直观体验到大模型带来的便捷，增强群体认同，减少内部阻力。从技术侧来看，智能客服应用场景属于大模型的通用场景，易于发挥其优势，有助于快速落地。

企业引入大模型客服的方式多种多样，包括直接下载开源大模型、与大模型公司合作、使用一站式服务平台等。

在获取大模型的方式中，下载开源大模型是免费的，而商业模式则分为软件售卖模式和按“token”（语句）收取算力费用但免费使用的模式。业内人士表示，后两种方式也提供自主选择，预算有限的话，可以选择较小的模型来节省成本。

一站式大模型服务平台提供按时段买断制收费和按算力消耗收费两种方式，用户可根据繁忙和闲置时段选择最经济的方式。

在非大模型时代，许多问答都是定制化的，回答难以灵活应变。引入大模型后，这一问题得到了解决，机器对人的理解能力增强，颠覆了以往的客服行业。随着模型能力提升，更多行业开始积极拥抱大模型，如手机、自动驾驶等领域。技术的发展将带来新的业务需求，开启一系列突破和创新。

大模型并非十全十美。

大模型是否能完全取代人工客服？目前看来，答案是否定的。一名天津消费者讲述了她的网购经历，起初与她沟通的客服表现得很专业，但当她询问具体发货时间时，对方却无法给出准确答复，最后她投诉了店家。

专家表示，对于企业来说，智能客服旨在节约成本。互联网交易具有海量性、瞬时性等特点，有时需要大量客服，智能客服的引入能大幅提高服务效率。但智能客服难以满足所有消费者的实际需求，因此必须保留人工客服，并让消费者自主选择客服方式。

赋予人工智能客服过高权限可能给企业带来风险。有海外用户通过诱导方式让车行人工智能客服低价售出了车辆，即使企业修复了漏洞，另一名用户冒充公司高层再次诱导该机器人免费送车，最终导致车行关闭了人工智能客服功能，这也说明了当前人工智能聊天机器人在判断能力方面远逊于人工客服。

实际上，人工智能客服与人工客服并非单纯的替代关系。孔淼表示，过去的大模型只能通过标准操作程序解决企业一线员工的问题，而现在的泛化性大模型可以将经验复制给团队，提升底层销售能力，从而提高整体业务效率。

在大模型落地过程中，如何根据现有能力实现大模型可用，业内人士认为，需要解决以下问题：

一家企业要将 AI 应用到自己的场景中，第一步是建立该公司的知识库。然后选择一个已有的大模型，将公司的知识数据“外挂”到大模型中，才能生成可用于大模型落地应用的数据。“以前，我们靠 QA（问答）的方式维护知识，发现大量知识无法通过人为或传统规则进行 QA 分析。而我们通过 Copilot（副驾驶，指大模型智能助手）知识库管理多文档，然后通过大模型加上 RAG 技术，结合企业内部客服形成模板，目前也能在整个营销服务中解决知识流转问题。”孔淼说。

在大模型落地过程中，不同行业、不同场景遇到的问题也多种多样。从事视频培训业务的一家公司技术部员工向贝壳财经记者反馈，其公司的数据包括文本、图片、视频三种，其中视频类知识导入知识库的方式主要是通过“切图”，但这一结果不是很准确。从事跨国财务统计的人士表示，财务领域的数据库软件以及海外用户的数据表格式、标准不统一，因此在导入大模型时存在语句转换的问题。还有一个通用问题是，公司本身储备的数据量不够，从而担心大模型解答问题的效果。

在建立大模型之后，问题也同样存在。汽车行业的一位大模型云服务用户表示，希望大模型能分析工单中客户反馈留言中的情感特征，但又不想泄露客户信息；上述视频培训公司员工表示，对于一些相对较难的问题，大模型无法保证给出百分百准确的回复，这种“幻觉”问题无法解决。

“大模型的技术从推出后，给我们带来了很多想象力，包括真人一样的沟通对话，但高预期后，当真正在行业和客户落地，我们发现的局限还是很多，比如算力瓶颈、幻觉问题。”孔淼对贝壳财经记者坦承，“大模型在企业的实际应用落地场景里，很多非标的东西需要做一些推理，还要补齐一些技术，比如对于数学问题引入搜索方式，把大模型从文科生变成‘文理双全’，这些都是产品工程方面的工作。”

周靖人告诉记者，大模型落地之时已至，如果基础模型本身不够强，落地过程中就有挑战，但是在过去一年里，大模型的能力有了大幅度提升，很多以前不可能的场景现在变成了可能。在采访中，多名大模型开发者对记者表示，当前远非大模型的极限，随着时间的推移，新技术将有望解决目前存在的问题，如有技术人员举例称，在多轮对话过程中，对于金融分析和客服场景，相比 RAG 方法，使用长文本来解决问题更加合适。产品工程方面的工作也必不可少，如针对视频知识内容难以导入知识库的问题，有技术人员表示，当前也可以通过分别针对字幕、切片、语言选择三个小模型的方式解决该问题，“当然我相信也许几个月后，单一大模型就能通过技术升级解决这一问题”。