29 条核心术语

AI 客服术语表

开源 AI 客服领域的核心术语解释——RAG、Embedding、MCP、Reranker、Faithfulness 等。

核心概念 10

RAG Retrieval-Augmented Generation: 检索增强生成。先用向量 / 关键词检索从知识库召回相关片段，再让 LLM 基于这些片段生成回答。客服 AI 几乎都用这个范式。
Embedding 词向量 / 文本嵌入: 把文本映射到高维向量空间的过程。语义相近的文本向量距离近。中文常用 bge-m3、Conan-embedding。
Vector DB 向量数据库: 专门存储向量、按相似度搜索的数据库。常见：Weaviate、Milvus、Qdrant、LanceDB、pgvector。
Reranker 重排序模型: 在初始检索后对结果重新打分排序的模型。能显著提升 Top-1 准确率。中文常用 bge-reranker、bce-reranker。
MCP Model Context Protocol: Anthropic 于 2024 年提出的协议，统一 LLM 与外部工具 / 数据源的交互方式。Dify、Open WebUI、LibreChat 已支持。
Function Calling 函数调用: LLM 根据用户输入决定调用哪个外部函数（如查订单、发邮件）并返回结构化参数的能力。
Agent 智能体: 能自主规划、调用工具、反思结果的 LLM 应用模式。与「直接问答」相对。Dify、LangGraph、AutoGPT 都是 Agent 框架。
Workflow 工作流: 把多步骤业务逻辑（条件分支、迭代、HTTP 调用）编排成图状流程。Dify、FastGPT、n8n 都有 Workflow 能力。
LLM Large Language Model: 大语言模型。本站讨论的常见 LLM：GPT、Claude、Qwen、DeepSeek、GLM、文心、豆包。
Prompt 提示词: 发送给 LLM 的指令文本。客服 AI 的 Prompt 通常包含角色定义、回答风格、约束、知识库上下文。

RAG 相关 3

Chunking 分块: 把长文档切成 LLM 可处理的小片段。常见策略：按字数、按段落、按标题、QA 拆分、父子分块。
Top-k: 检索时返回最相关的前 k 条结果。客服场景通常 k=3-5。
GraphRAG: 把知识抽取为图谱后再做检索的 RAG 变体。对实体关系密集的领域（金融、医疗）效果好。RAGFlow 内置。

评估指标 4

MRR Mean Reciprocal Rank: 平均倒数排名。评估检索质量，第一条正确答案的位置越靠前分数越高。
Recall@k: 召回率 @k。在 top-k 结果中找到的相关条目占总相关条目的比例。
Faithfulness 忠实度: 答案是否完全基于检索内容（无幻觉）。生成层最重要的评估指标。
Hallucination 幻觉: LLM 生成与事实不符或无依据的内容。客服 AI 必须严格约束以降低幻觉。

运营指标 5

Deflection Rate 自助解决率: AI 处理且无需转人工的会话比例。AI 客服核心 KPI 之一，目标通常 45-70%。
CSAT Customer Satisfaction: 客户满意度评分（通常 1-5）。结束会话后让用户打分，分别看 AI 段与人工段。
AHT Average Handling Time: 平均会话处理时长。AI 介入后通常显著下降。
FRT First Response Time: 首响时间。用户首条消息到收到首条回复的间隔。AI 客服可压到秒级。
SLA Service Level Agreement: 服务等级协议。约定 FRT、解决时长等。Chatwoot 支持按客户分级配置 SLA。

平台特性 4

Inbox: Chatwoot 的渠道抽象。每个渠道（Web、邮件、WhatsApp）都是一个 Inbox，配团队 / 自动分配 / SLA。
Captain: Chatwoot 内置的 AI 助手模块。能基于知识库回复，2024 年起官方主推。
Agent Bot: Chatwoot 的「外挂 AI」机制。通过 Webhook 把消息发给外部服务（如 Dify）拿回复。
Pipelines: Open WebUI 的 Python 中间件机制。可在 LLM 调用前后插入业务逻辑。

基础设施 3

Ollama: 本地 LLM 推理引擎，最受欢迎的开源替代 OpenAI 接口的方案。支持 Mac / Linux / Windows。
vLLM: 高性能 LLM 推理框架。生产环境常用，吞吐显著高于 Ollama。
OpenAI-compatible API: 兼容 OpenAI 接口规范的 API。许多开源模型 / 服务都提供（DeepSeek、SiliconFlow、Ollama），切换成本极低。