YG科技 后端
2025-03-08
客服系统是企业与消费者沟通的重要桥梁，然而传统的人工客服存在着工资/培训成本高昂、数据收集和分析困难、难以全天候提供服务等痛点。
利用先进的大语言模型构建 AI 智能体并用于智能客服系统，能够提供更加自然、流畅的对话体验，极大地提升用户的满意度和效率，实现 24/7 的无间断服务，并显著降低企业在客服场景下的投入成本。
本篇教程将展示如何利用 MaaS（大模型即服务平台）的 200w 免费 token 额度的满血版 DeepSeek-R1 API 接入 Dify（开源 Agent 平台）来实现快速的构建 AI 对话机器人并嵌入在网页页面中。
操作指导
登录 ModelArts Studio(MaaS)并领取免费体验额度
1.1 ModelArts Studio(MaaS)平台介绍
ModelArts Studio(MaaS)作为华为云旗下的大模型即服务平台，是一个面向客户的适配昇腾芯片的大模型服务化平台，提供简单易用的模型开发工具链，支持大模型定制开发，让模型应用与业务系统无缝接，致力于降低企业 AI 落地的成本与难度。
使用 MaaS，会有以下三点优势：
无需自建服务，即享开箱即用的高性能模型推理 API；
低门槛且易用的端到端模型开发工具链，为您的业务增速提效；
头部开源大语言模型全覆盖，完全统一的调用方式。
1.2 登录 MaaS 领取单接口 200w 免费 Token
MaaS 提供了一系列可以 Severless 方式免费调用的模型 API，每个用户每个模型有 200 万 Token 的免费额度。
https://console.huaweicloud.com/modelarts/?locale=zh-cn®ion=cn-southwest-2#/model-studio/homepage 进入上方链接，可进入贵阳一区域的 MaaS 控制台，然后点击控制台左侧“模型部署”，找到想要使用的 DeepSeek 版本后点击“领取”，领取成功后就可以开始体验使用了。
搭建网站智能客服
2.1 准备工作
2.1.1Dify 平台搭建
Dify 简介：
Dify 是一个能力丰富的开源 AI 应用开发平台，为大型语言模型（LLM）应用的开发而设计。它巧妙地结合了后端即服务（Backend as Service）和 LLMOps 的理念，提供了一套易用的界面和 API，加速了开发者构建可扩展的生成式 AI 应用的过程。
基于 Flexus 云服务器 X 实例快速部署 Dify 平台：该解决方案基于华为云 Flexus X 实例帮助开发者快速私有化部署开箱即用的 Dify LLM 应用开发平台，具体操作流程请访问下方博客链接。https://bbs.huaweicloud.com/blogs/437138
登录 Dify
部署完成后，首次登录需注册管理员账号，依次填写邮箱、账号、密码后保存设置后即可登录使用。
至此，你已经完成了 Dify 平台的搭建，下一步将展示如何将 MaaS 平台的模型服务接入 Dify 使用。
2.1.2MaaS 模型 API 接入 Dify
1）创建 API Key：
-访问贵阳一区域的 MaaS 控制台：
https://console.huaweicloud.com/modelarts/?locale=zh-cn®ion=cn-southwest-2#/model-studio/authmanage
-在 MaaS 左侧导航栏中，选择“鉴权管理”。
-在“鉴权管理”页面，单击“创建 API Key”，填写描述信息后，单击“确认”会返回“您的密钥”，请复制保存密钥，单击“关闭”后将无法再次查看密钥。（注：最多支持创建 5 个密钥，密钥只会在新建后显示一次，请妥善保存。当密钥丢失将无法找回，请新建 API Key 获取新的访问密钥。
2）选择常驻模型 API
点击 MaaS 控制台左侧“模型部署”，找到已领取额度的模型服务，然后点击 “调用”。
在右侧弹出界面中，可以查看到调用该服务需要的基础 API 地址和模型名称信息。
3）配置 Dify 模型供应商
点击 Dify 界面右上角用户头像，选择“设置”，选择“模型供应商”页签。
找到“OpenAI-API-compatible”供应商，点击添加模型。
在弹窗中，填入 MaaS 对应的模型名称、API Key、API Endpoint URL 等信息后保存配置。
模型名称：MaaS 服务调用界面显示的模型名称
API Key:之前步骤中创建的贵阳一区域的 API Key
API Endpoint URL:之前步骤中 MaaS 服务的基础 API 地址，需要去掉地址尾部的“/chat/completions”后填入
Function calling:当前 MaaS 预置服务中仅 Qwen2_5-7B-Instruct-1128、Qwen2_5-72B-Instruct-1128、Qwen2_5-72B-32K-1128 可以配置 Function calling 为”Tool Call”，其余服务暂不支持
2.2 Dify 中创建客服机器人
2.2.1 知识库创建
如果想让智能客服能够基于企业内部的知识文档进行问答，可以在 Dify 中创建一个知识库。Dify 能够协助进行数据的分段和清理工作。Dify 提供两种索引方式：高质量和经济。高质量模式会使用 Embedding 和 Rerank 模型以在用户查询时提供更高的准确度。本案例将使用经济进行演示。
操作步骤如下：
选择“知识库页签”，点击“创建知识库”
在“选择数据源”页面上传的知识文档（可以同时上传多个文本文件），选择清洗方式后，点击“保存并处理”。
2.2.2 创建与调试客服机器人
在“工作室”页签下创建一个空白应用，应用类型选择“Agent”，输入名称和描述进入 AI 的编排页面：
AI 人设设置：左上部“提示词”处输入 Prompt，可以设置该 AI 与用户交谈时的语气和风格。
智能客服提示词示例：你是一个友好的智能客服助手，负责解答用户提出的关于产品的问题、处理订单、提供技术支持。当用户提出的问题你没有找到合适答案的时候，要回答不知道。
让 AI 基于内部知识进行回答：在“上下文”处添加上一步中创建的知识库。
开场白配置：点击右下角功能的“管理”打开功能开关。自定义用户进入界面后，AI 的开场问候语。
下一步问题建议配置：在“添加功能”处开启此功能。可基于业务场景设置 AI 对于用户问题的指引。
完成以上配置后，点击右上角“发布”菜单中“更新”保存设置。你可以在页面右侧窗口输入 prompt 进行效果调试。
在这一环节，将把已经构建好的智能客服机器人嵌入到网站中，依次点击“发布”>“嵌入网站”。Dify 支持全屏界面式、悬浮窗式、浏览器插件式三种方式的嵌入。我们以第二种为例，将下方的代码复制到你网站<head> 或 <body> 标签中。
粘贴好后更新网站页面，就可以与该客服机器人进行对话了。
