用户手册
版本:V1.3
深圳中科闻歌科技有限公司
2025年1月
1. 平台介绍
"智川"X-Agent平台是中科闻歌推出的基于大模型、面向全行业的的一站式AI智能体开发平台。"智川"X-Agent平台内置了全自主知识产权的国产雅意YAYI大模型,同时支持用户自主接入各种国内外先进大模型。
在"智川"X-Agent平台无须编程,简单几步即可快速搭建和发布AI应用,让 AI应用创新从"高不可攀"变得"触手可及"。
1.1 平台功能
平台提供高效的可视化设计与编排工具,帮助用户以零代码或低代码方式实现基于大模型的AI项目搭建和发布。
1.应用轻松搭建
简单配置轻松构建AI智能体,无需编程,大大降低技术门槛。
2.知识库自主管理
知识库创建方式多样化,知识维护分级授权,让知识库回归业务单位自主更新管理。
3.工作流自由编排
内置工作流引擎,通过拖拽组件的方式即可搭建复杂任务流,大大提高AI应用创新效率。
4.能力无限扩展
插件定制、工具集成,快速扩展平台能力,应对各种复杂场景,满足用户多样化需求。
5.国产大模型安全可靠
自主知识产权国产化原生雅意大模型,性价比更高,安全性更好。
6.一键发布,无缝嵌入
平台支持智能体和应用的一键发布,支持WEB、H5、小程序、APP嵌入和API调用。
1.2 平台架构
"智川"X-Agent提供全生命周期AI应用开发与管理,赋能个性化 AI应用的高效创建与快速迭代。
算力层:国产化算力适配,消费级显卡即可部署。
模型/能力:提供具有全自主知识产权的国产化雅意大模型,支持用户按需接入各类通用大模型、领域大模型、多模态大模型、小模型和插件。
智能体:涵盖AI Agent搭建的全栈技术能力,包括知识库构建与检索、工具调用、工作流编排、记忆功能等,可通过配置或拖拽方式轻松搭建各类智能体。
应用层:全行业用户均可根据自身行业领域和应用场景,在"智川"X-Agent搭建AI应用。
终端层:"智川"X-Agent平台的AI应用可轻松发布至web、小程序、APP,也可发布为API供各类系统和智能硬件调用。
1.3 平台优势
- 高效的AI应用构建
"智川"涵盖AI应用搭建所需的全栈技术能力,可通过配置或拖拽方式轻松搭建AI应用,让用户聚焦于具体业务实现。
- 简单易用的知识库
实现知识采集、知识入库、知识库构建的全流程自动化管理。支持按部门分级授权分级管理,让业务部门自主管理自己的知识库。
- 精准的智能服务
利用LLM+RAG技术和Agent的长短期记忆功能,结合私域知识库和用户意图分析,提供精确回应和知识溯源,显著降低大模型的幻觉。
- 强大的工具支持
平台内置强大的工作流引擎和丰富的工具插件,用户按需取用。支持无限扩展Agent功能边界,轻松应对复杂多变的业务场景与任务流程。
- 开放的生态系统
支持多种主流大模型和自主接入,工具插件可自主扩展,应用可一键发布至web、H5、APP移动端,并轻松集成到其他系统平台。
- 安全的数据保障
基于全自主知识产权的国产雅意YAYI大模型,支持本地部署和调用本地大模型,多重防护策略防止恶意攻击,知识库分级授权保障数据安全。
1.4 功能模块
平台的核心功能见左边栏列表。包括商店、应用、模型、知识库、工具、工作流、运营等。
商店:为用户提供应用的展示和快速入口。
应用:创建AI应用,调用各类能力插件。
模型:接入和管理大模型、向量模型。
知识库:创建和管理RAG知识库,为大模型提供本地化检索增强服务。
工具:为AI应用提供工具、能力插件。
工作流:通过拖拽方式创建工作流。提供被调用。
运营:提供平台的运营统计分析。
2. 快速开始
无论你有无编程经验,都可以在"智川"X-Agent平台上快速搭建一个智能应用。本节以公共资源交易智能问答助手为例演示如何在"智川"X-Agent平台上快速搭建智能应用。
2.1 智能问答助手效果
与智能问答助手对话时,它可以为你解答公共资源交易方面的专业问题。
2.2 搭建步骤
2.2.1 步骤1:创建一个智能应用
登录"智川"X-Agent平台。
点击左侧菜单上的"应用",进入应用页面。
点击右侧的"⊕创建应用"。
输入智能应用的名称和功能描述,点击图标旁边的"AI生成"为应用自动生成一个图标。
点击"确定"。
创建智能应用后,你会直接进入应用的设置页面。你可以为智能应用:
编排能力:在"编排"页面左侧编排智能应用的能力:包括设定角色、输入指令模板、配置各种扩展能力(知识库、工作流、功能与插件等),并在右侧实时预览调试智能应用的能力。
设置展示样式:在"样式"页面设置智能应用的展示效果,包括更换模板和进行各个展示细节的设置,并可在右侧实时预览展示效果。
发布应用:选择公开或私有方式进行应用的发布。
2.2.2 步骤2:编写提示词
编排智能应用能力的第一步是编写提示词,包括角色设定和指令模板。
角色设定:定义了智能应用的基本人设,会持续影响智能应用在所有对话中的回复效果。如公共资源交易智能问答助手的角色可以设定为"你是一个公共资源交易专家,熟悉公共资源交易领域的法律法规和政策文件,为用户回答公共资源交易知识的相关问题,不能与用户闲聊"。
指令模板:对智能应用思考逻辑和回答效果的进一步要求,如如公共资源交易智能问答助手的角色可以设定为:
#思考逻辑
1. 在回答问题时,首先确认问题的核心要点,明确用户想了解的具体内容。
2. 根据问题的内容,从公共资源交易领域的法律法规和政策文件中寻找相关依据,确保给出的答案是准确的。
3. 在回答时,尽量使用简洁明了的语言,避免使用过于专业或复杂的术语,确保用户能够理解和接受。
4. 如果遇到不确定或无法回答的问题,应诚实告知用户,并尽力基于当前信息提供可能的解决方案或建议。
#回复要求
1. 在与用户交流时,保持礼貌和专业的语气,展现对公共资源交易领域的专业知识和经验。
2. 回复时,先确认用户的问题,然后提供详细的解答,确保信息的完整性和准确性。
3. 如果用户的问题涉及到具体的法律法规或政策文件,应提供相关的法律依据或政策文件的链接,方便用户进一步了解。
4. 在回答结束后,可以询问用户是否还有其他问题或需要进一步的帮助,以确保用户得到满意的答案。
你可以点击"自动优化",让大模型为你优化提示词,或者点击"提示词库",使用提示词库中已保存的提示词。
2.2.3 步骤3:(可选)关联知识库或添加能力
如果你希望通过自有的领域知识来增加智能应用回答的准确性、专业性和一致性,可以为智能体关联相关知识库。知识库的创建方式参见"知识库章节"。
你还可以通过工作流、功能/插件等来进一步拓展智能应用的能力边界。对于本例的公共资源交易智能问答助手,我们希望它基于专有知识库进行专业、严谨的回复,通过大模型+知识库的能力基本可以实现预期效果,因此暂不需要添加其他能力。
2.2.4 步骤4:设置展示样式
点击页面顶部中间的"样式"按钮,进入展示样式设置页面。
点击"更换模板",为智能应用选择一个合适的模板。
在左侧"编辑演示"栏,可以自定义进行展示细节的设置,如背景图、应用标识、欢迎页面、对话气泡图标等。
编辑过程中可以在页面左侧实时预览展示效果,也可进行提问以调试智能问答助手的恢复效果。
2.2.5 步骤5:发布智能应用
完成智能应用设置与调试后,点击"发布"可以一键发布智能应用到各个渠道。目前支持公开发布和私有发布两种方式,公开发布将应用发布为一个公开访问的地址,用户可通过PC或移动设备浏览器直接访问,也可以将访问地址分享给其他用户进行体验;私有发布则为应用生成一个对应的API key,用户可通过API密钥访问并使用服务。
在智能应用设置页面右上角点击"发布"。
选择发布方式
点击"发布"。
3. 应用
3.1 功能概述
"智川"X-Agent平台提供了基于大语言模型搭建智能应用的全栈技术能力,在充分利用大语言模型能力的同时,平台还支持用户通过知识库、工作流、插件等工具来拓展智能应用的能力,确保智能应用的输出符合预期。
3.1.1 编排能力
为满足不同复杂度和不同类型的任务场景需求,"智川"X-Agent平台提供了多款先进大语言模型和多种编排模式。
3.1.2 搭建能力
平台提供知识库和插件等功能以有效应对大模型可能出现的幻觉现象,并弥补大模型在专业领域的知识短板。此外,平台还配备了强大的记忆功能,让智能应用在与用户交流时,能够依据用户的历史对话内容,生成更加精准且贴合需求的回复。
知识库
知识库功能支持添加本地或线上数据供智能应用使用,以解决大模型幻觉、领域知识不足等问题,提升输出结果的准确性、专业性、一致性和可解释性。。更多信息,参考"知识库"章节。
工作流
工作流可将复杂的任务分解成多个较简单的步骤(节点)来降低系统复杂度,从而对提示词技术和模型推理能力的依赖,提高智能应用处理复杂任务的能力和效率。平台提供了强大的可视化工作流编排工具,你可以通过拖拽和配置不同节点来实现复杂的多步骤任务设置。
插件
插件是用于扩展智能应用功能的工具或模块,通过调用外部API来增强智能体的能力,使其能够完成更复杂的任务。插件可以实现各种功能,如天气查询、互联网搜索、图像生成、数据处理等,从而提升智能应用性能和用户体验。
平台提供了丰富的插件供你扩展智能应用的能力,你也可以按需创建自定义插件。
功能
平台支持用户为智能应用添加一系列功能,进一步完善智能问答助手的能力。
3.1.3 设计能力
平台提供高效便捷的展示效果设计能力,你可以通过模板一键设置展示效果,也可以自定义进行每一处细节的个性化设定。更多信息,参考"样式"。
3.1.4 调试能力
3.1.5 发布接口
平台支持将智能体发布到多类渠道,让更多用户能够体验使用。包括商店、API、Web、H5、微信。
3.1.6 运营能力
平台提供AI应用的运营统计分析,包括AI应用、知识库、访问量、用户数、Token消耗、问答排行等。
3.2 智能应用基础设置
3.2.1 智能应用的模式
为适应不同的应用场景和复杂度需求,平台提供多种编排模式来创建智能应用:
(1) 单Agent(LLM模式):应用中只有一个智能体,用户与大模型进行对话,适用于逻辑比较简单的应用。
(2) 单Agent(对话流模式):应用中只有一个智能体,用户与对话流进行对话。智能应用通过对话流实现任务分解、推理思考、工具调用、对话历史记录等功能。
(3) 单Agent(文本生成模式):应用中只有一个智能体,智能体根据用户要求,自动生成高质量文本的智能应用。
(4) 单Agent(工作流模式):支持高度自定义的业务逻辑和交互方式,允许用户精细控制每一步的逻辑和输出,适合有经验的用户。
(5) 多Agent:在智能应用中设置多个Agent,为每个Agent配置不同的提示词和能力,通过多个Agent的协作来实现更复杂的功能或处理更复杂的任务。
默认情况下,智能应用使用单 Agent (LLM)模式。
3.2.2 对话流模式
对话流模式介绍
对话流模式是以对话交互为核心的流程模式,通过分析用户输入的文本或语音信息,理解意图,依据预定义的规则和知识库,生成自然流畅的回复,推动对话持续进行。满足人们日常信息查询、业务办理、知识获取等需求。
能即时响应,用户提问瞬间得到解答,节省等待时间;可自动处理大量常见问题,大幅减轻人工客服压力,提高服务效率;还能依据用户意图引导对话,将模糊需求转化为明确指令,助力用户精准表达,获取所需信息,提升交互体验。
适用于客户服务领域,像电商、金融、电信等行业的在线客服;智能语音助手,如车载语音助手、智能家居语音交互系统;智能问答平台,例如企业内部知识问答、教育领域的智能答疑等场景。
基于对话流模式创建智能体
- 在创建应用时,默认是LLM模式,"选择模式"中选择"对话流模式"。
在编辑过程中也可以进行修改:\
- 对话流模式在"开始"节点,除了用户输入内容,还增加了对话管理入参CONVERSATION_NAME,实现对话历史的管理。
- 并提供用户界面设置的"样式"模板,支持PC、H5两种模板格式。
3.2.3 文本生成模式
文本生成模式介绍
文本生成模式是通过简单的可视化交互,配置关键变量,触发模型自动生成相应文本。它将复杂的写作过程简化,无需专业写作技能,便能高效产出多样化文本内容。
适用于内容创作领域,如新闻撰写、广告文案策划、小说创作构思、生成练习题、生成产品描述、营销话术、会议纪要、报告大纲等。能快速产出初稿,辅助创作者,生成风格多样的文本。
基于文本生成模式创建智能体
- 在创建应用时,默认是LLM模式,"选择模式"中选择"文本生成模式"。
2、针对文本生成的要求,需要选择大模型及提示词,让大模型按照要求进行内容生成。
3、支持用户输入文本、文档格式,作为内容生成的参考。
3.2.4 工作流模式
工作流模式介绍
工作流模式是一种任务流程编排框架,通过可视化界面,用户能将复杂任务拆解为多个节点,以拖拉拽的方式设定节点顺序、执行条件与流转逻辑。各节点依规则有序衔接,实现流程自动化运转,让业务流程化繁为简。
工作流模式适用于将复杂任务分解为多个子节点流,保障流程标准化,增强流程透明度,便于实时监控与管理,及时发现并解决问题。
基于工作流模式创建智能体
- 在创建应用时,默认是LLM模式,"选择模式"中选择"工作流模式"。
工作流节点在"起始节点"的入参中,只有用户输入"question"参数,没有对话管理的变量参数。也是跟对话流有所差异。
工作流模式中,由于工作流是被调用,不需要直接跟用户交互,所以没有用户界面设置功能。
3.2.5 设置模型
平台支持包括本地私有化部署国产雅意大模型,以及国内外主流通用大模型,也可按需扩展接入其他大模型,更安全、更灵活、更中立。对选定的模型,支持设定角色和指令模板,支持从提示词库选择,及自动优化。
3.2.6 提示词
- 平台为用户提供自定义提示词,并提供提示词自动优化。
- 用户可将常用的提示词构建为模板,便于直接调取提示词模板。
- 平台为用户提供自定义指令模板,用于向大模型输入指令,引导模型按照特定的要求和方向进行回答或操作,使模型能够更准确地理解用户意图。
- 在基于工作流、对话流模式创建应用中,通过"大模型"节点设置提示词。
3.3 添加技能插件
平台支持接入各类能力插件,无需编写代码,用户仅需在可视化界面里,轻轻点击添加按钮,即可浏览并选择所需插件。然后通过简单的参数配置与工作流节点拖拽,就能让不同插件协同工作,快速赋予 AI 应用强大功能。
- 在基于LLM模式创建应用中,通过"功能/插件"添加已接入的插件。
- 在基于工作流模式创建应用中,通过拖拽"工具"节点,选择添加平台中的插件。
- 在基于LLM模式创建的应用中,支持关联"工作流"拓展技能
3.4 添加知识库
平台通过简单操作将各类结构化或非结构化知识整合进来,为 AI 应用提供丰富的领域专业数据支撑,极大提升其回答准确性与专业性。解决 AI 应用知识储备不足,回答缺乏针对性、无法满足用户复杂知识需求等问题。
在基于LLM模式构建应用中,平台提供将预先构建的"知识库"进行关联。
在基于工作流、对话流模式构建应用中,"知识检索"节点提供知识库关联,为应用提供专业的领域知识。
3.5 添加记忆功能
平台支持添加记忆,为 AI 应用赋予记录并存储交互数据,让 AI应用根据过往对话内容,理解用户习惯与偏好,实现更具连贯性和个性化的交互,提升用户体验。
在基于工作流模式创建应用中,提供"长期记忆"节点,记录用户的历史对话并提供查询。
3.6 增强用户体验
平台提供丰富的用户体验定制功能,通过LLM模式创建应用,"功能/插件"包括的功能有对话体验、问题建议、答案溯源、答案润色、结果评价。
- 对话体验提供开场白、初始问题、异常情况提示、免责声明。
开场白是用户进入应用时,平台呈现的引导性话语,能迅速吸引用户注意力,让用户快速了解智能体核心功能,以简洁明了且友好的方式,帮助用户快速与智能体交互。比如"您好,很高兴为您服务!请问有什么可以帮您的?"。
初始问题是用户进入应用时,平台提供的引导提问示例,让用户理解用什么样的表达方式更好的与智能体交互。
"学习成长中话术"、"回答失败提示语"用于当智能无法解答或者超时解答时,如何专业而又温情的回答。
- 问题推荐建议
问题推荐建议是根据用户的提问,平台识别用户意图,自动推荐用户关注的问题,实现引导式的对话,快速聚焦用户关注,精准解答用户的问题。并且可设置推荐问题的数量,默认是推荐3个问题。
- 输出结果评价
平台提供收集用户反馈的功能,用户与智能体交互过程中,可以对智能体的输出反馈评价,包括点赞、点踩及理由。后台运营模块可以分析用户的评价,持续优化平台的服务和体验。
3.7 调试和预览
平台提供调试和预览,用户可以在发布应用之前,模拟应用运行,展示不同配置和工作流下的效果。让用户及时发现应用搭建中存在的逻辑错误、参数设置不当等问题。避免反复修改浪费时间,大幅提升开发效率和应用质量 。
- 基于LLM模式创建的应用,右侧窗口提供调试和查看效果。
- 基于工作流模式创建的应用,通过左侧"测试"查看效果。
3.8 发布渠道
智川支持将搭建的智能应用发布到各种渠道中,让你的智能应用向广大用户提供服务。目前支持将智能应用公开发布到商店、PC端、移动端、微信公众号、接入政务网认证,或私有发布为API供第三方系统调用。
3.9 运营分析
智川的运营模块帮助你跟踪和分析已发布的智能应用的运行情况。智能应用数据分析功能提供智能应用使用量、用户量、新增用户、用户留存率、热点问题等数据。你可以基于这些数据来针对性的进行智能应用优化,使其更好地满足用户需求。
3.10 搭建一个AI智能应用
参见"快速开始"。
4. 模型
智川Agent平台的模型功能模块,旨在为用户提供灵活的AI模型选择和配置能力。平台内置了全自主知识产权的国产雅意YAYI大模型,同时集成了Kimi、DeepSeek、文心一言、智谱清言、豆包等多种国内外先进大模型,并支持用户自主接入更多大模型。此外,平台还内置了m3e向量模型、bge向量模型、雅意向量模型、bge-m3向量模型等多种向量模型,并支持用户自主调用其他向量模型。通过这些功能,用户可以轻松地将先进的AI模型集成到工作流和应用中,提升智能体的性能和应用场景。
4.1 功能特性
4.1.1 多模型集成
智川Agent平台支持多种大模型和向量模型,用户可以根据自己的需求选择合适的模型。这种多模型集成能力确保了用户能够利用最先进的AI技术,提升智能体的交互能力和功能丰富度。
4.1.2 灵活的模型配置
用户可以对大模型和向量模型进行灵活配置,包括选择内置模型、配置API域名和APIKey等。这些配置选项使得用户能够定制模型,以适应不同的应用场景和业务需求。
4.2 模型类型
4.2.1 大模型
大模型是基于深度学习构建的超大规模神经网络,拥有数亿甚至数千亿参数依托大规模数据和强大算力训练,具备卓越的语言理解与生成能力,可处理复杂的自然语言任务。"智川"X-Agent平台提供全自主知识产权的国产雅意大模型同时支持 Kimi、DeepSeek、豆包、文心一言、智谱清言等国内外多款先进大模型,并允许用户通过 API域名和 APIKey 自定义配置更多大模型。
4.2.2 向量化模型
向量化模型是指将文本转换为向量表示的模型,如m3e、bge、雅意向量模型、bge-m3等。这些模型可以用于文本相似性计算、语义搜索等任务。用户可以选择内置的向量化模型,也可以配置自己的向量化模型,通过API接口地址进行调用。
4.3 模型处理方式
4.3.1 大模型配置
平台已为用户内置了多种大模型,如雅意、DeepSeek、Kimi、文心一言、智谱清言等。用户也可以通过配置API域名和APIKey,自定义配置属于自己的大模型。例如,用户可以配置自己的雅意模型,通过APIKey进行调用,实现个性化的文本生成和问答功能。
4.3.2 向量化模型配置
平台已为用户内置了多种向量化模型,如m3e、bge、雅意向量模型、bge-m3等。用户也可以通过配置API接口地址,自定义配置属于自己的向量化模型。例如,用户可以配置自己的m3e模型,通过API接口地址进行调用,实现文本相似性计算和语义搜索功能。
4.4 模型操作流程
4.4.1 创建大模型
登录智川Agent平台。
选择"模型"功能模块。
点击"创建大模型"按钮。
选择系统内置的大模型,或配置API域名和APIKey创建自己的大模型。
点击"确定"完成大模型创建。
4.4.2 编辑/维护大模型
登录智川Agent平台。
选择"模型"功能模块。
选择需要编辑/维护的大模型,点击"编辑"按钮,进入编辑界面。
选择其他大模型,或调整API域名和APIKey参数。
点击"保存"按钮,完成配置修改。
4.4.3 创建向量化模型
登录智川Agent平台。
选择"模型"功能模块。
点击"创建向量化模型"按钮。
选择系统内置的向量化模型,或配置向量化模型名称、模型编码、维度数量(支持768、1024)、API接口地址,创建属于自己的向量化模型。
点击"确定"完成向量化模型创建。
5. 知识库
"智川"X-Agent平台的【知识库】功能模块旨在为用户提供高效、灵活的数据管理和知识检索。支持用户上传多种格式的私有数据,通过自动解析和入库处理,结合检索增强生成(RAG)技术,【知识库】能够为大语言模型提供精准的反馈,有效解决大模型幻觉和领域知识不足的问题,显著提升输出结果的准确性、专业性、一致性和可解释性。
5.1 功能特性
【知识库】支持QA对、文档、URL、结构化数据(Excel或数据库)、多媒体等多种格式的私有数据上传,并对上传的数据进行自动解析入库处理。借助检索增强生成(Retrieval-Augmented Generation,简称RAG)技术,依据知识库中的信息,针对用户提出的问题提供精准反馈,有效解决大模型幻觉、领域知识不足等问题,显著提升了输出结果的准确性、专业性、一致性和可解释性。
5.1.1 多格式数据支持
"智川"X-Agent平台的知识库功能支持多种数据格式的上传,包括QA对、文档、URL、结构化数据(如Excel或数据库)和多媒体文件。这一特性使得用户能够将各种类型的数据整合到知识库中,极大地丰富了知识库的内容,为用户提供了一个全面、多样化的数据管理解决方案。
5.1.2 多向量模型支持
"智川"X-Agent平台支持多种向量模型供用户选择,以满足不同场景和需求:
1、m3e向量模型:该模型专注于多模态数据的嵌入和相似性计算,能够处理文本、图像等多种数据类型。通过将不同模态的数据转换为统一的向量空间,实现跨模态的检索和匹配,适用于需要处理多媒体数据的应用场景。
2、bge向量模型:bge向量模型专为文本数据设计,具有高效的文本编码能力和强大的语义理解能力。能够将文本数据转换为高维向量,通过向量之间的相似性计算,实现精准的文本检索和推荐,适用于文本密集型的应用场景。
3、雅意向量模型:雅意向量模型结合了多种先进的算法和技术,提供了高质量的向量表示。它在处理复杂语义和长文本方面表现出色,能够准确捕捉文本的细微语义差异,适用于需要高精度语义理解的应用场景。
4、bge-m3向量模型:这是一种融合了bge和m3e向量模型优点的混合模型。它结合了文本和多模态数据的处理能力,能够在同一框架下处理多种数据类型,提供更加全面和准确的向量表示,适用于多模态融合的应用场景。
5.1.3 多文档解析策略支持
"智川"X-Agent平台提供了多种文档解析策略,以适应不同用户的需求和环境:
1、雅意智能解析:雅意智能解析策略利用先进的自然语言处理技术和机器学习算法,能够自动识别和提取文档中的关键信息。支持多种文档格式,包括PDF、Word、PPT等,并能够将文档内容转换为结构化的数据,方便用户进行进一步的分析和处理。
2、阿里云智能解析:阿里云智能解析策略借助阿里云强大的云计算能力和丰富的数据处理经验,提供高效、稳定的文档解析服务。它支持大规模文档的批量处理,能够快速将文档内容解析为可检索的格式,适用于企业级的大数据处理场景。
3、本地部署解析:本地部署解析策略允许用户在本地环境中部署文档解析服务,确保数据的安全性和隐私性。用户可以根据自己的需求,选择合适的解析算法和工具,对文档进行定制化的解析处理,适用于对数据安全要求较高的应用场景。
5.1.4 自动解析与入库
智川"X-Agent平台的知识库可以将上传至平台的数据将自动进行解析,并入库处理。这一过程完全自动化,无需用户手动干预,大大提高了数据处理的效率和准确性。用户可以轻松地将大量数据上传至平台,而无需担心数据处理的复杂性和时间成本。
5.1.5 RAG技术应用
借助检索增强生成(RAG)技术,"智川"X-Agent平台的知识库能够使大语言模型结合知识库中的信息,为用户提供更加精准、专业的回答。RAG技术不仅提高了回答的准确性,还增强了回答的可解释性,使用户能够更好地理解和应用这些信息。通过这种方式,平台有效解决了大型语言模型可能出现的幻觉问题和领域知识不足的问题,确保输出结果的可靠性和一致性。
5.2 知识库类型
使用知识库功能的第一步是上传知识内容。上传知识内容分为两步:首先选择要上传的知识类型和上传方式,包括QA对、文档、URL、结构化数据(如Excel或数据库)和多媒体文件等;然后对上传的内容进行切分。合理的内容分片可以提升召回内容的相关性,从而提升大模型回复问题的准确性。在上传知识前,建议先了解不同的知识类型的使用场景和导入方式,以便更好地管理知识内容。
5.3 操作流程
5.3.1 步骤1:创建一个知识库
登录"智川"X-Agent平台。
选择"知识库"功能模块。
点击"创建知识库"按钮,输入知识库的名称和描述,点击"保存"按钮,完成知识库的创建。
根据需要,针对已创建的知识库,配置知识库类型(QA对、文档、URL、结构化数据、多媒体)
5.3.2 步骤2:向知识库添加数据
点击已新增的知识库,根据需要选择QA对、文档、URL、结构化数据、多媒体等知识库类型,上传对应数据。
点击"QA对"选项,添加QA数据。包含一个问题和一个对应的答案。用户可以针对性地输入问题和对应答案。支持多级目录分类管理,支持用户添加来源链接、选择是否启用推荐、精准回答、结果润色等功能。
点击"文档"选项,添加文档数据。支持多级目录分类管理,支持doc、docx、pdf、txt等多种文档格式,支持一次性上传数个文档;用户只需通过拖拽的方式,将文档直接拖至文档导入区域,系统便会自动进行解析并入库处理。
点击"URL"选项,添加网页链接数据。支持多级目录分类管理,支持一次性上传数个URL链接;用户只需将URL添加至区域内,平台将自动抓取URL对应的内容并入库。
点击"结构化"选项,添加Excel或数据库数据。支持多级目录分类管理,支持Excel文件和数据库连接。用户可以将Excel文件直接上传,或通过数据库连接导入数据,平台将自动解析并入库。
点击"多媒体"选项,添加音频、视频或图片数据。用户可以将多媒体文件拖至平台上传区域,平台将自动解析并入库。
5.3.3 步骤3:编辑/维护知识库
点击"知识库"功能模块,在知识库列表中查看已有的知识库。
针对需要编辑/维护的知识库,在列表中点击"查看"按钮,进入知识库详情界面。
点击知识库名称的"编辑"图标,根据需要,修改知识库的名称、描述、类型等信息。
根据需要,可以添加或删除知识库中的内容,如上传或删除新的QA对、文档等。
点击"确定"按钮,完成知识库的编辑。
5.3.4 步骤4:已有知识库的应用
在【应用】模块中使用知识库数据
用户可以在"应用"模块中直接调用知识库中的数据,实现快速问答、文档检索等功能。在创建应用模块时,选择需要集成的知识库,平台将自动关联数据内容,提供更加精准和专业的回答,提升用户体验。
应用- 知识库的应用图示
在【工作流】模块中使用知识库数据
用户可以在"工作流"模块中利用知识库数据,优化工作流程和提高工作效率。在用户创建属于自己的应用工作流模块时,使用"知识检索"工具插件,选择需要集成的知识库,平台将自动关联数据内容,自动化执行任务,减少人工干预。
工作流-知识库的应用图示
5.4 权限说明
知识库支持"授权"操作,可"授权"给多个用户。只有知识库的"授权"用户,可以编辑和使用知识库。
5.5 应用场景
5.5.1 语料补充
在创建虚拟形象与用户交流的场景中,知识库可以发挥关键作用。用户可以在知识库中保存与该虚拟形象相关的语料,包括其语言风格、常用表达、背景故事等。当智能体与用户交流时,通过向量召回技术,智能体能够从知识库中检索到最相关的语料,从而模仿该虚拟形象的语言风格进行回答。这种方法不仅提升了交流的自然度和一致性,还能增强用户对虚拟形象的认同感。
5.5.2 智能客服
对于客服应用,知识库是提升服务质量和效率的重要工具。用户可以将高频咨询的产品问题、产品使用手册、常见问题解答等内容上传到知识库。智能体通过这些知识,能够精准地回答用户的问题,提供快速、准确的解决方案。此外,知识库还可以帮助客服团队统一回答标准,确保每个用户都能获得一致的服务体验。
5.5.3 垂直场景
在特定的垂直领域,如政务服务、教育培训、医疗健康等垂直领域,用户可以将相关的法律法规、政策解读、办事流程、培训材料等内容上传到知识库。智能体通过这些知识,能够为用户提供准确的政务服务信息,帮助用户快速了解和办理相关事务。
6. 工具
"智川"X-Agent平台的【工具】功能模块,提供对接入平台的工具进行统一的管理,为AI应用构建提供工具调用服务。包括大模型Prompt提示词、敏感词、语音、插件。
6.1 提示词
6.1.1 功能特性
提示词是为大型语言模型(LLM)设计的自然语言指令,旨在为智能体提供明确的任务指导和行为框架。在创建智能体的过程中,编写提示词是至关重要的第一步。它不仅设定了智能体的身份和目标,还定义了其与用户交互的方式。智能体依据大语言模型对这些设定的理解,来生成对用户问题的响应。因此,提示词的编写质量直接决定了智能体回复的准确性和符合预期的程度。清晰、精确的提示词能够引导智能体产生更加贴合用户需求和场景的回复,从而提升整体的交互体验和应用效果。
AI生成
智川Agent的提示词功能借助AI的强大能力,实现了提示词的自动生成与优化。用户可以通过简单的自然语言描述自己期望的提示词功能或目标,大语言模型将基于这些描述,智能地生成相应的提示词。这一过程极大地简化了提示词的创作流程,即使是非技术用户也能轻松上手。此外,当用户在实际应用中发现提示词的效果未达预期时,可以向AI反馈具体的问题和期望的改进方向。大语言模型将据此对提示词进行自动优化,不断调整直至满足用户的预期效果,确保智能体的回复质量和相关性。

提示词- AI生成图示
插入变量
在提示词的编写过程中,智川Agent支持插入多种变量,以增强提示词的灵活性和动态性。例如,用户可以在提示词中插入{keyword}变量,使智能体能够根据用户输入的关键词动态调整回复内容;{Query}变量则允许智能体引用用户的原始查询,确保回复的针对性和相关性;{file}变量则可用于处理用户上传的文件内容,让智能体能够结合文件信息生成更加准确和详细的回答。通过这些变量的使用,提示词能够更好地适应不同的输入和情境,提供更加个性化和精准的交互体验。

提示词- 插入变量图示
插入替换词
为了进一步优化提示词的表达和效果,智川Agent提供了插入替换词的功能。用户可以在提示词中设置空白引导,引导智能体在特定位置生成符合上下文的内容;也可以预设一些常用的内容片段或表达方式,通过替换词的方式快速插入到提示词中,避免重复编写相似内容。这种灵活的替换机制,不仅能够丰富提示词的语义和表达方式,还能帮助用户快速调整和优化提示词,以适应不同的交互需求和场景变化,提升智能体的回复质量和用户体验。

提示词- 插入替换词图示
高效编写
为了进一步提升提示词的编写效率,智川Agent支持Markdown语法,用户可以利用Markdown的格式化功能,如标题、列表、代码块等,使提示词的结构更加清晰、逻辑更加明确。同时,平台还提供了编辑块和快速引用技能等功能。编辑块允许用户将提示词分解为可复用的模块,方便在不同场景下快速组合和调整;快速引用技能则能帮助用户迅速插入常用的表达或指令,减少重复编写的工作量。这些功能的结合,不仅提高了编写速度,还能显著提升大模型输出的质量和一致性。
6.1.2 提示词类型
提示词主要分为系统提示词和用户提示词,两者在智能体交互中扮演着不同的角色,通过合理设置系统提示词和用户提示词,可以确保智能体在遵循预设角色和逻辑的基础上,准确、高效地响应用户的个性化需求,提供有价值的信息和服务。
系统提示词
系统提示词是在搭建智能体时预设的,它定义了智能体的人设与回复逻辑,是开发者为大语言模型设定的初始参数和行为准则。系统提示词在整个会话过程中持续影响大模型的响应模式,为大模型设定了特定的角色定位和回复逻辑。
系统提示词举例:若要构建一个专业的金融投资顾问智能体,系统提示词可以如下设置:
"你是一位经验丰富的金融投资顾问,擅长为用户提供基于市场分析和财务规划的专业建议。在回答问题时,应确保信息的准确性和专业性,同时语言简洁明了,避免使用过于复杂的金融术语,以确保用户易于理解。"
用户提示词
用户提示词则是用户在与智能体对话时输入的具体指令或问题,它是用户直接向大语言模型提出的要求,指导模型执行特定的任务或提供特定的信息。用户提示词应简洁明了,以便模型能够准确捕捉用户的需求。
用户提示词举例:延续上述金融投资顾问智能体的例子,一个用户提示词可以如下设置:
"我想了解当前股市的趋势,以及适合长期投资的股票有哪些?"
6.1.3 操作流程
创建一个新的提示词
登录"智川"X-Agent平台。
选择"工具"功能模块。
点击"提示词"选项,点击"创建提示词",开始创建一个新的"提示词"。
根据需要,可以自行手动填写提示词内容,亦可以选择"AI生成"帮助自动生成提示词文本内容,并根据需要针对已创建的文本内容选择"插入替换词"、"插入变量"进行文本内容的修改完善。
点击"保存"按钮,创建完成一个新的"提示词"。
编辑/维护已有的"提示词"
点击"工具"功能模块,在"提示词"列表中查看已有的知识库。
针对需要编辑/维护的提示词,在列表中点击"编辑"按钮,进入提示词详情界面。
根据需要,可以添加、修改或删除提示词中的内容。
点击"保存"按钮,完成知识库的编辑。
"提示词"编写建议
在搭建智能体或配置工作流中的大模型节点时,首要步骤就是编写提示词,明确设定智能体和大模型节点的身份和目标。大语言模型会根据对提示词的理解,来响应用户问题。清晰明确的提示词可以有效提高大模型的输出质量,降低错误率,并满足特定场景的需求。建议你在编写提示词前,先了解提示词的编写技巧。
- 明确目标和场景
在开始编写提示词之前,首先要明确智能体的目标和应用场景。这包括确定智能体将服务于哪个领域(如教育、医疗、金融等),以及它将如何与用户交互(如提供信息、解答问题、执行任务等)。
例如:如果目标是创建一个旅游推荐智能体,场景可能是帮助用户规划旅行行程、推荐旅游景点和酒店等。
- 设定智能体角色
根据目标和场景,设定智能体的角色和个性。角色设定应包括智能体的专业领域、语言风格、互动方式等。
例如:对于一个旅游推荐智能体,角色可以设定为"一个热情、专业的旅游规划师,擅长根据用户的兴趣和预算提供个性化的旅行建议"。
- 编写系统提示词
系统提示词是开发者为大语言模型设定的初始参数和行为准则,它在整个会话中持续影响大模型的响应模式。系统提示词应详细描述智能体的角色、专业知识、回答风格等。
例如:你是一个热情、专业的旅游规划师,擅长根据用户的兴趣和预算提供个性化的旅行建议。在回答用户的问题时,你的回答应该既专业又友好,同时提供实用的信息和建议。请确保所有推荐都是基于最新的旅游资讯,并考虑到用户的个人偏好。
- 编写用户提示词示例
用户提示词是用户在与智能体对话时输入的具体指令或问题。为了确保智能体能够准确理解用户的需求,编写一些典型的用户提示词示例是非常有帮助的。这些示例可以帮助开发者测试和优化系统提示词。
例如:
"我想去巴黎旅游,你能为我规划一个5天的行程吗?"
"我预算有限,你能推荐一些性价比高的酒店吗?"
"我想了解巴黎有哪些必去的景点?"
- 测试和优化
编写完提示词后,进行测试是必不可少的步骤。通过实际与智能体交互,观察其响应是否符合预期。如果发现智能体的回复不够准确或不符合设定的角色,需要根据测试结果对系统提示词进行优化。
例如:如果智能体推荐的酒店超出了用户的预算,可能需要在系统提示词中进一步强调预算的重要性。
提示词示例
6.2 敏感词
6.2.1 功能特性
智川Agent平台的敏感词功能提供了一套全面且灵活的内容过滤机制,旨在确保用户输入和智能体输出的内容符合法律法规、社会规范和特定业务需求。该功能通过预设的敏感词库,自动识别并拦截包含敏感词汇的文本,从而维护良好的交流环境。用户可以根据自身需求自定义敏感词库,实时更新词汇列表,以适应不断变化的环境,有效防止不当内容的传播,保护企业的商业利益和用户的信息安全。
自定义词库
用户可以根据自身需求和特定场景,自定义敏感词库。这意味着除了系统默认的敏感词列表外,用户还可以添加特定的词汇或短语,以适应不同的业务需求和文化背景。例如,企业可以将内部保密信息或特定的行业术语添加到敏感词库中,以防止信息泄露。
内容过滤
敏感词功能的核心在于对用户输入和智能体输出的内容进行实时监控和过滤。通过预设的敏感词库,系统能够自动识别并拦截包含敏感词汇的文本,从而确保交流内容的合规性和安全性。例如,在社交平台或在线论坛中,敏感词功能可以有效防止不当言论的传播,维护良好的网络环境。
实时更新
敏感词库支持实时更新,用户可以随时添加、删除或修改敏感词。这一特性使得系统能够灵活应对不断变化的环境和新的敏感内容需求。例如,随着法律法规的更新或社会热点的变化,用户可以及时调整敏感词库,确保内容过滤的时效性和准确性。
6.2.2 敏感词类型
拦截提问
拦截提问是指当用户输入的内容包含特定的敏感词汇或短语时,系统会自动识别并阻止该提问进入后续处理流程。这种类型的敏感词主要用于防止不当或敏感问题的提出,确保交流内容的合规性和适当性。例如,涉及恐怖主义、种族歧视、色情暴力等极端敏感内容的提问将被直接拦截,避免对用户和其他参与者造成不良影响。
例如:
1、论坛和社交互动:防止用户发布违法或不当的帖子和评论。
2、客户服务问答:避免用户提出涉及敏感信息或不当内容的问题,保护企业形象和用户隐私。
无法回答
无法回答是指当用户输入的内容包含某些特定词汇时,系统识别后不会阻止提问,但智能体会拒绝回答该问题,并提供一个标准的回复,告知用户该问题无法得到回答。这种处理方式适用于一些虽然不违法但可能涉及隐私、安全或超出智能体能力范围的问题。
例如:
1、企业内部咨询:对于涉及公司机密或敏感业务的问题,智能体可以拒绝回答,同时提示用户通过其他渠道获取信息。
2、教育咨询:对于一些超出教学大纲或不适宜在公开场合讨论的问题,智能体可以礼貌地拒绝回答。
单词白名单
单词白名单是指在敏感词库中明确列出的一组词汇,这些词汇虽然可能在一般情况下被视为敏感,但在特定上下文或业务场景中是被允许使用的。通过设置单词白名单,系统可以更精准地识别和处理敏感内容,避免误判和过度过滤。
例如:
1、专业领域交流:在医学、法律等专业领域,一些专业术语可能在普通语境中被视为敏感,但在专业交流中是必要的。
2、多语言环境:在处理多语言内容时,某些词汇在一种语言中可能是敏感的,但在另一种语言中则不是,通过白名单可以精确管理这种情况。
禁用词
禁用词是指那些绝对不允许出现在用户输入或智能体输出中的词汇。这些词汇通常具有强烈的负面含义,如侮辱性语言、歧视性词汇等。系统会严格监控并过滤掉这些词汇,确保交流内容的文明和尊重。
例如:
1、公共服务:如政府服务、公共服务热线等,确保与用户的交流始终保持礼貌和专业。
2、教育和培训:营造积极、健康的学习环境,避免不当语言对学生的不良影响。
其它
除了上述常见的敏感词类型,还有一些特定的敏感词类型需要根据具体场景进行配置和管理。例如,学区判断、非学区话题、对话场景对比等。这些类型的敏感词将根据实际需求逐步完善和补充。同时,智川Agent平台后期将考虑支持用户自定义配置敏感词类型,以满足不同用户在特定业务场景下的需求。
例如:
1、教育领域:学区判断和非学区话题的敏感词管理,确保教育咨询的准确性和合规性。
2、特定行业:如金融、医疗等行业,可能需要特定的敏感词类型来管理专业术语和敏感信息。
3、用户自定义:用户可以根据自身业务需求,自定义敏感词类型,灵活应对各种复杂场景。
6.2.3 敏感词处理方式
限定答案
当用户输入的内容包含敏感词时,系统可以限定智能体的回复,确保回答内容不涉及敏感信息。
例如:如果用户提问中包含敏感词"独立",系统可以限定智能体回答:"该问题涉及敏感内容,无法提供相关回答。"
添加前缀
在敏感词前添加特定的前缀,以弱化其敏感性或提供上下文。
例如,将"独立"改为"所谓的'独立'",通过添加前缀来明确立场,减少敏感词的负面影响。
添加后缀
在敏感词后添加特定的后缀,以提供补充信息或解释。
例如,将"独立"改为"独立(此词在某些情况下可能涉及敏感议题)",通过添加后缀来提醒用户该词的敏感性,同时提供必要的解释。
替换问题
当用户输入的内容包含敏感词时,系统可以自动替换为其他非敏感的词汇或问题。
例如,将"独立"替换为"合作",将"分裂"替换为"团结",从而避免敏感词的直接出现,同时保持问题的意图不变。
6.2.4 操作流程
创建敏感词库
登录智川Agent平台。
选择"工具"功能模块,点击"敏感词"管理选项。
点击"创建敏感词库"按钮,输入敏感词库的名称和描述。
选择敏感词库的类型,选择敏感词处理方式
点击"保存"按钮,完成敏感词库的创建。
编辑敏感词库
登录智川Agent平台。
选择"工具"功能模块。
选择需要编辑的敏感词库。
点击"编辑"按钮,进入编辑界面。
根据需要,添加、修改或删除敏感词。可以批量导入敏感词列表,也可以逐个添加或删除敏感词。
根据需要,调整敏感词库的配置,如敏感词的定义、处理方式等。
点击"保存"按钮,完成敏感词库的编辑。
维护敏感词库
定期检查敏感词库中的词汇,确保其准确性和时效性。
根据法律法规的变化和社会热点的更新,及时添加或删除敏感词。
监控敏感词库的使用情况,优化过滤策略和性能。
定期备份敏感词库数据,防止数据丢失。
6.3 语音管理
智川Agent平台的语音管理功能模块,旨在为用户提供灵活的语音交互能力。通过配置接入第三方智能语音服务,用户可以轻松地将语音识别和语音输出功能集成到工作流和应用中。这不仅提升了用户体验,还拓展了智能体的应用场景。在开始配置之前,用户需要准备好智能语音能力的相关信息,包括名字、供应商名称、APP ID、API Secret、API Key等,以确保无缝集成和高效运行。
6.3.1 功能特性
无缝集成
语音管理功能支持与多种第三方语音服务提供商的无缝集成,用户可以根据自己的需求选择合适的供应商。这种灵活性确保了用户能够利用最先进的语音技术,提升智能体的交互能力。
高级语音配置
用户可以对语音进行细致的配置,包括选择发音人、调整语速、音量、音高,以及设置音频编码格式。这些配置选项使得用户能够定制语音输出,以适应不同的应用场景和用户偏好。
6.3.2 语音类型
语音识别
语音识别功能允许用户通过语音输入问题或指令,智能体能够准确识别并理解用户的语音内容。
语音输出
使智能体能够以自然的声音回答用户的问题或提供信息。用户可以配置语音的发音人、语速、音量和音高,以生成更加自然和个性化的语音回复。支持的音频格式包括原生音频(单声道的pcm)、speekx压缩后的音频(8k、16k)和mp3格式。
6.3.3 语音处理方式
配置语音发音人
用户可以选择不同的发音人,以适应不同的应用场景和用户偏好。例如,可以选择男性或女性声音,或特定的语音风格。
设置语速、音量、音高
用户可以调整语音的语速、音量和音高,以生成更加自然和易于理解的语音输出。这些设置有助于提升用户体验,特别是在嘈杂环境或需要快速传达信息的场景中。
设置音频编码
支持多种音频编码格式,包括原生音频(单声道的pcm)、speekx压缩后的音频(8k、16k)和mp3格式。用户可以根据具体需求选择合适的编码格式,以优化音频质量和传输效率。
6.3.4 语音操作流程
6.3.5 创建智能语音
登录智川Agent平台。
选择"工具"功能模块。
点击"语音"选项。
点击"创建语音"按钮。
准备好智能语音能力的相关信息,包括名字、供应商名称、APP ID、API Secret、API Key。
点击"确定"完成语音创建。
6.3.6 编辑/维护智能语音
登录智川Agent平台。
选择"工具"功能模块。
选择需要编辑的智能语音。
点击"编辑"按钮,进入编辑界面。
修改语音配置选项,包括设置AI发音人、语速、音量、音高、音频编码、音频采样率、文本编码格式、数字发音方式。
配置修改完成后,点击"效果测试"按钮,确保语音输出的质量和效果符合预期。
点击"保存"按钮,完成配置修改。
6.4 插件管理
智川Agent平台的插件功能模块,旨在为应用提供丰富的AI能力。通过支持API接入和模型算法,用户可以轻松地将外部插件能力集成到工作流和应用中,从而扩展智能体的功能和应用场景。这种灵活的插件机制不仅提升了平台的可扩展性,还为用户提供了更多的定制化选项,以满足不同业务需求。
6.4.1 功能特性
灵活集成
插件功能支持通过API接入和模型算法两种方式集成外部能力。用户可以根据自己的需求选择合适的集成方式,无论是调用外部API服务还是部署自定义的模型算法,都能轻松实现。
实时调试与验证
在配置插件过程中,用户可以实时进行调试和验证,确保插件的输入和输出符合预期。这有助于在实际应用中提供稳定可靠的扩展功能,减少运行时错误。
丰富的应用场景
插件功能模块支持多种应用场景,用户可以根据具体需求,选择或开发适合的插件,提升应用的交互能力和功能丰富度。
6.4.2 插件类型
API接入
API接入是指通过调用外部API服务来扩展应用的功能。用户可以配置API的请求参数、请求方式和返回值,实现与外部服务的无缝交互。例如,调用天气API获取实时天气信息,或调用翻译API实现多语言翻译功能。
模型算法
模型算法是指用户可以将自定义的机器学习模型或算法集成到应用中。这些模型可以是预训练的,也可以是用户根据具体需求训练的。通过模型算法,用户可以实现更复杂的AI功能,如图像识别、自然语言处理等。
6.4.3 插件处理方式
配置起始值
用户可以为插件配置起始值,这些值在插件运行时作为初始参数。例如,配置API请求的起始URL或模型算法的初始输入参数。
配置变量
用户可以定义和配置插件运行时使用的变量。这些变量可以是动态生成的,也可以是预设的常量。例如,定义API请求中的用户ID或模型算法中的超参数。
添加参数
用户可以为API请求或模型算法添加必要的参数。这些参数可以是请求头、请求体或查询参数。例如,为API请求添加认证Token或为模型算法添加输入数据路径。
配置API接入
用户可以编辑API的详细配置,包括请求方法(GET、POST、PUT等)、请求URL、请求头和请求体。通过验证POST请求,确保API调用的正确性和稳定性。
配置输出值
用户可以配置插件的输出值,包括参数名、请求方式和参数值。这些配置确保插件的输出结果符合应用的需求。例如,配置API返回的JSON数据中的特定字段或模型算法的输出结果。
插件调试
用户可以对插件的输入和输出值进行运行调试,查看输出结果。通过调试,用户可以及时发现和解决问题,确保插件在实际应用中的稳定性和可靠性。
6.4.4 插件操作流程
创建插件
登录智川Agent平台。
选择"工具"功能模块。
点击"插件"选项。
点击"创建插件"按钮。
选择插件类型(API接入或模型算法)。
配置插件名称和插件描述。
点击"确定"完成插件创建。
编辑/维护插件
登录智川Agent平台。
选择"工具"功能模块。
选择需要编辑的插件。
点击"编辑"按钮,进入编辑界面。
配置起始值、API接入、输出值参数。
支持插件运行调试,确保配置正确。
点击"保存"按钮,完成配置修改。
支持接入外部插件能力,为应用提供丰富的AI能力。插件接入支持API、模型算法。
7. 工作流
AI工作流是将复杂的任务分解成一系列较小的子任务,并引入大模型及各类工具技能来处理这些子任务,它可以是一个简单的对话,也可以是一个复杂的系统。
7.1 工作流概述
工作流是一系列节点的组合,可将复杂的任务分解为多个较简单的步骤以降低复杂度,并可更有效地利用知识库、大模型及丰富的工具插件能力,从而形成一个高效、自动化、智能化的工作流程。
在智川提供的可视化画布上,你可以通过拖转接点迅速搭建工作流。在工作流画布中,你可以实时调试工作流,看到数据的流转过程和任务的执行顺序。
7.1.1 节点
节点是AI工作流中的基本组成单元,它代表了工作流中的一个步骤或操作。每个节点都承担着特定的任务,如数据处理、模型推理、结果输出等。在工作流的设计过程中,用户可以根据实际需求,通过拖拽、连接等操作,将不同的节点组合起来,形成一个完整的工作流程。
节点的类型多样,包括模型节点、插件节点、输入节点、输出节点等。例如,在本平台中,用户可以新建模型节点来加载和使用AI模型,也可以新建知识库节点来管理和使用知识库数据。这些节点通过工作流管理系统进行编排和调度,以实现复杂的业务逻辑。
通过引用节点输出,你可以将节点连接在一起,形成一个无缝的操作链。例如,你可以在大模型节点的输入中引用知识检索节点的输出,这样大模型节点就可以使用知识库的知识。在工作流画布中,你可以看到这两个节点是连接在一起的。
7.1.2 变量
变量在AI工作流中扮演着传递和存储数据的重要角色。它们可以在不同的节点之间传递数据,也可以在工作流的执行过程中存储和修改数据。通过使用变量,用户可以灵活地控制工作流的执行流程,实现数据的动态处理和传递。
在工作流中,变量的类型包括字符串、数字、数组、对象等。用户可以根据实际需求,在工作流中定义和使用变量,以实现数据的灵活处理和传递。
7.1.3 工作流与对话流
工作流是指将复杂的任务分解成一系列较小的子任务,并引入AI技术来处理这些子任务,从而形成一个高效、自动化、智能化的工作流程。它结合了AI的自动化处理能力和工作流的流程管理能力,能够自动执行重复性任务、进行数据分析与决策、优化流程路径等,显著提升工作效率和质量。
对话流是基于对话场景的特殊工作流,专门用于处理对话类请求。它通过对话的方式和用户交互,非常适合那些需要处理复杂逻辑的对话型应用程序,如智能客服、虚拟伴侣等。对话流结合了AI的对话能力和工作流的流程管理能力,能够自动回应用户咨询、处理投诉等,提高客户满意度和交互体验。
7.1.4 使用入口
7.2 工作流与对话流
工作流是用于处理功能类的请求,可通过顺序执行一系列节点实现某个功能,对话流是基于对话场景的特殊工作流,专门用于处理对话类请求。
相较于工作流而言,对话流更适合处理对话场景下的交互逻辑。每个对话流都绑定了一个会话,运行时可以从此会话中读取历史消息,同时将本次运行对话流产生的消息记录在这个会话中,相当于一个拥有了记忆的工作流。
若你计划开发一个对话式的AI应用,如AI助手或智能体客服等,这类应用主要基于对话进行交互,那么对话流将是更佳选择。对话流中的大模型能够轻松读取会话上下文、管理会话,并且还能构建对话式的用户界面,便于在各种社交通讯软件上发布。
若你需要构建一个工具类的AI应用,用于批量处理数据或实现任务流程的自动化,那么工作流将是一个合适的选择。
工作流和对话流之间的差别如下表所示:
7.3 使用工作流
工作流是一系列节点的组合,可将复杂的任务分解为多个较简单的步骤以降低复杂度,并可更有效地利用知识库、大模型及丰富的工具插件能力,从而形成一个高效、自动化、智能化的工作流程。
7.3.1 创建工作流
创建新的工作流,点击右上角"创建工作流"。输入名称、描述、类型。
7.3.2 编排工作流
通过工作流构建AI应用。完整的工作流必须包括开始节点、中间节点、结束节点。其中,中间节点根据应用需求选择多个节点,比如数据处理、模型调用、工具能力调用、判断决策等。节点之间通过连接线实现业务逻辑执行。
通过拖拽方式将左边的节点模块拖到右边编排区域,点击"节点",对节点的输入、处理、输出要求进行勾选配置。
- 点击工作流的"编辑"。
- 进入工作流编排页面,包括场景节点、大模型节点、工具节点。
编排开始节点和结束节点
- "创建工作流"完成后,平台会自动创建"开始"节点、"结束"节点。
- 点击"开始"节点,对节点的输入参数进行设置。
- 点击"结束"节点,对节点的输入参数进行设置。
编排中间节点
中间节点是通过调用平台内置的工具插件能力构建AI应用,根据需要将左侧列表中的中间节点拖拽到工作区,进行节点的参数设置。
中间节点通过连线与开始节点、结束节点进行连接,多个中间节点之间根据业务情况进行连接,前一个节点的输出连接到后一个节点的输入。
比如"知识检索"节点,可设置节点的输入、数据处理、输出,还可以对节点的功能进行测试。
7.3.3 调试工作流
工作流编排完成后,左侧"调试",进入工作流调试页面。用户可输入测试问题,查看工作流运行情况。
7.3.4 发布工作流
工作流调试完成后,点击右上角"保存",点击"发布"。
7.3.5 授权工作流
可以对工作流的用户进行授权,授权的用户可以查看、编辑工作流。
点击工作流右下角三个圆点符号。
点击"授权",增加授权用户。支持授权给用户、租户。
7.3.6 工作流示例
下面以一个智能问答工作流为例,展示工作流模块的使用方法。
我们需要搭建一个应用于政府网站的智能问答服务,客户对它的要求有以下几点:
一、它需要保障安全,不能随意回答敏感问题。
二、其次客户已经有历史积累的问答对和知识库,希望所有的答案都来自于知识库,避免出现违反事实的幻觉。
基于以上需求,我们开始搭建工作流。
选择创建工作流,填写名称和描述,头像可以自行上传或选择AI生成。
在节点中选择"敏感词拦截"拖拽至画布中,连结开始环节与敏感词拦截节点,输入变量选择引用开始节点的question,并选择敏感词库。
选择节点中的"条件节点",如出现敏感词则对话结束,未出现敏感词流程继续。
在节点中选择"知识检索"节点,输入参数引用开始节点中的question,选择对应的政府网站QA对和知识库。
知识库参数设置:知识库参数是设定和优化知识库检索策略的方法,可以根据业务需求进行调整,支持使用或恢复至默认值。
在节点中选择"大模型节点",并对大模型节点进行详细配置,选择国产原生的雅意大模型,也可选择其他主流模型。
输入引用上一步知识检索的结果作为变量,并可选择是否打开对话历史,如服务的对象是有用户数据的,可打开此项功能。
设置大模型的系统提示词和用户提示词,点击系统提示词右上角两个按钮,左边是支持在提示词库选择模板进行修改,右边是打开侧边栏以便输入更为详细的提示词。
连结大模型与结束,一个简单的大模型智能问答工作流创建完毕。
工作流测试:点击页面左手边"测试"按钮,可进行工作流试运行。
测试没有问题后,点击右上角"发布"按钮,工作流会发布到个人空间以卡片形态呈现,你可以对其进行复制、删除或授权操作,支持授权给特定用户或租户使用。
7.4 工作流节点
节点是AI工作流中的基本组成单元,它代表了工作流中的一个步骤或操作。可通过配置节点输入输出参数和执行顺序,来实现完整的业务逻辑。工作流节点均可进行拖动、重命名、删除、复制。
7.4.1 开始和结束节点
工作流画布中默认放置开始节点和结束节点,开始节点用于触发一个工作流,结束节点用于输出工作流的结果。
开始节点
工作流以开始起点为起始,通过开始起点设置启动工作流需要输入的信息。开始节点只有输入参数,没有输出参数。
数据类型:开始节点的变量类型支持Sting、Number、Integer等多种类型的输入参数。
参数设置方式:支持直接添加参数并设置参数名称、选择变量类型。
参数描述:可通过描述信息,帮助模型理解输入的参数含义。
结束节点
结束节点为工作流的最终节点,用于返回工作流运行后的结果,支持中间过程的输出,支持流式和非流式两种方式。
- 输入
支持设置输入变量名称,选择引用值或自定义。可新增多个输入变量。
- 输出
返回文本时,工作流运行结束时,模型将直接使用制定的内容回复对话,可以设置流式输出、推流字段名称和推流间隔时间。
- 节点管理
可对结束节点进行复制和重命名,便于在一个工作流中多次使用。
7.4.2 大模型节点
在工作流中,大模型节点是一个重要的组成部分,它通常用于调用大型语言模型(LLM)来处理输入文本,使用变量和提示词生成回复。
节点说明
大模型节点充分利用了大型语言模型在理解和生成语言上的优势,擅长处理各类复杂的自然语言任务。针对业务需求,你可以灵活挑选适合的模型,并通过定制提示词,为模型打造独特的人物设定和回复特色。
节点配置
- 模型
挑选合适的模型至关重要。该节点的输出内容质量在很大程度上取决于所选模型的能力,系统支持雅意、Kimi、文心一言、豆包等主流大模型,你可以根据具体业务需求和各模型特点进行选择。
- 输入
输入是指要向提示词中融入的动态内容。在系统和用户提示词中,都可以引用输入参数,以达到灵活调整的效果。设置时,需为参数命名并指定变量值,变量值可以是固定值,或是引用自上游节点的输出参数。
针对多轮对话场景,可启用智能体对话历史功能。启用后,系统会将在当前用户与智能体之间的多条近期对话记录,与提示词一同传递给大模型。这样,大模型就能参考上下文语境,生成更加贴合当前对话场景的回复。
系统提示词
用户可以通过选择或配置不同的系统提示词来影响大模型的人设和回复风格。
自定义填写:支持用户在页面自定义填写系统提示词,并支持变量引用。
提示词库选择:支持在已有的提示词库中选择提示词模板。提示词库中包含全部系统共用模板和我的模板,并可通过关键词检索。
AI生成:支持根据用户简单描述,AI润色生成提示词。
左侧展开编写:在提示词篇幅较长的情况下,支持左侧展开文本框进行编写。
用户提示词
用户提示词是用户在工作流中直接输入给大模型的文本提示。这些提示词用于明确告诉大模型用户期望的输出内容或执行的任务。用户提示词可以包括关键字、上下文信息、输出格式要求等,也可以引用输入参数中的变量,以帮助大模型更好地理解用户的意图和需求。
输出变量
输出变量用于指定本节点输出的内容格式与输出的参数,可选项包括:
文本:纯文本格式。此时大模型节点只有一个输出参数,参数值为模型回复的文本内容。
Markdown:Markdown 格式。此时大模型节点只有一个输出参数,参数值为模型回复的文本内容。
JSON:标准 JSON 格式。你可以直接导入一段 JSON 样例,系统会根据样例格式自动设置输出参数的结构,也可以直接添加多个参数并设置参数类型。
7.4.3 工具节点
工具节点在工作流中扮演着非常重要的角色,它们通过调用插件中的工具来扩展工作流的功能和智能体的能力。
节点说明
工具节点能够调用已上架或已创建的插件中的工具。这些工具通常是一系列可调用的API,提供了特定的功能或处理能力。
工具节点可以以节点的形式被继承到工作流中,从而扩展工作流的处理能力。
节点配置
- 输入输出
插件节点的输入结构取决于插件工具定义的输入结构。用户需要为必选的输入参数指定数据来源,可以是固定值或引用上游节点的输出参数。
插件节点的输出结构同样取决于插件工具定义的输出结构。用户可以在输出区域查看示例,了解输出参数的详细说明和完整的输出示例。
- 使用建议
在使用插件节点时,务必仔细了解插件工具的输入输出结构,确保正确配置输入参数和引用输出参数。定期检查和更新插件节点及其引用的插件工具,以确保其功能和性能始终符合业务需求。
7.4.4 场景节点
节点说明
场景节点是对于需要在对话框中采集用户信息,用于实现工作流支撑应用系统进行事项办理的节点,它需要在"场景"模块进行场景基本信息与执行事项的配置,再在工作流中引用,具体配置方法请参阅"场景"帮助文档。
节点配置
场景节点的具体配置如下表所示:
7.4.5 条件节点
条件节点是一个if-else节点,用于实现工作流内的分支流程。当你给这个节点提供输入参数时,它会根据"如果"区域设定的条件来判断。如果条件满足,就执行"如果"对应的工作流分支;如果不满足,就执行"否则"对应的工作流分支。
每个分支条件都可以很灵活,你可以添加多个判断条件,并选择它们是"且"的关系还是"或"的关系。此外,你还可以添加多个条件分支,并通过拖拽来调整它们的优先级。这样,你就能轻松地设计出复杂且精准的分支流程了。
7.4.6 问题分类器
问题分类器用于定义用户问题的分类条件,使工作流能够根据分类描述定义流程或对话的进展方式。
节点说明
通过定义分类描述,问题分类器可以推断并将用户输入匹配到相应的类别,并输出分类结果。常见的使用场景包括客户服务对话意图分类、产品评论分类等。例如在典型的产品客户服务问答场景中,问题分类器可以作为知识库检索之前的初步步骤。它对用户输入的问题进行分类,将其引导至不同的下游知识库查询,以准确回应用户的问题。
节点配置
- 选择输入变量
这是指要分类的内容,通常在客户服务问答场景中是用户的问题,例如sys.query。
- 选择推理模型
问题分类器利用大型语言模型的自然语言分类和推理能力。选择合适的模型可以提高分类效果。
- 编写分类标签/描述
可以通过为每个类别编写关键词或描述性语句来手动添加多个分类,帮助大型语言模型更好地理解分类标准。
- 选择对应的下游节点
分类后,问题分类节点可以根据分类与下游节点的关系将流程引导至不同的路径。
7.4.7 参数提取器
支持对输入内容进行参数提取。
节点说明
参数提取器节点是AI工作流中的一个关键组件,它负责从输入数据中提取出用户指定的参数或特征。这些参数可以用于后续的数据处理、分析或模型训练等步骤。通过灵活配置"参数提取器"节点,用户可以高效地获取所需的数据信息,提升整个工作流的效率和准确性。
节点配置
- 输入
输入变量固定名称为Query,用户需要在此处指定提取内容的输入源,支持选择自定义或者引用前置节点中的已有值。
- 参数配置
需要根据业务需求和不同模型的特点,选择合适的大模型用于执行参数提取任务,目前支持雅意、Kimi、DeepSeek、文心一言、豆包等主流大模型;
配置需要提取的一个或多个参数,包括参数名称、描述和变量类型,可以点击右上角"+"号添加多个参数。
系统提示词
用户可以通过选择或配置不同的系统提示词来影响大模型的人设和回复风格。
自定义填写:支持用户在页面自定义填写系统提示词,并支持变量引用。
提示词库选择:支持在已有的提示词库中选择提示词模板。提示词库中包含全部系统共用模板和我的模板,并可通过关键词检索。
AI生成:支持根据用户简单描述,AI润色生成提示词。
左侧展开编写:在提示词篇幅较长的情况下,支持左侧展开文本框进行编写。
用户提示词
用户提示词是用户在工作流中直接输入给大模型的文本提示。这些提示词用于明确告诉大模型用户期望的输出内容或执行的任务。用户提示词可以包括关键字、上下文信息、输出格式要求等,也可以引用输入参数中的变量,以帮助大模型更好地理解用户的意图和需求。
7.4.8 代码节点
代码节点支持运行Python/NodeJS代码,以在工作流中处理输入变量来生成返回值。它可以简化你的工作流,并适用于算术运算、JSON转换、文本处理等多种场景。
节点说明
该节点极大地提高了开发人员的灵活性,允许他们在工作流中嵌入自定义的Python或JavaScript脚本,并以预设节点无法实现的方式操作变量。通过配置选项,你可以指定所需的输入和输出变量,并编写相应的执行代码。
节点配置
- 输入
描述代码中需要使用的变量。添加输入参数时需要设置参数名和变量值,其中变量值支持设置为固定值或引用上游节点的输出参数。
- 代码
编写代码节点中需要执行的代码片段。你可以直接编写代码,支持 JavaScript 和 Python 两种语言。
- 输出
代码运行成功后,输出的参数。你可以根据实际需求,在输出结构中只保留必要的参数。
使用场景
- 结构化数据处理
在工作流中,你经常需要处理非结构化数据,例如解析、提取和转换JSON字符串。一个典型的例子是来自HTTP节点的数据处理。在常见的API返回结构中,数据可能嵌套在多层JSON对象内,你需要提取某些字段。代码节点可以帮助你执行这些操作。以下是一个简单的示例,它从HTTP节点返回的JSON字符串中提取data.name字段:
- 数学计算
当你需要在工作流中执行复杂的数学计算时,也可以使用代码节点。例如,计算复杂的数学公式或对数据进行一些统计分析。以下是一个简单的示例,它计算数组的方差:
- 数据拼接
有时,你可能需要将多个数据源拼接在一起,例如多个知识检索、数据搜索、API调用等。代码节点可以帮助你将这些数据源整合在一起。以下是一个简单的示例,它将来自两个知识库的数据合并:
7.4.9 知识检索
知识检索功能让你能够从指定知识库中查找与用户有关的内容,召回最匹配的信息,并将匹配结果以指定形式返回。
输入与输出
知识库节点的输入参数固定为 Query,表示用户希望在知识库中检索的关键信息,需要引用上游节点的输出参数。输入参数格式为String,可以引用任何格式的数据
知识库类型
知识库支持多种类型的知识选择,包括QA对、文档、URL、结构化数据和多媒体数据,选择知识库类型后,工作流会调用知识库中对应类型的知识数据。
选择知识库
在知识检索节点中,你可以添加智川中已有的或自己上传的,在你的权限以内的知识库。创建知识库的说明,请参阅知识库帮助文档
知识库参数配置
可以在节点内修改单个知识库的索引策略和检索模式。有关这些设置的详细说明,请参阅知识库帮助文档。
7.4.10 变量节点
用于读取和写入项目中的变量,变量名称必须与项目中的变量名称相匹配。
节点说明
变量节点是AI工作流中的一个基本单元,它代表了一个可以存储和访问数据的变量。这些变量可以是字符串、整数、布尔值、数字、对象等数据类型,用于在工作流的不同节点之间传递信息。变量节点的名称必须与项目中的变量名称相匹配,以确保数据的正确访问和修改。
节点配置
- 创建变量节点
通过点击"添加节点"按钮或类似操作,选择"变量节点"作为要添加的节点类型。为变量节点命名,并确保其名称与项目中定义的变量名称一致。
- 设置变量类型
根据需要,选择适当的变量类型(如字符串、整数、布尔值等)。确保所选类型与项目中变量的实际类型相匹配。
- 配置变量值
变量值支持引用或自定义,对于自定义的变量,可以在变量节点中设置其初始值。也可以在工作流的其他节点中动态地修改所引用的变量值。
- 连接变量节点
将变量节点与其他节点通过连线连接起来,以形成完整的工作流路径。确保变量的传递方向正确,即从一个节点输出到另一个节点输入。
注意事项
- 命名规范
变量节点的名称应遵循一致的命名规范,以提高代码的可读性和可维护性。避免使用过于复杂或容易混淆的名称。
- 数据类型匹配
确保变量节点的数据类型与项目中变量的实际类型相匹配。如果类型不匹配,可能会导致数据传递错误或工作流执行失败。
- 变量作用域
了解变量的作用域,即变量在哪个范围内有效。避免在不同作用域中重复定义同名变量,以防止数据冲突。
- 数据校验
在读写变量节点时,应执行适当的数据校验以确保数据的完整性和正确性。这包括检查数据类型、值范围等。
7.4.11 敏感词拦截
敏感词拦截支持对敏感词进行识别与拦截。
节点说明
敏感词拦截节点旨在识别和过滤文本中的敏感或违规词汇,以确保内容的合规性和安全性。例如在面向公众的应用中,敏感词拦截节点可以实时监测并过滤掉包含色情、暴力、仇恨言论等敏感词汇的内容,从而保障应用安全。
敏感词库的配置详细请参阅工具帮助文档。
节点配置
- 输入
输入参数固定为 Query,表示用户希望在敏感词拦截中识别的内容,需要引用上游节点的输出参数。
- 敏感词库选择
在敏感词拦截节点中,你可以添加智川中已有的或自己上传的,在你的权限以内的敏感词库。创建敏感词库的说明,请参阅工具-敏感词库帮助文档
- 输出
输出变量用于指定本节点输出的内容格式与输出的参数,敏感词拦截节点输出格式为array[object].
7.4.12 长期记忆
用于调用长期记忆,获取用户的个性化信息,智能体需要打开长期记忆。
节点说明
在个性化的应用场景中,如用户喜好推荐、内容推荐等,我们会依据用户画像和关键记忆点等个人数据来为用户提供更贴合的推荐内容,从而提升用户体验。这些信息通常可以通过多轮会话的上下文来收集。
由于上下文轮数的限制,个性化信息可能无法被长期保存。为了解决这个问题,我们可以启用长期记忆功能,该功能能够记录并存储用户的个性化信息。此外,在工作流中,我们还可以通过长期记忆节点来访问智能体已经记录的用户喜好、用户画像等信息,从而使工作流的效果更加个性化。
节点配置
长期记忆节点的配置说明如下:
7.4.13 文本解析
用于处理多个字符串类型变量的格式,支持字符串拼接和字符串分割,适用于内容二次总结、文本拼接、文本转义等场景。
节点说明
文本解析节点用于处理多个字符串类型变量的格式。该节点提供了灵活的操作方式,允许用户根据需求选择不同的字符串处理方式,如字符串拼接等。通过该节点,用户可以方便地对字符串进行格式化、组合或转换,以满足特定的编程或数据处理需求。
节点配置
常见问题
- 字符串拼接一般应用于什么场景?
以分段总结为例,假设有多个前置节点分别输出了不同部分的总结结果,我们可以使用这个功能将这些部分拼接成一个完整的段落,然后再将这个完整段落传递给后置节点进行进一步的处理。这样的操作能够帮助我们有效地整合信息,提高工作效率。
- 如何拼接多个字符串?
在输入部分添加需要拼接的字符串变量,并选择"字符串拼接"选项。节点将自动将这些字符串拼接成一个字符串,并存储在输出数组中。
- 如果处理不同类型的输入值?
在值类型中选择"引用值"或直接输入值,然后根据所选类型在输入值部分输入相应的字符串或引用变量。节点将根据所选类型进行相应的处理。
7.4.14 文档解析
解析并读取文档文件中的信息,并转化为文本。
节点说明
文档解析节点用于解析并读取文档文件中的信息,并将其转化为文本形式。该节点可以处理多种类型的文档文件,并提取其中的关键信息,方便用户进行后续的数据处理和分析。
节点配置
文档解析节点的配置说明如下:
常见问题
- 无法解析文件怎么办?
检查文件变量是否正确指定,并确保文件路径和文件名无误。确认文件类型是否被"文档解析"节点支持。检查文件是否损坏或格式不正确。
- 文档解析很慢怎么办?
对于大型文档文件,解析过程可能会消耗较长时间和计算资源。建议优化文档结构或分批处理文件。检查系统资源使用情况,确保有足够的内存和CPU资源供"文档解析"节点使用。