检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
图文并茂&内容溯源 支持输出参考链接,和上下文语义相关的图片。 内容优选 通过query和片段的语义关系,精简出和query相关的web片段,达到减少下游大模型推理成本,以及提升大模型的推理效果。
可以根据不同的使用场景,配置不同的prompt,例如增加人设、限定条件、答案格式要求等,帮助模型生成更优的结果。
模型配置 文本多样性(top_p) 通过限制词汇的选择来控制生成文本的多样性。值越高,候选单词越多,文本多样性越高。默认值为0.1。 模型生成最大新词数(max_tokens) 控制文本的最大生成长度,值越大有助于生成较长或完整的回复;值较小,生成的内容越简洁。
通用自定义prompt 使用场景:主要用于非RAG场景下的模型生成阶段。(非RAG场景:对话生成任务中,不使用检索步骤进行信息检索,直接使用生成模型生成回复。) 组成要素:用户问题、任务指令以及其他要求。
如果选择此模型进行问答,建议设置模型生成最大新词数不超过512。 NLP模型-裸机:通过裸机部署提供的盘古nlp大模型访问方式。 搜索Embedding模型:搜索向量化模型,支持将文本转化成向量。 搜索精排模型:对搜索的召回结果进行重排序,提升向量检索的效果。
最小值:0.1 最大值:1 缺省值:0.1 max_tokens 否 Integer 模型生成最大新词数 最小值:1 最大值:131072 缺省值:131072 chat_temperature 否 Float 非搜索增强模型生成多样性 最小值:0 最大值:1 search_temperature
实例名称 - 实例名称为Flexus KooSearch文档问答生成的实例名。系统会自动生成一个名称,如果您不想用自动生成的,也可以自己编辑。 实例名称在4位到16位之间,必须以字母开头,可以包含字母、数字、中划线或者下划线,不能包含其他的特殊字符。
最小值:0.1 最大值:1 缺省值:0.1 max_tokens Integer 模型生成最大新词数 最小值:1 最大值:131072 缺省值:131072 chat_temperature Float 非搜索增强模型生成多样性 最小值:0 最大值:1 search_temperature
最小值:0.1 最大值:1 缺省值:0.1 max_tokens Integer 模型生成最大新词数 最小值:1 最大值:131072 缺省值:131072 chat_temperature Float 非搜索增强模型生成多样性 最小值:0 最大值:1 search_temperature
最小值:0.1 最大值:1 缺省值:0.1 max_tokens 否 Integer 模型生成最大新词数 最小值:1 最大值:131072 缺省值:131072 chat_temperature 否 Float 非搜索增强模型生成多样性 最小值:0 最大值:1 search_temperature
生成答案 将content输入给模型,使用模型能力生成答案。 表8 对话历史接口 API 说明 查询对话历史列表 查询历史问题列表。包含对话ID、对话问题、用户名、对话开始时间。 获取对话历史 根据chat_id获取对话历史,返回历史的question和answer数据。
单击操作列的“QA生成”,可将上传的文档生成问答模式的Excel文档,生成任务在“任务管理”页签可以查看。 单击操作列的“重试”,可对已上传的文档重新进行切片。 创建FAQ 在KooSearch控制台,左侧导航栏选择“知识库管理”,进入“知识库管理”页面。
任务管理 在“文档管理”页签单击“QA生成”的任务,都可以在任务管理中查看。生成的文件可以下载、删除。 进入KooSearch控制台。 左侧导航栏选择“知识库管理”,进入“知识库管理”页面。 单击“任务管理”页签,勾选需要操作操的任务。可进行下载、删除操作。
“APP凭据”:使用APP认证的API,需要在API网关中创建一个凭据,以生成凭据ID和密钥对(Key、Secret)。将创建的凭据绑定API后,才可以使用APP认证调用API。
ID 服务的唯一标识,是系统自动生成的。 集群状态 服务当前的状态。 内网访问文档解析地址 服务的内网访问文档解析地址。 产品规格 服务的产品规格。 计费模式 服务的计费模式。 任务状态 服务当前的任务状态,如果没有进行中的任务则显示“--”。 区域 服务所在区域。
如果选择此模型进行问答,建议设置模型生成最大新词数不超过512。 访问地址 MaaS服务的模型服务的“API接口公网地址”。获取方式请参见步骤1:在MaaS部署模型服务。 模型描述 模型详细信息的描述。
标题层级深度 最小值:1 最大值:10 缺省值:3 combine_title Boolean false 保留最后一级 true 保存多标题组合 缺省值:false merge_titles Boolean 是否跨标题合并,不同标题段落文字较少时,会自动合并到指定的分段长度,有助于生成更全面的结果
标题层级深度 最小值:1 最大值:10 缺省值:3 combine_title Boolean false 保留最后一级 true 保存多标题组合 缺省值:false merge_titles Boolean 是否跨标题合并,不同标题段落文字较少时,会自动合并到指定的分段长度,有助于生成更全面的结果
标题层级深度 最小值:1 最大值:10 缺省值:3 combine_title Boolean false 保留最后一级 true 保存多标题组合 缺省值:false merge_titles Boolean 是否跨标题合并,不同标题段落文字较少时,会自动合并到指定的分段长度,有助于生成更全面的结果