检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
访问地址 MaaS服务的模型服务的“API接口公网地址”。获取方式请参见步骤1:在MaaS部署模型服务。 模型描述 模型详细信息的描述。 昇腾云模型名称 来源于MaaS服务的模型服务的“调用模型名称”,获取方式请参见步骤1:在MaaS部署模型服务。 上下文长度(K) NLP大模型在进行
供外部知识来源,扩大知识检索范围。 应用场景:RAG服务的必备企业知识库、知识搜索。 智能问答版 提供内置大语言模型(LLM),一站式快速搭建企业级RAG服务。 应用场景:企业智能助手,数字员工。 实例名称 - 实例名称为Flexus KooSearch文档问答生成的实例名。系统
在新建模型服务页面。根据下表填写对应参数后,单击“确定”按钮。 表1 新建模型服务 参数 说明 模型服务名称 输入模型服务名称,不能为空。 模型类型 NLP模型-云底座:通过华为云提供的盘古nlp大模型访问方式。 NLP模型-昇腾云:通过昇腾云的MAAS服务提供的nlp大模型访问方式。如果选择此模型进行问答,建议设置模型生成最大新词数不超过512。
3-63df8f1cc221", "question" : "如何申请入学?", "answer" : "请查看我们的官方网站或联系招生办公室,了解入学要求、申请截止日期和所需材料。我们还提供入学顾问服务。", "status" : 0, "create_time"
I。客户端(API调用者)在调用API过程中,把密钥对替换SDK中的密钥对,API网关服务根据密钥对进行身份核对,完成鉴权。具体创建凭据的步骤,请参考创建凭据 。 “华为IAM认证”:表示借助IAM服务进行安全认证。 说明: 选择“华为IAM认证”时,任何API网关租户均可以访问
当KooSearch服务需要主动访问公网,或者是需要跨网络访问KooSearch API,则需要配置KooSearch服务的集群路由,连通网络。 操作步骤 进入KooSearch服务详情页面。 登录云搜索服务管理控制台。 在左侧导航栏选择“KooSearch>Flexus企业搜索服务”,进入KooSearch服务列表。
解析拆分设置 参考表1与表2修改设置。 更多设置 修改“搜索模型设置”、“NLP模型设置”和“高级设置”,如何修改请参考新建知识库中步骤5和步骤6。 同时支持新增“其他”设置。 表6 其他设置 参数 说明 topk召回数量 设置topk召回数量。 召回结果中topk的文档将被精排模型使用。
分类直接使用大模型回答。 搜索增强自定义prompt 使用场景:主要用于RAG场景下的模型生成阶段。(RAG场景:对话生成任务中,使用检索步骤来增强生成模型的能力。) 组成要素:检索出的参考文档、用户问题、任务指令以及其他要求。 使用方式:支持自定义prompt,如果未配置自定义
描述:对于重建版本的描述。 重建好版本后,可以对版本进行以下操作。 图4 版本操作 状态为“使用中”的版本可进行如下操作: “重建”:按照步骤4重新建一个版本。 “更新”:可以单击此按钮更新版本描述。 状态为“可用”的版本除了“重建”、“更新”还可以进行如下操作: “关闭”:当版本不用时,可以关闭版本释放索引资源。