检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
用户Token 最小长度:1 最大长度:1000000 表3 请求Body参数 参数 是否必选 参数类型 描述 top_k 否 Integer top_k配置。top_k指召回前k条与query相关的片段 最小值:10 最大值:500 reference_count 否 Integer
使用方式:支持自定义prompt,如果未配置自定义prompt,则使用默认prompt。在自定义构建时,请参考默认prompt的格式。 模型配置 文本多样性(top_p) 通过限制词汇的选择来控制生成文本的多样性。值越高,候选单词越多,文本多样性越高。默认值为0.1。 模型生成最大新词数(max_tokens)
详细语法参考query_string语法 最小长度:4 最大长度:1024 top_p 否 Float 一种替代温度采样的方法,称为nucleus sampling,其中模型考虑具有top_p 概率质量的标记的结果。通常建议更改此值或温度,但不要同时更改两者。通常建议更改top_p或temperature来调整生成文本的倾向性,但不要同时更改这两个参数。
效果最好的上下文长度,与模型相关,确保输入令牌的有效长度以保证最佳输出 考虑到多轮对话,建议控制在模型上下文长度的60%(向上取整)。 最小值:2 最大值:128 top_p 否 Float 通过限制词汇的选择来控制生成文本的多样性。值越高,候选单词越多,文本多样性越高。 最小值:0.1 最大值:1 缺省值:0
String 创建时间 最小长度:1 最大长度:100 update_time String 更新时间 最小长度:1 最大长度:100 top_k Integer topK数量 最小值:10 最大值:500 prompt String prompt 最小长度:0 最大长度:8192
String 创建时间 最小长度:1 最大长度:100 update_time String 更新时间 最小长度:1 最大长度:100 top_k Integer topK数量 最小值:10 最大值:500 prompt String prompt 最小长度:0 最大长度:8192
请求URL 参数 说明 URI-scheme 传输请求的协议,当前所有API均采用HTTPS协议。 Endpoint 承载REST服务端点的服务器域名或IP,不同服务在不同区域,Endpoint不同,可以参考终端节点获取。例如IAM服务在“西南-贵阳一”区域的Endpoint为“iam.cn-southwest-2
终端节点(Endpoint)即调用API的请求地址,Flexus企业搜索服务局点在贵阳一,终端节点见表1。 表1 Flexus企业搜索服务终端节点 区域名称 区域 终端节点(Endpoint) 协议类型 西南-贵阳一 cn-southwest-2 css.cn-southwest-2.myhuaweicloud