正在生成
详细信息:
检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
表1 适用计费项 计费项 说明 大模型微调服务API在线调用-SFT局部调优 根据实际输入和输出tokens总量计费,平台提供算力支持。 计费周期 API在线调用按需计费按token数量计费,与周期无关。
按需计费 千tokens * 每千tokens单价 推理单元 将基础或者预训练后的模型部署为在线服务时使用的算力单元,通过购买推理单元实现服务QPS扩容。 包年/包月 包年/包月:实例数量*实例单价*购买时长 大模型调用 大模型调用次数。
{ "created": 1718772336, "usage": { "completion_tokens": 23, "prompt_tokens": 45, "total_tokens": 68 }, "model": "chatglm3-6b", "id
大模型调用 小规格:5000万token 中规格:1亿token 大规格:2亿token 应用最大激活态用户量 小规格:10个用户 中规格:25个用户 大规格:50个用户 问答AI服务专业版 开箱即用的AI问答服务,需配合专业服务使用,提供文本类智能问答、智能数据分析。
认证鉴权 AppStage调用接口支持AK/SK和API Key认证鉴权。 AK/SK认证:通过AK(Access Key ID)/SK(Secret Access Key)进行API调用时的认证。 API Key:通过API密钥进行API调用时的认证。 AK/SK认证 AK/SK
其他用户:可以通过选择IAM账号的方式上传到指定租户的OBS桶。 IAM账号 “授权用户”选择“其他用户”时需配置此参数,配置步骤如下: 单击“管理IAM账号”,进入“服务扩展点管理”页面。
Token:Token方式,会自动获取当前登录运营中心的用户对应的Token。 请求头 当“数据源类型”值为“Restful”且“类型”值为“默认”时,才有此参数。 指标列表 当“数据源类型”值为“Restful”且“类型”值为“指标”时,才有此参数。 在下拉框中选择关联指标。
Token:Token方式,会自动获取当前登录开天集成工作台的用户对应的Token。 请求头 当“数据源类型”值为“Restful”且“类型”值为“默认”时,才有此参数。 指标列表 当“数据源类型”值为“Restful”且“类型”值为“指标”时,才有此参数。
状态码 错误码 错误信息 描述 处理措施 200 AIAE.22001001 API调用异常 API调用异常 调用接口url、请求方式错误或出现访问其他用户资源的越权问题,请检查后重试 200 AIAE.22001002 IAM认证异常 IAM认证异常 后端服务错误,请联系技术支持
智能模式:如果待向量化分片字段token超过向量化模型限制的token总数,首先利用对话大模型对超长分片进行重写,如果仍然超长则进入截断模式。 默认模式:如果待向量化分片字段token长度超过了向量化模型限制的token总数,则创建知识库失败。
表1 操作说明 操作 说明 修改微服务注册信息 单击微服务列表操作列的“修改”,可以配置如下信息: 访问能力表:当前微服务可以访问的微服务列表,目前所有微服务默认访问 SecurityTokenMicroService,无需配置。 ACL列表:具体请参见在ACMS中配置ACL。
Token:Token方式,会自动获取当前登录开天集成工作台的用户对应的Token。 请求头 当“数据源类型”值为“Restful”且“类型”值为“默认”时,才有此参数。 指标列表 当“数据源类型”值为“Restful”且“类型”值为“指标”时,才有此参数。
、解析token信息 │ │ RedisUtil.java ----Redis工具类,对Redis数据库做数据操作 resources目录,用于存放本地启动时静态资源
在ACMS中查询认证凭据 某微服务有多个业务来接入,为了认证接入业务的身份,微服务会给业务分配不同的认证凭据,用于认证。为了把认证凭据授权给业务A、B、C,需要将认证凭据明文发送给业务A、B、C的开发人员,从而两边持有相同的认证凭据。本章介绍如何通过管理台查询认证凭据。 查询认证凭据
Unable to refresh credentials for service SecurityTokenService&SecurityTokenMicroService 该问题是STS初始化的时候,从kek.json或者keys.json获取本地密钥失败,导致无法从STS-Server
model str True 模型id kwargs - - 其他openai embedding参数 返回值 表6 返回值 键 值类型 描述 data List[Embedding] Embedding object的列表 model str 模型id usage dict Token
format: sensitive records: AIOPSCONFIG_AIOPSSERVER: 'https://XX.XX.XX.XX:XXXX/' AIOPSCONFIG_AIOPSTOKENURI: openapi/XXX/XXX
Token:Token方式,会自动获取当前登录开天集成工作台的用户对应的Token。 请求头 当“数据源类型”值为“Restful”且“类型”值为“默认”时,才有此参数。 指标列表 当“数据源类型”值为“Restful”且“类型”值为“指标”时,才有此参数。
输出最大token数 简称max_tokens,表示模型输出的最大长度。 温度 简称temperature,较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定。建议该参数和“多样性”(top_p)只设置1个。
Token:Token方式,会自动获取当前登录运营中心的用户对应的Token。 请求头 当“数据源类型”值为“Restful”且“类型”值为“默认”时,才有此参数。 指标列表 当“数据源类型”值为“Restful”且“类型”值为“指标”时,才有此参数。 在下拉框中选择关联指标。