检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Token计算器 功能介绍 为了帮助用户更好地管理和优化Token消耗，平台提供了Token计算器工具。Token计算器可以帮助用户在模型推理前评估文本的Token数量，提供费用预估，并优化数据预处理策略。
身份认证与访问控制 用户可以通过调用REST网络的API来访问盘古大模型服务，有以下两种调用方式： Token认证：通过Token认证调用请求。 AK/SK认证：通过AK（Access Key ID）/SK（Secret Access Key）加密调用请求。
Token的有效期为24小时，需要使用一个Token鉴权时，可以先缓存，避免频繁调用。 如果您的华为云账号已升级为华为账号，将不支持获取账号Token。建议为您自己创建一个IAM用户，获取IAM用户的Token。
权限管理 如果您需要对华为云上购买的盘古大模型资源，为企业中的员工设置不同的访问权限，以达到不同员工之间的权限隔离，您可以使用统一身份认证服务（IAM）和盘古角色管理功能进行精细的权限管理。
步骤1：获取文本翻译服务Token与调用地址 在创建多语言文本翻译工作流的实践中，需要调用华为云文本翻译服务API，调用前需获取文本翻译服务的Token，获取Token步骤如下： 使用IAM账号进入API Explorer服务，在左上角选择“统一身份认证服务”，单击“Token管理
选择当前调用的NLP大模型，可以按照不同时间跨度查看当前模型的调用总数、调用失败的次数、调用的总Tokens数、以及输入输出的Tokens数等基本信息。 此外，该功能还提供了可视化界面，可额外查看响应时长以及安全护栏拦截次数。 父主题： 调用NLP大模型
请求参数 使用Token认证方式的请求Header参数见表1。 表1 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。
如果华为云账号已经能满足您的要求，不需要创建独立的IAM用户（子用户）进行权限管理，您可以跳过本章节，不影响您使用盘古的其他功能。 您可以使用统一身份认证服务（IAM）并结合ModelArts Studio大模型开发平台提供的“成员管理”功能实现子用户精细的权限管理。
参数名为X-Auth-Token，参数值为获取的Token值。 图8 填写NLP大模型API 在Postman中选择“Body > raw”选项，参考以下代码填写请求Body。
表2 请求Header参数填写说明 认证方式 参数名 参数值 Token认证 Content-Type application/json X-Auth-Token Token值，参考《API参考》文档“如何调用REST API > 认证鉴权 > Token认证”章节获取Token。
这种情况可能是由于以下几个原因导致的，建议您依次排查： 推理参数设置：请检查推理参数中的“最大Token限制”参数的设置，适当增加该参数的值，可以增大模型回答生成的长度，避免生成异常截断。请注意，该参数值存在上限，请结合目标任务的实际需要以及模型支持的长度限制来调整。
X-Auth-Token：用户Token，可选，当使用Token方式认证时，必须填充该字段。用户Token请参考认证鉴权中的“Token认证”。
图2 获取工作流调用路径-2 使用Postman调用API 获取Token。参考《API参考》文档“如何调用REST API > 认证鉴权”章节获取Token。 在Postman中新建POST请求，并填入工作流的调用路径，详见获取调用路径。 填写请求Header参数。
表1 请求Header参数填写说明 认证方式 参数名 参数值 Token认证 Content-Type application/json X-Auth-Token Token值，参考《API参考》文档“如何调用REST API > 认证鉴权 > Token认证”章节获取Token。
图1 文本翻译插件运行失败 可能原因：调用文本翻译API的Token错误或失效。 解决方法：参考创建多语言文本翻译插件，重新获取Token并进行试运行。 问题二：文本翻译失败，如图2，工作流不输出翻译后的内容，始终处于提问状态。
大模型的计量单位token指的是什么 令牌（Token）是指模型处理和生成文本的基本单位。token可以是词或者字符的片段。模型的输入和输出的文本都会被转换成token，然后根据模型的概率分布进行采样或计算。
请求参数 使用Token认证方式的请求Header参数见表1。 表1 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。
请求参数 使用Token认证方式的请求Header参数见表1。 表1 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。
{ "error_msg": "Incorrect IAM authentication information: token expires, expires_at:2023-06-29T02:16:41.581000Z", "error_code": "APIG
APIG.0301 Incorrect IAM authentication information. IAM身份验证信息不正确： decrypt token fail：token解析失败。 token expires：token过期。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
