检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
来理解和回应用户的需求。 例如，需要构建一个企业助理应用，该应用需要具备预定会议室、创建在线文档和查询报销信息等功能。在构建此应用时，需要将预定会议室与创建在线文档等功能的API接口定义为一系列的工具，并通过AI助手，将这些工具与大模型进行绑定。当用户向AI助手提问时，大模型就
详情请参考官方文档：https://www.hiascend.com/document/detail/zh/mindx-dl/50rc1/dluserguide/clusterscheduling/dlug_scheduling_02_000001.html 父主题： 部署为边缘服务
en信息。 通过“服务管理”功能查看调用量 登录盘古大模型套件平台。 在左侧导航栏中选择“服务管理”，选择所需要查看的服务，单击操作列“查看详情”。 图1 查看详情 在服务详情页面，在“概览”页签，可以查看调用量的概览信息，在“监控”页签，可以查看下详细的调用总量、调用成功量与调用失败量。
NLP大模型 科学计算大模型 Token计算器 02 准备工作 使用盘古大模型服务前，需要进行一系列准备工作，确保您能够顺利使用盘古大模型服务。 准备工作 申请试用盘古大模型服务 创建并管理盘古工作空间 配置服务访问授权 04 AI一站式流程 通过一站式流程，完成从数据集准备、模型训练
检查开发环境要求，确认本地已具备开发环境。 开通盘古大模型API。 登录盘古大模型套件平台。 在左侧导航栏中选择“服务管理”，在相应服务的操作列单击“查看详情”，可在服务列表中申请需要开通的服务。 通用文本（文本补全）：文本补全接口提供单轮文本能力，常用于文本生成、文本摘要、闭卷问答等任务。
默认情况下，管理员创建的IAM用户（子用户）没有任何权限，需要将其加入用户组，并对用户组授权，才能使得用户组中的用户获得对应的权限。授权后，用户就可以基于被授予的权限对云服务进行操作。 服务使用OBS存储训练数据和评估数据，如果需要对OBS的访问权限进行细粒度的控制。可以在盘古服务的委托中增加Pangu OBSWriteOnly、Pangu
json解析报错 服务端返回的数据格式不符合json格式，导致sdk侧解析json数据报错。 服务端返回的json数据不符合json反序列化的规则，和sdk定义的数据结构不一致，导致反序列化失败。 sdk json数据解析问题。 建议排查服务端返回的数据是否和服务SDK设计的结构、字段一致。
虽然模型的思考过程是个黑盒，但可以通过反问模型答案生成的逻辑或提问模型是否理解任务要求，考察模型生成的逻辑，提升模型思维过程的可解释性。 对于模型答案的反问 如果模型给出了错误的答案，可以反问模型回答的逻辑，有时可以发现错误回答的根因，并基于此修正提示词。 在反问时需要指明“上面的xxx”。例如：“为什么你认
向量记忆 华为云CSS 否 集群host信息。 用户认证信息。 云搜索服务CSS： https://support.huaweicloud.com/css/index.html 参考CSS服务“快速入门”章节创建机器后，在集群信息中获取hosts信息。 示例：https://10.0
如何调整推理参数，使模型效果最优 为什么微调后的模型，回答总是在重复某一句或某几句话 为什么微调后的模型，回答中会出现乱码 为什么微调后的模型，回答会异常中断 为什么微调后的模型，只能回答在训练样本中学过的问题 为什么微调后的模型，输入与训练样本相似的问题，回答与训练样本完全不同 为什么微调后的模型，评估结果很好，但实际场景表现却很差
cheme都是HTTPS，而Endpoint在同一个区域也相同，所以简洁起见将这两部分省略。 请求方法 HTTP请求方法（也称为操作或动词），它告诉服务你正在请求什么类型的操作。 GET：请求服务器返回指定资源。 PUT：请求服务器更新指定资源。 POST：请求服务器新增资源或执行特殊操作。
配置盘古访问授权 盘古大模型服务使用对象存储服务（Object Storage Service，简称OBS）进行数据存储，实现安全、高可靠和低成本的存储需求。因此，为了能够正常的存储数据、训练模型，需要用户配置盘古访问OBS的权限。 使用主账号登录盘古大模型套件平台。 在左侧菜单选择“平台管理
盘古NLP大模型的模型订阅服务和推理服务默认采用包周期计费，训练服务则默认采用按需计费。使用周期内不支持变更配置。 欠费 在使用云服务时，如果账户的可用额度低于待结算账单金额，即被判定为账户欠费。欠费可能会影响云服务资源的正常运行，因此需要及时充值。 模型订阅服务和推理服务为预付费，购买后不涉及欠费。
t_id），以及账号名、账号ID、IAM用户名和IAM用户ID。 在调用盘古API时，获取的项目id需要与盘古服务部署区域一致，例如盘古大模型当前部署在“西南-贵阳一”区域，需要获取与贵阳一区域的对应的项目id。 图2 获取项目ID 多项目时，展开“所属区域”，从“项目ID”列获取子项目ID。
创建子用户并授权使用盘古 如果您需要对华为云上购买的盘古资源，为企业中的员工设置不同的访问权限，以达到不同员工之间的权限隔离，您可以使用统一身份认证服务（IAM）并结合盘古大模型套件平台提供的“角色管理”功能实现精细的权限管理。 如果华为云账号已经能满足您的要求，不需要创建独立的IAM用户（
# status为requires_action表示他需要对这个action进行反馈，required_action中给出了Assistant的思考 } AI助手API参数说明 请求参数 表1 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 String
大模型概念类问题 大模型是什么 大模型的计量单位token指的是什么 大模型是否可以自定义人设 盘古自然语言大模型的适用场景有哪些 大模型的安全性需要从哪些方面展开评估和防护 训练智能客服系统大模型需要考虑哪些方面
保障模型调用安全。 授权后，在调用盘古大模型能力时，模型的输入和输出将分别调用一次内容审核服务，该服务为付费项，用户可按需购买。 若不使用，您也可以自行对接第三方内容审核服务。关于大模型生成内容的责任主体，请参考《盘古大模型服务协议》。 启用内容审核服务 登录盘古大模型套件平台。
SDK支持兼容OpenAI-API规范的开源模型。例如，用vllm框架使用OpenAI-API启动推理服务。当前鉴权方式支持AppCode鉴权和华为云的APIG简易认证方式。配置文件需要指定url和key，配置项为： sdk.llm.openai.url=https://infer-
在您的操作系统中下载并安装Maven，安装完成后您只需要在Java项目的pom.xml文件中加入相应的依赖项即可。 <dependency> <groupId>com.huaweicloud.sdk</groupId> <artifactId>huaweicloud
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
