检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
服务名称 在线服务的名称。 描述 在线服务的简要描述。 订阅提醒 勾选订阅提醒，并添加手机号/邮箱，系统将在训练任务完成或重要事件发生时，发送提醒。
在左侧导航栏中选择“服务管理”，在相应服务的操作列单击“查看详情”，可在服务列表中申请需要开通的服务。 通用文本（文本补全）：文本补全接口提供单轮文本能力，常用于文本生成、文本摘要、闭卷问答等任务。 对话问答（多轮对话）：多轮对话接口提供多轮文本能力，常用于多轮对话、聊天任务。
在左侧导航栏中选择“服务管理”，在相应服务的操作列单击“查看详情”，可在服务列表中申请需要开通的服务。 文本补全：提供单轮文本能力，常用于文本生成、文本摘要、闭卷问答等任务。 多轮对话：提供多轮文本能力，常用于多轮对话、聊天任务。
此外，盘古大模型还能够根据用户的行为和反馈不断学习和优化，进一步提升服务能力。它能识别用户的情绪和语气，调整回答的语调和内容，更贴近用户的实际需求。这种智能化、个性化的服务体验不仅减少了转人工的频率，还提升了用户满意度。
开通盘古大模型服务 调用模型之前，需要先开通盘古大模型服务。 登录盘古大模型套件平台。 在左侧导航栏中选择“服务管理”，在相应服务的操作列单击“查看详情”，可在服务列表中申请需要开通的服务。 文本补全：提供单轮文本能力，常用于文本生成、文本摘要、闭卷问答等任务。
申请体验盘古大模型服务 盘古大模型为用户提供了五大模型的体验，包括NLP大模型、CV大模型、多模态大模型、预测大模型与科学计算大模型，用户可根据所需提交体验申请，申请通过后才可以体验盘古大模型功能。 登录盘古大模型套件平台。
申请体验盘古大模型服务 盘古大模型为用户提供了五大模型的体验，包括NLP大模型、CV大模型、多模态大模型、预测大模型与科学计算大模型，用户可根据所需提交体验申请，申请通过后才可以体验盘古大模型功能。 登录盘古大模型套件平台。
部署为边缘服务 边缘服务部署流程 边缘部署准备工作 注册边缘资源池节点 搭建边缘服务器集群 安装Ascend插件 订购盘古边缘部署服务 部署边缘模型 调用边缘模型 父主题： 部署盘古大模型
详情请参考官方文档：https://www.hiascend.com/document/detail/zh/mindx-dl/50rc1/dluserguide/clusterscheduling/dlug_scheduling_02_000001.html 父主题： 部署为边缘服务
父主题： 部署为边缘服务
配置Cache(Java SDK) Cache缓存是一种临时存储数据的方法，它可以把常用的数据保存在内存或者其他设备中，这样当需要访问这些数据时，就不用再去原始的数据源查找，而是直接从缓存中获取，从而节省时间和资源。 对LLM使用缓存： LLM llm = LLMs.of(LLMs.PANGU
如果服务部署状态为“部署失败”，可单击服务操作列的“启动”按钮，重新部署。 父主题： 部署为边缘服务
终端节点 终端节点（endpoint）即API服务的终端地址，通过该地址与API进行通信和交互。获取步骤如下： 登录盘古大模型套件平台。 在左侧导航栏中选择“服务管理”，在相应服务的操作列单击“查看详情”，可在服务列表中申请需要开通的服务。
配置NFS网盘服务。 大模型采用镜像+模型分开的方式部署时，需要有一个节点来提供NFS网盘服务，创建部署时通过NFS挂载的方式访问模型。 父主题： 部署为边缘服务
父主题： 部署为边缘服务
在左侧导航栏中选择“服务管理”，在相应服务的操作列单击“查看详情”，可在服务列表中申请需要开通的服务。 图1 服务管理 在“概览 > 服务列表”中选择需要调用的模型，并单击操作列的“调用路径”。 图2 服务概览页面 在弹窗中可获取对应模型的API请求地址。
表4 合规度状态说明 合规数据量 合规度颜色 是否可用于训练 ＞＝80% 绿色 可用 ＞＝40% 黄色 预警，需要优化数据 ＜40% 红色 告警，需要优化数据 （可选）当“我的数据集”的OBS数据发生变更时，可以单击右上角“检测”按钮重新校验数据集，也可以在“我的数据集”页签中，单击操作栏中的
盘古NLP大模型分为模型订阅服务、训练服务和推理服务三个收费项。 模型订阅服务和推理服务按调用时长计费，时长精确到秒。 训练服务按实际消耗的Tokens数量计费，话单周期内的Tokens计算精确到1K Tokens，不足1K Tokens的部分舍去。
常见训练报错与解决方案 read example failed报错 报错原因：模型训练过程中，训练日志出现“read example failed”报错，表示当前数据集格式不满足训练要求。 解决方案：请参考数据格式要求校验数据集格式。 图1 read example failed报错
在左侧导航栏中选择“服务管理”，在相应服务的操作列单击“查看详情”，可在服务列表中申请需要开通的服务。 文本补全：给定一个提示和一些参数，模型会根据这些信息生成一个或多个预测的补全。例如让模型依据要求写邮件、做摘要总结、生成观点见解等。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
