检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
或本地环境中。平台支持多种部署模式，能够满足不同场景的需求。通过灵活的API接口，模型可以无缝集成到各类应用中。 模型调用：在模型部署后，用户可以通过模型调用功能快速访问模型的服务。平台提供了高效的API接口，确保用户能够方便地将模型嵌入到自己的应用中，实现智能对话、文本生成等功能。
盘古推理SDK简介 推理SDK概述 盘古大模型推理SDK是对REST API进行的封装，通过该SDK可以处理用户的输入，生成模型的回复，从而实现自然流畅的对话体验。 表1 推理SDK清单 SDK分类 SDK功能 支持语言 使用场景 推理SDK 对话问答（/chat/completions）
通过浏览器访问报错的URL链接，根据页面告警提示对链接进行安全认证。认证完成后，只要不清理浏览器缓存，对相同桶域名的访问都不会被拦截。 创建原始数据集步骤如下： 登录ModelArts Studio大模型开发平台，进入操作空间。 图1 进入操作空间 在左侧导航栏中选择“数据工程 > 数据获取”，单击界面右上角“创建原始数据集”。
本场景采用了下表中的推理参数进行解码，您可以在平台部署后参考如下参数调试： 表3 推理核心参数设置 推理参数 设置值 最大Token限制（max_token） 4096 温度（temperature） 0.3 核采样（top_p） 1.0 话题重复度控制（presence_penalty）
本样例场景实现NLP大模型的部署操作。 步骤1：导入数据至盘古平台 登录ModelArts Studio大模型开发平台，进入所需空间。 选择左侧“数据工程 > 数据获取”，单击右上角“创建原始数据集”。 在“创建原始数据集”页面，选择“文本 > 单轮问答”，选择文件格式、文件来源，填写数据集名称及描述，单击“立即创建”。
间以原到期时间为准，需支付从进入保留期开始至续费时的费用。 账户欠费后，部分操作将受限，建议您尽快续费。具体受限操作如下： 按需方式的API接口不可调用。 无法开通服务。
问OBS服务的权限。 登录ModelArts Studio大模型开发平台首页。 配置OBS访问授权。 方式1：在首页顶部单击“此处”，在“获取依赖服务的授权”弹窗选中授权，并单击“确认授权”。 图1 配置OBS访问授权提示 图2 配置OBS访问授权方式1 方式2：单击首页右上角“设置”，在“设置
模型安全：通过模型动态混淆技术，使模型在运行过程中保持混淆状态，有效防止结构信息和权重信息在被窃取后暴露。 系统安全：通过网络隔离、身份认证和鉴权、Web安全等技术保护大模型系统安全，增强自身防护能力，以抵御外部安全攻击。 父主题： 大模型概念类问题
横向比较提示词效果 将设置为候选的提示词横向比对，获取提示词的差异性和效果。 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏中选择“Agent 开发 > 提示词工程 > 提示词开发”。 在工程任务列表页面，找到所需要操作的工程任务，单击该工程任务右侧“撰写”。
60E。 训练集和验证集均推荐使用>1个月的历史数据。 海洋模型数据获取方式：https://data.hycom.org/datasets/GLBv0.08/expt_53.X/data/ 气象/降水模型获取方式示例： 示例一：以下载2021年7月16日高空变量数据为例，下载内
详见通过控制台快速使用OBS。 操作流程 登录ModelArts Studio大模型开发平台，进入所需空间。 选择左侧“数据工程 > 数据获取”，单击右上角“创建原始数据集”。 在“创建原始数据集”页面，选择“图片 > 图片+Caption”，选择文件格式、文件来源，填写数据集名称及描述，单击“立即创建”。
aS和SaaS类云服务内部的安全以及对租户定制配置进行安全有效的管理，包括但不限于虚拟网络、虚拟主机和访客虚拟机的操作系统，虚拟防火墙、API网关和高级安全服务，各项云服务，租户数据，以及身份账号和密钥管理等方面的安全配置。 《华为云安全白皮书》详细介绍华为云安全性的构建思路与措
Loss（损失函数值）的变化趋势。损失函数是一种衡量模型预测结果和真实结果之间的差距的指标，正常情况下越小越好。 您可以从平台的训练日志中获取到每一步的Loss，并绘制成Loss曲线，来观察其变化趋势。一般来说，一个正常的Loss曲线应该是单调递减的，即随着训练的进行，Loss值不断减小，直到收敛到一个较小的值。
者直接将插件添加到Agent中，丰富Agent的能力。 自定义插件：平台支持开发者创建自定义插件。支持开发者将工具、Function或者API通过配置方式快速创建为一个插件，并供Agent调用。 自定义知识库：平台提供了知识库功能来管理和存储数据，支持为AI应用提供自定义数据，并
图6 创建用户 配置用户基本信息，单击“下一步”。 配置用户信息时，需要勾选“编程访问”，如果未勾选此项，会导致IAM用户无法使用盘古服务API、SDK。 图7 配置用户基本信息 将用户添加至创建用户组步骤中创建的用户组，单击“创建用户”，完成IAM用户的创建。 图8 加入用户组 添加盘古子用户至工作空间
通过IAM，您可以在华为云账号中给员工创建IAM用户（子用户），并授权控制他们对华为云资源的访问范围。例如，您的员工中有负责软件开发的人员，您希望他们拥有接口的调用权限，但是不希望他们拥有训练模型或者访问训练数据的权限，那么您可以先创建一个IAM用户，并设置该用户在盘古平台中的角色，控制对资源的使用范围。
bleu-2：模型生成句子与实际句子在词组层面的匹配度，数值越高，表明模型性能越好。 bleu-3：模型生成结果和实际句子的加权平均精确率，数值越高，表明模型性能越好。 获取训练日志 单击训练任务名称，可以在“日志”页面查看训练过程中产生的日志。对于训练异常或失败的任务也可以通过训练日志定位训练失败的原因。典型
过”。 全部数据评估完成后，评估状态显示为“100%”，表示当前数据集已经评估完成，可以回退到“评估任务”页面，查看，单击操作列“报告”，获取数据集质量评估报告。 父主题： 评估视频类数据集
标记数据集问题 全部数据评估完成后，评估状态显示为“100%”，表示当前数据集已经评估完成，可以回退到“评估任务”页面，查看，单击操作列“报告”，获取数据集质量评估报告。 父主题： 评估图片类数据集
关性，而负值则表示反向相关。 RQE 衡量预测值与真实值之间差距的指标。它是所有单个观测的相对误差的平方和。该值越小，代表模型性能越好。 获取训练日志 单击训练任务名称，可以在“日志”页面查看训练过程中产生的日志。对于训练异常或失败的任务也可以通过训练日志定位训练失败的原因。典型
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
