检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
压缩NLP大模型 模型在部署前，通过模型压缩可以降低推理显存占用，节省推理资源提高推理性能。 当前仅支持对NLP大模型进行压缩。 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“模型开发 > 模型压缩”，单击界面右上角“创建压缩任务”。
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“数据工程 > 数据发布 > 数据流通”，单击界面右上角“创建流通任务”。 在“创建流通任务”页面，选择数据集模态，如“气象 > 气象数据”类型的数据集。 图1 选择数据集模态 选择数据集，单击“下一步”。 在“格式
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“Agent开发”，跳转至Agent开发平台。 单击左侧导航栏“工作台”，在“插件”页签，单击右上角“创建插件”。 在“创建插件”页面，填写插件名称与插件描述，单击图片可上传插件图标，单击“下一步”。 在“配置信息”页面，参照表1完成信息配置。
创建NLP大模型自动评测任务步骤如下： 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“模型开发 > 模型评测”，单击界面右上角“创建评测任务”。 在“创建评测任务”页面，参考表1完成部署参数设置。 表1 NLP大模型自动评测任务参数说明 参数分类 参数名称
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“数据工程 > 数据加工 > 数据标注”，进入“标注审核”页签。 在“标注审核”页面，单击“审核”可进入审核页面审核数据。 如果需要将该审核任务移交给其他人员，可以单击“移交”，并设置移交人员以及移交数量，单击“确定”。
然后根据模型的概率分布进行采样或计算。 例如，在英文中，有些组合单词会根据语义拆分，如overweight会被设计为2个token：“over”、“weight”。在中文中，有些汉字会根据语义被整合，如“等于”、“王者荣耀”。 在盘古大模型中，以N1系列模型为例，盘古1token≈0
登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“Agent开发”，跳转至Agent开发平台。 在“工作台 > 工作流”页面，单击所需工作流的“ > 调用路径”。 图1 获取工作流调用路径-1 在“调用路径”页面，单击“复制路径”即可获取调用路径。
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“Agent开发”，跳转至Agent开发平台。 进入“工作台 > 插件”页面。 导出插件。 单击页面右上角“导出”。 在“导出插件”页面选择工作流，单击“导出”。插件将以一个jsonl格式的文件下载至本地。
支持“零码”和“低码”开发者通过“拖拉拽”的方式快速搭建一个工作流，创建一个应用。 Agent开发平台应用场景 当前，基于Agent开发平台可以构建两种类型的应用，一种是针对文本生成、文本检索的知识型Agent，如搜索问答助手、代码生成助手等，执行主体在大模型；另一种是针对复杂工作流场景的流程型
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“Agent开发”，跳转至Agent开发平台。 进入“工作台 > 应用”页面。 导出应用。 单击页面右上角“导出”。 在“导出应用”页面选择应用，单击“导出”。应用将以一个jsonl格式的文件下载至本地。
Key）加密调用请求。 Token认证 Token在计算机系统中代表令牌（临时）的意思，拥有Token就代表拥有某种权限。Token认证就是在调用API的时候将Token加到请求消息头，从而通过身份认证，获得操作API的权限。 Token的有效期为24小时，需要使用一个Token鉴权时，可以先缓存，避免频繁调用。
请求超时。 请检查原调用请求是否过于频繁，如果是并发过大，可以通过重试机制解决，在代码里检查返回值，碰到这个并发错误可以延时一小段时间（如2-5s）重试请求；也可以后端检查上一个请求结果，上一个请求返回之后再发送下一个请求，避免请求过于频繁。 请与技术支持确认，API是否已完成部署。 APIG
转变为“流水线”生产。 在城市政务“一网统管”的场景中，往往建设有庞大复杂的城市事件类别体系，包含了繁多细碎的事项类别，如垃圾暴露、道路破损、围栏破损等，一个城市一般有几百种事件类别。同时，不同城市可能还有不同的标准，某城市关注某一些特定事件类别，另一个城市又关注另一些特定事件类
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“数据工程 > 数据加工 > 数据标注”，进入“标注审核”页签。 在“标注审核”页面，单击“审核”可进入审核页面审核数据。 如果需要将该审核任务移交给其他人员，可以单击“移交”，并设置移交人员以及移交数量，单击“确定”。
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“数据工程 > 数据发布 > 数据流通”，单击界面右上角“创建流通任务”。 在“创建流通任务”页面，选择数据集模态，如“视频 > 仅视频”类型的数据集。 图1 选择数据集模态 选择数据集，单击“下一步”。 在“格式配
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“Agent开发”，跳转至Agent开发平台。 进入“工作台 > 工作流”页面。 导出工作流。 单击页面右上角“导出”。 在“导出工作流”页面选择工作流，单击“导出”。工作流将以一个jsonl格式的文件下载至本地。
查看预测大模型训练状态与指标 模型启动训练后，可以在模型训练列表中查看训练任务的状态，单击任务名称可以进入详情页查看训练结果、训练任务详情和训练日志。 查看模型训练状态 在模型训练列表中查看训练任务的状态，各状态说明详见表1。 表1 训练状态说明 训练状态 训练状态含义 初始化
所需空间。 在左侧导航栏中选择“空间资产 > 模型”。 单击“预置”页签，在预置模型列表，单击模型，可对预置的模型资产执行以下操作： 查看模型历史版本。在“版本列表”页面，可查看模型的各个版本。 训练、压缩、部署操作。在“版本列表”页面，可对不同版本模型执行训练、压缩或部署操作。单击相应按钮，将跳转至相关操作页面。
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“数据工程 > 数据发布 > 数据配比”，单击界面右上角“创建配比任务”。 在“数据集选择”页签选择需要配比的文本类数据集（至少选择两个），单击“下一步”。 在“数据配比”页面，可以设置不同数据集的配比数量，单击“确定”。
创建文本类数据集流通任务步骤如下： 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“数据工程 > 数据发布 > 数据流通”，单击界面右上角“创建流通任务”。 在“创建流通任务”页面，选择数据集模态，如“图片 > 图片+Caption”类型的数据集。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
