检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
管理，您可以跳过本章节，不影响您使用盘古的其他功能。 您可以使用统一身份认证服务（IAM）并结合ModelArts Studio大模型开发平台提供的“成员管理”功能实现子用户精细的权限管理。 创建用户组 管理员可以创建用户组，并给用户组授予策略或角色，然后将用户加入用户组，使得用户组中的用户获得相应的权限。
n限制等参数。模型参数的设置会影响模型的生成质量和多样性，因此需要根据不同的场景进行选择。 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏中选择“Agent 开发 > 提示词工程 > 提示词开发”。 在工程任务列表页面，找到所需要操作的工程任务，单击该工程任务右侧“撰写”。
获取模型部署ID 模型部署ID获取步骤如下： 登录ModelArts Studio大模型开发平台。 获取模型请求URI。 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我的服务”页签，模型部署列表单击模型名称，在“详情”页签中，可获取模型的部署ID。 图1
服务的请求URI即API服务的终端地址，通过该地址与API进行通信和交互。 URI获取步骤如下： 登录ModelArts Studio大模型开发平台。 进入所需工作空间。 获取请求URI。 获取模型请求URI。 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我
须的。 提示词工程使用流程 ModelArts Studio大模型开发平台可以辅助用户进行提示词撰写、比较和评估等操作，并对提示词进行保存和管理。 表1 功能说明 功能 说明 提示词工程任务管理 提示词工程平台以提示词工程任务为管理维度，一个任务代表一个场景或一个调优需求，在提示
创建数据集时会对相关限制条件进行校验。 数据参考格式如下： 图1 数据参考格式 图2 数据示例 创建提示词评估数据集 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏中选择“Agent 开发 > 提示词工程 > 提示用例管理”，单击页面右上角“创建提示用例集”。 图3 提示用例管理
与非专业大模型相比，专业大模型针对特定场景优化，更适合执行数据分析、报告生成和业务洞察等任务。 ModelArts Studio大模型开发平台为用户提供了多种规格的专业大模型，以满足不同场景和需求。以下是当前支持的模型清单，您可以根据实际需求选择最合适的模型进行开发和应用。 模型支持区域
模型持续优化： 本场景采用了下表中的推理参数进行解码，您可以在平台中参考如下参数调试： 表3 问答模型的推理核心参数设置 推理参数 设置值 最大Token限制（max_token） 4096 温度（temperature） 0.9 核采样（top_p） 0.4 话题重复度控制（presence_penalty）
Token比（Token/英文单词） Token比（Token/汉字） N1 0.75 1.5 N2 0.88 1.24 N4 0.75 1.5 针对Token转换比，平台提供了Token计算器功能，可以根据您输入的文本计算Token数量，您可以通过以下方式使用该功能： 在左侧导航栏选择“能力调测”，单击右下角“Token计算器”使用该功能。
华为云的安全责任在于保障其所提供的IaaS、PaaS和SaaS类云服务自身的安全，涵盖华为云数据中心的物理环境设施和运行其上的基础服务、平台服务、应用服务等。这不仅包括华为云基础设施和各项云服务技术的安全功能和性能本身，也包括运维运营安全，以及更广义的安全合规遵从。 租户：负责
模型持续优化： 本场景采用了下表中的推理参数进行解码，您可以在平台部署后参考如下参数调试： 表2 推理核心参数设置 推理参数 设置值 最大Token限制（max_token） 1024 温度（temperature） 0.3 核采样（top_p） 0.8 话题重复度控制（presence_penalty）
如何利用提示词提高大模型在难度较高推理任务中的准确率 可以通过思维链的方式提高大模型在复杂推理任务中的准确率。 思维链是一种通过分步骤推理来提升大模型在复杂任务中表现的方法。通过引导模型思考问题的过程，可以使其在推理任务中得到更高的准确性，尤其是在涉及多步推理和复杂逻辑关系的任务中。
传统的AI开发模式需要对每种目标类别单独采集数据、训练模型，依赖专家经验进行算法参数调优，最后才能上线应用。基于ModelArts Studio平台开发工作流，将数据标注、模型训练、部署上线等繁杂的流程固化为一个流水线的步骤。通过大模型的能力，即使只有少量样本，也可以达到良好的模型泛化性和鲁棒性，解决碎片化AI需求的问题。
模型还具备模型调用等高级特性，可在智能客服、创意营销等多个典型场景中，提供强大的AI技术支持。 ModelArts Studio大模型开发平台为用户提供了多种规格的NLP大模型，以满足不同场景和需求。不同模型在处理上下文token长度和功能上有所差异，以下是当前支持的模型清单，您
rue。 forecast_features String 确定性预报的输出要素，例如“Surface:U;1000:T;800:?abc”。 num_ensembles Long 集合成员数量。 ensemble_forecast_features String 集合预报的输出
水模型仅提供推理功能。 全球中期天气要素预测模型的训练类型选择建议： 全球中期天气要素预测模型的训练支持预训练、微调两种操作，如果直接使用平台预置的中期天气要素预测模型不满足您的使用要求时，可以进行预训练或微调。预训练、微调操作的适用场景如下： 预训练：训练用于添加新的高空层次、
f(x))来表示，损失函数越小，模型的鲁棒性就越好。 推理相关概念 表3 训练相关概念说明 概念名 说明 温度系数 温度系数（temperature）控制生成语言模型中生成文本的随机性和创造性，调整模型的softmax输出层中预测词的概率。其值越大，则预测词的概率的方差减小，即很多词被选择的可能性增大，利于文本多样化。
求签名，从而实现快速响应。 使用该鉴权方式前，请确保有已部署的大模型。 获取APPCode步骤如下： 登录ModelArts Studio平台，进入所需空间。 在左侧导航栏中选择“模型开发 > 应用接入”，单击界面右上角“创建应用接入”。 在“应用配置”中，选择已部署好的大模型，单击“确定”。
"content": "介绍下长江，以及长江中典型的鱼类" } ], "temperature": 0.9, "max_tokens": 600 } 父主题： 大模型使用类问题
预报未来小时数，默认168。 draw_figures String 是否输出结果图片，取值true/false，默认true。 forecast_features String 确定性预报的输出要素，例如“Surface:U;1000:T;800:?abc”。 请求示例 无 响应示例 { "id":
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
