检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
应用与部署：当大模型训练完成并通过验证后，进入应用阶段。主要包括以下几个方面： 模型优化与部署：将训练好的大模型部署到生产环境中，可能通过云服务或本地服务器进行推理服务。此时要考虑到模型的响应时间和并发能力。 模型监控与迭代：部署后的模型需要持续监控其性能，并根据反馈进行定期更新或再训练。随着
横向比较提示词效果 将设置为候选的提示词横向比对，获取提示词的差异性和效果。 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏中选择“Agent 开发 > 提示词工程 > 提示词开发”。 在工程任务列表页面，找到所需要操作的工程任务，单击该工程任务右侧“撰写”。
作业配置参数 设置模型部署参数信息，平台已给出默认值。 架构类型 算法所支持的结构类型，模型选择完成后，会自动适配架构类型。 资源配置 实例数 设置部署模型是所需的实例数，单次部署服务时，部署实例个数建议不大于10，否则可能触发限流导致部署失败。 基本信息 名称 设置部署任务的名称。
当前支持安全护栏基础版，内置了默认的内容审核规则，不可调整。 资源配置 实例数 设置部署模型时所需的实例数，单次部署服务时，部署实例个数建议不大于10，否则可能触发限流导致部署失败。 基本信息 名称 设置部署任务的名称。 描述（可选） 设置部署任务的描述。 参数填写完成后，单击“立即部署”。 您可以
在“数据集选择”页签选择需要进行评估的加工数据集，并设置抽样规格，即从数据集中抽取一定比例数据用于评估。 图3 选择数据集 单击“下一步”选择需要使用的评估标准。标准选择完成后，单击“下一步”设置评估人员。 图4 选择评估标注 图5 选择评估人员 评估人员设置完成后，单击“下一步”填写任务名称。
审核文本类数据集标注结果 创建数据集标注任务时，如果设置了启用标注审核，在完成标注后可以在“标注审核”页面审核标注结果。 对于审核不合格的数据可以填写不合格原因并驳回给标注员重新标注。创建标注任务时如果指定了审核人员，则审核人员可以审核数据集，管理员（主账号）可以对所有数据集进行审核。
审核图片类数据集标注结果 创建数据集标注任务时，如果设置了启用标注审核，在完成标注后可以在“标注审核”页面审核标注结果。 对于审核不合格的数据可以填写不合格原因并驳回给标注员重新标注。创建标注任务时如果指定了审核人员，则审核人员可以审核数据集，管理员（主账号）可以对所有数据集进行审核。
审核视频类数据集标注结果 创建数据集标注任务时，如果设置了启用标注审核，在完成标注后可以在“标注审核”页面审核标注结果。 对于审核不合格的数据可以填写不合格原因并驳回给标注员重新标注。创建标注任务时如果指定了审核人员，则审核人员可以审核数据集，管理员（主账号）可以对所有数据集进行审核。
在“数据集选择”页签选择需要进行评估的加工数据集，并设置抽样规格，即从数据集中抽取一定比例数据用于评估。 图3 选择数据集 单击“下一步”选择需要使用的评估标准。标准选择完成后，单击“下一步”设置评估人员。 图4 选择评估标注 图5 选择评估人员 评估人员设置完成后，单击“下一步”填写任务名称。
在“数据集选择”页签选择需要进行评估的加工数据集，并设置抽样规格，即从数据集中抽取一定比例数据用于评估。 图3 选择数据集 单击“下一步”选择需要使用的评估标准。标准选择完成后，单击“下一步”设置评估人员。 图4 选择评估标注 图5 选择评估人员 评估人员设置完成后，单击“下一步”填写任务名称。
单击“确认”。 图4 选择导入的数据 数据集信息设置完成后，填写“数据集名称”和“描述”，并设置“拓展信息”。 拓展信息包括“标签设置”与“数据版权”： 标签设置。通过标签设置，可以给数据集添加行业、语言、标签信息。 数据版权设置。训练模型的数据集除用户自行构建外，也可能会使用开
Administrator 统一身份认证服务（除切换角色外）所有权限。 图3 添加用户组权限 设置最小授权范围。 根据授权项策略，系统会自动推荐授权范围方案。 可以选择“所有资源”，即用户组内的IAM用户可以基于设置的授权项限使用账号中所有的企业项目、区域项目、全局服务资源。 可以选择“指定区域
对收集自不同来源的数据，进行分别处理，分别过滤不可用的低质量的数据。 训练模型 自监督训练： 不涉及 有监督微调： 该场景采用下表中的微调参数进行微调，您可以在平台中参考如下参数进行训练： 表2 问答模型的微调核心参数设置 训练参数 设置值 数据批量大小（batch_size） 4 训练轮数（epoch） 3
文字识别服务在计算机视觉的重要性、基本技术和最新进展 智能客服 您好！我是有问必答知识渊博的的智能问答机器人，有问题欢迎随时求助哦！ 社区求助 华为云社区是华为云用户的聚集地。这里有来自容器服务的技术牛人，为您解决技术难题。
如果需要模型以某个人设形象回答问题，可以将role参数设置为system。不使用人设时，可设置为user。在一次会话请求中，人设只需要设置一次。 content 是 String 对话的内容，可以是任意文本，单位token。 设置多轮对话时，message中content个数不能超过20。
的列表供选择。 单击“确定”，完成参数配置。 配置大模型组件 大模型组件提供了使用LLM的能力，用户可以通过在UI界面上编写Prompt、设置LLM的参数来让LLM完成指定的任务。 单击画布中的“大模型”组件，打开参数配置页面。 图5 查看大模型组件参数配置 在“参数配置”中，配置输入和输出参数。
话题重复度控制（presence_penalty） -2~2 0 话题重复度控制主要用于控制模型输出的话题重复程度。 参数设置正值，模型倾向于生成新的、未出现过的内容；参数设置负值，倾向于生成更加固定和统一的内容。 如果您没有专业的调优经验，可以优先使用建议，再结合推理的效果动态调整。 为
后的图片类数据集，并设置标注项。 当选择“图片Caption”标注项时，可以设置使用AI大模型对数据集进行预标注。启动预标注将会借助AI模型生成标注内容，这些内容不会覆盖原始数据集，仅作为标注人员的参考，以提高标注效率。 图3 创建标注任务 单击“下一步”设置标注人员及信息，单击“完成创建”。
问题三：存在重复数据。 删除重复数据。 略 略 训练模型 自监督训练： 不涉及 有监督微调： 本场景采用了下表中的微调参数进行微调，您可以在平台中参考如下参数进行训练： 表2 微调核心参数设置 训练参数 设置值 数据批量大小（batch_size） 8 训练轮数（epoch） 4 学习率（learning_rate）
图2 标注管理 在“创建标注任务”页面选择需要标注的加工后的文本类数据集，并设置标注项。 设置标注项时，不同类型的数据文件对应的标注项也有所差异，可基于页面提示进行设置。 图3 创建标注任务 单击“下一步”设置标注人员及信息，单击“完成创建”。 分配标注任务时，可以选择是否启用多人标
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
