检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
法进行调测，具体步骤请参见部署为在线服务。 文本补全：给定一个提示和一些参数，模型会根据这些信息生成一个或多个预测的补全。例如，让模型依据要求写邮件、做摘要总结、生成观点见解等。 多轮对话：基于对话问答功能，用户可以与模型进行自然而流畅的对话和交流。 图1 使用能力调测 表1 能力调测参数说明
质量数据进行微调。 一份高质量的数据应具备以下几类特征： 数据与目标任务一致：微调数据应该与微调任务的目标和分布保持一致，反映出任务的实际要求。比如，现在需要微调一个情感分类的模型，模型只需要回复“消极”或者“积极”： 情感分类场景-典型低质量数据：数据中存在与目标任务不一致的样本。
针对不同的任务类型，所需数据量会所有不同。从经验上来说，对于简单的任务，数据量的要求会少一点，如3000到5000条；对于复杂的任务，需要的数据条数更大一些，如2万~10万条。在构造指令微调数据的成本可以接受的情况下，至少准备1万条以上指令微调数据为宜。 数据质量要求： 保证微调数据的正确性，多样性，复杂性。 保
参数填选完成后，单击“立即创建”。创建好的OBS桶将显示在桶列表中。 图6 OBS页面 在OBS中创建文件目录，并在目录中上传数据文件。 创建一个新的数据集 创建数据集前，需按要求将数据文件上传至OBS。 登录盘古大模型套件平台，左侧导航栏中选择“数据工程 > 数据管理”，单击界面右上角“创建数据集”。 图7 数据管理
指标适用的任务场景 任务答案是相对比较确定的，例如固定答案的问答任务、NL2SQL、NL2JSON、文本分类等。 指标不适用的任务场景 文案创作、聊天等符合要求即可的场景，该类场景的创作型更强，不存在唯一答案。 指标与模型能力的关系 BLEU指标用于评估模型生成句子（candidate）与实际句子
中断策略：当相关性得分小于设置的阈值，则不召回任何工具，终止后续流程。 阈值：指工具召回的相关性得分的阈值。阈值越高，召回工具的数量越少，但对召回工具的准确性要求更高。 多轮改写模型：对用户的问题进行多次改写，以增加召回内容的多样性。 检索工具数量：指在处理用户问题时，会检索出相关性最高的前N个工具。
"name": "username", //IAM用户名 "password": "********", //华为云账号密码 "domain": { "name":
yments/{deployment_id}/text/completions 请求消息头 附加请求头字段，如指定的URI和HTTP方法所要求的字段。例如定义消息体类型的请求头“Content-Type”，请求鉴权信息等。 如下公共消息头需要添加到请求中。 Content-Typ
比，详情请参考数据配比功能介绍。 在训练数据集配比完成后，在单击“创建”或后续修改保存时，会对数据集的有效数据进行统计，确保满足模型训练的要求。 图3 数据配置 基本配置 填写训练数据集名称和描述，选择数据标签。 图4 基本配置 参数填选完成后，单击“立即创建”。 数据配比功能介绍
Acceptable 服务器无法根据客户端请求的内容特性完成请求。 407 Proxy Authentication Required 请求要求代理的身份认证，与401类似，但请求者应当使用代理进行授权。 408 Request Timeout 服务器等候请求时发生超时。 客户端可
/** * 在生产环境下，agentSession建议在外部持久化，而不是在内存中 * 如果使用AssistantAPI，华为会提供持久化能力，不需要自行实现 */ private static final Map<String, AgentSession>
llm_config = LLMConfig() llm_config.llm_module_config.system_prompt = "你是华为开发的AI助手" # 盘古LLM pangu_llm = LLMs.of("pangu", llm_config) answer = pangu_llm
义的加解密组件： 在一个module(yourmodule)中自定义一个解密方法decrypt_func(key_id, cipher)，要求可以通过`from yourmodule import decrypt_func`这样的方式使用该方法。 在配置文件中配置`sdk.crypto
"name": "username", //IAM用户名 "password": "********", //华为云账号密码 "domain": { "name":
"name": "username", //IAM用户名 "password": "********", //华为云账号密码 "domain": { "name":
的持久化： /** * 在生产环境下，agentSession建议在外部持久化，而不是在内存中 * 如果使用AssistantAPI，华为会提供持久化能力，不需要自行实现 */ private static final Map<String, AgentSession> agentSessionMap
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
