检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
模拟测试告警 监控服务支持手动创建或关闭告警，对告警的其他规则进行模拟测试。 创建告警：快速创建告警，创建的告警与生成上报的告警流程相同，可以用来测试创建的告警升级规则、告警修复规则、值班组等是否正确生效。 关闭告警：关闭已创建的告警，手动恢复该告警。 前提条件 已获取服务运维岗位权限或运维管理员权限
进行标注的数据集必须同时满足用途为“模型训练”、任务领域为“自然语言处理”、任务子领域为“文本生成”、数据集格式为“对话文本”四个条件。 父主题： AI原生应用引擎
调用文本对话模型服务 功能介绍 调用大语言模型推理服务，根据用户问题，获取大语言模型的回答。 调用方法 请参见如何调用API。
AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。
在工作流中添加LLM节点，可以使用大语言模型推理服务实现智能问答，在输入参数中引入前置节点的输出或自定义文本作为输入问题，大语言模型根据问题生成回答。 chat配置说明 输入 用户配置运行动作执行动作，相关参数说明如表1所示。
二者区别如下： 非流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，大语言模型完整生成回答后一次性返回。 流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，逐个字词的快速返回模式，不需等待大语言模型生成完成。
准备工作 开发技能要求 熟悉Java语言，能够编写Java语言代码。 掌握IaC开发技术，熟悉YAML语言。 了解Spring Cloud框架。 环境准备 已下载并安装Maven，根据以下步骤配置Maven。
通过提供清晰和具体的指令，引导模型输出并生成高相关、高准确且高质量的文本对答内容，属于自然语言处理领域突破的重要技术，可以提升用户的使用体验和效率，减少用户的困惑和误解。 前提条件 已创建提示语。
大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练，以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛，包括自然语言处理、机器翻译、语音识别、智能问答等领域。 向量化模型 向量化模型是将文本数据转换为数值向量的过程。
创建模型微调任务 模型微调是指调整大型语言模型的参数以适应特定任务的过程，适用于需要个性化定制模型或者在特定任务上追求更高性能表现的场景。这是通过在与任务相关的微调数据集上训练模型来实现的，所需的微调量取决于任务的复杂性和数据集的大小。
在SLB中查看Lua配置 Lua是一种脚本语言，可以嵌入应用程序中，为应用程序提供灵活的扩展和定制功能，支持使用Lua脚本扩展Nginx的功能，Lua信息通过IaC配置，Lua定制的点在SLB管理台展示。 查看lua配置 进入AppStage运维中心。 在顶部导航栏选择服务。
创建模型微调任务 模型微调是指调整大型语言模型的参数以适应特定任务的过程，适用于需要个性化定制模型或者在特定任务上追求更高性能表现的场景。这是通过在与任务相关的微调数据集上训练模型来实现的，所需的微调量取决于任务的复杂性和数据集的大小。
AI原生应用引擎提供了Python语言的SDK，支持Python >= 3.10版本。
二者区别如下： 非流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，大语言模型完整生成回答后一次性返回。 流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，逐个字词的快速返回模式，不需等待大语言模型生成完成。
在SLB中查看Lua配置 Lua是一种脚本语言，可以嵌入应用程序中，为应用程序提供灵活的扩展和定制功能，支持使用Lua脚本扩展Nginx的功能，Lua信息通过IaC配置，Lua定制的点在SLB管理台展示。 查看lua配置 进入AppStage运维中心。 在顶部导航栏选择服务。
根据用户问题，获取大语言模型的回答。
路由策略提供模型服务时，模型调用顺序为：模型A > 模型B > 模型C，当模型A无法正常工作时，可以自动依次切换为模型B、模型C。 策略总超时时间 模型路由策略的总体超时时间，取值范围为1000-1000000ms。
任务领域 无需配置，默认为“自然语言处理”。
表1 结束节点参数说明 参数 说明 选择回答模式 由Agent生成回答：Agent绑定了大模型时，由大模型对工作流的输出进行总结，生成自然语言回答。 使用设定内容直接回答（对象或数组类型）：该模式仅单Agent工作流模式或工作流选择精确模式时生效。
大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练，以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛，包括自然语言处理、机器翻译、语音识别、智能问答等领域。 向量化模型 向量化模型是将文本数据转换为数值向量的过程。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
