检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
SDK依赖的配置项主要通过读取llm.properties配置文件；如果配置文件名不为llm.properties，需要在项目中主动设置，方法如下： 在resources路径下，创建llm.properties文件，并根据实际需要配置相应的值。 如果需要自定义配置文件名，可以参考以下代码设置。 // 建议在业务项目入口处配置
基础配置项 SDK依赖的配置项主要通过加载llm.properties配置文件。 在项目路径下，创建llm.properties文件，并根据实际需要配置相应的值。 在环境变量中配置“SDK_CONF_PATH”指向该配置文件： # 建议在业务项目入口处配置 import os os.env
的广告文案数据。 模型评估 一个评估数据集内，上传的数据文件数量不得超过100个，单文件大小不得超过1GB，所有文件的总大小不得超过1GB。 数据格式要求 盘古大模型服务支持如下数据，格式要求请参见表3。 表3 盘古数据文件格式要求 数据类型 支持格式 数据样例 是否支持拆分（划分训练集/验证集）
按照以下目录结构存放下载文件，注意修改下载文件的命名。其中，docker下的certs证书会自动生成，一般无需修改。 pkgs // 包目录，用户自行命名 docker docker.tgz // docker 二进制文件，要求版本>19.0.3
批量评估提示词效果前，需要先上传提示词变量数据文件用于创建对应的评估数据集。 提示词变量是一种可以在文本生成中动态替换的占位符，用于根据不同的场景或用户输入生成不同的内容。其中，变量名称可以是任意的文字，用于描述变量的含义或作用。 提示词评估数据集约束限制 上传文件限xlsx格式。 数据行数不小于10行，不大于50行。
安装依赖的组件包， pip install pangu_kits_app_dev_py gradio。 盘古大语言模型。 开发实现 创建配置文件llm.properties， 正确配置iam和pangu配置项。信息收集请参考准备工作。 # # Copyright (c) Huawei
pip install pangu_kits_app_dev_py gradio python-docx。 盘古大语言模型。 开发实现 创建配置文件llm.properties， 正确配置iam和pangu配置项。信息收集请参考准备工作。 # # Copyright (c) Huawei
skill.doc.summary import DocSummaryMapReduceSkill # 加载原始内容， 需根据文件源自行实现读取步骤 # 以word文件为例，需安装docx库 doc = docx.Document(r'报告.docx') documents = [d.text
与用户多轮对话，实现会议室预订场景。 环境准备 Java 1.8。 参考安装章节，完成基础环境准备。 盘古大语言模型。 开发实现 创建配置文件llm.properties， 正确配置iam、pangu配置项。信息收集请参考准备工作。 # Copyright (c) Huawei Technologies
TextSplitter; import org.apache.commons.io.FileUtils; // 加载原始内容， 需根据文件源自行实现读取步骤 // 以txt文件为例； String context = FileUtils.readFileToString(new File("D:/test
开源模型。例如，用vllm框架使用OpenAI-API启动推理服务。当前鉴权方式支持AppCode鉴权和华为云的APIG简易认证方式。配置文件需要指定url和key，配置项为： sdk.llm.openai.url=https://infer-app-modelarts-cn-southwest-2
通过外挂知识库（Embedding、向量库）方式提供通用的、标准化的文档问答场景。 工程实现 准备知识库。 获取并安装SDK包。 在配置文件(llm.properties)中配置模型信息。 # 盘古模型IAM 认证信息，根据实际填写 sdk.llm.pangu.iam.url=
通过外挂知识库（Embedding、向量库）方式提供通用的、标准化的文档问答场景。 工程实现 准备知识库。 获取并安装SDK包。 在配置文件(llm.properties)中配置模型信息。 # 盘古模型IAM 认证信息，根据实际填写 sdk.llm.pangu.iam.url=
补预设 当任务存在多个情境时，编写提示词时需要考虑全面，需要做好各种情境的预设，告知模型对应策略，可以有效防止模型误回答以及编造输出。 父主题： 常用方法论
中输入具体的变量值信息。 输入变量值后预览区域会自动组装展示提示词。用户也可以直接选择已创建的变量集填入变量值信息，变量集是一个excel文件，每行数据是需要输入的变量值信息，可以通过“导入”功能进行上传。 图1 预览提示词效果 单击“查看效果”按钮，输出模型回复结果，用户可以根据预览效果调整提示词的文本和变量。
数据集所在OBS路径 自监督训练数据集 创建数据集时，需要指定数据文件所在的文件夹。 有监督微调数据集 创建数据集时，可以指定数据文件或者数据文件所在的文件夹。 评测数据集 创建数据集时，可以指定数据文件或者数据文件所在的文件夹。 基本信息 填写数据集名称与描述，选择行业、语言和数据标签。
按约定的格式准备prompt文件； # 文档结构和文件名参考提供的系统预置prompts文件 文档结构示例： …… prompts -- default -- documents -- stuff.pt # 配置sdk配置项，指定prompt文件绝对路径，以
数据管理”中创建“评测”类型的数据集作为评估数据集，数据集创建完成后需要执行发布操作。 数据量建议3-1000条。当前数据集数据保存与上传的文件类型有以下两种，大小均不可超过1024MB。 文件类型为JSONL：每一行表示一段文本，形式为{"context":"context内容","target":"ta
4.0</version> </dependency> 本地导入 下载SDK包，将pangu-kits-app*.jar文件放在项目目录lib文件夹下（.jar文件放置路径也可以自定义）。 在项目pom.xml中参考以下方式添加依赖。 <dependency> <groupId>com
面，选择“导出模型”，在导入证书的地方上传环境B下载的证书文件，并选择需要导出的模型和模型导出的obs路径。 图3 导出模型 单击“确定”，导出模型。 模型导出成功后，可以在obs中查看导出后的模型文件。下载该obs文件，上传到环境B对应的obs桶中。 登录环境B的盘古大模型套件
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
