检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
本场景采用了下表中的推理参数进行解码，您可以在平台部署后参考如下参数调试： 表3 推理核心参数设置 推理参数 设置值 最大Token限制（max_token） 4096 温度（temperature） 0.3 核采样（top_p） 1.0 话题重复度控制（presence_penalty） 0 部署推理服务后，可以
安装Ascend插件 详情请参考官方文档：https://www.hiascend.com/document/detail/zh/mindx-dl/50rc1/dluserguide/clusterscheduling/dlug_scheduling_02_000001.html
调用边缘模型 调用边缘模型的步骤与使用“在线部署”调用模型的步骤相同，具体步骤请参考使用API调用模型。 父主题： 部署为边缘服务
Key（SK）。下载的访问密钥为credentials.csv文件，包含AK/SK信息。 认证用的ak和sk硬编码到代码中或者明文存储都有很大的安全风险，建议在配置文件或者环境变量中密文存放，使用时解密，确保安全。 使用推理SDK章节示例代码均以ak和sk保存在环境变量中来实现身份验证。 登录“我的凭
project id参数需要与盘古服务部署区域一致。例如，盘古大模型部署在“西南-贵阳一”区域，需要获取与“西南-贵阳一”区域对应的project id。 图3 查看盘古服务区域 图4 获取user name、domain name、project id 下载并安装Postman调测工具。
用安全。用户可依据需求选择是否开通、启用内容审核。 推荐用户购买内容审核套餐包，购买内容审核套餐包时，需要选择“文本内容审核”套餐。 如果未启用内容审核服务，可以在开通服务之后，查看服务详情，在详情界面右上角开通内容审核。 父主题： 调用盘古大模型
部署盘古大模型 部署为在线服务 部署为边缘服务
project id参数需要与盘古服务部署区域一致。例如，盘古大模型部署在“西南-贵阳一”区域，需要获取与“西南-贵阳一”区域对应的project id。 图3 查看盘古服务区域 图4 获取user name、domain name、project id 下载并安装Postman调测工具。
图3 前往OBS 在OBS控制台页面，单击界面右上角“创建桶”。 图4 OBS页面 创建OBS桶时，桶区域需要与盘古大模型区域保持一致。其余配置参数可以使用默认值，详细OBS桶参数说明请参见OBS用户指南。 图5 创建OBS桶 参数填选完成后，单击“立即创建”。创建好的OBS桶将显示在桶列表中。
安装SDK(Java SDK) Maven中央仓导入 在项目pom.xml中参考以下方式添加依赖。 <dependency> <groupId>com.huaweicloud</groupId> <artifactId>pangu-kits-app-dev-java</artifactId>
版本选择3.9。 在whl包同级目录下，执行如下命令安装： pip install pangu_kits_app_dev_py-2.4.0-py3-none-any.whl 安装可选 安装全部依赖项（2.1.0以前版本需手动安装langchain-openai，命令pip install
本场景采用了下表中的推理参数进行解码，您可以在平台部署后参考如下参数调试： 表2 推理核心参数设置 推理参数 设置值 最大Token限制（max_token） 1024 温度（temperature） 0.3 核采样（top_p） 0.8 话题重复度控制（presence_penalty） 0 部署推理服务后，可以
横向比较提示词效果 设置候选提示词 横向比较提示词效果 父主题： 提示词工程
进阶技巧 设置背景及人设 理解底层任务 CoT思维链 考察模型逻辑 父主题： 提示词写作实践
在Token计算器中选择所需的模型，并输入文本内容后，单击“开始计算”即可统计输入文本的Token数量。 图1 Token计算器 预置模型和已经部署的模型可以使用Token计算器。 父主题： 平台资源管理
提示词比较支持选择两个候选提示词对其文本和参数进行比较，支持对选择的候选提示词设置相同变量值查看效果。 提示词评估 提示词评估以任务维度管理，支持评估任务的创建、查询、修改、删除。支持创建评估任务，选择候选提示词和需要使用的变量数据集，设置评估算法，执行任务自动化对候选提示词生成结果和结果评估。 提示词管理
学习率设置得过大，使得模型在最优解附近震荡，甚至跳过最优解，导致无法收敛。您可以尝试提升数据质量或者减小学习率的方式来解决。 图3 异常的Loss曲线：上升 Loss曲线平缓，保持高位：Loss保持平缓且保持高位不下降的原因可能是由于目标任务的难度较大，或者模型的学习率设置得过小
准确又及时的答案。 登录盘古大模型套件平台，在左侧导航栏中选择“能力调测”。 单击“多轮对话”页签，选择使用N2系列模型，在页面右侧“参数设置”中可以开启搜索增强功能。 图1 体验搜索增强能力
辑与语义关系，因此在处理复杂语言任务时展现出更高的精准度和效率。这不仅提高了任务的成功率，也大幅提升了用户体验，使盘古大模型成为企业和开发者构建智能应用的首选。 创作能力强 盘古大模型通过海量数据训练，能够捕捉更多语言规律和特征，在各类处理任务中表现出色。无论是生成文章、撰写报告
登录“我的凭证 > API凭证”页面，获取user name、domain name、project id。 由于Assistant当前部署在“西南-贵阳一”区域，需要获取与“西南-贵阳一”区域对应的project id。 图3 获取user name、domain name、project
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
