检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Authorization:Bearer your-key 当LLM被定义好之后，使用方式与盘古大模型相同，开源模型也支持Agent调用，可参考实例化Agent。 父主题： LLMs（语言模型）
q4").build()) .build()); Agent agent = new ReactAgent(llm); 父主题： Agent（智能代理）
u-NLP-N2-Agent-L0.C模型的地址。 with_prompt参数配置为True，prompt的拼接由Agent托管处理。 父主题： Agent（智能代理）
中文里的形容词+名词结构需要加“的”，少了“的”模型有时候会难以理解。例如，真实场景，它可能理解为truth situation而不是true situation。 父主题： 常用方法论
am_callback, tool_stream_callback) StreamCallBack的实现与定义与LLM的回调完全相同。 父主题： Agent（智能代理）
有效分发业务问题：AI助手可以根据用户的需求和工具的定位，自动对问题进行分发，这使得AI助手可以更准确地理解用户的需求，并提供相关的服务。 父主题： AI助手
null, "self": "https://www.example.com/v3/projects" } } 父主题： 附录
扩缩容是指运行中的模型支持增加或减少模型部署的实例数。 修改部署时扩缩容和外推场景互斥，每次只能修改一个。 图2 修改部署 图3 模型部署扩缩容 父主题： 部署盘古大模型
of("pangu")) print(doc_skill.execute({"documents": docs, "question": query})) 父主题： Skill（技能）
false; } }); 上述例子中，当满足if判断条件时，会直接终止Agent的执行，且finalAnswer被设置为工具的原始返回值。 父主题： Agent（智能代理）
配置sdk配置项，指定prompt文件根路径，以 /home 目录下为例 sdk.prompt.path=/home/prompts/default 父主题： Java SDK
ll(LLMs.of("pangu")) print(doc_skill.execute({"documents": docs})) 父主题： Skill（技能）
"https://host/v1/api", "authType": "OAuth" } } 图2 创建工具 参数填写完成后，单击“确定”。 父主题： AI助手
return LLMResp.builder().answer(cache).isFromCache(true).build(); } } 父主题： LLMs（语言模型）
配置NFS网盘服务。 大模型采用镜像+模型分开的方式部署时，需要有一个节点来提供NFS网盘服务，创建部署时通过NFS挂载的方式访问模型。 父主题： 部署为边缘服务
若需要每次生成完全相同的回答，可以将“温度”置为0。 参数的选择没有标准答案，您需要根据任务的实际情况进行调整，以上建议值仅供参考。 父主题： 典型训练问题和优化策略
"request_id": "469967f55e6b225xxx" } 其中，error_code表示错误码，error_msg表示错误描述信息。 父主题： 如何调用REST API
PANGU)); System.out.println(docSkill.executeWithDocs(docs, query)); 父主题： Skill（技能）
of(LLMs.PANGU)); System.out.println(docSkill.executeWithDocs(docs)); 父主题： Skill（技能）
) 上面的例子中，当满足if判断条件时，就会直接终止agent的执行，并且agent的finalAnswer被设置为工具的原始返回值。 父主题： Agent（智能代理）
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
