检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
基于大模型的数据泛化:您可以通过调用大模型(比如盘古提供的任意一个规格的基础功能模型)来获取目标场景的数据,以此扩充您的数据集。为了能获取更高质量的数据,可以通过CoT(思维链)、self-instruct等方式批量调用大模型,来获取满足您要求的数据。 人工标注:如果以上两种方案均无法满足您的要求,您也可以使用“数
盘古大模型正式公测上线 盘古大模型是集数据管理、模型训练和模型部署于一体的一站式大模型开发与应用平台。平台支持大模型的定制开发,提供全生命周期工具链,帮助开发者高效构建与部署模型,企业可灵活选择适合的服务与产品,轻松实现模型与应用的开发。 公测 产品介绍 2 盘古大模型「应用百宝箱」上线
"content": "介绍下长江,以及长江中典型的鱼类" } ], "temperature": 0.9, "max_tokens": 600 } 父主题: 大模型概念类问题
temperature 否 Float 用于控制生成文本的多样性和创造力。 取值接近0表示最低的随机性,1表示最高的随机性。一般来说,temperature越低,适合完成确定性的任务。temperature越高,如0.9,适合完成创造性的任务。 temperature参数可以影响
"哈士奇", "count": 20}) # 带参数的问答 llm_param_config = LLMParamConfig(temperature=0.9) skill.execute({"subject": "哈士奇", "count": 20}, llm_param_config)
put("count", "25"); LLMParamConfig param = LLMParamConfig.builder().temperature(0.9).build(); skill.execute(inputs, param); 父主题: Skill(技能)
将计算、网络、存储等资源划分成多个集群。一个Region中的多个AZ间通过高速光纤相连,以满足用户跨AZ构建高可用性系统的需求。 项目 华为云的区域默认对应一个项目,这个项目由系统预置,用来隔离物理区域间的资源(计算资源、存储资源和网络资源),以默认项目为单位进行授权,用户可以访
LLMConfig.builder() .llmParamConfig(LLMParamConfig.builder().temperature(0.01).withPrompt(true).build()) .llmModuleConfig(LLMModuleConfig
toolMetadata.get("openapi_schema")); return null; }); return tool; }).collect(Collectors.toList());
clear = gr.Button("清除") def user(user_message, history): return "", history + [[user_message, None]] def llm(history):
builder().role(Role.USER).content(userMessage).build()); } return agentSession; } 单步执行 有时并不希望Agent完全自主执行,在某些关键节点,让用户先进行确认,确认后再执行,或者用户
度控制,如下提供了这些推理参数的建议值和说明,供您参考: 表1 推理参数的建议和说明 推理参数 范围 建议值 说明 温度(temperature) 0~1 0.3 温度主要用于控制模型输出的随机性和创造性。温度越高,输出的随机性和创造性越高;温度越低,输出结果越可以被预测,确定性相对也就越高。
求Body。 { "prompt": "写一个穿越到宋朝的故事。", "max_tokens": 600, "temperature": 0.9, "n": 1 } 图9 填写盘古请求Body 单击Postman界面的“Send”按钮,发送请求。当接口返回状态为2
D... { "prompt": "写一个穿越到宋朝的故事。", "max_tokens": 600, "temperature": 0.9, "n": 1 } 到这里为止这个请求需要的内容就具备齐全了,您可以使用curl、Postman或直接编写代码等方式发
agent_session: 包括初始状态,以及执行步骤间的agentSession,可以使用AgentSessionHelper类辅助处理 :return: Agent执行的结果 """ run_step(agent_session: AgentSession) -> AgentSession
decrypt token fail:token解析失败。 token expires:token过期。 verify aksk signature fail:AK/SK认证失败。 x-auth-token not found:未找到x-auth-token参数。 token解析失败
求Body。 { "prompt": "写一个穿越到宋朝的故事。", "max_tokens": 600, "temperature": 0.9, "n": 1 } 图9 填写盘古请求Body 单击Postman界面的“Send”按钮,发送请求。当接口返回状态为2
Agent(智能代理),用于对复杂任务的自动拆解与外部工具调用执行,一般包括任务规划、记忆系统和执行系统。 任务规划:将复杂目标任务分解为小的可执行子任务,通过评估、自我反思等方式提升规划成功率。 记忆系统:通过构建记忆模块去管理历史任务和策略,并让Agent结合记忆模块中相关的信息以获取最优化任务解决策略。
AK/SK认证:通过AK(Access Key ID)/SK(Secret Access Key)加密调用请求。 Token认证 Token在计算机系统中代表令牌(临时)的意思,拥有Token就代表拥有某种权限。Token认证就是在调用API的时候将Token加到请求消息头,从而通过身份认证,获得操作API的权限。
大模型的计量单位token指的是什么 大模型是否可以自定义人设 盘古自然语言大模型的适用场景有哪些 大模型的安全性需要从哪些方面展开评估和防护 训练智能客服系统大模型需要考虑哪些方面