检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
成部分,具备数据获取、清洗、配比和管理等功能。 该工具链能够高效收集和处理各种格式的数据,满足不同训练和评测任务的需求。通过提供自动化的质量检测和数据清洗能力,对原始数据进行优化,确保其质量和一致性。同时,数据工程工具链还提供强大的数据存储和管理能力,为大模型训练提供高质量的数据支撑。
println(docSkill.executeWithDocs(docs, query)); Map-Reduce:先将文档单独进行摘要,将摘要后的文档再提交给模型。必要时,会循环迭代摘要。 import com.huaweicloud.pangu.dev.sdk.api.llms.LLMs;
chat_memory.messages) memory.chat_memory.clear() 消息策略(信息摘要) 将历史消息进行摘要后,作为历史上下文信息。 from pangukitsappdev.memory.conversation_summory_memory import
execute({"documents": docs, "question": query})) Map-Reduce:先将文档单独进行摘要, 将摘要后的文档再提交给模型。 必要时循环迭代摘要。 from pangukitsappdev.api.embeddings.factory import
out.println(docSkill.executeWithDocs(docs)); Map-Reduce:先将文档单独进行摘要,再将摘要后的文档提交给模型。必要时,会循环迭代摘要。 import com.huaweicloud.pangu.dev.sdk.api.llms.LLMs;
agent_session: AgentSession): """ onSessionIteration调用结束后,检查Agent是否需要终止,如果需要终止,则返回true,默认不终止 可以在终止前对agentSession进行修改,如:修改agent的finalAnswer
e”。 响应消息体 响应消息体通常以结构化格式返回,与响应消息头中Content-Type对应,传递除响应消息头之外的内容。 接口调用成功后将返回如下响应体。 { "id": "180f5745-4ee4-42a9-9869-23f829654bb7", "created":
多变的语言环境中始终保持领先地位。 应用场景灵活 盘古大模型具备强大的学习能力,能够通过少量行业数据快速适应特定业务场景的需求。模型在微调后能够迅速掌握并理解特定行业的专业知识和术语,从而深刻把握行业特性。这种快速学习与适应能力,为各行业企业和机构带来了极大的便利。它们可以根据具
getMessages())); memory.getChatMessage().clear(); 消息策略(信息摘要):将历史消息进行摘要后,作为历史上下文信息。 import com.huaweicloud.pangu.dev.sdk.api.memory.config.MemoryStoreConfig;
用于对AI助手进行任务规划、工具选择和生成回复。 模型版本 选择与“嵌入模型”对应的版本。例如,嵌入模型为N2系列,则模型版本也为N2。 工具配置 网页搜索 开启网页搜索后,可以通过调用web搜索来解决模型对于事实类问题回答不好的现象。 添加一个工具 用于拓展AI助手功能,使其能够与外部系统进行交互。可以直接创
升规划成功率。 记忆系统:通过构建记忆模块去管理历史任务和策略,并让Agent结合记忆模块中相关的信息以获取最优化任务解决策略。 任务执行:能通过工具与外界发生联系并产生影响,工具可以自定义,包括查询信息、调用服务、网络搜索、文件管理、调用云服务等,通过Agent构建一个让LLM
获取项目ID 从控制台获取项目ID 登录管理控制台。 在页面右上角的用户名的下拉列表中选择“我的凭证”。 图1 我的凭证 在“我的凭证”页面,获取项目ID(project_id),以及账号名、账号ID、IAM用户名和IAM用户ID。 在调用盘古API时,获取的项目id需要与盘古服
如果服务是分布式的,需要将session对象在外部持久化。 单步执行 有时并不希望Agent完全自主执行,在某些关键节点,让用户先进行确认,确认后再执行,或者用户对模型的结果有异议或者想法有变化,想对当前结果进行更改。此时可以单步运行Agnet: """ 单步执行Agent,提供干预能力
of("redis", CacheStoreConfig(expire_after_write=2)) # inMemory缓存配置缓存窗口数量为3,访问后2s到期 memory_cache = Caches.of("inMemory", CacheStoreConfig(maximum_size=3
AK/SK中多填了空格)。 AK/SK频繁出现鉴权出错,连续错误5次以上,被锁定5分钟(5分钟内,则一直认为其是异常的鉴权请求),5分钟后解锁重新认证。 检查账号权限,是否欠费,被冻结等。 检查调用API时,请求header参数X-Auth-Token是否拼写正确。 APIG.0308
样化的数据则帮助模型更好地应对各种情况。因此,数据的收集和处理是大模型训练中的关键环节。 盘古大模型套件平台通过提供数据获取、清洗、配比与管理等功能,确保构建高质量的训练数据。 父主题: 准备盘古大模型训练数据集
流式开关。 默认值为false,如果开启流式,请赋值true,同时n参数只能设置为1。开启流式开关后,API会在生成文本的过程中,实时地将生成的文本发送给客户端,而不是等到生成完成后一次性将所有文本发送给客户端。 响应参数 非流式 状态码: 200 表4 响应Body参数 参数 参数类型
似度、欧氏距离、曼哈顿距离等,实现对数据的相似度评分和排序。 History对话消息存储:是一种将对话消息保存在内存中的方法,它可以记录和管理对话历史。对话消息存储可以根据不同的会话标识进行初始化、更新、查找和清理操作。对话消息存储还可以支持多种过滤条件,如时间范围、用户标识、消息类型等,实现对话消息的筛选和分析。
s": "当前的日期为2024-1-25" } } 图8 填写请求Body 查看请求调用结果。 单击“Send”发送请求,请求调用成功后,查看返回结果。 响应示例代码: { "assistant_session_id": "test_session_1", "assistant_id":
return agentSession; } 单步执行 有时并不希望Agent完全自主执行,在某些关键节点,让用户先进行确认,确认后再执行,或者用户对模型的结果有异议或者想法有变化,想对当前结果进行更改。此时可以单步运行Agent: /** * 单步执行Agent,提供干预能力