检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在项目路径下,创建llm.properties文件,并根据实际需要配置相应的值。 在环境变量中配置“SDK_CONF_PATH”指向该配置文件: # 建议在业务项目入口处配置 import os os.environ["SDK_CONFIG_PATH"] = "./llm.properties" 完整配置项如下:
在resources路径下,创建llm.properties文件,并根据实际需要配置相应的值。 如果需要自定义配置文件名,可以参考以下代码设置。 // 建议在业务项目入口处配置 // 不需要添加.properties后缀 ConfigLoadUtil.setBaseName("application");
盘古大模型具备强大的学习能力,能够通过少量行业数据快速适应特定业务场景的需求。模型在微调后能够迅速掌握并理解特定行业的专业知识和术语,从而深刻把握行业特性。这种快速学习与适应能力,为各行业企业和机构带来了极大的便利。它们可以根据具体需求,利用盘古大模型构建或优化业务流程,提高工作效率,降低运营成本,并为客户提供更精准、个性化的服务。
ttp3版本冲突等。可以引入如下bundle包(3.0.40-rc版本后),该包包含所有支持的服务和重定向了SDK依赖的第三方软件,避免和业务自身依赖的库产生冲突: <dependency> <groupId>com.huaweicloud.sdk</groupId>
盘古-NLP-N2-基础功能模型 准备训练数据 本场景不涉及自监督训练,无需准备自监督数据。 微调数据来源: 来源一:真实业务场景数据。 来源二:基于人工泛化的真实业务场景数据。 来源三:基于简单规则槽位泛化的真实业务场景数据。示例如下: 原始问题: 科技行业公司的平均利润和市值是多少? 识别原始问题中的槽位:
I助手及SDK开发,满足多样化业务需求,助力企业在大模型领域取得卓越成果。无论是开发、训练还是部署,盘古大模型套件平台均为用户提供一站式解决方案。 通过使用盘古大模型套件平台,您将体验从数据准备到模型应用的全流程一站式服务,将模型高效集成至您的业务流程中。接下来,将详细介绍该平台
增加,自然语言处理下游任务的效果显著提升,这得益于海量数据、大量算力以及深度学习的飞跃发展。 基于自然语言处理大模型的预训练模型,可以根据业务需求开发出诸如营销文案生成、阅读理解、智能对话和代码生成等应用功能。 父主题: 大模型概念类问题
启用模型内容审核 内容审核是文本的检测技术,可自动检测涉黄、涉暴、违规等内容,对用户向模型输入的内容、模型输出内容进行内容审核,帮助客户降低业务违规风险。 授权使用华为云内容审核,有效拦截大模型输入输出的有害信息,保障模型调用安全。 授权后,在调用盘古大模型能力时,模型的输入和输出
责任共担 华为云秉承“将公司对网络和业务安全性保障的责任置于公司的商业利益之上”。针对层出不穷的云安全挑战和无孔不入的云安全威胁与攻击,华为云在遵从法律法规业界标准的基础上,以安全生态圈为护城河,依托华为独有的软硬件优势,构建面向不同区域和行业的完善云服务安全保障体系。 安全性是华为云与您的共同责任,如图1所示。
本场景不涉及自监督训练,无需准备自监督数据。 微调数据来源: 来源一:真实业务场景数据。 来源二:基于大模型的数据泛化。基于目标场任务的分析,通过人工标注部分数据样例,然后利用大模型(如盘古提供的任意规格的基础功能模型)采用self-instruct等方式,泛化出更多的业务场景数据。 方法一:在大模型输入的Pro
能,助力您在不同领域实现创新,加速业务智能化升级。 产品介绍 什么是盘古大模型 产品优势 应用场景 产品功能 模型能力与规格 基础知识 03 入门 通过快速入门引导,您将快速熟悉平台的核心能力,探索多种应用场景,从而更好地发挥盘古大模型在实际业务中的价值。 快速入门 使用能力调测与盘古NLP大模型进行对话问答
通用Region和专属Region,通用Region指面向公共租户提供通用云服务的Region;专属Region指只承载同一类业务或只面向特定租户提供业务服务的专用Region。 详情请参见区域和可用区。 可用区(AZ,Availability Zone) 一个AZ是一个或多个物
理各种复杂的任务。 统一调用入口:AI助手通过一个统一的问答入口,即可解决多种问题,这使得用户可以在一个地方就能完成所有的任务。 有效分发业务问题:AI助手可以根据用户的需求和工具的定位,自动对问题进行分发,这使得AI助手可以更准确地理解用户的需求,并提供相关的服务。 父主题: AI助手
景的数据。因此,实际的训练会混合不同类型的数据。例如,为防止模型在训练后出现通用问答能力下降,会混入一定的通用数据。 创建训练数据集的常见业务场景包括: 当用户的数据集较小时,可以将多个数据集组合起来进行训练。 需要进行模型的综合训练时,会组合多样的数据集,以提升模型处理不同类型
、阅读理解、代码生成等任务。 专业大模型:针对特定场景优化的大模型。例如,与非专业大模型相比,BI专业大模型更适合执行数据分析、报告生成和业务洞察等任务。 模型推理资产即部署模型所需的cpu、gpu资源(专属资源池)。如果不订购推理资产,可以使用订购的盘古模型进行训练,但无法部署训练后的模型。
提供提示词设计和管理工具,优化大模型的输入提示,提升输出的准确性和相关性。通过丰富的开发SDK,应用开发套件加速大模型应用的开发,满足复杂业务需求。
通过提示词的优化来达到提升模型输出效果的目标。 什么是好的提示词 好的提示词内容明确且具体,能够指导语言模型稳定输出有效、无害的文本,帮助业务高效完成任务和达成任务目标。 父主题: 提示词写作实践
该工具链提供提示词设计和管理工具,优化大模型的输入提示,提升输出的准确性和相关性。通过丰富的开发SDK,应用开发工具链加速大模型应用的开发,满足复杂业务需求。 支持区域: 西南-贵阳一 开发盘古大模型提示词工程 开发盘古大模型Agent应用 盘古应用开发SDK 能力调测 盘古大模型提供了便
_run(self, s: str) -> str: return s[::-1] DynamicTool(动态工具) 动态工具可以在业务运行态动态新增或修改: from pangukitsappdev.tool.tool import Tool from pydantic import
return "未知"; } } } DynamicTool(动态工具) 动态工具可以在业务运行态动态新增或修改,例如: import com.alibaba.fastjson.JSON; import com.alibaba.fastjson