检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
设置候选提示词 用户可以将效果较好的提示词设为候选提示词,并对提示词进行比对查看效果。 登录盘古大模型套件平台。 在左侧导航栏中选择“应用开发 > 提示词工程”,进入提示词工程页面。 在工程任务列表页面,找到所需要操作的工程任务,单击该工程任务操作栏中的“撰写”。 图1 撰写提示词
设置背景及人设 背景: 模型基于简单prompt的生成可能是多范围的各方向发散的,如果您需要进行范围约束,或加强模型对已有信息的理解,可以进行提示:“结合xxx领域的专业知识...理解/生成...”、“你需要联想与xxx相关的关键词、热点信息、行业前沿热点等...生成...”,或
api.skill.base.SimpleSkill; final String promptTemplate = "讲一个关于{{subject}}的笑话,字数{{count}}字以内"; SimpleSkill skill = new SimpleSkill(LLMs.of(LLMs
llms.factory import LLMs from pangukitsappdev.api.skill.base import SimpleSkill from langchain.prompts import PromptTemplate # 自定义模板 prompt_template
</dependency> 在resource目录下创建simplelogger.properties配置文件,示例如下: org.slf4j.simpleLogger.defaultLogLevel=DEBUG org.slf4j.simpleLogger.log.org.apache
清理数据:删除缓存中的数据。例如,删除对应的缓存数据,可参考以下示例。 // 清理 cache.clear() 配置过期策略:设置缓存有效期,支持基于时间和大小的限制。 // 设置缓存数据10s 后过期 Cache cache = Caches.of(Caches.IN_MEMORY, CacheStoreConfig
# 不同的向量存储, 不同的相似算法;计算的评分规则不同; 可以同过scoreThreshold 设置相似性判断阈值 # 例如使用Redis向量、余弦相似度、CSS词向量模型,并且设置相似性判断阈值为0.1f,代码示例如下 embedding_api = Embeddings.of("css")
of("css", vector_store_config) # 检索 query = "杜甫" docs = vector_api.similarity_search(query, 4) # 摘要 doc_skill = DocSummaryStuffSkill(LLMs.of("pangu"))
vector_store_config) # 检索 query = "杜甫的诗代表了什么主义诗歌艺术的高峰?" docs = vector_api.similarity_search(query, 4) # 问答 doc_skill = DocAskStuffSkill(LLMs.of("pangu"))
String query = "杜甫的诗代表了什么主义诗歌艺术的高峰?"; List<Document> docs = cssVector.similaritySearch(query, 4, 105); // 问答 DocSkill docSkill = Skills.Document
build()); // 检索 String query = "杜甫"; List<Document> docs = cssVector.similaritySearch(query, 4, 105); // 摘要 DocSkill docSkill = Skills.Document
大模型是否可以自定义人设 大模型支持设置人设,在用户调用对话问答(chat/completions)API时,可以将“role”参数设置为system,让模型按预设的人设风格回答问题。例如,以下示例要求模型以幼儿园老师的风格回答问题。 { "messages": [
这种情况可能是由于以下原因导致的,建议您排查: 训练参数设置:您可以通过绘制Loss曲线查询来确认模型的训练过程是否出现了问题,这种情况大概率是由于训练参数设置的不合理而导致了欠拟合或过拟合。请检查训练参数中的 “训练轮次”或“学习率”等参数的设置,根据实际情况调整训练参数,帮助模型更好学习。
ConversationSummaryBufferMemory from pangukitsappdev.api.skill.base import SimpleSkill from pangukitsappdev.prompt.prompt_tmpl import PromptTemplates
创建AI助手参数说明 参数分类 参数名称 参数说明 基本信息 助手名称 设置AI助手的名称。 描述 填写AI助手的描述,如填写功能介绍。 指令 通过指令可以设定A助手的行为和响应。如设置AI助手可以扮演的角色、指定可以访问的工具、设置结果的输出风格等。 模型配置 嵌入模型 用于对AI助手进行任务规划、工具选择和生成回复。
customSystemPrompt = "你是财务报销助手。当需要用户反馈信息时,尽可能提示用户名称等原始信息。今天的日期是" + new SimpleDateFormat("yyyy年MM月dd日").format(new Date()); final LLMConfig config
"description": "baz"})] ] vector_api.add_docs(bulk_list) 数据检索 docs = vector_api.similarity_search("bar", top_k=2) 数据清理 vector_api.clear() CSS插件模式(内部已集成Embedding,
外部知识。 例如,在构造泛化问题的任务中,需要基于原问题改写为相同含义的问题,而不是生成相似的问题。当提示词使用“请生成10个跟“手机银行怎么转账”相似的问题”时,模型会认为实体/关键词/场景一致则是相似(在这个例子里实体为手机银行),而不是任务需要的语义级别的相同含义,所以输出内容会发散。
indexName("sdk-test-dataset-webqa-10") .build()); // 检索文档; docs = cssVector.similaritySearch(query, 4, 105); // 文档问答 DocSkill skill = Skills.Document
vector_api = Vectors.of("css", vector_store_config) # 检索文档 docs = vector_api.similarity_search(query, 4) # 文档问答 doc_skill = DocAskStuffSkill(LLMs.of("pangu"))