云服务器内容精选

华为云首页用户手册

通过Function Calling扩展大语言模型交互能力

AI开发平台MODELARTS-在Dify中配置支持Function Calling的模型使用:操作步骤

操作步骤在Dify界面右上角单击用户头像，选择“设置”。在“设置”页面左侧，选择“模型供应商”页签，找到“ OpenAI-API-compatible”供应商，单击添加模型。在弹窗中，配置MaaS对应的模型名称、API Key、API Endpoint URL、Function calling等信息。表1 配置说明配置项说明模型名称 MaaS服务调用界面显示的模型名称。 API Key MaaS鉴权管理界面中创建的API Key。具体操作，请参见步骤1：获取API Key。 API Endpoint URL 服务调用界面中MaaS服务的基础API地址，需要去掉地址尾部的“/chat/completions” 。具体操作，请参见步骤2：调用MaaS模型服务进行预测。 Function calling 设置为“Tool Call”。 Stream function calling 暂不支持。在Dify中创建Agent进行编排，在右上角单击“Agent 设置”，选择上一步配置好的模型进行使用。在Agent设置中可以看到Dify已自动将Agent Mode切换到了Function Calling模式。图1 Agent设置在“编排”页面的“提示词”文本框，输入以下信息。你是一位乐于助人的AI助手。在回答用户问题时，你需要：1. 始终使用自然语言解释你将要采取的行动 2. 在调用工具之前，说明你要使用哪个工具以及原因 3. 在获取信息的过程中，清晰地描述你正在做什么 4. 永远不要返回空的回复 - 确保用自然语言解释你的每个步骤，比如当查询天气时，你应该先说'让我使用天气工具为您查询...'，然后再进行工具调用。记住：先表达你的理解和计划，再使用工具。每次回复都必须包含对用户的清晰解释。图2 输入提示词在“编排”页面的“工具”区域右侧，单击“添加”，按需添加工具并与模型进行对话调用。 Dify内置有丰富的插件，同时支持自定义工具的创建。图3 添加工具

AI开发平台MODELARTS 通过Function Calling扩展大语言模型交互能力
AI开发平台ModelArts-Function Calling介绍:使用方式

使用方式方式一：在请求体中添加相关函数。 "tools": [ { 'type': 'function', 'function': { 'name': '对应到实际执行的函数名称', 'description': '此处是函数相关描述', 'parameters': { '_comments': '此处是函数参数相关描述' }, } }, { '_comments': '其他函数相关说明' }] 方式二：通过OpenAI库发起请求。 response = client.chat.completions.create( model="MaaS模型名称", messages = messages, tools=[ { 'type': 'function', 'function': { 'name': '对应到实际执行的函数名称', 'description': '此处是函数相关描述', 'parameters': { // 此处是函数参数相关描述 }, } }, { // 其他函数相关说明 } ] // chat.completions 其他参数)

AI开发平台ModelArts 通过Function Calling扩展大语言模型交互能力
AI开发平台ModelArts-Function Calling介绍:使用场景

使用场景大语言模型的Function Calling能力允许模型调用外部函数或服务，以扩展其自身的能力，执行它本身无法完成的任务。以下是一些Function Calling的使用场景：表1 Function Calling使用场景说明使用场景说明增强能力大模型通过Function Calling可以调用外部工具或服务，例如实时数据检索、文件处理、数据库查询等，从而扩展其能力。实时数据访问由于大模型通常基于静态数据集训练，不具备实时信息。Function Calling允许模型访问最新的数据，提供更准确、更及时的回答。提高准确性在需要精确计算或特定领域知识时，大模型可以通过调用专门的函数来提高回答的准确性，例如调用数学计算函数、翻译服务或专业知识库。

AI开发平台ModelArts 通过Function Calling扩展大语言模型交互能力