该解决方案有何用途?

该解决方案帮助您在华为云上快速部署单机版、高可用版Dify LLM应用开发平台,同时支持将在Dify应用开发平台创建的的文档知识库挂载华为云对象存储服务 OBS桶。Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务(Backend as Service)和LLMOps的理念,使开发者可以快速搭建生产级的生成式AI应用。

方案架构

该解决方案基于云容器引擎 CCE帮助您快速部署高可用Dify LLM应用开发平台。

快速搭建Dify-LLM应用开发平台

版本:3.0.0

上次更新日期:2025年4月

来源:由华为云构建

部署:预计20分钟

卸载:预计10分钟

预估成本 ◥

单机(OBS):2~5元( 按需计费:Flexus云服务器X实例0.95元/小时,弹性公网IP EIP 0.80元/GB,体验本方案预计成本不超过5元)

高可用:35~70元(按需计费:X实例、EIP、OBS、CCE、Redis、RDS、CSS、ELB、NAT等资源累积约35元/小时,体验本方案预计成本不超过70元)

查看源代码 ◥

架构描述


云服务器单机部署:

1. 创建一台华为云Flexus云服务器X实例,用于搭建Dify-LLM应用开发平台

2. 创建一个弹性公网IP EIP并关联FlexusX实例,提供访问公网和被公网访问能力

3. 创建一个安全组,通过配置安全组规则,为云服务器提供安全防护


CCE容器高可用部署:

1. 创建三个弹性公网IP EIP,提供访问公网和被公网访问能力

2. 创建一个弹性负载均衡 ELB,并绑定EIP,将访问流量自动分发到不同后端服务,扩展应用系统对外的服务能力,实现强大的应用容错性能

3. 创建一个NAT网关 NAT,并绑定EIP,配置SNAT规则,提供安全可靠的公网NAT网关和私网NAT网关服务,保护私有网络信息不对外暴露

4. 创建三台FlexusX实例,用于安装部署Dify5个核心插件

5. 创建一个云容器引擎 CCE Turbo集群,创建节点池并将三台FlexusX实例纳管为集群的Node节点

6. 创建一台FlexusX实例,用于部署Embedding(bge-m3)及Reranker(bge-reranker-v2-m3)模型

7. 使用对象存储服务 OBS,用于将Dify的知识库挂载在对象存储服务 OBS桶上

8. 创建一个分布式缓存服务Redis®*版,兼容Redis,为用户提供高性能、低成本NoSQL数据库,同时数据流转过程中数据的一致性

9. 创建一个云数据库 RDS for PostgreSQL实例,主备分区部署,具备跨可用区故障容灾的能力

10. 创建一个云搜索服务 CSS OpenSearch集群,提供在线分布式搜索及语义搜索等功能

11. 创建四个安全组,通过配置安全组规则,为云服务器提供安全防护

架构描述


云服务器单机部署:

1. 创建一台华为云Flexus云服务器X实例,用于搭建Dify-LLM应用开发平台

2. 创建一个弹性公网IP EIP并关联华为云Flexus云服务器X实例,提供访问公网和被公网访问能力

3. 创建一个安全组,通过配置安全组规则,为云服务器提供安全防护


CCE容器高可用部署:

1. 创建三个弹性公网IP EIP,提供访问公网和被公网访问能力

2. 创建一个弹性负载均衡 ELB,并绑定EIP,将访问流量自动分发到不同后端服务,扩展应用系统对外的服务能力,实现强大的应用容错性能

3. 创建一个NAT网关 NAT,并绑定EIP,配置SNAT规则,提供安全可靠的公网NAT网关和私网NAT网关服务,保护私有网络信息不对外暴露

4. 创建三台FlexusX实例,用于安装部署Dify5个核心插件

5. 创建一个云容器引擎 CCE Turbo集群,创建节点池并将三台FlexusX实例纳管为集群的Node节点

6. 创建一台FlexusX实例,用于部署Embedding(bge-m3)及Reranker(bge-reranker-v2-m3)模型

7. 使用对象存储服务 OBS,用于将Dify的知识库挂载在对象存储服务 OBS桶上

8. 创建一个分布式缓存服务Redis®*版,兼容Redis,为用户提供高性能、低成本NoSQL数据库,同时数据流转过程中数据的一致性

9. 创建一个云数据库 RDS for PostgreSQL实例,主备分区部署,具备跨可用区故障容灾的能力

10. 创建一个云搜索服务 CSS OpenSearch集群,提供在线分布式搜索及语义搜索等功能

11. 创建四个安全组,通过配置安全组规则,为云服务器提供安全防护

展开内容
收起内容
提示

您即将访问非华为云网站,请注意账号财产安全