功能应用类实践-华为云

函数工作流 FUNCTIONGRAPH-使用FunctionGraph部署DeepSeek-R1蒸馏模型:附录：镜像构建Dockerfile参考

附录：镜像构建Dockerfile参考如需自定义构建镜像，可参考以下Dockerfile进行操作。 FROM nvidia/cuda:11.6.2-base-ubuntu20.04 ENV HOME=/home/paas ENV GROUP_ID=1003 ENV GROUP_NAME=paas_user ENV USER_ID=1003 ENV USER_NAME=paas_user ENV OLLAMA_HOST=0.0.0.0:8000 RUN mkdir -m 550 ${HOME} && groupadd -g ${GROUP_ID} ${GROUP_NAME} && useradd -u ${USER_ID} -g ${GROUP_ID} ${USER_NAME} RUN apt-get update && apt-get install -y --no-install-recommends curl && rm -rf /var/lib/apt/lists/* RUN curl -fsSL https://ollama.com/install.sh | sh COPY entrypoint.sh ${HOME}/ RUN chown -R ${USER_ID}:${GROUP_ID} ${HOME} RUN find ${HOME} -type d | xargs chmod 775 RUN ollama serve & \ sleep 15 && \ ollama pull deepseek-r1:14B USER ${USER_NAME} WORKDIR ${HOME} EXPOSE 8000 ENTRYPOINT ["ollama", "serve"]

函数工作流 FUNCTIONGRAPH 功能应用类实践

函数工作流 FUNCTIONGRAPH-使用FunctionGraph部署DeepSeek-R1蒸馏模型:操作流程

操作流程表2介绍通过FunctionGraph，部署DeepSeek-R1蒸馏模型的总体操作流程。表2 操作流程操作流程说明步骤一：创建容器镜像函数通过函数工作流控制台，创建容器镜像HTTP函数作为DeepSeek-R1蒸馏模型的镜像。如需自定义构建镜像，可参考附录：镜像构建Dockerfile参考进行操作。步骤二：创建APIG专享版触发器购买并创建函数的APIG专享版触发器。步骤三：配置客户端开始AI对话下载并配置第三方客户端，部署DeepSeek-R1蒸馏模型开始AI对话，可选择以下任一客户端进行部署：方式一：ChatBox（支持Windows、macOS、Linux、安卓、IOS、Web）（推荐使用）方式二：AnythingLLM（支持Windows、macOS、Linux）

函数工作流 FUNCTIONGRAPH 功能应用类实践

函数工作流 FUNCTIONGRAPH-使用FunctionGraph函数定时开关华为云ECS:构建程序

构建程序创建功能函数。创建定时开启或者关闭华为公有云虚拟机的函数，上传定时开启华为公有云虚拟机的程序包或者定时关闭华为公有云虚拟机的程序包，并选择创建的委托EcsOperation。创建过程请参考创建函数。运行时语言选择“Python3.6”，委托名称选择上一步创建的委托“EcsOperation”。设置环境变量。在“配置”页签配置环境变量，说明如表1所示。表1 环境变量说明环境变量说明 region E CS 所在的区域，如cn-north-4 projectId ECS所在的Project ID，获取方法请参见获取项目ID。 whiteLists 当定时开启华为公有云虚拟机时，填写需开启的虚拟机ID，以英文逗号分隔当定时关闭华为公有云虚拟机时，填写需关机的虚拟机ID，以英文逗号分隔 type 仅需在定时关机时确认是否需要配置。关机类型： SOFT：普通关机（默认） HARD：强制关机环境变量的设置过程请参考使用环境变量。本案例对函数执行的区域没有要求，若函数和待开关机节点在同一region，按照上述操作即可。若函数和待开关机节点不在同一region，如函数运行在北京一，想要开启或者关闭北京四的弹性云服务的虚拟机，只需要将projectId、region更改为北京四区域的信息，并在环境变量中添加ak、sk（获取AK/SK），再去掉配置的委托即可。 AK/SK认证就是使用AK/SK对请求进行签名，在请求时将签名信息添加到消息头，从而通过身份认证。 AK（Access Key ID）：访问密钥ID。与私有访问密钥关联的唯一标识符；访问密钥ID和私有访问密钥一起使用，对请求进行加密签名。 SK（Secret Access Key）：与访问密钥ID结合使用的密钥，对请求进行加密签名，可标识发送方，并防止请求被修改。图3 配置环境变量如果开启或者关闭的虚拟机数量过多，则需要增大超时时间。表1中除whiteLists以外的环境变量必须添加，whiteLists根据实际情况选择添加或者不添加，whiteLists为需开机/关机的ecs服务器ID，以逗号分隔。 {region}.{domain}组成ECS的终端节点Endpoint，如：cn-north-4.myhuaweicloud.com，具体Endpoint信息，请参考地区和终端节点。选择依赖包。在“代码”页签，添加“huaweicloudsdk_ecs_core_py3.6”依赖包。添加依赖包详细操作请参见配置函数依赖。如果您所在区域无法添加“huaweicloudsdk_ecs_core_py3.6”依赖包，请咨询客服。

函数工作流 FUNCTIONGRAPH 功能应用类实践

函数工作流 FUNCTIONGRAPH-使用FunctionGraph函数定时开关华为云ECS:创建委托

创建委托登录统一身份认证服务控制台。在统一身份认证服务的左侧导航窗格中，选择“委托”页签，单击右上方的“+创建委托”。图1 创建委托开始配置委托。委托名称：输入您自定义的委托名称，此处以“EcsOperation”为例。委托类型：选择“云服务”。云服务：选择“函数工作流 FunctionGraph”。持续时间：选择“永久”。描述：填写描述信息。单击“下一步”，进入委托选择页面，在右方搜索框中搜索“ECS FullAccess”权限并勾选。图2 选择权限单击“下一步”，根据实际业务需求选择资源授权范围，单击“确定”，完成权限委托设置。

函数工作流 FUNCTIONGRAPH 功能应用类实践

云服务器内容精选

功能应用类实践

7*24

备案

专业服务

退订

建议反馈

售前咨询热线