k8s部署dify详细过程

一、概述

dify官方提供的安装方式是docker-compose方式部署的，单机运行。

但是在企业生产环境，单机没法提供冗余，一旦故障，就很麻烦了。

如果有大量的APP用户，那么单机承受不住这么多并发，也会出现故障。

 

很多小伙伴们，想在k8s中运行dify，解决冗余以及并发问题，直接扩容节点即可。

注意：只有企业版会提供k8s部署，社区版是没有的。

对于我们这种个人开发者来说，囊中羞涩，不愿意花费这笔钱。企业版还得联系商务，提供企业相关信息，特别麻烦。

 

对于在k8s中部署dify，确实比较难。几个月前一筹莫展，经过不懈的努力，终于搞定了。

二、准备工作

前提条件

硬件

CPU：建议至少 4 核。

内存：建议至少 8GB，推荐 16GB。

存储：建议至少 20GB 可用空间。

操作系统：推荐 Ubuntu 22.04+ 或 WSL（Windows 子系统）。

软件依赖：需要 Docker（版本 20.10.5 或更高）和 Docker Compose（版本 2.0.0 或更高）

软件

Docker，Docker Compose，参考文章：https://www.cnblogs.com/xiao987334176/p/18809253

Harbor，参考文章：https://www.cnblogs.com/xiao987334176/p/18809269

如果有现成的私有仓库，可以忽略

NFS，参考文章：https://www.cnblogs.com/xiao987334176/p/18809415

如果有现成的NFS，可以忽略

 

符合以上条件，就可以部署了

镜像推送

下载镜像

docker pull postgres:15-alpine docker pull redis:6-alpine docker pull semitechnologies/weaviate:1.19.0 docker pull nginx:latest docker pull langgenius/dify-plugin-daemon:0.0.6-local docker pull langgenius/dify-sandbox:0.2.11 docker pull ubuntu/squid:latest docker pull langgenius/dify-api:1.1.3 docker pull langgenius/dify-web:1.1.3

推送镜像

这里使用shell脚本完成

#!/bin/bash  images="postgres:15-alpine redis:6-alpine semitechnologies/weaviate:1.19.0 nginx:latest langgenius/dify-plugin-daemon:0.0.6-local langgenius/dify-sandbox:0.2.11 ubuntu/squid:latest langgenius/dify-api:1.1.3 langgenius/dify-web:1.1.3"  # 遍历镜像列表，并推送到harbor for line in $images; do     #echo "$line"     docker tag $line harbor.qq.com:8083/dify/$line     docker push harbor.qq.com:8083/dify/$line done

注意修改harbor的的地址为实际访问地址

登录到harbor，查看镜像

 创建命名空间以及密钥

创建命名空间dify

kubectl create namespace dify

 

创建拉取镜像需要的密钥

kubectl create secret docker-registry harbor-key --docker-server=harbor.qq.com:8083 --docker-username=devops --docker-password=1sB5r9UShgK5 --namespace=dify

注意：修改harbor地址，用户名，密码。

下载部署yaml

yaml已经写好了，推送到我个人的github，地址：https://github.com/987334176/dify-k8s

下载项目后，进入文件夹1.1.3

目录结构

env --> 全局环境变量 pvc --> 所有组件，统一使用一个pvc来进行持久化存储 databases --> 数据库相关：postgresql，redis，weaviate middleware --> 中间件相关：plugin-daemon，sandox，ssf-proxy，nginx services --> 服务相关：api，web，worker

三、创建全局环境变量

这里有500个多个变量，直接一键运行

kubectl apply -f env/env.yaml

四、创建pv和pvc

创建storageClass，因为pv和pvc必须是同一个storageClass才能绑定成功

kubectl apply -f pvc/storageClass.yaml

注意：修改NFS 服务端的共享路径，provisioner必须指定为nfs-client

 nfs-client是一个外部的动态存储供给器（Provisioner），用于在 Kubernetes 集群中动态创建和管理基于 NFS（Network File System）的 PersistentVolumes（PV）。它是 Kubernetes 社区提供的一个解决方案，用于支持 NFS 存储的动态供给。

 

创建pv，pvc。注意：这里的pv是自建的NFS，请根据实际情况修改

kubectl apply -f pvc/pv.yaml kubectl apply -f pvc/pvc.yaml

 

查看pvc状态，注意：请确保pvc状态为Bound

# kubectl -n dify get pvc NAME       STATUS   VOLUME   CAPACITY   ACCESS MODES   STORAGECLASS   VOLUMEATTRIBUTESCLASS   AGE dify-pvc   Bound    dify     10Gi       RWX            nfs-storage    <unset>                 12m

 

服务器已经挂载好了NFS，进入到NFS根目录

cd /mnt/nfs_share

 

创建dify相关持久化文件，并设置权限

mkdir -p dify/volumes/db/data mkdir -p dify/volumes/redis/data mkdir -p dify/volumes/weaviate mkdir -p dify/volumes/plugin_daemon mkdir -p dify/volumes/app/storage chmod 777 -R dify

五、数据库相关

postgresql

修改文件postgres-StatefulSet.yaml

vi databases/postgresql/postgres-StatefulSet.yaml

修改红色部分，增加了密钥，改了镜像地址

    spec:       imagePullSecrets:         - name: harbor-key       terminationGracePeriodSeconds: 10       containers:         - name: postgres           image: harbor.qq.com:8083/dify/postgres:15-alpine

发布应用

kubectl apply -f databases/postgresql/postgres-StatefulSet.yaml kubectl apply -f databases/postgresql/postgres-Service.yaml

 查看postgresql日志

# kubectl -n dify logs -f postgres-0 ... UTC [72] WARNING:  no usable system locales were found performing post-bootstrap initialization ... 

第一次会出现，pod到这里就终止了，不用管

 

再次查看日志。

# kubectl -n dify logs -f postgres-0 2025-04-05 16:29:11.415 UTC [1] LOG:  database system is ready to accept connections 2025-04-05 16:29:13.707 UTC [46] FATAL:  database "postgres" does not exist 2025-04-05 16:29:18.721 UTC [53] FATAL:  database "postgres" does not exist ...

提示数据库postgres不存在，因为在全局configMap里面，POSTGRES_DB的值为dify，所以默认的postgres不会创建。

这个是不影响dify运行的，但是postgres的健康检查命令，必须要这个数据库存在，否则会一直发日志。

 

手动创建postgres

kubectl -n dify exec -it postgres-0 -- createdb postgres

再次查看日志，就不会再出现了。

 

进入容器，查看dify数据库是否创建完成

# kubectl -n dify exec -it postgres-0 -- /bin/bash postgres-0:/# pg_isready -U $PGUSER -d $POSTGRES_DB /var/run/postgresql:5432 - accepting connections

出现accepting connections，说明连接成功了

 

 

 

 

111