Dify大语言模型私有化部署秘籍:Linux+yum源+Git+Docker,环境备好
企业对于智能化的需求日益增长,Dify大语言模型以其卓越的性能和广泛的应用场景,成为了许多企业的首选。然而,如何将这一强大的平台私有化部署,以满足企业对数据安全和个性化需求的双重追求。本文将手把手带构建Dify大语言模型的私有化部署环境。
看
步
骤
1. 搭建Linux环境;
2. 配置更新yum源;
3. Git安装;
4. Docker安装;
5. Docker配置可用镜像源;
6. Docker Compose安装;
01
搭建Linux环境
私有化部署的第一步是搭建一个稳定可靠的操作系统环境。Linux以其开源、稳定和安全性高的特点,成为部署的首选。选择一个合适的Linux发行版,如CentOS或Ubuntu,进行安装和配置。我选择的版本:CentOS 7
02
更新配置yum源
(1) 备份当前yum仓库文件
sudo cp /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.backup
(2) 下载新的仓库配置文件。你可以选择一个新的源,比如阿里云、清华大学等。
sudo curl -o /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
(3) 清除YUM缓存并生成新的缓存。
sudo yum clean all sudo yum makecache
(4) YUM更新(等待时间久一点)
sudo yum -y update
03
Git安装
(1) 确保你的包管理器(YUM)是最新的
sudo yum update
(2) 安装Git包,执行以下命令
sudo yum install git
(3) 查看安装结果
检查安装是否成功:
git --version
04
Docker安装
(1) 更新软件包
sudo yum update
(2) 安装Docker依赖的软件包
yum install -y yum-utils \ device-mapper-persistent-data \ lvm2 --skip-broken
(3) 设置Docker的稳定仓库
# 设置docker镜像源 yum-config-manager \ --add-repo \ https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo sed -i 's/download.docker.com/mirrors.aliyun.com\/docker-ce/g' /etc/yum.repos.d/docker-ce.repo yum makecache fast
(4) 安装Docker CE (社区版)
sudo yum install -y docker-ce
(5) 关闭防火墙
# 关闭 systemctl stop firewalld # 禁止开机启动防火墙 systemctl disable firewalld
(6) 启动Docker
# 通过命令启动docker: sudo systemctl start docker # 启动docker服务 sudo systemctl stop docker # 停止docker服务 sudo systemctl restart docker # 重启docker服务 sudo systemctl enable docker #设置Docker开机自启 # 然后输入命令,可以查看docker版本: docker -v
05
配置Docker可用镜像源
(1) 编辑Docker的配置文件
vi /etc/docker/daemon.json
(2) 查看镜像源地址
收藏此地址,可能镜像源随时都可能变化
https://github.com/cmliu/CF-Workers-docker.io/issues/8
(3) 设置registry-mirrors的镜像源地址
{ "registry-mirrors": [ "https://hub.uuuadc.top", "https://docker.anyhub.us.kg", "https://dockerhub.jobcher.com", "https://dockerhub.icu", "https://docker.ckyl.me", "https://docker.awsl9527.cn" ] }
(4) 重启Docker服务以使更改生效
sudo systemctl daemon-reload sudo systemctl restart docker
06
Docker Compose安装
(1) 下载Docker Compose二进制文件-耐心等待
sudo curl -L "https://github.com/docker/compose/releases/download/v2.5.0/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
(2) 修改二进制文件的执行权限
sudo chmod +x /usr/local/bin/docker-compose
(3) 验证安装是否成功
docker-compose --version
那么,如何系统的去学习大模型LLM?
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。
但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
所有资料 ⚡️ ,朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》,扫码获取~

篇幅有限,部分资料如下:
👉LLM大模型学习指南+路线汇总👈
💥大模型入门要点,扫盲必看!

💥既然要系统的学习大模型,那么学习路线是必不可少的,这份路线能帮助你快速梳理知识,形成自己的体系。
路线图很大就不一一展示了 (文末领取)

👉大模型入门实战训练👈
💥光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

👉国内企业大模型落地应用案例👈
💥两本《中国大模型落地应用案例集》 收录了近两年151个优秀的大模型落地应用案例,这些案例覆盖了金融、医疗、教育、交通、制造等众多领域,无论是对于大模型技术的研究者,还是对于希望了解大模型技术在实际业务中如何应用的业内人士,都具有很高的参考价值。 (文末领取)

👉GitHub海量高星开源项目👈
💥收集整理了海量的开源项目,地址、代码、文档等等全都下载共享给大家一起学习!

👉LLM大模型学习视频👈
💥观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。 (文末领取)

👉640份大模型行业报告(持续更新)👈
💥包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

👉获取方式:
这份完整版的大模型 LLM 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓

更多推荐



所有评论(0)