本地部署语言模型——以qwen2.5-coder为例(DeepSeek同理)
·
快捷指令
ollama list
ollama run qwen2.5-coder
ollama rm qwen2.5-coder
1.首先先打开网址Ollama,这里可以选择下载不同系统的版本,这里以windows为例
如下方法也可以部署deepseek,从体验感来说我先推荐使用qwen2.5-code。进行本地部署之后再也不用担心网络问题了。


ollama安装好之后,可以在终端打开,然后在ollama官网查找需要的模型,复制对应版本的指令在终端执行:



这里我等了几个小时,最后发现可以卡BUG,它这个网速会越来越慢。所以就慢的时候ctrl+c终止,再运行上面指令,又会很快!

#打开ollama,其以终端形式展现,输入
ollama run qwen2.5-coder:7b
#便可以安装qwen2.5-coder:7b
下载过程比较漫长,等待下载之后就可以在终端使用了。
2.嵌入VScode插件
这里推荐 continue 插件,可在插件中安装,然后选择我们已经下载好的ollama和其对应的模型即可。



更多推荐



所有评论(0)