张梦飞：【全网最细】从LLM大语言模型、知识库到微信机器人的全本地部署教程

用户8537

用户9305

2024年10月11日修改

我们需要进行部署的有三大部分

1、本地部署大语言模型

2、本地部署FastGPT+OneAPI

3、本地部署HOOK项目或COW

一、部署大语言模型

一、下载并安装Ollama

1、点击进入，根据你的电脑系统，下载Ollama：https://ollama.com/download

2、下载完成后，双击打开，点击“Install”

3、安装完成后，将下方地址复制进浏览器中。如果出现下方字样，表示安装完成​

二、下载 qwen2:0.5b 模型（0.5b是为了方便测试，下载快，自己设备充足的话，可以下载更大的模型）​

1、

如果你是windows电脑，

•
点击win+R​

•
输入cmd，点击回车​

如果你是Mac电脑，

•
按下 Command（⌘）+ Space 键打开Spotlight搜索。​

•
输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。​

张梦飞：【全网最细】从LLM大语言模型、知识库到微信机器人的全本地部署教程​