分享
开发:GLM等大模型外接数据库
输入“/”快速插入内容
开发:
GLM
等
大模型
外接数据库
本内容来自群友Michael的实践编辑整理
原理介绍
从文档处理角度来看,实现流程如下:
配置要求
•
ChatGLM-6B 模型硬件需求
•
注:模型文件下载至本地需要 15 GB 存储空间。
•
MOSS 模型硬件需求
•
注:模型文件下载至本地需要 70 GB 存储空间
•
Embedding 模型硬件需求
•
默认选用的 Embedding 模型
GanymedeNil/text2vec-large-chinese
约占用显存 3GB,也可修改为在 CPU 中运行。
环境搭建
采用Anconda配置Python环境,在Pycharm中编译
Anconda
下载地址:
Anconda
打开
Anaconda
Navigator,点击Environments可以看到anaconda中已经有了默认的“base”环境,其中包含了大多数我们会用到的包,在PyCharm中可以直接使用该环境,而无需自行下载需要的包。