langchain-ChatGLM，小白入门

大家可以一起来编辑，完善！！！

1.
安装包​

•
小白的话最好安装要求 创建python3.8的虚拟环境 conda create -n lang python=3.8 ​

•
根据要求 安装文件 pip install -r requirements.txt​

•

如果安装过程中有提示找不到对应版本的包，可以尝试更换pypi源安装，如pip install -r requirements.txt -i https://pypi.org/simple/

2.
权重下载到本地，举例 chatglm-6b 下载​

•

方法1 git lfs 下载

◦
git lfs 工具安装  ​

◦
找一个路径，路径中都是英文，没有中文，比如"/mnt/sda/huggingface_weight"​

◦

下载模型权重文件

▪
git lfs install ​

▪

git clone https://huggingface.co/THUDM/chatglm-6b

▪
下载后会显示：​

common.docs_name - LarkCCM_Docs_Menu_Image

◦
方法2  百度网盘下载​

Q6: 本项目用到的模型权重文件百度网盘地址：

ernie-3.0-base-zh.zip 链接: https://pan.baidu.com/s/1CIvKnD3qzE-orFouA8qvNQ?pwd=4wih

ernie-3.0-nano-zh.zip 链接: https://pan.baidu.com/s/1Fh8fgzVdavf5P1omAJJ-Zw?pwd=q6s5

text2vec-large-chinese.zip 链接: https://pan.baidu.com/s/1sMyPzBIXdEzHygftEoyBuA?pwd=4xs7

chatglm-6b-int4-qe.zip 链接: https://pan.baidu.com/s/1DDKMOMHtNZccOOBGWIOYww?pwd=22ji

chatglm-6b-int4.zip 链接: https://pan.baidu.com/s/1pvZ6pMzovjhkA6uPcRLuJA?pwd=3gjd

chatglm-6b.zip 链接: https://pan.baidu.com/s/1B-MpsVVs1GHhteVBetaquw?pwd=djay

3.
替换模型路径​

在文件“configs/model_config.py” 内

代码块

embedding_model_dict = {​
    "ernie-tiny": "nghuyong/ernie-3.0-nano-zh",​
    "ernie-base": "nghuyong/ernie-3.0-base-zh",​
    "text2vec": "/mnt/sda/huggingface_weight/text2vec-large-chinese", #这是我本地路径​
}​
​
llm_model_dict = {​
    "chatglm-6b-int4-qe": "THUDM/chatglm-6b-int4-qe",​
    "chatglm-6b-int4": "/mnt/sda/huggingface_weight/THUDM/chatglm-6b-int4/chatglm-6b-int4",​
    "chatglm-6b": "THUDM/chatglm-6b",​
​
}​

4.
运行 cli_demo.py ​

•
python  cli_demo.py​

•
 输入文件路径：/home/ubuntu/Documents/三国演义.txt  （需要utf-8格式）​

langchain-ChatGLM， 小白入门​

langchain-ChatGLM，小白入门