Skip to content

Latest commit

 

History

History
55 lines (38 loc) · 2.38 KB

INSTALL.md

File metadata and controls

55 lines (38 loc) · 2.38 KB
Raw

安装

环境检查

# 首先，确信你的机器安装了 Python 3.8 及以上版本
$ python --version
Python 3.8.13

# 如果低于这个版本，可使用conda安装环境
$ conda create -p /your_path/env_name python=3.8

# 激活环境
$ source activate /your_path/env_name
$ pip3 install --upgrade pip

# 关闭环境
$ source deactivate /your_path/env_name

# 删除环境
$ conda env remove -p  /your_path/env_name

项目依赖

# 拉取仓库
$ git clone https://github.com/imClumsyPanda/langchain-ChatGLM.git

# 进入目录
$ cd langchain-ChatGLM

# 项目中 pdf 加载由先前的 detectron2 替换为使用 paddleocr，如果之前有安装过 detectron2 需要先完成卸载避免引发 tools 冲突
$ pip uninstall detectron2

# 检查paddleocr依赖，linux环境下paddleocr依赖libX11，libXext
$ yum install libX11
$ yum install libXext

# 安装依赖
$ pip install -r requirements.txt

# 验证paddleocr是否成功，首次运行会下载约18M模型到~/.paddleocr
$ python loader/image_loader.py

注：使用 langchain.document_loaders.UnstructuredFileLoader 进行非结构化文件接入时，可能需要依据文档进行其他依赖包的安装，请参考 langchain 文档。

llama-cpp模型调用的说明

  1. 首先从huggingface hub中下载对应的模型，如 https://huggingface.co/vicuna/ggml-vicuna-13b-1.1/ 的 ggml-vic13b-q5_1.bin，建议使用huggingface_hub库的snapshot_download下载。
  2. 将下载的模型重命名。通过huggingface_hub下载的模型会被重命名为随机序列，因此需要重命名为原始文件名，如ggml-vic13b-q5_1.bin。
  3. 基于下载模型的ggml的加载时间，推测对应的llama-cpp版本，下载对应的llama-cpp-python库的wheel文件，实测ggml-vic13b-q5_1.bin与llama-cpp-python库兼容,然后手动安装wheel文件。
  4. 将下载的模型信息写入configs/model_config.py文件里 llm_model_dict中，注意保证参数的兼容性，一些参数组合可能会报错.