电商网站建设投资预算申请域名
https://github.com/netease-youdao/QAnything
【阅读原文】跳转Github项目
转自AIGC创想者
项目简介
QAnything 是一个基于本地知识库的问答系统，它能够理解和回答基于任何类型文件的问题。
QAnything支持的文件格式非常广泛，包括PDF、Word、PPT、XLS、Markdown、Email、TXT、Image、CSV和Web链接等，这使得它能够适应多种不同的使用场景。
适用场景
QAnything适合于需要处理和分析大量文档和数据的场景，如企业知识管理、学术研究、法律文档审查、市场分析等。
-
企业知识管理：企业可以利用QAnything构建内部知识库，员工通过自然语言问答的方式快速获取所需信息，提高工作效率。
-
学术研究：研究人员可以使用QAnything来管理和分析大量的学术论文、报告和数据集，快速找到研究中需要的信息。
-
法律文档审查：法律专业人士可以使用QAnything来审查和分析合同、法律文件等，确保文档的合规性和准确性。
-
市场分析：市场分析师可以利用QAnything分析市场报告、消费者反馈等，以获得有价值的市场洞察。
使用方法
QAnything项目的安装步骤分为几个主要部分，包括系统要求、Docker安装和纯Python环境安装。以下是详细的安装步骤：
系统要求
在开始安装之前，请确保您的系统满足以下最低要求：
-
Linux：推荐使用NVIDIA GPU（至少GTX 1050Ti，更好的选择是RTX 3090），并确保GPU内存至少为4GB（如果使用OpenAI API）。
-
NVIDIA驱动：版本至少为525.105.17。
-
Docker：版本至少为20.10.5。
-
Docker Compose：版本至少为2.23.3。
-
Git Large File Storage (LFS)：需要安装。
Docker安装
-
拉取QAnything仓库：
git clone https://github.com/netease-youdao/QAnything.git
-
进入项目根目录：
cd QAnything
-
根据提供的启动脚本和说明启动QAnything服务：
-
默认在GPU 0上启动（如果使用OpenAI API，确保GPU内存至少为4GB）。
bash run.sh
-
指定GPU启动（可选）：
-
对于Windows10/Windows11 WSL2用户，推荐使用以下命令启动：
# For Windows OS: Need to enter the **WSL2** environment.
# Step 1. Download the public LLM model (e.g., Qwen-7B-QAnything) and save to "/path/to/QAnything/assets/custom_models"
# (Optional) Download Qwen-7B-QAnything from ModelScope: https://www.modelscope.cn/models/netease-youdao/Qwen-7B-QAnything
# (Optional) Download Qwen-7B-QAnything from Huggingface: https://huggingface.co/netease-youdao/Qwen-7B-QAnything
cd QAnything/assets/custom_models
git clone https://huggingface.co/netease-youdao/Qwen-7B-QAnything# Step 2. Execute the service startup command. Here we use "-b hf" to specify the Huggingface transformers backend.
cd ../../
bash ./run.sh -c local -i 0 -b hf -m Qwen-7B-QAnything -t qwen-7b-qanything
-
对于GPU计算能力大于等于8.6且VRAM大于等于24GB的情况，可以使用多GPU启动：
bcd QAnything
bash ./run.sh -c local -i 0,1 -b default # gpu ids: 0,1, Please confirm how many GPUs are available. Supports up to two cards for startup.
-
体验应用：
-
通过在Web浏览器中输入以下地址来访问前端界面：
http://your_host:5052/qanything/ -
如果需要访问API，请参考API地址：
http://your_host:8777/api/
-
关闭服务（如果需要）：
-
使用以下命令关闭服务：
bash close.sh
-
离线安装：
如果需要在没有网络的环境中安装QAnything，可以在有网络的机器上下载Docker镜像和代码，然后将镜像和代码复制到离线机器上，加载镜像并运行。
注：本文内容仅供参考，具体项目特性请参照官方 GitHub 页面的最新说明。