小程序网站备案免费网络推广

软件环境

腾讯云

操作系统： TencentOS Server 3.1 (TK4)

Python: 3.9.0(使用 conda的虚拟python环境，可根据实际需要更换版本，当前使用的是3.9.0的版本)

CUDA Version: 12.2（腾讯云会自动安装）

Driver Version: 535.161.07

安装Anaconda3

wget https://repo.anaconda.com/archive/Anaconda3-2023.09-0-Linux-x86_64.sh
bash Anaconda3-2023.09-0-Linux-x86_64.sh
source .bashrc 

安装Ollama

参考《ollama部署大模型》