Llama 3.2 本地部署教程 ,11B模型、支持视觉、图片识别功能!
2024-09-29
2 次阅读
会员专享
Llama 3.2 11B 视觉模型下载方式
1、Hugging Face下载:【点击前往】 从模型库下载Llama 3.2 11B的模型文件。模型文件可以通过API或者手动下载。
2、其它打包下载:【点击前往】
 
1. 安装Python和pip
首先,确保你已经安装了Python 3.8或以上版本。如果还没有,可以通过以下步骤安装。
下载Python:
从Python官网下载适用于Windows的最新版本Python。安装时,确保勾选“Add Python to PATH”选项,以便命令行可以直接使用Python。
检查Python和pip是否安装成功:
python --version
pip --version
如果成功,会显示Python和pip的版本号。
2. 安装CUDA和PyTorch
比如使用 RTX 4090进行加速,需要安装支持CUDA的PyTorch版本。
安装CUDA
下载并安装CUDA工具包(确保与你的显卡型号兼容)。
安装NVIDIA cuDNN(CUDA的深度学习库)。
安装支持CUDA的PyTorch:
打开...
🔒
登录后继续阅读
登录账号即可免费阅读本文
立即登录
还没账户? 注册
show = false, 3000)"
x-show="show" x-cloak x-transition
class="fixed top-20 right-4 z-50">