Jetson Nx使用GPU运行Yolov8

一、介绍

    在Jetson Xavier NX开发板上安装Yolov8，运行会提示 torch.cuda.is_available() False，不能使用GPU进行训练和推理的解决方法。

二、查看JetPack版本

    sudo apt-cache show nvidia-jetpack

    如图可知JetPack版本为5.1.2。

三、下载torch

    1. 首先安装：

        Python 3.8.10 

        numpy 1.24.4

    2. 下载页面

    https://developer.nvidia.com/embedded/downloads

    https://developer.download.nvidia.com/compute/redist/jp/

    最终下载地址jp/v512，即JetPack5.1.2，torch版本为2.1.0。

    https://developer.download.nvidia.com/compute/redist/jp/v512/pytorch/torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl

    3. 安装，会自动下载一些依赖一并安装。

    python3 -m pip install --no-cache torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl

三、下载torchvision源码

    前面下载的torch版本为2.1.0，根据下表

    则torchvision版本选择0.16。

    编译

    python3 setup.py install --user

    编译提示缺少某个so库，则安装

    sudo apt-get install libopenblas-dev

四、测试GPU

    如图显示，torch.cuda.is_available() 显示为True，已经可以正常使用GPU了。

五、安装Yolov8

    pip install ultralytics

    训练测试

    python3 train.py

    已经显示GPU内存占用了，至此GPU已经正常使用。

六、其他

    总体上只需要Python3版本以上，从Nvidia官方下载torch，自行编译torchvision，即可解决。