Ubuntu安装TensorRT

2023-12-29 19:45:11

关注公众号:『AI学习星球
算法学习4对1辅导论文辅导核心期刊可以通过公众号或?v:codebiubiubiu滴滴我
在这里插入图片描述


1. 安装CUDA

a. 下载CUDA

CUDA下载链接:https://developer.nvidia.com/cuda-toolkit-archive

b. 安装CUDA

  1. 运行文件
    命令1:sudo sh cuda_10.0.130_410.48_linux.run
    命令2:sudo bash cuda_10.0.130_410.48_linux.run

然后进入到安装界面
在这里插入图片描述

在这里插入图片描述

点击Install进行下载

  1. 配置环境变量
sudo vim ~/.bashrc

export PATH= $PATH:/usr/local/cuda-11.4/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-11.4/lib64
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-11.4

c. 验证CUDA

终端输入:nvcc -V

2. 安装CUDNN

a. 下载CUDNN

CUDNN下载链接:https://developer.nvidia.com/rdp/cudnn-archive

b. 安装CUDNN

  1. 解压
    tar -xvzf cudnn-11.4-linux-x64-v8.2.2.26.tgz

  2. 将解压后的文件复制到CUDA的对应目录下

sudo cp cuda/include/cudnn.h /usr/local/cuda-11.4/include*
sudo cp cuda/lib64/libcudnn* /usr/local/cuda-11.4/lib64*
sudo chmod a+r /usr/local/cuda/include/cudnn.h
sudo chmod a+r /usr/local/cuda/lib64/libcudnn*

c. 验证CUDNN

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2
在这里插入图片描述

3. 安装TensorRT

a. 下载TensorRT

要注意,TRT和CUDA和CUDNN是有版本对应关系的
下载链接:https://developer.nvidia.com/nvidia-tensorrt-download

b. 解压TensorRT

tar -zxvf TensorRT-7.0.0.11.Ubuntu-18.04.x86_64-gnu.cuda-10.0.cudnn7.6.tar.gz

然后配置环境变量

vim /etc/profile
#加入下面的环境变量
export TENSORRT_ROOT={你的tensorrt目录}
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:{你的tensorrt目录}/lib
 
#保存:wq
source /etc/profile

c. 安装tensorrt

在解压后TensorRT的文件夹里有个python文件,进入后
在这里插入图片描述

pip install tensorrt-7.0.0.11-cp36-none-linux_x86_64.whl

d. 安装uff和graphsurgeon

在在解压后TensorRT的文件夹里有个uff文件和graphsurgeon文件夹,进入后
pip install uff-0.6.5-py2.py3-none-any.whl
pip install graphsurgeon-0.4.1-py2.py3-none-any.whl

e. 验证是否安装成功

  1. 命令行切换到TensorRT-7.0.0.11\data\mnist,执行命令:python download_pgms.py,并完成下载数据
  2. 切换到TensorRT-7.0.0.11/samples/sampleMNIST/,输入make。编译项目生成可执行文件。
  3. 切换到TensorRT-7.0.0.11/bin,输入./sample_mnist

在这里插入图片描述

f. 备注

  1. 在编译后可能需要重新编译
    在这里插入图片描述
sudo make clean
 
sudo make CUDA_INSTALL_DIR=/usr/local/cuda

参考链接

链接一:ubuntu cuda10.0 + cudnn 的安装流程
链接二:ubuntu 18.04 安装、配置TensorRT环境


关注公众号:『AI学习星球
算法学习4对1辅导论文辅导核心期刊可以通过公众号或?v:codebiubiubiu滴滴我
在这里插入图片描述

文章来源:https://blog.csdn.net/weixin_42363541/article/details/135296717
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。