Ubuntu安装TensorRT
文章目录
关注公众号:『AI学习星球
』
算法学习
、4对1辅导
、论文辅导
或核心期刊
可以通过公众号
或?v:codebiubiubiu
滴滴我
1. 安装CUDA
a. 下载CUDA
CUDA下载链接:https://developer.nvidia.com/cuda-toolkit-archive
b. 安装CUDA
- 运行文件
命令1:sudo sh cuda_10.0.130_410.48_linux.run
命令2:sudo bash cuda_10.0.130_410.48_linux.run
然后进入到安装界面
点击Install
进行下载
- 配置环境变量
sudo vim ~/.bashrc
export PATH= $PATH:/usr/local/cuda-11.4/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-11.4/lib64
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-11.4
c. 验证CUDA
终端输入:nvcc -V
2. 安装CUDNN
a. 下载CUDNN
CUDNN下载链接:https://developer.nvidia.com/rdp/cudnn-archive
b. 安装CUDNN
-
解压
tar -xvzf cudnn-11.4-linux-x64-v8.2.2.26.tgz
-
将解压后的文件复制到CUDA的对应目录下
sudo cp cuda/include/cudnn.h /usr/local/cuda-11.4/include*
sudo cp cuda/lib64/libcudnn* /usr/local/cuda-11.4/lib64*
sudo chmod a+r /usr/local/cuda/include/cudnn.h
sudo chmod a+r /usr/local/cuda/lib64/libcudnn*
c. 验证CUDNN
cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2
3. 安装TensorRT
a. 下载TensorRT
要注意,TRT和CUDA和CUDNN是有版本对应关系的
下载链接:https://developer.nvidia.com/nvidia-tensorrt-download
b. 解压TensorRT
tar -zxvf TensorRT-7.0.0.11.Ubuntu-18.04.x86_64-gnu.cuda-10.0.cudnn7.6.tar.gz
然后配置环境变量
vim /etc/profile
#加入下面的环境变量
export TENSORRT_ROOT={你的tensorrt目录}
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:{你的tensorrt目录}/lib
#保存:wq
source /etc/profile
c. 安装tensorrt
在解压后TensorRT的文件夹里有个python文件,进入后
pip install tensorrt-7.0.0.11-cp36-none-linux_x86_64.whl
d. 安装uff和graphsurgeon
在在解压后TensorRT的文件夹里有个uff文件和graphsurgeon文件夹,进入后
pip install uff-0.6.5-py2.py3-none-any.whl
pip install graphsurgeon-0.4.1-py2.py3-none-any.whl
e. 验证是否安装成功
- 命令行切换到
TensorRT-7.0.0.11\data\mnist
,执行命令:python download_pgms.py
,并完成下载数据 - 切换到
TensorRT-7.0.0.11/samples/sampleMNIST/
,输入make
。编译项目生成可执行文件。 - 切换到
TensorRT-7.0.0.11/bin
,输入./sample_mnist
f. 备注
- 在编译后可能需要重新编译
sudo make clean
sudo make CUDA_INSTALL_DIR=/usr/local/cuda
参考链接
链接一:ubuntu cuda10.0 + cudnn 的安装流程
链接二:ubuntu 18.04 安装、配置TensorRT环境
关注公众号:『AI学习星球
』
算法学习
、4对1辅导
、论文辅导
或核心期刊
可以通过公众号
或?v:codebiubiubiu
滴滴我
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:veading@qq.com进行投诉反馈,一经查实,立即删除!