极智开发 | 解读英伟达软件生态 深度学习推理引擎TensorRT

2023-12-26 15:05:08

欢迎关注我的公众号 [极智视界]，获取我的更多经验分享

大家好，我是极智视界，本文来介绍一下 解读英伟达软件生态 深度学习推理引擎TensorRT。

邀您加入我的知识星球「极智视界」，星球内有超多好玩的项目实战源码下载，链接：https://t.zsxq.com/0aiNxERDq

TensorRT 对于很多朋友来说，应该是熟悉的不要不要的存在了。TensorRT 基本就是利用英伟达 GPU 进行深度学习算法部署的 "标配" 了。TensorRT 目前已经是更新到了 TensorRT8，而 TensorRT9 也是马上就要出来了，记得我是从 TensorRT5 开始接触的，想想也是 "追随" 了好几代。

第一版的 TensorRT 发布于 2017 年，也就是所谓的 TensorRT1，可以看到 TensorRT 的迭代其实是非常之快。而从下面的 Quick Start 其实你可以看到 TensorRT1.0 的安装 "强依赖" 于 CUDA，要求 CUDA 版本为 7.5 or 8.0。既然安装 "强依赖" 于 CUDA，就

文章来源:https://blog.csdn.net/weixin_42405819/article/details/135209303
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。