NTensorRT 8 带来创纪录的推理创新

TensorRT 8 带来创纪录的推理创新

NVIDIA AI 前沿·2021 年 9 月 22 日·12 分钟
在喜马拉雅播放
创作者写的节目说明

AI 革命如火如荼,为企业带来新的机遇,企业的产品、服务、客户互动等方方面面都将融入 AI 并借助 AI 实现改进。多年来,GPU 已经证明能够非常有效地解决某些极为复杂的深度学习问题。早在 2016 年 NVIDIA 就推出了支持高性能深度学习推理加速引擎 —— TensorRT,NVIDIA 深度学习平台也逐渐成为业界标准的训练解决方案。


NVIDIA TensorRT 是一个用于高性能深度学习推理的SDK,包含深度学习推理优化器和运行时环境,可为深度学习应用提供低延迟、高吞吐率的部署推理。借助 TensorRT,用户可以优化在所有主要框架中训练的神经网络模型,并最终将模型部署到超大规模数据中心、嵌入式或汽车产品平台中。 


本期节目中,NVIDIA技术专家将带领大家全面了解最新的TensorRT 8的功能以及AI推理的发展情况,并通过分析行业使用状况和市场需求,解析TensorRT如何助力开发者优化AI推理的解决方案。


· TensorRT作为AI推理利器的发展历程、AI推理的重要性

· TensorRT 8带来了创纪录的推理创新和速度,主要指什么?

· TensorRT的行业应用与下载使用情况如何?

· AI推理技术迅猛发展的原因有哪些?


本期嘉宾介绍:

刘一鸣,NVIDIA深度学习解决方案架构师,毕业于加州大学尔湾分校统计系,主要研究方向为数理统计和计算机视觉等。2020年加入NVIDIA 担任解决方案架构师,为 NVIDIA 企业级客户提供全面的技术支持,帮助消费互联网客户构建基于 GPU计算的深度学习训练和推理加速解决方案。

NVIDIA AI 前沿 · 更多单集

看全部 115 期 →

NVIDIA AI 前沿

NTensorRT 8 带来创纪录的推理创新

NVIDIA AI 前沿 · 2021 年 9 月 22 日 · 12 分钟

TensorRT 8 带来创纪录的推理创新

在喜马拉雅播放
创作者写的节目说明

AI 革命如火如荼,为企业带来新的机遇,企业的产品、服务、客户互动等方方面面都将融入 AI 并借助 AI 实现改进。多年来,GPU 已经证明能够非常有效地解决某些极为复杂的深度学习问题。早在 2016 年 NVIDIA 就推出了支持高性能深度学习推理加速引擎 —— TensorRT,NVIDIA 深度学习平台也逐渐成为业界标准的训练解决方案。


NVIDIA TensorRT 是一个用于高性能深度学习推理的SDK,包含深度学习推理优化器和运行时环境,可为深度学习应用提供低延迟、高吞吐率的部署推理。借助 TensorRT,用户可以优化在所有主要框架中训练的神经网络模型,并最终将模型部署到超大规模数据中心、嵌入式或汽车产品平台中。 


本期节目中,NVIDIA技术专家将带领大家全面了解最新的TensorRT 8的功能以及AI推理的发展情况,并通过分析行业使用状况和市场需求,解析TensorRT如何助力开发者优化AI推理的解决方案。


· TensorRT作为AI推理利器的发展历程、AI推理的重要性

· TensorRT 8带来了创纪录的推理创新和速度,主要指什么?

· TensorRT的行业应用与下载使用情况如何?

· AI推理技术迅猛发展的原因有哪些?


本期嘉宾介绍:

刘一鸣,NVIDIA深度学习解决方案架构师,毕业于加州大学尔湾分校统计系,主要研究方向为数理统计和计算机视觉等。2020年加入NVIDIA 担任解决方案架构师,为 NVIDIA 企业级客户提供全面的技术支持,帮助消费互联网客户构建基于 GPU计算的深度学习训练和推理加速解决方案。

NNVIDIA AI 前沿

NVIDIA AI 前沿

NVIDIA官方出品的AI前沿技术解读与产业分析播客,聚焦GTC大会发布与AI全栈技术。

已收录 115 期 · 最近更新 10 月 16 日

在哪里听

https://www.ximalaya.com/album/15270742.xml复制

内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →

更多单集 全部 115 期 →