MATLAB 提供了一套用于训练、验证和部署深度学习模型的工作流程。工程师无需额外编程即可使用 GPU 资源,从而能够专注于应用程序本身,而无需费心调优性能。NVIDIA TensorRT 与 GPU Coder 的全新集成,使得在 MATLAB 中开发的深度学习模型能够在 NVIDIA GPU 上以高性能和低延迟运行。内部基准测试表明,MATLAB 生成的 CUDA 代码与 TensorRT 结合使用,部署 AlexNet 的性能是 TensorFlow 的 5 倍,部署 VGG-16 的性能是 TensorFlow 的 1.25 倍,可用于深度学习推理。*
* 所有基准测试均在配备 12 核 Intel® Xeon® E5-1650 v3 处理器和 64 GB RAM 的 Linux 机器上,使用 NVIDIA TITAN Xp GPU,在 MATLAB R2018a 中运行,并包含 GPU Coder、TensorRT 3.0.1、TensorFlow 1.6.0、CUDA 9.0 和 cuDNN 7。.
