MATLAB bietet einen Workflow zum Trainieren, Validieren und Bereitstellen von Deep-Learning-Modellen. Entwickler können GPU-Ressourcen ohne zusätzliche Programmierung nutzen und sich so auf ihre Anwendungen konzentrieren, anstatt die Performance zu optimieren. Die neue Integration von NVIDIA TensorRT in GPU Coder ermöglicht es, in MATLAB entwickelte Deep-Learning-Modelle mit hoher Performance und geringer Latenz auf NVIDIA-GPUs auszuführen. Interne Benchmarks zeigen, dass von MATLAB generierter CUDA-Code in Kombination mit TensorRT AlexNet mit der fünffachen Performance von TensorFlow und VGG-16 mit der 1,25-fachen Performance von TensorFlow für Deep-Learning-Inferenz bereitstellen kann.*
* Alle Benchmark-Tests wurden in MATLAB R2018a mit GPU Coder, TensorRT 3.0.1, TensorFlow 1.6.0, CUDA 9.0 und cuDNN 7 auf einer NVIDIA TITAN Xp GPU, auf einem Linux-Rechner mit einem 12-Kern Intel® Xeon® E5-1650 v3 Prozessor und 64 GB RAM durchgeführt.
