GPU Coder nedir?
GPU Coder, MATLAB kodunuzdan ve Simulink modellerinizden NVIDIA GPU’lar için CUDA kodu üreten bir araç kutusudur. Algoritmanın paralelleştirilebilir bölümlerini ayırır, bunlar için CUDA kernel’ları çıkarır. Üretilen kodu masaüstü RTX kartlarından veri merkezi GPU’larına ve gömülü platformlara kadar farklı donanımlarda derleyip çalıştırırsınız. Ayrıca ticari dağıtımda telif bedeli doğmaz. Desteklenen fonksiyonları MathWorks dokümantasyonunda bulursunuz.
Kod üretimi otomatik optimizasyonlarla birlikte gelir: bellek yönetimi, kernel birleştirme ve otomatik ayarlama devreye girer. Ayrıca INT8 ve bfloat16 nicemlemesini kullanır, NVIDIA TensorRT tümleştirmesiyle çıkarım başarımını artırırsınız. Stencil işleme ve indirgeme gibi tasarım desenleri otomatik uygulanır; dilerseniz pragma ile elle çağırırsınız. Jetson ve DRIVE platformlarına dağıtım otomatiktir, çevre birimlerine erişir ve sensör verisi toplarsınız. Son olarak Performance Analyzer aracıyla üretilen kodu profillendirir, hangi kernel’ın süreyi yediğini görürsünüz.
GPU Coder Temel Yetenekleri
MATLAB’dan CUDA Kodu
Algoritmanın paralelleştirilebilir bölümleri için CUDA kernel’ları çıkarırsınız. Ardından üretilen kodu masaüstü RTX kartından veri merkezi GPU’suna kadar farklı donanımda derlersiniz.
Ayrıca ticari dağıtımda telif bedeli doğmaz, dolayısıyla ürünü serbestçe teslim edersiniz.
Jetson ve DRIVE’a Dağıtım
Ayrıca gömülü platformlara dağıtım otomatik yürür. Ayrıca çevre birimlerine erişir, sensör verisi toplar ve kartı bağımsız çalıştırırsınız.
Böylece algoritmayı laboratuvardan araca ya da robota aynı akışla taşırsınız.
Derin Öğrenme İçin Kod
Hazır ya da özel derin öğrenme ağlarını dağıtırsınız; dolayısıyla eğitim ortamını değiştirmezsiniz. Ayrıca ağın yanında ön işleme ve son işleme kodunu da çıkarırsınız.
Örneğin şerit ve araç algılama zincirini tek çıktıda toplarsınız.
TensorRT ile Hızlandırma
NVIDIA TensorRT tümleştirmesiyle çıkarım başarımını artırırsınız. Üstelik INT8 ve bfloat16 nicemlemesini de kullanırsınız.
Dolayısıyla saniyedeki görüntü sayısını belirgin biçimde yükseltirsiniz.
Performance Analyzer
GPU Coder Performance Analyzer üretilen CUDA kodunu profillendirir. Böylece hangi kernel’ın süreyi yediğini ve nerede iyileştirme fırsatı olduğunu görürsünüz.
Üstelik bellek aktarımı kaynaklı darboğazları da raporda ayırt edersiniz.
İzlenebilirlik ve Doğrulama
Embedded Coder ile MATLAB kodu ve üretilen CUDA arasında çift yönlü izleme kurarsınız. Böylece yazılım döngüde testi de yürütürsünüz.
Ayrıca Simulink Coder ile parametreleri gerçek zamanlı ayarlar, sinyalleri kaydedersiniz.