CUDA ve GPU programlama: yapay zekâ ekran kartlarında nasıl hesaplar

Kısaca: GPU’lar binlerce basit hesabı paralel yürütür; CUDA (NVIDIA) veya ROCm (AMD) ile çekirdek (kernel) işlevleri yazarsınız ama çoğunlukla bunları zaten getiren PyTorch gibi çatıları kullanırsınız.

Biraz daha ayrıntılı: Bir CPU’nun karmaşık diziler için az sayıda hızlı çekirdeği vardır; bir GPU’nun ise çok veride aynı işlemle yoğun paralel hesaplar için binlerce küçük çekirdeği (SIMT). Sinir ağlarındaki matris çarpımları…

Ayrıntılı

Model

• Çekirdek (kernel): çalışan işlev…

Ayrıca bak: Yapay zekâ için neden GPU’lar, Yapay zekâ yongalarının karşılaştırması, Yapay zekâ çatıları, Ekran kartları