Yapay zekâ için neden GPU’lar?
Kısaca: Sinir ağları, binlerce özdeş ve bağımsız hesaba ayrılan devasa matris çarpımlarından oluşur. Ekran kartlarında bunları paralel yürüten binlerce küçük hesaplama çekirdeği vardır.
Biraz daha ayrıntılı: Bir CPU’nun çeşitli görevler için az sayıda güçlü çekirdeği vardır. Bir GPU’nun, aynı işlemi çok veriye aynı anda uygulayan binlerce basit çekirdeği vardır (SIMD/SIMT).
Ayrıntılı
- Tensör çekirdekleri: matris blokları için özel birimler…
Ayrıca bak: VRAM ve model boyutu, Büyük ölçekte eğitim