EMZETT.
Giriş yap

Yapay zekâ için neden GPU’lar?

Kısaca: Sinir ağları, binlerce özdeş ve bağımsız hesaba ayrılan devasa matris çarpımlarından oluşur. Ekran kartlarında bunları paralel yürüten binlerce küçük hesaplama çekirdeği vardır.

Biraz daha ayrıntılı: Bir CPU’nun çeşitli görevler için az sayıda güçlü çekirdeği vardır. Bir GPU’nun, aynı işlemi çok veriye aynı anda uygulayan binlerce basit çekirdeği vardır (SIMD/SIMT).

Ayrıntılı

  • Tensör çekirdekleri: matris blokları için özel birimler…

Ayrıca bak: VRAM ve model boyutu, Büyük ölçekte eğitim