Навіщо GPU для ШІ?

Коротко: Нейронні мережі складаються з величезних множень матриць, що розпадаються на тисячі однакових незалежних обчислень. У відеокарт тисячі маленьких обчислювальних ядер, які виконують їх паралельно.

Докладніше: У CPU мало потужних ядер для різних завдань. У GPU тисячі простих ядер, що виконують ту саму операцію над безліччю даних одночасно (SIMD/SIMT).