
Block-sparse ядра на GPU: когда нули стоят денег
Плотная матрица тратит вычисления на нули, которые ничего не значат. Block-sparse ядра пропускают целые блоки нулей и разгоняют инференс, если разреженность структурирована. Разбираем, где выигрыш реален.










