VectorBlox 3.0: PolarFire FPGA научили пропускать нулевые операции в разреженных нейросетях

Нулевые веса в CNN могут перестать занимать такты матричного вычислителя и трафик внешней памяти: Microchip добавила такую обработку в VectorBlox 3.0 для PolarFire FPGA и PolarFire SoC. Ускоритель работает с разреженным представлением весов, где для неструктурированной разреженности сохраняются ненулевые коэффициенты и их индексы. Почтий выигрыш будет определяться плотностью сети и ценой декодирования этих индексов. →