Mult-add e FLOPs são equivalentes?

Sep 08 2020

Estou comparando diferentes arquiteturas CNN para implementação de ponta. Alguns artigos que descrevem arquiteturas se referem a mult- add , como o artigo MobileNet V1 , onde se afirma que essa rede tem 569M mult-add, e outros se referem a operações de ponto flutuante (FLOPs), como o artigo CondenseNet afirma 274M FLOPs.

São comparáveis? É 1 multiplicação-adição equivalente a 2 operações de ponto flutuante? Qualquer direção será muito apreciada.

Respostas

k.c.sayz'k.csayz' Sep 09 2020 at 11:33

De acordo com esta fonte , um FLOP é aproximadamente igual a dois MAC (multiplicação acumulada). Meu palpite / entendimento seria que a distinção é feita porque as redes neurais gastam computação esmagadoramente em operações de multiplicação-acumulação e, portanto, otimizações e estatísticas sobre operações MAC seriam mais significativas do que FLOPs.