Sind Mult-Adds und FLOPs gleichwertig?

Sep 08 2020

Ich vergleiche verschiedene CNN-Architekturen für die Edge-Implementierung. Einige Artikel, die Architekturen beschreiben, beziehen sich auf Mehrfachadditionen , wie das MobileNet V1-Papier , in dem behauptet wird, dass dieses Netz 569 Millionen Mehrfachadditionen enthält, und andere beziehen sich auf Gleitkommaoperationen (FLOPs), wie das CondenseNet-Papier 274 Millionen FLOPs beansprucht.

Sind diese vergleichbar? Entspricht 1 Multiplikationsaddition 2 Gleitkommaoperationen? Jede Richtung wird sehr geschätzt.

Antworten

k.c.sayz'k.csayz' Sep 09 2020 at 11:33

Nach dieser Quelle entspricht ein FLOP ungefähr zwei MAC (Multiplikationsakkumulation). Meine Vermutung / mein Verständnis wäre, dass die Unterscheidung getroffen wird, weil neuronale Netze überwiegend für Mehrfachakkumulationsoperationen rechnen, und daher Optimierungen und Statistiken über MAC-Operationen wichtiger wären als FLOPs.