¿Son equivalentes las adiciones múltiples y los FLOP?
Estoy comparando diferentes arquitecturas de CNN para la implementación de borde. Algunos documentos que describen las arquitecturas se refieren a MULT-añade , al igual que el papel MobileNet V1 , donde se afirma que esta red tiene 569m mult-añade, y otros se refieren a operaciones de punto flotante (FLOPS), al igual que los de papel CondenseNet reclamaciones 274M flops.
¿Son comparables? ¿Es 1 multiplicar-sumar equivalente a 2 operaciones de punto flotante? Cualquier dirección será muy apreciada.
Respuestas
Según esta fuente , un FLOP es aproximadamente igual a dos MAC (multiplicar acumular). Mi conjetura / entendimiento sería que la distinción se hace porque las redes neuronales gastan computación abrumadoramente en operaciones de acumulación múltiple y, por lo tanto, las optimizaciones y estadísticas sobre las operaciones MAC serían más significativas que las FLOP.