Apakah mult-penambahan dan FLOP setara?

Sep 08 2020

Saya membandingkan arsitektur CNN yang berbeda untuk implementasi edge. Beberapa makalah yang menjelaskan arsitektur mengacu pada mult-penambahan , seperti makalah MobileNet V1 , di mana diklaim bahwa jaring ini memiliki 569M mult-penambahan, dan yang lainnya mengacu pada operasi floating-point (FLOP), seperti kertas CondenseNet mengklaim 274M FLOP.

Apakah ini sebanding? Apakah 1 perkalian-tambah sama dengan 2 operasi floating-point? Arah apa pun akan sangat dihargai.

Jawaban

k.c.sayz'k.csayz' Sep 09 2020 at 11:33

Menurut sumber ini , satu FLOP kira-kira sama dengan dua MAC (bertambah banyak). Dugaan / pemahaman saya adalah bahwa perbedaan dibuat karena jaringan saraf menghabiskan sangat banyak pada operasi akumulasi-berlipat ganda, dan dengan demikian pengoptimalan dan statistik atas operasi MAC akan lebih signifikan daripada FLOP.