Является ли оценка функции нейронной сетью быстрее, чем аналитическое выражение для самой функции?

Aug 20 2020

Предполагая, что аналитическая функция является нелинейной, такой как sin (x), мне интересно знать, будет ли математическая оценка функции, такой как sin (x), путем разложения ряда Тейлора быстрее или медленнее, чем оценка соответствующей аппроксимации sin (x) через нейронные сети с теми же входами?

Сложность вычислений в нейронных сетях ниже из-за их параллельного характера, поэтому можно ли быстрее вычислить функцию с помощью нейронных сетей? Итак, чтобы обобщить это, всегда ли хорошо иметь дорогостоящие функции, преобразованные в их соответствующие аналоги нейронной сети, чтобы их можно было быстрее оценивать для любого диапазона входных данных?

Ответы

3 YvesDaoust Aug 20 2020 at 21:19

Точность аппроксимации функций, которую можно получить с помощью нейронных сетей, очень низкая (нейронная сеть выполняет неуклюжую интерполяцию). Кроме того, оценка одной сигмовидной функции может быть столь же дорогостоящей, как оценка синусоидальной функции.

Никогда не делай этого.

С математическим сопроцессором даже простое полиномиальное приближение было бы лучше встроенной функции.