Andreas Falkenberg提出参数化Tanh激活函数

研究人员Andreas Falkenberg提出了一种名为Parametric Tanh Connection Function的参数化连接函数框架。该框架利用4个可微参数替代了复杂的B样条基础函数，旨在解决边缘计算激活范式中的计算瓶颈问题。 该函数定义为一个光滑且有界的架构原语，表达式为δ + αtanh(βx + γ)。研究表明，该模型在提升效率的同时保持了一定的性能，其在MNIST数据集上达到了95.63%的准确率，在CIFAR-10数据集上达到了44.74%的准确率。 与使用7个参数的指数基线相比，采用该参数化Tanh框架的训练运行时间减少了85%。这一改进显著提升了模型的硬件扩展性，使其更适用于对计算资源受限的边缘端设备。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。