「Deep Learning」Note on Softplus

其他 2018-05-25 03:01:25 阅读次数: 1

Sina Weibo：小锋子Shawn
Tencent E-mail：[email protected]
http://blog.csdn.net/dgyuanshaofeng/article/details/80209783

Softplus的定义如下：

S o f t p l u s = l o g (1 + e^{x})

$Softplus=log(1+e^x)$
在TensorFlow中的实现是： tf.nn.softplus。
[1] Rectified Linear Units Improve Restricted Boltzmann Machines 2010 [paper]

猜你喜欢

转载自blog.csdn.net/dgyuanshaofeng/article/details/80209783

「Deep Learning」Note on Softplus

「Deep Learning」Note on NADM

「Deep Learning」Note on ADADELTA

「Deep Learning」Note on Adam

「Deep Learning」Note on RMSprop

「Deep Learning」Note on ReLU

「Deep Learning」Note on Swish

「Deep Learning」Note on CondenseNet

「Deep Learning」Note on CycleGAN

「Deep Learning」Note on BigGANs

「Deep Learning」Note on MentorNet

Deep Learning Note

「Deep Learning」Note on leaky ReLU

「Deep Learning」Note on Activation Functions

FAST AI Deep Learning Note

「Deep Learning」Note on Octave Convolution

「Deep Learning」Note on Deep Video Portraits

「Deep Learning」Note on Dynamic Bound of Learning Rate

「Deep Learning」Note on DeepLab V2

「Deep Learning」Note on SqueezeDet（挤压检测）

「Deep Learning」Note on the Shattered Gradients Problem

「Deep Learning」Note on Gather and Excite Network (GENet)

「Medical Image Analysis」Note on Deep Learning in Cardiology

「Deep Learning」Note on Decoupled Weight Decay Regularization

「Deep Learning」Note on Noisy Labels with Bootstrapping

「Deep Learning」Note on Noise Adaptation Layer

「Deep Learning」Note on Shake-Shake Regularization

「Deep Learning」Note on NAS-FPN

「Deep Learning」Note on Graph Convolutional Networks

「Deep Learning」Note on Perceptual Adversarial Networks

今日推荐

《美国对全球网络空间安全与发展的威胁和破坏》报告发布

火速冲上 GitHub 热榜 —— 开源编程语言、框架哪有这么可爱？

北京人形机器人创新中心发布全球首个纯电驱拟人奔跑的全尺寸人形机器人“天工”

LFOSSA 源来如此公开课 | 掌握云原生未来：CNCF 认证全面攻略与备考秘籍

周排行

循环神经网络（rnn）讲解

Tigao教程四：单独的关节运动

金蝶K3WISE15.0-注册套打教程

如何在Mac上配置Kubernetes

Android应用结束自身进程的方法

SpringMVC学习十三拦截器栈

中国驻洛杉矶总领馆举行新春招待会

HttpClient get post 发送

11 - three.js 笔记 - 绘制三维字体模型

Mysql递归获取某个父节点下面的所有子节点和子节点上的所有父节点

每日归档

2024-05-01(4)

2024-04-30(1)

2024-04-29(40)

2024-04-28(0)

2024-04-27(56)

2024-04-26(39)

2024-04-25(22)

2024-04-24(36)

2024-04-23(26)

2024-04-22(39)