首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >神经网络中作为激活函数的模

神经网络中作为激活函数的模
EN

Data Science用户
提问于 2019-10-05 03:42:22
回答 1查看 471关注 0票数 0

在神经网络中,我们可以使用模函数f(x)作为激活函数吗?模函数是单调和连续的(就像Relu一样),除了输入数据域中的有限点外。模函数f(x)指的是

\begin{equation} f(x) = \begin{bmatrix} \vdots \\ x+a \ \ \ \if \ -a < x < 0 \\ x \ \ \ \ \ \ \ \if\ \ \ \ 0 < x < a\\ x-a \ \ \ \if \ \ \ \ a < x < 2a \\ \vdots \\ \end{bmatrix} \end{equation},其中a是一个正数,为简单起见,可以将其视为超参数。

我希望我的输出取0,1和我之间的值,从一个高斯分布(,\sigma^2)中采样输出,其中,\sigma^2是神经网络的输出。因此,输出可能超出0,1范围。我不想做剪裁,因为它会给我的网络带来更多的问题

我是新来的乳胶,很抱歉没有使用一个良好的成型。

EN

回答 1

Data Science用户

回答已采纳

发布于 2020-04-25 05:33:24

模函数不是单调的。即使它有一个正导数,除非是在不可微的点上。一般不建议使用非凸激活函数.因此,最好是避免它或改变问题的结构。

票数 1
EN
页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://datascience.stackexchange.com/questions/61287

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档