图片来源于李弘毅机器学习讲义
若我们输入 Z,那么该输入向量通过激活函数得到的 g(Z) 和输入门 f(Z_i ) 的乘积 g(Z) f(Z_i ) 就表示输入数据经筛选后所保留的信息。...以前保留的信息加上当前输入有意义的信息将会保留至下一个 LSTM 单元,即我们可以用 c' = g(Z)f(Z_i) + cf(z_f) 表示更新的记忆,更新的记忆 c' 也表示前面与当前所保留的全部有用信息...我们简单地测试了三段文字的分词效果,即一般的文本、专业文本和定义字典后的专业文本。..., '而', '弱', '人工智能', '无法', '解决', '之前', '未', '见过', '的', '问题', ',', '而且', '其', '能力', '仅', '局限', '在', '特定...', ' ', '为', ':', '「', 'Capsule', ' ', '是', '一组', '神经元', ',', '其', '输入输出向量', '表示', '特定', '实体类型', '的',