首页
学习
活动
专区
圈层
工具
发布
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    【ACL2019】最佳长论文阅读笔记,降低机器翻译中的exposure bias

    作者在论文中提出了一种方法来解决文本生成当中的exposure bias问题,并应用到了机器翻译当中。 ?...背景知识 没做机器翻译的同学可能不知道为什么机器翻译中存在exposure bias的问题(后面我也会整理一下机器翻译的一些资料,虽然我也不知道什么时候有空填坑T-T),这里先解释一下exposure...但是在训练时使用的是Teacher Forcing,前一个词是从ground truth中得到的,而在测试时,前一个词是模型自己生成的,这就使得在训练和测试时预测出的单词实际上从不同的分布中得到的,这就是exposure...由于exposure bias的存在,在测试时,如果某一步出现错误,那么错误就会一直累积(因为训练时前一个单词总是正确的),最终导致生成不正确的文本。 ?...实验结果也证明了该方法在RNN和transformer的nmt模型中都对exposure bias 问题都能起到一定的改善作用,从而提高翻译模型的性能。

    1.6K10

    数学建模----线性回归分析(引入热力图的绘制方法)

    一个比较符合实际情况,这个也告诉我们贸然的删除数据,容易造成这个模型的失真,谨慎操作,岭回归和逐步回归后面我们还会介绍到的; 1.一元线性回归分析 ###问题的背景:我们想要探讨的就是这个广告的曝光量exposure...") # TODO 使用plt.scatter()函数 # 以df["exposure"]为x轴的值和df["new_user"]为y轴的值,绘制散点图 plt.scatter(df["exposure...") # TODO 使用corr(),计算"exposure"和"new_user"这两列的相关系数,赋值给变量r r = df["exposure"].corr(df["new_user"]) #...","hot","search"这三列,作为自变量x x = df[["exposure", "hot", "search"]] # 以二维结构读取"new_user",作为因变量y y = df[["...","hot","search"这三列,作为自变量x x = df[["exposure", "hot", "search"]] # 以二维结构读取"new_user",作为因变量y y = df[["

    49110

    扩展的多曝光图像合成算法及其在单幅图像增强中的应用。

    Fusion》的论文,基本上有效的避免了《Exposure Fusion》的这两个缺陷,并且以此为基础,将Exposure Fusion扩展到了单幅图像的增强中。   ...一、Extended Exposure Fusion  这个文章虽然篇幅有十几页,但是实际上核心的东西就是一个:无中生有,即我们从原始的图像数据序列中fu在继续创造更多的图像,然后利用Exposure...因此可以明显的看出,这个算法的速度要比Exposure Fusion至少慢M倍。   ...就以上述图为例,Beta设置为0.5,我们金字塔层数都设置为8,Exposure Fusion和Extended Exposure Fusion的融合效果分别如下所示:           Exposure...二、Simulated Exposure Fusion   那么这篇文章的作者和Extended Exposure Fusion其实是一个人,所以他们文章的思路其实是想通的。

    1.2K20
    领券