AI 科技评论按：百度关于网络压缩和加速的论文《 Filter Pruning via Geometric Median for Deep Convolutional Neural Networks Acceleration》被 CCF A 类学术会议 CVPR 2019 收录为 Oral 论文，这篇论文提出了新的基于滤波器的几何中心（geometric median）的剪枝算法，来对神经网络进行压缩和加速。本文是论文作者之一何洋为 AI 科技评论提供的论文解读。
是定性与定量相结合的多准则决策、评价方法。将决策的有关元素分解成目标层、准则层和方案层，并通过人们的判断对决策方案的优劣进行排序，在此基础上进行定性和定量分析。它把人的思维过程层次化、数量化，并用数学为分析、决策、评价、预报和控制提供定量的依据。
大纲 深度学习介绍 深度学习训练的技巧 神经网络的变体 展望 深度学习介绍 深度学习介绍 深度学习属于机器学习的一种。介绍深度学习之前，我们先大致了解一下机器学习。 机器学习，拿监督学习为例，其本质上是要找到一个函数映射：输入数据（也就是训练样本）通过函数映射（也就是我们的机器学习算法）到输出空间上（也就是目标值，如果是分类问题，映射到某一类上）。 $$Meachine Learning \approx LookingFor A Function.$$ 那么我们如何从一个函数空间里找到目标函数呢？这里
优化语义分割模型常用的损失有Soft Jaccard损失，Soft Dice损失和Soft Tversky损失，但它们都和软标签不兼容，所以无法支持一些重要的训练技术（例如标签平滑，知识蒸馏，半监督学习，多标注员等）。
本系列为吴恩达老师《深度学习专项课程(Deep Learning Specialization)》学习与总结整理所得，对应的课程视频可以在这里查看。
因为标题长度有限，所以把Face Recognition简写成F R，论文题目应为《Attribute-Enhanced Face Recognition with Neural Tensor Fusion Networks》 1 需要解决的问题（Problem） 从稳定的到大的变化的状态（例如：姿势、光照、表情变化），使用深度学习方法所得到的特征仍存在缺陷。 2 所使用的方法（Method） 作者提出了一种基于张量的融合结构，能够有效的融合面部识别特征（FRF）与面部属性特征（FAF）。为了解决普通模型参
“人工智能前沿讲习班”(AIDL)由中国人工智能学会主办，旨在短时间内集中学习某一领域的基础理论、最新进展和落地方向，并促进产、学、研相关从业人员的相互交流。对于硕士、博士、青年教师、企事业单位相关从业者，预期转行AI领域的爱好者均具有重要的意义。2018年AIDL活动正在筹备，敬请关注公众号获取最新消息。
来源：AI公园 深度学习爱好者本文约2700字，建议阅读6分钟本文介绍了利用变分推断进行分割置信度的预测。 在过去的十年里，深度学习在一系列的应用中取得了巨大的成功。然而，为了验证和可解释性，我们不仅需要模型做出的预测，还需要知道它在做出预测时的置信度。这对于让医学影像学的临床医生接受它是非常重要的。在这篇博客中，我们展示了我们在韦洛尔理工学院进行的研究。我们使用了一个基于变分推理技术的编码解码架构来分割脑肿瘤图像。我们比较了U-Net、V-Net和FCN等不同的主干架构作为编码器的条件分布采样数据。我们
这是卷积神经网络学习路线的第五篇文章，主要为大家介绍一下卷积神经网络的参数设置，调参技巧以及被广泛应用在了哪些领域，希望可以帮助到大家。
编者按：时空融合（Spatiotemporal fusion）是三维卷积神经网络（3D CNNs）的关键要素，它决定了网络前馈过程中每一层如何提取、融合空间信号和时间信号。目前已有的时空融合分析方法囿于过大的网络训练开销，仅能对有限数量的融合策略进行网络级别分析。微软亚洲研究院将时空融合策略嵌入到预先定义的概率空间，从而能够对任意多种融合策略进行网络级评估，而不必分别训练它们，极大地提高了针对时空融合策略的分析效率。
https://keras.io/api/metrics/classification_metrics/#precision-class
5月29日，Science刊登了一篇标题为“人工智能某些领域的核心进展一直停滞不前”的文章，在文章里，作者Matthew Hutson提到：一些多年之前的“老算法”如果经过微调，其性能足以匹敌当前的SOTA。
论文 | Stock Market Prediction via Deep Learning Techniques: A Survey
最近一部分的内容将会比较容易，将和大家一起讨论GAN的评价指标，也没有太难以理解的东西，希望大家踊跃讨论，欢迎留言。
图神经网络在处理基于图数据问题方面取得了巨大的成功，受到了广泛的关注和应用。GNNs通常是基于消息传递的方式设计的，本质思想即迭代地聚合邻居信息，而经过
分享一篇来自CVPR2024的视频插帧工作《Perception-Oriented Video Frame Interpolation via Asymmetric Blending》。
论文地址：https://arxiv.org/pdf/2001.06937.pdf
本文是SIGAI公众号文章作者编写的机器学习和深度学习习题集（上），是《机器学习-原理、算法与应用》一书的配套产品。此习题集课用于高校的机器学习与深度学习教学，以及在职人员面试准备时使用。为了帮助高校更好的教学，我们将会对习题集进行扩充与优化，并免费提供给高校教师使用。对此感兴趣的在校教师和学生可以通过向SIGAI微信公众号发消息获取。习题集的下半部分、所有题目的答案将在后续的公众号文章中持续给出。
上面这个公式就是Bellman方程的基本形态。从公式上看，当前状态的价值和下一步的价值以及当前的反馈Reward有关。它表明价值函数（Value Function）是可以通过迭代来进行计算的!!!
深度神经网络模型被广泛应用在图像分类、物体检测等机器视觉任务中，并取得了巨大成功。然而，由于存储空间和功耗的限制，神经网络模型在嵌入式设备上的存储与计算仍然是一个巨大的挑战。
文本生成目前的一大瓶颈是如何客观，准确的评价机器生成文本的质量。一个好的评价指标（或者设置合理的损失函数）不仅能够高效的指导模型拟合数据分布，还能够客观的让人评估文本生成模型的质量，从而进一步推动text generation 商业化能力。
MachineLearning Yearning Sharing 是北京科技大学“机器学习研讨小组”旗下的文献翻译项目，其原文由Deep Learning.ai 公司的吴恩达博士进行撰写。本部分文献翻译工作旨在研讨小组内部交流，内容原创为吴恩达博士，学习小组成员只对文献内容进行翻译，对于翻译有误的部分，欢迎大家提出。欢迎大家一起努力学习、提高，共同进步！
一场完美的交响乐演出，指挥家需要充分结合每位演奏者和乐器的特点，根据演奏曲目把控节奏，才能将曼妙的音符传送到所有听众的耳中。
从本系列文章开始，作者正式开始研究Python深度学习、神经网络及人工智能相关知识。前五篇文章讲解了神经网络基础概念、Theano库的安装过程及基础用法、theano实现回归神经网络、theano实现分类神经网络、theano正规化处理，这篇文章讲解神经网络的评价指标、特征标准化和特征选择，均是基础性知识。主要是学习"莫烦大神" 网易云视频的在线笔记，后面随着深入会讲解具体的项目及应用。基础性文章和在线笔记，希望对您有所帮助，本系列作者采用一篇基础一篇代码的形式讲解，也建议大家一步步跟着学习，同时文章中存在错误或不足之处，还请海涵~
随着 LFI 技术的发展，光场图的应用变得日益广泛。LFI 中包含了更多的信息，包括光强信息和光线角度等信息。但是和传统图像相同的是，LFI 在压缩，传输等环节也会产生不同程度的失真，因此，如何评价失真的 LFI 质量，对我们实际应用 LFI 有重要的指导意义。
摘要：本文主要介绍阿里的深度兴趣网络DIN模型。为了解决推荐领域中用户历史行为包含大量用户兴趣信息，但只有一小部分用户兴趣信息会最终影响用户点击行为的问题，阿里引入Attention机制提升相关商品的权重同时降低非相关商品的权重，最终实现对用户历史行为进行加权的目的。同时讲了DIN模型中其他具有借鉴价值的工程实践，包括自适应正则Regularization、自适应激活函数Dice和评价指标使用GAUC替代AUC。
文本分类是一种基于自然语言处理技术，对给定的文本进行分类的方法。具体而言，文本分类将一篇文本分配到一个或多个预定义的类别中，这些类别通常是事先定义好的，例如新闻、评论、垃圾邮件、商品分类等。 文本分类在实际应用中有着广泛的应用，例如在舆情监控、垃圾邮件过滤、新闻分类、商品分类、情感分析等领域。通过对海量文本数据进行分类，可以帮助用户快速准确地获得所需信息，从而提高效率。此外，文本分类还可以帮助企业识别消费者的意见和情感倾向，为其提供更好的产品和服务，增强市场竞争力。
近些年来，注意力机制一直频繁的出现在目之所及的文献或者博文中，可见在nlp中算得上是个相当流行的概念，事实也证明其在nlp领域散发出不小得作用。这几年的顶会paper就能看出这一点。本文深入浅出地介绍了近些年的自然语言中的注意力机制包括从起源、变体到评价指标方面。
来源：专知本文约5000字，建议阅读9分钟最新视频视频标题生成与描述研究综述论文。 视频标题生成与描述是使用自然语言对视频进行总结与重新表达. 由于视频与语言之间存在异构特性, 其数据处理过程较为复杂. 本文主要对基于“编码−解码” 架构的模型做了详细阐述, 以视频特征编码与使用方式为依据, 将其分为基于视觉特征均值/最大值的方法、基于视频序列记忆建模的方法、基于三维卷积特征的方法及混合方法, 并对各类模型进行了归纳与总结. 最后, 对当前存在的问题及可能趋势进行了总结与展望, 指出需要生成融合情感、逻辑
对话系统 人机对话系统分为任务型对话和非任务型对话系统。对于任务型对话系统的评价，一般采用任务完成的程度来进行评估，例如“导购”机器人，主要看用户是否点击“推荐商品”等来评估。非任务型对话系统，一般是闲聊系统，若是多轮对话，一般使用用户与机器之间进行对话的轮数来评估系统优劣。但是若是单轮对话呢，如何评价机器给出回复的好坏？对于给定一句话的回复，不同的人可以给出不同的答案，只要自圆其说即可，如此开放的回复空间，评价回复的好坏实属困难。 而目前并没有什么公认的评价指标可以更好地对对话系统的回复进行评价。很多论文
摘要：时间序列一般是指对某种事物发展变化过程进行观测并按照一定频率采集得出的一组随机变量。时间序列预测的任务就是从众多数据中挖掘出其蕴含的核心规律并且依据已知的因素对未来的数据做出准确的估计。由于大量物联网数据采集设备的接入、多维数据的爆炸增长和对预测精度的要求愈发苛刻，导致经典的参数模型以及传统机器学习算法难以满足预测任务的高效率和高精度需求。近年来，以卷积神经网络、循环神经网络和 Transformer 模型为代表的深度学习算法在时间序列预测任务中取得了丰硕的成果。为进一步促进时间序列预测技术的发展，综述了时间序列数据的常见特性、数据集和模型的评价指标，并以时间和算法架构为研究主线，实验对比分析了各预测算法的特点、优势和局限；着重介绍对比了多个基于 Transformer 模型的时间序列预测方法；最后结合深度学习应用于时间序列预测任务存在的问题与挑战对未来该方向的研究趋势进行了展望。（文末附论文下载地址）
本文介绍了机器学习中模型性能评价的基本概念、常用评价指标、评价方法的分类以及具体案例。包括准确率、精确率、召回率、F1分数、ROC曲线、AUC值、混淆矩阵、损失函数、准确率与混淆矩阵、召回率与F1分数、ROC与AUC等。在评价方法中，介绍了交叉验证、留一法、时间序列法等具体方法。最后介绍了如何通过human-level performance和bayes optimal error来评价模型性能以及提高模型性能的常见方法。
当我们最初得到一个深度神经网络模型时，我们可能希望从很多方面来对它进行优化，例如：
本次分享的文章是2023年收录在计算机视觉领域的顶刊“CVPR”（级别：视觉类TOP）期刊上。该期刊详细信息可关注公众号 AI八倍镜 点击菜单项查询。 论文地址：https://arxiv.org/abs/2305.15692
机器学习起源于上世纪50年代，1959年在IBM工作的Arthur Samuel设计了一个下棋程序，这个程序具有学习的能力，它可以在不断的对弈中提高自己。由此提出了“机器学习”这个概念，它是一个结合了多个学科，如概率论、优化理论、统计等，最终在计算机上实现自我获取新知识，学习改善自己的这样一个研究领域。机器学习是人工智能的一个子集，目前已经发展处许多有用的方法，比如支持向量机，回归，决策树，随机森林，强化学习，集成学习，深度学习等等，一定程度上可以帮助人们完成一些数据预测，自动化，自动决策，最优化等初步替代脑力的任务。本章我们主要介绍下机器学习的基本概念、监督学习、分类算法、逻辑回归、代价函数、损失函数、LDA、PCA、决策树、支持向量机、EM算法、聚类和降维以及模型评估有哪些方法、指标等等。
近年来，通过神经架构搜索（NAS）算法生成的架构在各种计算机视觉任务中获得了极强的的性能。然而，现有的 NAS 算法需要再上百个 GPU 上运行 30 多天。在本文中，我们提出了一种基于多项式分布估计快速 NAS 算法，它将搜索空间视为一个多项式分布，我们可以通过采样-分布估计来优化该分布，从而将 NAS 可以转换为分布估计/学习。
今天的这篇文章分别从数据方面和模型方面分析了导致模型训练不收敛或失败的原因，数据方面总结了四种可能的原因，模型方面总结了九种可能的问题。除此之外，文章介绍了每种潜在问题的产生后果或现象，并提供了常规做法。
在面对模型不收敛的时候，首先要保证训练的次数够多。在训练过程中，loss并不是一直在下降，准确率一直在提升的，会有一些震荡存在。只要总体趋势是在收敛就行。若训练次数够多（一般上千次，上万次，或者几十个epoch）没收敛，再考虑采取措施解决。
Neighborhood Spatial Aggregation based Efficient Uncertainty Estimation for Point Cloud Semantic Segmentation (2021-ICRA)
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
腾讯会议
实时音视频
