9月29日,中国计算机学会(CCF)推荐的A类国际学术会议NeurIPS2021论文接收结果公布。中国人民大学高瓴人工智能学院师生有6篇论文被录用(2篇为spotlight)。神经信息处理系统大会(Neural Information Processing Systems,简称NeurIPS)由 NeurIPS 基金会主办,是机器学习和计算神经科学领域的顶级国际会议。NeurIPS2021录用率为26%,其中spotlight录用率仅为3%。
2021年1月至今,高瓴人工智能学院已发表或被录用CCF A类国际期刊或和会议论文67篇、CCF B类期刊和论文27篇。
论文介绍
论文题目:BernNet: Learning Arbitrary Graph Spectral Filters via Bernstein Approximation
作者:何明国,魏哲巍,黄增峰,许洪腾
通讯作者:魏哲巍,许洪腾
论文概述:当前许多具有代表性的图神经网络,如GPR-GNN和ChebNet,都使用图谱滤波器来近似图卷积。然而,现有的工作要么使用预定义的滤波器权重,要么在没有约束的情况下学习滤波器权重,这可能会导致滤波器过于简单或者不合理。为了克服这些问题,我们提出了BernNet,这是一种具有理论支持的新型图神经网络,它为设计和学习任意图谱滤波器提供了一种简单而有效的方案。对于图归一化拉普拉斯谱上的任何滤波器,BernNet通过一个K阶的Bernstein多项式逼近来估计它,并通过设置Bernstein基的系数来设计它的谱性质。我们的实验表明,BernNet可以学习任意的谱滤波器,包括复杂的带阻滤波器和梳状滤波器,并且在真实数据集图节点分类任务中取得了优异的性能。
论文介绍
论文题目:Compressed Video Contrastive Learning
作者:霍宇琦,丁明宇,卢浩宇,费楠益,卢志武,文继荣,罗平
通讯作者:卢志武
论文概述:自监督视频表示学习是一个最近备受关注的话题。由于视频是存储密集型的,并且包含丰富的视觉内容源,因此此类模型需具备高效的存储与计算能力。然而,大多数现有的方法只关注二者之一,没有同时考虑这两个目标。本文首次通过利用压缩视频和捕获两个输入流之间的互信息来同时实现看似矛盾的目标。我们提出了一种基于运动矢量的交叉制导对比学习方法。为了提高存储和计算效率,我们选择动态地直接解码压缩视频中的RGB帧和运动矢量。为了增强运动矢量的表示能力从而提高该方法的有效性,我们设计了一种基于多实例信息丢失的交叉引导对比学习算法,其中运动矢量可以从RGB帧获取监控信号,反之亦然。对两个下游任务的综合实验表明,该模型得到了最好的结果,同时比当前最优方法的效率要高。
论文介绍
论文题目:Stylized Dialogue Generation with Multi-Pass Dual Learning
作者:李金鹏,夏应策,孙宏达,赵东岩,刘铁岩,严睿
通讯作者:严睿,赵东岩
论文概述:风格化对话生成是智能对话系统中的一个重要组成部分,考虑到对话上文和目标风格回复之间缺乏平行语料,现有的工作主要使用back-translation的方法来生成用于训练的伪风格化数据对。然而,这些文本之间的交互信息并没有得到充分利用,生成的伪数据也没有得到充分而有效地建模。为了缓解上述问题,我们提出了包含三个对偶任务的multi-pass dual learning (MPDL)模型,通过无监督的方式在三个空间域之间建立映射关系,其中对话上文由MPDL重构,重构误差也作为训练信号的一部分。为了有效地评估伪数据的质量,我们引入了一个文本判别器,评测生成的伪数据与特定域的相似性,评测结果作为优化模型的权重,以减少低质量数据对模型性能的影响。本文在两个数据集上的实验结果表明,我们提出的模型比现有的基线模型有明显的效果提升。
论文介绍
论文题目:Refined Learning Bounds for Kernel andApproximate $k$-Means(Spotlights)
作者:刘勇
通讯作者:刘勇
论文概述:核kmeans是一类重要的聚类方法,其理论性质已被研究了数十年。然而,现有的风险界结果没有达到理论上的最优。本文中,我们研究了核kmeans 和基于Nyström的近似核kmeans的理论性质,并获得了理论上的最优聚类风险误差界。具体的,我们首先推导出面向经验风险最小化问题(ERM)的最优风险界,并进一步将其扩展到一般情况。然后,我们分析了Nyström 核kmeans的理论性质,证明其到达与原始核k-means相同统计精度的情况下只需O(根号n下标k)采样规模。最后,通过数值实验验证了理论发现。
论文介绍
论文题目:Towards Sharper Generalization Bounds for Structured Prediction
作者:李少杰,刘勇
通讯作者:刘勇
论文概述:本文研究结构预测问题的泛化性能,获得了最新的泛化界。我们的分析基于结构预测问题的因子图分解,从三个不同的角度提出了新的基于间隔的保证:利普希茨连续条件、平滑性条件和空间容量相关条件。在Lipschitz连续场景中,我们将现有边界对于标签空间基数的平方根依赖改进为对数依赖。在平滑场景中,我们提供的泛化界不仅关于标签空间基数是对数依赖,而且达到了n分之一的收敛速度,其中n是样本规模。在空间容量相关场景中,我们的泛化界达到了与标签空间基数无关的依赖,而且其收敛速度快于根号n分之一。在每个场景中,我们都提供了相应的应用,以说明这些条件很容易得到满足。
论文介绍
论文题目:Improved Learning Rates of a FunctionalLasso-type SVM with Sparse Multi-Kernel Representation(Spotlights)
作者:Shaogao lv, Junhui Wang, Jiankun Liu, Yong Liu
通讯作者:刘勇
论文概述:本文给出了具有稀疏多核表示的支持向量机(SVM)的风险界的理论结果。 这些多核 SVM 的收敛率是通过分析复合多核空间内的套索型正则化学习方案来建立的。实验结果表明,分类器收敛的预言率取决于多核的复杂性、稀疏性和伯恩斯坦条件以及样本大小,即使对于加性或线性情况,这也显着改善了先前的结果。 总之,本文不仅为多核SVM提供了统一的理论结果,而且也对高维非参数分析也带来新的结果。
检测到您当前使用浏览器版本过于老旧,会导致无法正常浏览网站;请您使用电脑里的其他浏览器如:360、QQ、搜狗浏览器的速模式浏览,或者使用谷歌、火狐等浏览器。
下载Firefox