稀疏编码,即将数据向量建模为基本元素的稀疏线性组合,被广泛用于机器学习、神经科学、信号处理和统计领域。本文著重于学习基础集,也就是字典,以使其适应特定数据。这种方法最近被证明对音频和图像处理领域的信号重建和分类非常有效。
基于随机近似,本文提出了一种新的在线字典学习优化演算法,该演算法可以优雅地扩展到具有数百万个训练样本的大型数据集。本文包括收敛性证明,以及在自然图像上的实验,结果表明与小型和大型数据集的经典批处理演算法相比,本文提出的演算法可以带来更快的性能和更好的字典。
除了最佳论文与 Test of time Award 奖项,大会官方还公布了 7 篇最佳论文荣誉提名论文,分别为:
1. Analogies Explained: Towards Understanding Word Embeddings
作者:CarlAllen、Timothy Hospedales(爱丁堡大学)
论文地址:https:// arxiv.org/pdf/1901.0981 3.pdf
2. SATNet: Bridging deep learning and logical reasoning using a differentiable satisfiability solver
作者:Po-WeiWang、Priya L. Donti、Bryan Wilder、Zico Kolter(CMU、美国南加州大学、博世人工智慧研究中心)
论文地址:https:// arxiv.org/pdf/1905.1214 9.pdf
3. A Tail-Index Analysis of Stochastic Gradient Noise in Deep Neural Networks
作者:Umut ?im?ekli、L, event Sagun、Mert Gürbüzbalaban(法国巴黎-萨克雷大学、瑞士洛桑联邦理工学院、罗格斯商学院)
论文地址:https:// arxiv.org/pdf/1901.0605 3.pdf
4. Towards A Unified Analysis of Random Fourier Features
作者:Zhu Li,Jean-Fran?ois Ton,Dino Oglic,Dino Sejdinovic(牛津大学、伦敦国王学院)
论文地址:https:// arxiv.org/pdf/1806.0917 8.pdf
5. Amortized Monte Carlo Integration
作者:Adam Golinski、Yee Whye Teh、Frank Wood、Tom Rainforth(牛津大学、英属哥伦比亚大学)
论文地址:http://www. gatsby.ucl.ac.uk/~balaj i/udl-camera-ready/UDL-12.pdf
6. Social Influence as Intrinsic Motivation for Multi-Agent Deep Reinforcement Learning
作者:Natasha Jaques、Angeliki Lazaridou、Edward Hughes、Caglar Gulcehre、Pedro A. Ortega、DJ Strouse、Joel Z. Leibo、Nando de Freitas(MIT、DeepMind、普林斯顿高等研究院)
论文地址:https:// arxiv.org/pdf/1810.0864 7.pdf
7. Stochastic Beams and Where to Find Them: The Gumbel-Top-k Trick for Sampling Sequences Without Replacement
作者:Wouter Kool、Herke van Hoof、Max Welling(阿姆斯特丹大学、荷兰 ORTEC、加拿大 CIFAR)
论文地址:https:// arxiv.org/pdf/1903.0605 9.pdf
更多关于论文的录取结果,可以访问以下地址:
https:// icml.cc/Conferences/201 9/Schedule
ICML 2019 新变化
在公布了以上获奖内容之后,ICML 程序主席之一 Ruslan Salakhutdinov 介绍了此届 ICML 的两个新变化:高风险高奖励论文;提交代码。
我们知道,如果很多论文存在灌水的现象,而一些具有全新创造性的新论文或者新方向的论文可能在评审过程中就会被拒。
所以 ICML 2019 为这样的论文设计了 High Risk High Reward 特殊类别,也就是 5% 的接收论文属于高风险高奖励论文。
此外,ICML 2019 还公布了代码提交情况。
ICML 大会今年做出的一项重要改变是:为了促进可复现性,委员会鼓励提交的论文附带代码。根据大会公布的数据,首次出现的政策收获了不错的效果,在 3424 篇投稿中有 36% 的论文提交了代码,而在 774 篇接收论文中有 67% 的论文附带代码。
如此高的比例,看来明年的投稿论文作者需要认真考虑附加代码了。
推荐阅读: