有點好奇

如果你是問常規意義上的演算法。二分，DFS，BFS，DP，GREEDY，排序？

如果問應用？推薦演算法？

2020年會議定於明年4月26日舉行，但是論文提交截止日期已經過去了。這次會議共提交了2585份論文，比2019年多了約1000份論文. 今年提交論文：

深度學習成為常規操作：

我們分析了過去三年里ICLR所有提交的論文的摘要和關鍵詞，來看看哪些是新的風口，而哪些議題正在消逝。今年，28%的論文使用或聲稱使用了最新的演算法，所以準備接受大量的機器學習知識撲面而來吧！

可以說深度學習已經不再是一個前沿話題，而成了機器學習的正常操作。這也解釋了為什麼在關鍵詞中提及深度學習的數量有所減少——從2018年的19%下降到了2020年的11%

網路架構的革命？

圖神經網路（GNN，Graph Neural Networks）是這一年最熱門的話題之一。GNN是用於圖結構數據的深度學習架構。在醫學、社交網路分類和動態交互對象行為建模等應用中，GNN展示了其巨大優勢。關於GNN的論文數量的空前增長，從2018年的12篇發展到了2020年的111篇！

寂靜的GAN：

GAN是近些年最流行的話題，但是這個被稱之為「近二十年來機器學習領域最酷的想法」似乎已經被利用殆盡。生成對抗網路（GAN，Generative Adversarial Networks）能夠模擬任何數據分布，從而創造出令人印象深刻的全新人工圖像，但是GAN的火熱程度在下降。儘管最近由於deepfake等事件使得GAN一度在媒體報道中十分流行，但是從數據看它確實不如當年了。

讓機器來學習我們的機器學習

為你的神經網路找到一個合適的架構實在是一件令人頭禿的事。但是，不要害怕：神經體系結構搜索（NAS，Neural Architecture Search）來幫你。NAS是一個可以自動構建網路架構的方法。它已經被用於一些最新的演算法中用於提升圖像分類、對象識別或模型分割的效果。關於NAS的論文從2018年的僅僅5篇增長到2020年的47篇。

強化學習繼續表現穩定

關於強化學習（RL，Reinforcement Learning）的論文佔比基本保持不變。人們對這個話題的討論熱度不減——今年主要探討了強化學習在自動駕駛汽車、AlphaStar在《星際爭霸》上的成功以及機器人技術的進步上的應用。強化學習是機器學習的一個穩定分支，而且原因足夠充分：人們相信RL會在未來大有可為。

下一個風口再哪裡？

以上只是機器學習發展趨勢的一個縮影。明年的風口會在哪裡呢？這恐怕即使是最深度的神經網路也難以預測。但是人們對於機器學習的熱情仍然是上漲的，這也倒逼著研究人員提出更具創造性的觀點。有鑒於此，我們認為未來會有更多創造性的想法湧現出來，即使機器學習的趨勢發生了180度的大轉彎，也不必感到驚訝。

轉自:https://mp.weixin.qq.com/s/JGmUOI-FYLzyi8O_lsWaZw

最近這些年，深度學習方面的演算法是最熱門的。

（舉個例子）深度殘差收縮網路[1][2]是新近發表的一種深度學習演算法，通過在殘差網路中增加了軟閾值化層，增強深度學習在信噪比較低情況下的特徵學習能力，原理如下：

通過堆疊一系列上述基本結構，就可以獲得完整的深度殘差收縮網路：

M. Zhao, S. Zhong, X. Fu, B. Tang, M. Pecht, Deep residual shrinkage networks for fault diagnosis, IEEE Transactions on Industrial Informatics, 2020, 16(7): 4681-4690.

Deep Residual Shrinkage Networks for Fault Diagnosis?

ieeexplore.ieee.org

參考

  1. ^深度殘差收縮網路：從刪除冗餘特徵的靈活度進行探討 https://zhuanlan.zhihu.com/p/118493090
  2. ^深度殘差收縮網路：一種面向強雜訊數據的深度學習方法 https://zhuanlan.zhihu.com/p/115241985

演算法是否熱門，這個問題很難說，其實，熱門演算法可能對於學術界有更多吸引力，對於工業界而言，適合業務場景的演算法，也許都是熱門演算法吧！

工業以解決問題為主，學術界就扯各種深度學習強化學習等

xgboost

推薦閱讀：
相关文章