文/編輯 | 言有三

AI修行之路系列文章是有三AI的代表性作品,共分為5個系列,分別是AI白身境,AI初識境,AI不惑境,AI有識境不可知。其中前4個系列我們會推出對應的文章,要求如上圖,目前已經更新完了30篇文章,白身境和初識境的文章匯總如下,沒有學習過的同學可以去補。

【AI白身境】深度學習從棄用windows開始

【AI白身境】Linux幹活三板斧,shell、vim和git

【AI白身境】學AI必備的python基礎

【AI白身境】深度學習必備圖像基礎

【AI白身境】搞計算機視覺必備的OpenCV入門基礎

【AI白身境】只會用Python?g++,CMake和Makefile瞭解一下

【AI白身境】學深度學習你不得不知的爬蟲基礎

【AI白身境】深度學習中的數據可視化

【AI白身境】入行AI需要什麼數學基礎:左手矩陣論,右手微積分

【AI白身境】一文覽盡計算機視覺研究方向

【AI白身境】AI+,都加在哪些應用領域了

【AI白身境】究竟誰是paper之王,全球前10的計算機科學家

【AI初識境】從3次人工智慧潮起潮落說起

【AI初識境】從頭理解神經網路-內行與外行的分水嶺

【AI初識境】近20年深度學習在圖像領域的重要進展節點

【AI初識境】激活函數:從人工設計到自動搜索

【AI初識境】什麼是深度學習成功的開始?參數初始化

【AI初識境】深度學習模型中的Normalization,你懂了多少?

【AI初識境】為了圍剿SGD大家這些年想過的那十幾招

【AI初識境】被Hinton,DeepMind和斯坦福嫌棄的池化,到底是什麼?

【AI初識境】如何增加深度學習模型的泛化能力

【AI初識境】深度學習模型評估,從圖像分類到生成模型

【AI初識境】深度學習中常用的損失函數有哪些?

【AI初識境】給深度學習新手做項目的10個建議

下面我們重點還是再回顧一下AI不惑境已經更新的文章。

1、深度學習發展與數據的關係

深度學習成功源於三駕馬車,模型,數據和硬體,這背後最核心的還是數據,深度學習正是因為學會了從數據中抽象知識,纔能夠完成各種各樣的任務。

很久以前,我們只會使用抽象好的數據。

後來,我們學會了從數據中自己抽象特徵。

後來,我們發明瞭一個系統讓它去抽象特徵。

再到後來,我們想讓數據把系統也學了。

基於數據的池化策略,歸一化策略,優化方法,數據增強,模型搜索等技術全部都被技術人員廣泛研究,如果不熟悉,那就讀【AI不惑境】數據壓榨有多狠,人工智慧就有多成功先了解一下。

2、模型性能與深度之間的關係

深度學習模型之所以在各種任務中取得了成功,足夠的網路深度起到了很關鍵的作用。

那麼是不是模型越深,性能就越好呢?

為什麼加深可以提升性能?

我們又該如何定量評估深度與模型性能?

加深網路後會遇到哪些問題?

這些都是你學習的路上需要搞懂的。

【AI不惑境】網路深度對深度學習模型性能有什麼影響?

3、模型性能與寬度之間的關係

寬度,即通道(channel)的數量。在一定的程度上,網路越寬,性能越好。

為什麼需要足夠的寬度呢?

網路到底需要多寬?

網路寬度和深度誰更加重要?

如何更加有效地利用寬度?

這些也是你在學習的路上需要搞懂的。

【AI不惑境】網路的寬度如何影響深度學習模型的性能?

4、學習率和batchsize的微妙關係

學習率在深度學習模型訓練中是一個很敏感的參數,使得研究人員摸索出許多的優化學習率調整的方法。batchsize看似人畜無害,那是因為只有在性能需要進一步提升時表現才足夠明顯,這兩個參數之間是有耦合關係的,在實踐中經常一起調整。

那到底學習率如何影響模型性能??

batchsize如何影響模型性能?

它們之間又有什麼關係?

【AI不惑境】學習率和batchsize如何影響模型的性能?

5、殘差網路的前世今生與原理

在深度學習模型發展史中,殘差網路因其簡單而有效的結構與異常有效的結果而佔據了非常重要的位置,跨層連接在各種架構中都被使用。

那殘差網路究竟從何而來?

殘差網路為什麼有效呢?

殘差網路發展出了多少種結構?

【AI不惑境】殘差網路的前世今生與原理

6、分組卷積移動端高效網路

我們不僅追求性能更強的模型,更追求性價比更高的模型。在移動端高效的模型設計中,卷積拆分和分組幾乎是不可缺少的思想。

那麼它們究竟是如何高效?

本身又有哪些發展呢?

【AI不惑境】移動端高效網路,卷積拆分和分組的精髓

關於殘差網路,分組網路結構的發展和各種各樣的變種,大家可以移步有三AI知識星球獲取,有幾十套模型解讀。

【知識星球】超3萬字的網路結構解讀,學習必備

7、接下來還要講什麼

不惑境界要熟練玩轉深度學習模型架構和數據,所以接下來還會包括模型訓練技巧,數據使用,其他重要模型架構,有一些已經在有三AI知識星球中更新了,等不及的可以提前去學習。

如果你想配合修行之路進行實戰,那麼有三AI季劃,便是為你而來。

推薦閱讀:

相關文章