如何評價5月14日老黃在gtc2020大會公佈的新品？
首先，可以回顧一下NVIDIA Tesla計算卡的進化歷程。
A100的五大技術突破
- 採用TSMC針對NVIDIA優化的七納米工藝，使用一種叫CoWoS(Chip-on-Wafer-on-Substrate)的晶元封裝技術。該技術將內存和晶元置於同一基板上，從而使其能夠以驚人的速度互操作。採用了HBM2顯存，具有1.5 TB的顯存帶寬，這是歷史上第一個輕鬆提供每秒TB級帶寬的處理器。
2. 全新的Tensor Core架構，它有一種新的數值格式Tensor Float32。這種格式有FP32的指數範圍和FP16的精度範圍。對於FP32的輸入數據，會使用Tensor Float32進行處理，並將結果仍以FP32輸出。因此，訓練時完全不需要更改代碼。對於某些「忍者」級的開發者，可以使用FP16來優化訓練。但是我們的經驗是，當今世界絕大多數只訓練FP32。因此，有了FP32格式，無需代碼修改。突然之間，我們可以大幅加快訓練速度。
3. Ampere還有新針對稀疏性的Tensor Core加速能力，這種新的效率技術利用了AI數學固有的稀疏性， 對稀疏AI張量Ops進行優化，將性能提高了一倍，支持TF32、FP16、BFLOAT16、INT8和INT4。
A100稀疏化TF32的峯值訓練性能幾乎是Volta的20倍
4. Ampere有個稱為MIG的新架構，代表多實例GPU。它能將一個CPU轉換成多個GPU，可以把它當做一個GPU，或者最多7個獨立的GPU來使用，也可以選擇二者之間的某種組合。因此對於推理和公有雲，與其讓一個人使用GPU，不如對其進行分割。創建7個不同的實例，以便每個客戶都能使用一個較小的GPU，現在可以靈活的做到這一點。
https://www.zhihu.com/video/1251828902764462080 5. 第三代NVIDIA NVLink互聯技術：使GPU之間的高速連接加倍，可將多個A100 GPU連成一個巨型GPU來運行，從而在伺服器上提供高效的性能擴展。GPU到GPU的帶寬為600GB/s。
發佈於 2020-06-05繼續瀏覽內容
知乎發現更大的世界打開
Chrome繼續
石村的話你也信學習U3D中，電腦問題請私信
看這個主題好像是自動駕駛，深度學習，實時渲染實時光追，HPC應該是高性能計算用的顯卡（工作站那種...）還有人工智慧，應該沒有我們玩家啥事
果然發布了新一代Tesla，Tesla A100砍了20組SM，也就是1280cuda，Tensor核心也砍了，半精度較Tesla V100翻倍還多，540億晶體管，7nm屬實恐怖，這樣看以後還有滿血版本的GA100，看之前給的數據滿血版應該是8192CUDA
這個是完整規格的GA100，8個GPC，64個TPC，128組SM...
看這個主題好像是自動駕駛，深度學習，實時渲染實時光追，HPC應該是高性能計算用的顯卡（工作站那種...）還有人工智慧，應該沒有我們玩家啥事
果然發布了新一代Tesla，Tesla A100砍了20組SM，也就是1280cuda，Tensor核心也砍了，半精度較Tesla V100翻倍還多，540億晶體管，7nm屬實恐怖，這樣看以後還有滿血版本的GA100，看之前給的數據滿血版應該是8192CUDA
這個是完整規格的GA100，8個GPC，64個TPC，128組SM...
Tesla A100啊...代替V100的，各方面都有提升。作為超算節點的計算卡是這麼迭代的：M2090 -&> K20X/K80 -&> P100 -&> V100 -&> A100
整理了一張表
註：
FP64（雙精度） FP32（單精度）給的是最大值，單位：GFLOPS
功耗為TDP，P100 之後給的是NVLink版本功耗
Tensorcore的FP16（半精度）是FP32的8倍，僅限P100之後的計算卡
參考：https://en.wikipedia.org/wiki/List_of_Nvidia_graphics_processing_units
太強了
神經網路的稀疏性大家知道的，一大部分接近0的權重佔用了大量的計算資源和存儲，演算法一般只能優化存儲而無法優化計算。結果，英偉達直接搞了一個 New Tensor Core Accelerating for Sparsity。
這麼說吧，tu102規模比gv100小點有限。
這次a100晶元晶體管是gv100的270%，下一代geforce只能說未來可期，性能可觀，唯一的希望就是價錢你悠著點。
這次廚房直播，坐實了江湖傳言的「刀法好」，接下來就看英特爾司睿博在洗漱間的表演了（狗頭保命）
以下是原答案：
以為是直播，結果……呵呵呵
真是一點兒都懶得掩飾，之前NVIDIA在朋友圈搞了好多海報與視頻傳播，結果就是放了8段視頻而已，這不是翻車是什麼？
好歹也剪輯在一起放出來，讓人看著像是直播一樣。
最後，我發現，老黃家的烘焙鏟子是真的多
震驚，老黃居然蹭華為流量
推薦閱讀：
