如何评价5月14日老黄在gtc2020大会公布的新品？
首先，可以回顾一下NVIDIA Tesla计算卡的进化历程。
A100的五大技术突破
- 采用TSMC针对NVIDIA优化的七纳米工艺，使用一种叫CoWoS(Chip-on-Wafer-on-Substrate)的晶元封装技术。该技术将内存和晶元置于同一基板上，从而使其能够以惊人的速度互操作。采用了HBM2显存，具有1.5 TB的显存带宽，这是历史上第一个轻松提供每秒TB级带宽的处理器。
2. 全新的Tensor Core架构，它有一种新的数值格式Tensor Float32。这种格式有FP32的指数范围和FP16的精度范围。对于FP32的输入数据，会使用Tensor Float32进行处理，并将结果仍以FP32输出。因此，训练时完全不需要更改代码。对于某些「忍者」级的开发者，可以使用FP16来优化训练。但是我们的经验是，当今世界绝大多数只训练FP32。因此，有了FP32格式，无需代码修改。突然之间，我们可以大幅加快训练速度。
3. Ampere还有新针对稀疏性的Tensor Core加速能力，这种新的效率技术利用了AI数学固有的稀疏性， 对稀疏AI张量Ops进行优化，将性能提高了一倍，支持TF32、FP16、BFLOAT16、INT8和INT4。
A100稀疏化TF32的峰值训练性能几乎是Volta的20倍
4. Ampere有个称为MIG的新架构，代表多实例GPU。它能将一个CPU转换成多个GPU，可以把它当做一个GPU，或者最多7个独立的GPU来使用，也可以选择二者之间的某种组合。因此对于推理和公有云，与其让一个人使用GPU，不如对其进行分割。创建7个不同的实例，以便每个客户都能使用一个较小的GPU，现在可以灵活的做到这一点。
https://www.zhihu.com/video/1251828902764462080 5. 第三代NVIDIA NVLink互联技术：使GPU之间的高速连接加倍，可将多个A100 GPU连成一个巨型GPU来运行，从而在伺服器上提供高效的性能扩展。GPU到GPU的带宽为600GB/s。
发布于 2020-06-05继续浏览内容
知乎发现更大的世界打开
Chrome继续
石村的话你也信学习U3D中，电脑问题请私信
看这个主题好像是自动驾驶，深度学习，实时渲染实时光追，HPC应该是高性能计算用的显卡（工作站那种...）还有人工智慧，应该没有我们玩家啥事
果然发布了新一代Tesla，Tesla A100砍了20组SM，也就是1280cuda，Tensor核心也砍了，半精度较Tesla V100翻倍还多，540亿晶体管，7nm属实恐怖，这样看以后还有满血版本的GA100，看之前给的数据满血版应该是8192CUDA
这个是完整规格的GA100，8个GPC，64个TPC，128组SM...
看这个主题好像是自动驾驶，深度学习，实时渲染实时光追，HPC应该是高性能计算用的显卡（工作站那种...）还有人工智慧，应该没有我们玩家啥事
果然发布了新一代Tesla，Tesla A100砍了20组SM，也就是1280cuda，Tensor核心也砍了，半精度较Tesla V100翻倍还多，540亿晶体管，7nm属实恐怖，这样看以后还有满血版本的GA100，看之前给的数据满血版应该是8192CUDA
这个是完整规格的GA100，8个GPC，64个TPC，128组SM...
Tesla A100啊...代替V100的，各方面都有提升。作为超算节点的计算卡是这么迭代的：M2090 -&> K20X/K80 -&> P100 -&> V100 -&> A100
整理了一张表
注：
FP64（双精度） FP32（单精度）给的是最大值，单位：GFLOPS
功耗为TDP，P100 之后给的是NVLink版本功耗
Tensorcore的FP16（半精度）是FP32的8倍，仅限P100之后的计算卡
参考：https://en.wikipedia.org/wiki/List_of_Nvidia_graphics_processing_units
太强了
神经网路的稀疏性大家知道的，一大部分接近0的权重占用了大量的计算资源和存储，演算法一般只能优化存储而无法优化计算。结果，英伟达直接搞了一个 New Tensor Core Accelerating for Sparsity。
这么说吧，tu102规模比gv100小点有限。
这次a100晶元晶体管是gv100的270%，下一代geforce只能说未来可期，性能可观，唯一的希望就是价钱你悠著点。
这次厨房直播，坐实了江湖传言的「刀法好」，接下来就看英特尔司睿博在洗漱间的表演了（狗头保命）
以下是原答案：
以为是直播，结果……呵呵呵
真是一点儿都懒得掩饰，之前NVIDIA在朋友圈搞了好多海报与视频传播，结果就是放了8段视频而已，这不是翻车是什么？
好歹也剪辑在一起放出来，让人看著像是直播一样。
最后，我发现，老黄家的烘焙铲子是真的多
震惊，老黄居然蹭华为流量
推荐阅读：
