我们到底该不该继续发展人工智慧？
人工智慧确实方便了人们的生活，但是霍金曾经提出过三大警告，其中一个就和人工智慧有关，如果人继续发展无限制人工智慧的话，迟早会出大问题。而霍金就非常反对发展人工智慧。就像日本推出拟人机器人那样，就是在与霍金的警告背道而驰，大家对此怎么看？
我们目前的这点进展，离被人工智慧威胁还差得远，跟所谓的人工智慧威胁论更是一点都不沾边。
目前我还没看出有被人工智慧威胁的可能，倒是看出了继续发展的好处之所在。
所以，加油吧
谢 @桔了个仔 @Serendipity 邀。
其实这个问题可以分情况讨论的。
对于完全不懂人工智慧的群体来说，要发展人工智慧，因为它的发展可以在不损失你利益的前提下降低你的劳动成本，提升你的生活质量。
对于对于人工智慧有一点的了解并且可能有利益关系的群体来说，也要发展人工智慧，因为它可以提供更多的低劳动量的工作机会。
对于人工智慧从业者，更要发展人工智慧了，现在的也配叫人工智慧，只不过最初级阶段的低级人工智慧罢了，也可以叫人工智障。
首先列出观点: 我们必须继续发展人工智慧。
人工智慧就是新时代的核武器，潘多拉魔盒一旦被打开，就不会有停止。
举个大家最近很热点的隐私窃取为例：当你还在担心手机会不会偷偷录音窃取隐私的时候，已经有人用手机的加速感测器来间接「偷听」你们的说话了。
@Ele实验室 《App是不是在监听我们的谈话？》介绍了这种窃取隐私的可行性，通过加速感测器的振动信号，通过深度学习的方式来「预测」你的说话内容。
说话和行动时会产生振动，这些振动信息对应著特定的行为和说话内容。
手机的加速感测器获取三维的时频域振动信息，这种时序预测就是机器学习的强项了。
因此，仅提高用户的自我保护意识是不够的，现有技术的发展已经超乎大家认知水平，认为没有录音许可权就不会检测到说话内容、没有摄像头启动就没有人脸信息泄露，这些基于常识的内容正在被专业人士破解。
但是，时代的车轮推著人类的认知以及道德法律向前迈进，而科技的进步就是时代车轮的发动机。
让更多的人类更好地活下去，只能依靠科技的不断发展，未来的征途在星辰大海。
曾经我们造出了核武器，认为世界毁灭就系与一线之间，但在均衡中我们以核威慑减少了全面战争的爆发，使得各方能够保持克制；
如今我们发展人工智慧的程度还仅处于婴幼儿时期，真正的技术爆炸可能还需要等待下一次理论上的革新。
所以，向前吧！即使新时代没有载著老夫的船，但是请务必前进、前进、前进！
参考文献：Learning-based Practical Smartphone Eavesdropping with Built-in Accelerometer
霍金不是人工智慧专业，但也不是毫无依据民科。霍金的话是从非常长的时间上说的，但目前我们应该发展人工智慧。害怕人工智慧失控就不发展人工智慧，就好像害怕人类太多地球会毁灭就不敢吃自然界生物一样，完全没必要。
但霍金害怕的人工智慧是什么？他是这么说的
「它可能自行启动，以不断加快的速度重新设计自己。而人类局限于缓慢的生物进化过程，根本无法竞争，最终将被超越。」
霍金担心的是发展成这样形态的人工智慧：
而我们日常使用的人工智慧是：
霍金担不担忧我不确定，但董小姐她可能会感到担忧吧。人在家中坐，锅从天上来，自己做广告代言人，结果咋这被闯红灯了呢？
人工智慧目前发展到第三波，而人工智慧超越人类并且失控，可能得第n波之后吧（n我不确定是多少，但&>4是必须的，搞不好&>100都不行）。顺便说下，这三波分别是[1]：
第一波发生在1950年至1970年，当时的主要工作是计算机科学家在从事机器推理系统，同时发明了早期的神经网路和专家系统。这一时期的理论流派被称为符号主义。
第二波出现在1980年至2000年。我们现在讲的统计学派、机器学习和神经网路等概念，在这一阶段都已提出。此时的主流理论流派被称为联结主义。第三波是在2006年之后，主要得益于大数据的推广。谷歌利用大数据成功地对流感进行预测，引起了卫生部门的关注，这是大数据和人工智慧密切关联的一个重要例子。在这一波浪潮中，人工智慧技术及应用有了很大的提高，以神经网路为中心的演算法取得突破。
而尚未来临的第四波人工智慧浪潮可能会是怎么样的？李开复在《AI·未来》一书里是这么认为的：
自主智能化。这波浪潮是前三波的集大成者，也是顶峰。如果自动驾驶汽车能够运行的很好，也属于此类。当然，自主智能化的发展潜力远不止自动驾驶汽车，其将改变工厂、消防、城市、餐厅等等地方。机器将能够自主听到和看到我们周边的世界……
现在的人工智慧显然是远远没有这个水平的。现在的人工智慧需要顶尖科学家来设计，科学家来帮助它进化，进化失败，则轻轻点击一下停止按钮就好。而且即使发展到AI全方位智能水平超越人类，但如果AI不是物理化的存在（例如终结者里的机器人），那么人类依然拥有非常大权力的，AI失控，老子给你断电，你有种就从电脑里跳出来开电闸啊。AI，你过来啊！！！
而且即使李开复认为的这个第四波人工智慧浪潮来临，我也并不觉得人类需要害怕，可以看到，这个「第四波」的应用范围是有限，并非所谓的「通用人工智慧」。
有的人可能会想起GPT-3，人称回答水平能过图灵测试的人工智慧。但其实媒体也是展现出了cherry-picking之后的结果。我在下面这篇文章说，讲过GPT-3的一些失败回答：
你所在的研究领域里，有哪些工作的结果虽然不是造假，但是是精挑细选出来的??www.zhihu.com
问：长颈鹿有多少只眼睛?
答：长颈鹿有两只眼睛。问：我的脚有多少只眼睛?答：你的脚有两只眼睛。问：蜘蛛有多少只眼睛?答：蜘蛛有八只眼睛。问：太阳有多少只眼睛?答：太阳有一只眼睛。问：一棵草的叶子有多少只眼睛?答：草叶有一只眼睛。
显然，这时候GPT-3就被人耍了。这种结果没有媒体报道，因为搞不出大新闻。脚有两只眼睛？脚上长鸡眼了吗？
我还在下面这篇文章中举到了一些人工智障的例子
桔了个仔：什么样的人工智慧叫人工智障？?www.zhihu.com
我说到现在大多数情况下的基于深度学习的人工智慧，其实是薛定谔的人工智障。
前些天，一个「研究团队通过一副眼镜破解19款手机人脸识别」的新闻等上热搜，也说明的我上面这句话并非乱说的。人可以轻易用对抗训练样本来骗过人脸识别系统，这个新闻里，一个研究团队拿一个特殊的眼镜就能骗过人脸识别系统。而原理并不复杂，我之前在一个回答简单的讲了下。
桔了个仔：研究团队披露「一副眼镜破解 19 款手机人脸识别」，手机人脸识别可靠吗？普通用户信息被伪造了怎么办？?www.zhihu.com但我想说的是：
正常人类哪里干得出这种事？？？正常人哪可能被骗？？？
相比起人工智慧失控，我更担心的是我们过度信任解释性低的深度学习模型。Gary Marcus在《如何创造可信的AI》一书中说到：
第一是「轻信坑」，这是由于人类进化的现实过程还没有发展出清晰辨别人类与机器之间区别的能力，导致我们往往用基于人类的认知模式去看待机器的能力，从而容易轻信机器拥有人类般的智慧。第二是「虚幻进步坑」，每当AI技术的进展攻克了一类新的问题时，我们往往错误地假设AI技术就能解决以此推及的、现实世界中的类似任务。但是AI学术上的问题往往是定义在狭义而简化的假设下，而现实世界的具体任务都有很大的复杂性和不确定性。第三是「鲁棒坑」，受限于当前深度学习演算法和训练数据，对容错性很低特别是使命关键的应用领域比如无人驾驶等，今天的AI还没能达到实际「落地」的能力。马库斯告诫我们必须关注「AI鸿沟」，因为踩坑的代价是非常高的。
显然，这才是我们这个阶段发展人工智慧最该担忧的是，先别担忧人工智慧统治人类了。
（我在跑机器学习模型时，我家猫咪都看我代码了，猫咪马上学会AI，统治人类(*^ω^*)）
参考
- ^人工智慧发展正迎来第三波浪潮 http://www.xinhuanet.com/tech/2019-07/30/c_1124813935.htm
霍金先生不是搞人工智慧的，不用在意。
这领域守著不发展是在犯傻，这技术美国人搞的最欢，在没搞定之前当然是不希望别人去搞了，万一先搞出来呢。
人类文明的必经之路，想绕是绕不开的。
对于新事物，最好的结果是驾驭它，而不是惧怕它。
推荐阅读：
