马斯克提出人工智慧威胁论,认为未来人工智慧可能失控

扎克伯格则是从产业界,商业角度出发,开放的态度;


扎克伯格是为了挣钱,马斯克是为了人类。所谓无知者无畏,只有真正接近你的对手,才能知道它的可怕。

扎克伯格对AI持乐观态度,是因为AI可以帮他挣钱。

扎克伯格在美国国会听证时表示,Facebook将越来越依赖人工智慧来捕捉在该平台上传播的仇恨言论。「我乐观地认为,在5到10年的时间里,我们将会有一些人工智慧工具,能够在不同类型内容的语言差异中获得更准确的信息」。

扎克伯格表示,Facebook已经雇佣了15,000名审核员来筛选和删除攻击性内容,并计划在今年年底前再招聘5,000名审核员。但现在,审核员只能操作Facebook用户已经标记的攻击性帖子,相反,使用人工智慧来识别潜在的攻击性内容不仅速度更快,而且更容易删除不良内容

另外,再考虑一下扎克伯格的人设。

到了2017年,他才33岁,身家已经高达727亿美元(约4500亿元),是世界上第五有钱的人

更让人津津乐道的是他「不爱花钱」的传闻,什么「坐拥百亿资产却只穿廉价T恤」、「捐出99%身家」之类的,然而,事并不是这样。

千篇一律的灰色T恤一件2300元,16个保镖每年安保费4500万,4230万美元买下邻居4套房子

只为保证自己的隐私,而且,扎克伯格有一支堪称精英的摄影团队,他的每一张生活照,都经过了公关团队的精雕细琢。详情可查看此篇文章扎克伯格最大谎言曝光!身家4600亿,你真以为他只爱穿廉价灰T恤?

所以,扎克伯格是需要AI为他挣钱,保证虚荣也好,满足政治野心也罢。

马斯克,美国航天梦的典型代表,身家180亿美金,远不如扎克伯格有钱,但能自己砸钱造火箭,探索太空,并想在人类被AI危及的时候,做火箭一起飞到火星去~

在人工智慧领域,埃隆马斯克正在用他公司的资金、发明和创造力改变这个行业。详情可查看外媒 | 马斯克的人工智慧未来保卫战

所谓无知者无畏,只有真正接近你的对手,才能知道它的可怕。

如果觉得有点道理就赞同or关注一下吧~


我相信很多人是这么看的。马斯克(E.M)在十几岁就学会了编程。而且马斯克懂得高级的数学知识,量子力学,靠自学学习了火箭科学。扎克伯格编程倒是会,别的就?马斯克更让我想起上世纪的天才冯诺依曼。他们很相似。因此扎克伯格与马斯克,他俩谁的理解能力更强谁更博学一目了然。而且我觉得马斯克更有担当。

分割线-------------------------------

感觉扎克伯格跟马斯克相比完全是两个视野上的人。我越来越觉得这两个人没有可比性。

一:你们看看马斯克都在干些什么?

1:可持续能源问题。

我们教科书都快呼吁烂了的可持续能源,节约能源,核燃料也不是可持续能源,化石能源的即将枯竭,什么不痛不痒的风力水力发电。。。。马斯克理论上指明了答案,那就是太阳,对人类来说几乎永久存在的超大型核反应堆。然后就是收购solarcity和建立giga factory.这也许能解释Tesla的股票市盈率为什么长期是负值,投资者依然期望满满。聪明的人知道马斯克在干什么。

2.地球人口过剩与单星球人类灭绝风险。

马斯克提供了一个解决办法,先移民火星并且付诸实践,即SpaceX。

3.其他更智能物种带来的灭绝风险?人工智慧?

马斯克成立了人工智慧公司,用于研究人工智慧和增强进化人类自身。即Neuralink。在dota2世界邀请赛完虐dendi等大师级人物的人工智慧就是Neuralink公司研发。

二:反观扎克伯格,建立了facebook。我没看到他有什么高瞻远瞩的远景起码。

总结:这俩人完全不在一个档次。技术层面马斯克也更胜一筹。


elon有两个公司,小扎有一个公司。。。完全不同的方向。。。为了一个奇迹的定义外延内涵争论一下。。。没有什么问题啊?


从本质上来看,和所有的AI一样,人类各种行为的体现都可以看作各种演算法的输出。所以一个人实际上就是一个各种演算法的集成,只是很多方面比现有等级的AI高级了很多而已。

当一个AI,集成各种演算法,每一种都碾压现有人类,而且速度无限快(AI之间的交流接近光速,人类只能靠嘴巴文字),并无所不在(网路),没有任何人类的各种缺点(各种分歧影响效率,尔虞我诈,人权保护),人类将没有任何优势,全方位被碾压。

任何事物都有利弊两面,只看见利益或者只看见威胁都是片面的,人工智慧必将到来,因为它具有巨大的利益,威胁亦随之而来,但无需太过紧张,我们迟早会知道应该怎样正确地对待它,尽量趋利避害,就像我们当年面对原子弹一样


谢邀~~

在矽谷,一场关于技术及其潜在非预期后果的辩论,正在把整个行业分成两大敌对阵营——每个阵营都有一个大科技公司作为领袖人物。

一大阵营以Facebook的首席执行官马克·扎克伯格为代表人物,他认为科技在本质上是好的,任何社会或道德问题都可以在刚出现时得到处理(最好在没有太多监管的情况下)。矽谷也默认了这种理念,它通过乌托邦式的眼镜看待未来:问题是过去出现的,未来并不会很快到来。

另一阵营以特斯拉和SpaceX的首席执行官埃隆·马斯克为代表人物,他认为人们在处理人工智慧等技术问题时要谨慎,以免失去对自己产品的控制,并对扎克伯格的在线监控业务模式持保留态度。

他们两人都不否认技术,事实上,双方都坚持认为我们的未来取决于技术的快速发展(毕竟,马斯克正在向星际火箭和新太阳能经济倾注数十亿美元),但是剑桥分析丑闻却暴露了两人之间的意识形态分歧,以及他们所代表的技术态度的差异。

在剑桥分析公司丑闻爆发后的几天里,马斯克是Facebook上最引人注目的退出者之一。他选择删除了特斯拉和SpaceX两家公司的Facebook账户,两个账号总共拥有约500万名关注者。

他后来在推特上写到:「我们从来没有在Facebook上登过广告。我们只是不喜欢Facebook。它让我们觉得心惊肉跳。很抱歉。」(不过,他在Facebook旗下的Instagram账号并没有关闭,这里的粉丝总量达700万。)

这并不是马斯克和扎克伯格第一次在公开场合互怼。在人工智慧安全问题上,这两位CEO之间的分歧,如今已成为矽谷最受关注的行内纠纷之一。

马斯克希望控制人工智慧,他将人工智慧称为「人类文明存在的根本风险」。扎克伯格驳斥了这种观点,称其支持者为「唱反调的人」。在去年7月的Facebook直播中,扎克伯格补充道:「在某些方面,我认为这是相当不负责任的」。马斯克则在Twitter上迅速发声反驳:「我已经和马克谈过了,他对这个问题的理解很有限。」

两人对科技风险和回报的看法都体现在各自的公司运营上。

扎克伯格以「快速行动,打破陈规」这句名言而闻名,Facebook从2004年的一项大学校园实验迅速发展成为互联网聚合器,注册用户超过20亿。Facebook将世界视为一个无限的试验,一种低风险、高回报的测试,这确实可以产生利润,虽然并不是一直往前发展。

扎克伯格的主要关注点一直是向尽可能多的人提供数字技术的成果,越快越好。他曾说道:「我对此有非常强烈的看法。我很乐观。我认为你可以做一些事情,世界也会因此变得更好。」

马斯克的公司业务涉及电动汽车和太空旅行,在这些领域,即使是小错误也会带来灾难性的后果。如果特斯拉的座右铭是「快速前进,打破常规」,那么没有人会购买特斯拉汽车。

想想特斯拉发布Autopilot自动驾驶仪测试版的决定,这在某种程度上导致了2016年的那场悲剧。乔舒亚·布朗以每小时70英里的速度将他的特斯拉Model S撞到一辆拖拉机挂车上。这是首次有记录的与自动驾驶有关的死亡事故。

美国国家运输安全委员会将事故原因归咎于驾驶员的失误和对汽车自动驾驶的过度依赖,但该委员会也明确指出,特斯拉未能确保司机在高速行驶时注意驾驶安全,并且也没有将Autopilot限制在合适的道路上使用。

2018年3月23日,在另一起致命事故发生后,Autopilot安全问题再次成为新闻焦点。特斯拉称,在事故发生前,司机的手已经离开了方向盘6秒钟。特斯拉推出Atutopilot的决定被认为不太成熟,它匆忙地想赶在竞争对手之前将自动驾驶专业技术收集起来。当然,这一决定也可能看成是尽快部署救生技术的真诚努力。

从哲学角度来说,马斯克的公司是被一种「人类需要逃生舱」的理念所驱动的。这不是巧合,他的公司业务包括气候变化和星际探索,更不用说人工智慧安全、脑机介面和地下交通了。他认为,人类灭绝的可能性比我们想像得要大得多,无论是因为科技对我们的物种造成的风险(比如温室气体排放或是背叛的机器人),还是因为自然灾害(比如迷路的小行星)。

一位对两家公司都很熟悉的矽谷知名投资者表示:「马克的公司是围绕快速发生、低价值的事情建立起来的,而埃隆的公司则完全建立在一个灾难性事件可能发生的前提之上。反过来,这就是他们的盲点……归根结底,你想要冒多大的风险,你愿意承担多少意想不到的后果。」

在扎克伯格的阵营中,有谷歌联合创始人拉里·佩奇、发明家兼作家雷·库兹韦尔,以及计算机科学家吴恩达。吴恩达是人工智慧领域的知名人物,曾负责百度的人工智慧部门。所有这三个人似乎都认同这样一种理念:技术进步几乎总是带来积极的影响,而阻碍这一进步不仅是糟糕的,而且是有违道德的,因为它剥夺了整个社会的利益。

在另一个阵营中,与比尔盖茨、已故物理学家史蒂芬·霍金以及山姆·阿尔特曼和弗雷德·威尔逊等风险投资人并肩,马斯克并不认为所有的技术进步都绝对是好事,因为这个原因,他们对监管持开放态度。

例如,在特朗普当选后,威尔逊对旧金山的听众说,虽然预期的监管回调可能会刺激创新,但这不值得:「我愿意支付监管机构对我们行业的良好监管所带来的税收。」2017年,马斯克向政界人士谈到了掌管人工智慧的紧迫性,他在一次美国州长会议上对与会者说,「我一直在敲响警钟,但直到人们看到机器人在街上杀人的时候,他们才会意识到手足无措。」

矽谷两大对立观点的核心在于,最后究竟是谁来统治的问题:是我们统治技术,还是它统治著我们?矽谷的大多数人都和扎克伯格一样,能在矽谷立足的总是那些相信自己能掌控自己和我们的命运的乐观主义者。而矽谷也几乎没有空间让人们自我怀疑,亦或是为自己的创造所带来的负面影响感到担忧。

这位投资者说:「如果Facebook、微软、谷歌和苹果这些公司的创始人不太相信自己能做一些有意义的事情,你就不会看到这些公司的出现。你必须相信,在每个人都认为自己会失败的情况下,希望依然存在。你建立了一种文化,以及有意地去相信这种文化的公司。」

这一理念正是Facebook成功的动力,也是Facebook未能预见到其监控策略和隐私政策的后果,并且没有考虑到新技术的风险的核心原因。扎克伯格在自家后院的烧烤派对中说:「相比建立企业或确保我们不会失败,我确信我们对世界的影响更大,也更有动力推动改变。在我的生活中,我更担心的是我们不会最大限度地利用机会,而不是把事情搞砸,生意做得不好。」

扎克伯格的观点没错。乐观对于技术进步来说必不可少。但是,伴随著良好意图而带来的意想不到的后果会让人们在晚上像马斯克一样夜不能寐。

今年2月,马斯克在迪拜举行的世界政府首脑会议上表示:「有时候,科学家会全神贯注地工作,以至于他们没有真正意识到自己在做什么。」今天,计算机科学家正在思考他们的领域是否会出现惊天动地的时刻。1945年,物理学家罗伯特·奥本海默在「三位一体」试验基地上空观测蘑菇云,这是世界上第一次核试验,他引用了印度史诗《博伽梵歌》中的一句话:「现在我变成了死亡,世界的毁灭者。」

前谷歌安全与隐私工程师约纳坦·尊格尔将软体工程师的力量比作「孩子们在满是AK-47的玩具店里」。他写到:「对于软体设计来说,现在愈发清楚的是,考虑安全与伦理的选择而不是一些基础性的选择是多么危险。计算机科学是一个尚未遇到后果的领域」。

我们轻而易举便能了解下一波科技会如何发展。人类生活的方方面面——我们的食物、我们的工作、亲密的互动、甚至是我们的DNA本身——正在、或者很快将被我们所拥抱的技术所调节。

机器现在可以识别语音和文字,图像将是它的下一个目标。演算法知道你的脸,以及数百万你同胞的面孔。他们可以更准确地推断出一个人的收入、心理健康、性别、信誉、性格、感情等方面的信息。一些可能的发明,比如武器化的演算法,已经被比作「核武器,不过是破坏力更强的那种」。在接受《名利场》杂志采访时,萨姆·阿尔特曼描述了当时预期的危险,他说:「这是一个激动人心的时刻,因为在未来的几十年里,我们要么走向自我毁灭,要么继续人类的代代繁衍,最终征服宇宙。」

问题是,人类在预测和减轻新技术的危险方面的表现一直不太理想。当汽车首次被引入时,汽车给人类世界造成了几十年的混乱,直到有人鼓起勇气实施规则来管控。上世纪30年代,美国各州终于开始要求司机持驾驶执照方能上路开车,而系统性的联邦汽车安全措施,比如系安全带,则是直到20世纪60年代才开始实行。

我们可能没有那么多的时间去尝试和适应新的技术。当机器人还不能打开门、Siri也难以预定餐馆的时候,人们很容易嘲笑由人工智慧而产生的恐惧。但是,如果你接受的训练是思考一个低概率灾难所带来的后果,在灾难来临之后,任何的修复是不可能的,因此,采用一个更黑暗的观点是有道理的。最好是管控住这些可能造成灾难后果的因素,而不是任由你创造的作品没有任何束缚地进入这个世界。


MIT物理学家泰格马克认为,超级人工智慧的真正风险不在于它有没有恶意,而是它非常善于实现自己的目标,如果这些目标跟人类的目标不一致,人类就会陷入困境。

最近的人工智慧会议上,google、facebook等公司都大谈ai前景与好处,对潜在威胁都含糊其辞。 原因也很好理解,商业公司的公关不都这样么? 客观地说出ai的坏处让自己股票降价?所以小扎的说法很是"商业模式的"。

虽然马斯克说"ai会失控,人类要前往太空躲避灾难"有宣扬spacex的嫌疑,但根据他"总做领先时代的事业,连薪水都不要"的作风,我更相信他是认识到ai威胁所以说真话。

但超级人工智慧要很久之后才可能实现,现在讨论意义不大。不管两位怎么争执,ai发展都是必要也必然的。对于威胁,到ai高级阶段人们会做防御的。


我不认得他们。未来的可能性太多了,应该把选择权掌握在自己手里,去创造未来而不是去猜测未来。

20世纪50年代,以美国为首的人发动了朝鲜战争,全世界都在猜测中国的反应,只有毛泽东同志是不需要去猜的……


谢邀,首先,每个事情都有利有弊,每个人考虑的角度也不同;其次,这些大佬对人工智慧的看法也不一定具有代表性,说不定,未来真正的人工智慧大佬正蹲在马桶上码字……


然而毫无用处,不管怎么评论,没有实际的案例证明AI对人类有害,AI研究根本不会停。


推荐阅读:
相关文章