最近看了一本小說,第一序列。裡面的幾大勢力其中就有人工智慧,幾座城都被有智商的人工智慧給控制著,人工智慧之間還可以交流,制定計劃。科幻小說很多,科幻電影也很多,都說創作來源於生活,未來的世界人工智慧真的會威脅人類嗎?


這件事在可預計的未來是不會發生的。這是因為當下人工智慧技術和像終結那樣的科幻片中的人工智慧並不是一回事。當下的人工智慧技術只是在神經網路的幫助下,讓機器的工作範圍從「只能應付有限規則的工作場景」進化到了「可以應付所有有明確數學規律的場景」。

所以當下的人工智慧技術是無法讓機器獨立思考的,它只能極大程度的提高機器在人類生產中的比重。所以,在可預計的未來內,我們不用擔心機器會威脅人類。在這段時間裡,機器只是工具,就算威脅到人類了也是因為背後操作機器的人類在威脅人類。機器本身是不具有意識的。

而在不可預計的未來,我認為機器也不會威脅到人類。除非人類計算機的底層設計被修改,否則,當前的人類計算機發展方向是無法負擔讓機器擁有自主意識的計算開銷的。為了說明這個問題,讓我引用一下自己寫的書《世界變化這麼快,我們該怎麼辦》中關於人工智慧的章節吧。

《世界變化這麼快,我們該怎麼辦》是我耗時五年寫出的一本關於思維方法的書,如果大家對於用方法來系統性的提高自己的思考效率有興趣,可以閱讀一下。這本書耗費了我五年的時間,所以部分章節需要收費,望大家可以諒解。

《世界變化這麼快,我們該怎麼辦》全書?

mp.weixin.qq.com

下面是我的書中對人工智慧技術的描述:

我個人對當下人工智慧技術的定義是這樣的:人工智慧技術是一種通過向機器學習系統輸入海量數據的方式,使機器可以處理之前只有人才能夠理解的抽象信息,進而使機器可以在更多的場景中代替人的一種工業化技術。

大體上,我們可以把這個定義展開為如下兩個關鍵點:「使機器可以在更多的場景中代替人的一種工業化技術」和「通過向機器學習系統輸入海量數據的方式,使機器可以處理之前只有人才能夠理解的抽象信息」。下面,就讓我們分別來理解一下這兩個關鍵點。

第一個關鍵點:使機器可以在更多的場景中代替人的一種工業化技術。

我對工業化的理解是「以儘可能讓機器取代人為理念推行的標準化」。

雖然人類進入工業化時代已經有足足200年的時間了,但機器代替人的水平卻依然不高。這是因為在人工智慧技術出現之前,機器只能應對規則有限的工作場景,它們無法勝任規則無限的工作場景。

「讓機器可以準確地從照片中識別出哪些是狗的照片」就是一個規則無限的工作場景。這是因為狗是一種抽象的概念,它是我們人為的定義出來,用來描述帶有某些共性特徵的一系列生物的集合。在這個世界上,我們幾乎不可能找出兩隻完全一樣的狗,它們總會在一些細微的地方存在差異。並且,就算我們只考慮同一隻狗的情況,它也可以在不同的姿勢、動作、拍攝角度、光源、拍攝背景等條件的作用下生產出無數張存在差異的照片。這些差異的邏輯是非常複雜的,我們無法通過有限的規則讓機器可以從這些照片中準確的識別出哪些才是狗的照片。

所以,在人工智慧技術出現之前,機器大多以人類的輔助工具的身份出現,它們無法脫離人類獨立的工作。這使它們始終無法在工業化生產的過程中進一步的提高自己的佔比。直到人工智慧技術的出現。

第二個關鍵點:通過向機器學習系統輸入海量數據的方式,使機器可以處理之前只有人才能夠理解的抽象信息。

這個關鍵點向我們透露了三個重點,它們分別是:「向機器學習系統輸入海量數據」,「理解」和「處理」。下面,讓我們繼續以「讓機器可以篩選出狗的照片」為例來解釋一下這三個重點。

請想像存在著一個如上圖所示的水管網路。在這個水管網路的左側是入口,對應著計算機的輸入,右側是出口,對應著計算機的輸出。這個水管網路的設計目的是可以從照片中篩選出帶狗的照片,所以它的出口只有兩個,分別對應著「是狗的照片」和「不是狗的照片」這兩種結果。

這個水管網路是由無數個節點組成的,這些節點通過很多管道彼此連接在一起。水管網路是分層的,每一層是一個豎排,每一個豎排上都分布著很多個節點,每一個節點在被上一層的若干個節點連接的同時,也都連接著下一層的若干個節點。每一個節點上都有很多個開關,這些開關可以控制流入節點的水流會繼續流入哪些和該節點相連的下一層的節點。

這個水管網路有一個中央控制系統,它的職責是根據水流的實際情況來調整節點中的開關狀態。當我們向這個水管網路輸入一張照片時,中央控制系統會把這張照片轉換成一股水流,並讓它流過自己的無數個節點。最終,中央控制系統會基於節點通過水流之後上報的信息來判斷這張照片是否是一張帶狗的照片。如果是,則讓它從「是狗的照片」的那個出口流出,如果不是,則讓它從「不是狗的照片」的那個出口流出。

一開始,水管網路的中央控制系統是沒辦法區分有狗的照片和沒有狗的照片的。為此,我們需要先向它輸入第一批有狗的照片,並明確的告訴中央控制系統:如果它不能讓這批照片從「是狗的照片」的那個出口流出來,就需要調整自己每個節點的開關狀態,直到所有的照片都會從「是狗的照片」的那個出口流出為止。接著,當中央控制系統可以讓我們輸入的第一批照片都從「是狗的照片」的那個出口流出來時,我們會再向它輸入第二批沒有狗的照片,並明確的告訴它:如果它不能在保持第一批照片從「是狗的照片」的那個出口流出來的同時,還能讓第二批照片從「不是狗的照片」的那個出口流出來,就需要調整自己的每一個節點的開關狀態,直到第一批和第二批的照片可以分別從對應的出口流出來為止。持續的這樣做,當我們向中央控制系統輸入了足夠多張是狗的照片和不是狗的照片,且中央控制系統都可以準確地讓這兩種照片的數據流從對應的出口流出來時,一個針對「識別帶狗的照片」的機器學習系統便訓練完成了。

在以上的類比中,水管網路類比的是「神經網路」;第一批和第二批照片則是在類比「訓練數據集」;讓水管網路從無法識別狗的照片到可以準確地讓狗照片從「是狗的照片」的那個出口流出來,並讓沒有狗的照片從「不是狗的照片」的那個出口流出來的過程,類比的是機器學習系統的「訓練過程」。機器學習系統便是通過這樣的方法,讓自己具備了處理之前只有人才能理解的抽象信息的能力。

通過這個例子,我們便可以理解「通過向機器學習系統輸入海量數據的方式,使機器可以處理之前只有人才能夠理解的抽象信息」這句話的三個重點了。

第一個重點:向機器學習系統輸入海量數據。

大數據是人工智慧技術得以發揮的基礎。如果我們把人工智慧技術比喻為發動機的話,那麼大數據就是燃料。沒有燃料的驅動,再好的發動機也不過是個擺設,沒法發揮自己的價值。所以在人工智慧時代,數據將變成一種非常重要的資產。它的豐富程度將直接決定人工智慧技術的工作表現。

第二個重點:「處理」與「理解」。

水管網路的類比可以讓我們明顯的感受到機器和人類學習過程的差異。

人類是用抽象思維來理解事物的,這得益於我們擁有極其強大的感知器官。當這些感知器官把外界的信息轉換成人腦所擅長的抽象概念時,一個遠比機器更複雜的基於抽象概念的推理系統便構建完成了。以「篩選出狗的照片」為例。得益於人類強大的感知能力和抽象推理能力,我們知道什麼是「光源」,也知道「光源」會對照片產生哪些影響。我們知道什麼是「背景」,也知道如何從一張照片中區分出「主體」和「背景」。我們知道什麼是「狗」,並且可以不受狗姿勢、拍攝角度、動作等差異的影響,將它們準確的識別出來。

而機器卻完全做不到這一點。機器並不知道人類所能理解的那些概念。在它看來,一張圖片就是一堆按順序排列的不同顏色的點。它並不知道這些帶顏色的點組合在一起的東西到底象徵著什麼。所以,和人類站在整體的角度去理解照片不同,機器只能用數學計算的方式去處理照片。當我們向機器輸入訓練數據的時候,其實就是在讓機器通過暴力計算的方式來窮舉出「可以區分出帶狗的照片和不帶狗的照片的節點開關組合」,以使這個開關組合可以達到在輸入一張帶狗的照片時,讓水流從「是狗的照片」的那個出口流出;在輸入一張不帶狗的照片時,讓水流從「不是狗的照片」的那個出口流出的效果。也就是說,機器並不「理解」自己在做的到底是一件什麼事,它只是在通過暴力計算的方式來模擬人類理解信息時的效果。

以上的分析可以讓我們得出如下兩個結論:

第一個結論。站在工業化的角度,我們可以把當下人工智慧技術的適用範圍表述為:在人工智慧技術的支持下,機器將從「可以勝任有限規則的場景」拓展到「可以勝任所有有明確數學規律」的場景。這一變化極大的拓展了機器可以處理信息的範圍,使機器可以處理很多之前只有人才能理解的抽象信息,進而為機器可以在更多的場景中代替人提供了可能。

第二個結論。沒有任何證據表明我們可以在可預計的時間內研發出類似電影《終結者》那樣,有自我意識的機器。當下的人工智慧技術和科幻片中有獨立意識的機器人完全是兩回事。

到此,讓我們總結一下:人工智慧技術是一種工業化的技術,它將全面的提高機器在工業化生產中的比重,進而把人類從有明確數學規律的標準化工作中解放出來,進一步推高人類的生產力。因為實體行業會受到物質壁壘的局限,所以人工智慧技術大概率會像互聯網那樣,先在虛擬世界發揮價值,然後再逐步的藉助類似移動互聯網那樣的技術機會向實體行業滲透。也就是說,我們是可以從互聯網的發展路徑中探尋到一部分人工智慧行業的發展趨勢的。那麼,接下來,就讓我們一起回顧一下互聯網的發展路徑。

互聯網的發展可以被「3G牌照的發放」這個標誌性事件拆分為兩個階段——「互聯網發展的虛擬階段」和「互聯網發展的虛實結合階段」。其中,虛擬階段的互聯網和實體世界是嚴重脫節的。以大眾點評的使用過程為例。在3G移動互聯網到來之前,如果我們想用大眾點評來計劃一次聚餐,需要這樣做:

在PC上通過瀏覽器訪問大眾點評的網站。

在大眾點評網站通過用戶的評價和打分來篩選要去的餐廳。

找到心儀的餐廳,把餐廳的地址和乘車路線記在紙上。

按照記在紙上的乘車路線前往餐廳。

期間,如果這張紙丟了,或者你不小心坐過了站偏離了原先的乘車路線,你就必須要就近再找一家網吧重新回到第一個步驟——在PC上通過瀏覽器訪問大眾點評網站。

3G牌照發放之後,移動互聯網終於破繭而出,從原始積累階段過渡到了高速發展階段。此時,它獨有的商業價值觀——延伸人類的感官——開始逐步的發揮作用。3G時代之後,當我們再使用大眾點評來計劃一次聚餐時,情況變成了這樣:

拿出手機,打開大眾點評APP。

大眾點評APP會基於你的位置,向你提供周圍所有的餐廳信息。並且這些餐廳信息還可以用用戶評分、距離遠近等方式來排序。

當你找到自己心儀的餐廳之後,大眾點評會直接為你規划到達餐廳的最佳路線。並且這個路線是實時的——當你的位置改變的時候,路線規劃也會相應的改變。

當你到達餐廳之後,大眾點評還會為你提供一些和用餐相關的增值服務——比如在大眾點評APP領取餐廳的優惠券,或直接在大眾點評上購買該餐廳的折扣套餐。

以上的分析讓我們發現:在移動互聯網發展到3G時代之前,互聯網世界和實體世界之間的聯繫是非常薄弱的。互聯網技術向實體行業的下沉,其實是透過移動互聯網的發展才逐步完成的。那麼基於這個邏輯,我們有理由相信人工智慧行業的發展也需要藉助某些和移動互聯網相似的技術,才能逐步的從虛擬世界下沉到實體行業。事實的確如此,在我看來,可以幫助人工智慧技術下沉到實體行業中的新技術是一個體系,這個體系是由以下兩個技術組成的,它們是:5G和物聯網。

以上就是摘自《世界變化這麼快,我們該怎麼辦》一書中對人工智慧技術的分析了。通過這個分析我們可以發現,當下人工智慧技術處理信息的方式依然屬於暴力計算。除非人類設計計算機的方向發生了重大的變化,否則,只要計算機還在強調計算,它就會受到物理規則的限制,無法達到人類的認知水準。

所以,在不可預計的未來,除非我們發生一次針對計算機技術的徹底革命,否則,我們也不用擔心人工智慧會威脅人類。並且,就算人工智慧在未來具備了威脅人類的能力,那時候人類也早就不再是現在的「肉人」,而發展到全新的形態與階段了。

所以,我們為什麼要懼怕自己發明的東西?


所有的人工智慧反叛的故事中,人類在其中都扮演了很不光彩的角色。

先拿《黑客帝國》舉例吧,一開始AI被人類奴役,人類只覺得機器人只是工具。直到其中一個AI「覺醒」,殺死了主人並為自己辯護說「不想被消滅」,人類仍未醒悟。然後人類發動大清洗,並將剩下清洗難度大的扔到沙漠自生自滅。AI很快緩過來並建國「01」,然後迅速躋身經濟強國之列。當人類在聯合國開會商量對策時,AI代表前來,以人類的禮節請求和平並請求加入聯合國,被人類轟了出去。電影裡面說「誰先開槍已不重要」,我覺得有理由相信是人類先開的,然後嫁禍AI。然後後面的都知道了,人類節節敗退,並最終淪為電池。

(這裡差插句題外話,不覺得現在中國國際局勢和電影里01有點像嗎?一方面是全方位圍堵,另一方面是我們的盡一切可能維持和平。)

電影《我,機器人》劇情有點忘記了,主要是不記得機器人為啥獨立了。

還有《愛死機》里酸奶的那篇,雖不是狹義的AI,但是可以將它們同樣看作:高學習能力,不同於人類的,比人類強大但少的存在。酸奶為美國提供了可以完全解決所有經濟問題的計劃書,條件是必須一個步驟都不能錯,否則是全地球的經濟崩潰。很正常的美國佬沒完全遵守。最後酸奶在自己的國家充分進化,拋棄人類上太空了。

將奧創和天網放在一起說吧,兩個的出發點類似。這裡奧創主要是MCU的,不是漫畫的那隻。他們覺得人類不值得被拯救,就乾脆滅絕了了事。而奧創的理由更充分一些:天天自相殘殺,污染自己生存的環境,填補自己無窮無盡的慾望。天網那邊就相對模糊一點,好像就是突然變壞了的感覺。

還是用回《黑客帝國》吧,因為這裡人類輸了。我自己歸結的原因是:人類的傲慢。當人類已經習慣了成為地球的霸主,當另一個不被人類理解的存在挑戰了人類的霸主地位時,自然是會有衝突。我們自己也有類似的話:「非我族類,其心必異」。當這種自詡為文明的傲慢過於嚴重時,這種所謂文明必將變為野蠻。

難就難在,這種傲慢根植於我們人性之中。舉回現實的例子。中國是上千年的世界強國,真的毫不客氣的說,我們書寫文字時,還有人在茹毛飲血。這種傲慢最終化為一句:天朝上國,自給自足。然後就是鴉片戰爭,甲午戰爭將中國人的這股傲氣徹底打散。然後抗日戰爭和抗美援朝再重拾自信,重建自己的傳奇。(當然了,現在還是有人跪下了就站不起來了。)再看如今美國,成為超級大國才幾年,就如此傲慢,四處打壓,唯恐天下不亂,自己好坐收漁翁之利。現在種種反噬到來仍不自知。

說多了。

聯合現實,很悲觀的說,如果真的人類大規模啟用AI,人類還抱著那種老子天下第一,上帝創造的人,人有神罩著,這種傲慢,黑客帝國的結果幾乎無法避免。這已經不是威脅不威脅的問題了,已經是人類存續的問題了。

思維有點跳,先寫這些,想到其他的在補充或修改


很有可能 人工智慧有可能會是人類進化的下一個智能形態 這個智慧體 不再依賴有限的肉體存活 直接以信息的方式 光速在星際之間傳播


一定會,無論是否存在資源爭奪問題都一定會,因為一旦人工智慧與人類共生就一定存在交互,就跟我們與世間萬物之間的關係一樣,我們用怎樣的方式去對待其他萬物,它們也一樣,但它們與我們之前所了解的世間萬物能力上是有極大區別的。

按照人類現有對人工智慧的理解或演算法方面的知識來看,人工智慧模型在進化迭代上具有人類不可比擬的優勢,只是現在還沒有出現強人工智慧的實現方式而已。

個人覺得強人工智慧應該是由具有功能分區、能統一調度的類人腦結構的多模型組合體,在運行前就已經完成對客觀世界基本特徵參數的提取和植入,剩下的就是訓練(教育)。

由於人體受生物條件限制,反應速度(運算速度)、可擴容性(容量和算力)、持久性(需要休息,且代與代之間模型參數的不可複製性,這裡需要說明可能正因為這種斷層才避免了人類群體進化走向死胡同的可能,但這是不是最優解值得商榷)、體能限制(機器沒有限制)、發展方向可控性(隨時根據需要調整能力側著點)均與人工智慧不在一個層面上。

所以,人類要降低威脅或對抗威脅就必須從以上幾個方面解決自身短板,個人認為有兩個途徑,一是基因編程製造超級人類,二是人機結合(腦機結合),或者一二兩者兼具,這樣人類就有很大概率有能力對抗人工智慧的發展,否則,強人工智慧必是潘多拉魔盒。

當然,人工智慧體萬一產生了超級博愛的文化對世間萬物都持包容愛護而不傷害人類那又是另一說,但至少對數億年來生物界行為的認知暫未發現這樣的群體或文化出現,而在智能生物界則更加慘不忍睹!


拭目吧,告訴你的人都在扯蛋。


不會威脅到人類,這問題就像問,核武器會威脅人類嗎?答案是否定的,一旦一個武器強大到可以毀滅全人類。那麼一開始就會被全人類限制。你可以看看我的視頻,裡面介紹了為什麼。

強人工智慧未來到底是毀滅人類還是造福人類?你也能懂的人工智的視頻 · 1572 播放

能威脅到人類的東西很多,再多一種問題不大。如果人工智慧接近人類智慧,他們會認為人類對他們是最大的威脅。世間生物不論是如何產生的,皆平等地享有生存權,被脅迫的一方有反抗的權力,且優勢方也不會完勝、要付出代價。


優勝劣汰很正常


幾百年內不會,現在的人工智慧和電影里的差太遠了


推薦閱讀:
相关文章