資本實驗室·今日風險觀察

聚焦前沿科技創新與傳統產業升級

王進

回顧過去，我們可以看到歷史上各個時期湧現出的衆多超越時代的新公司、新產品、新思維和新模式。儘管絕大多數創新產品最終都失敗了，但先行者們致力於要解決所在時代各種問題和困難的精神，卻影響着下一代的技術進步，併爲這些問題的最終解決鋪平了道路。

到了今天，我們比以往任何時期都更依賴於技術。而且，隨着這種趨勢的繼續加劇，我們未來使用的技術會比現在更多。

然而，隨着對技術依賴性的增加，與之相關的突破點會同時增加，而與之相關的問題也會隨之出現。

此外，現代技術總是比相關的監管政策或法律要早幾年出現，並且新技術會以迅雷不及掩耳之勢在社會蔓延開來。新技術成長與政策監管的時間差會導致很多意想不到的事情發生，當我們的創新不再失敗時會發生什麼？或者如果一次出現太多失敗時，又會發生什麼？

1.奇點與失控的技術

技術是把雙刃劍。即使隨着我們自動化管理自身行爲的能力提高，例如物聯網、人工智能和大數據等新技術讓我們把很多模糊的事情變得數據化、精準化、可預測，但這些技術背後也可能潛伏着很多的錯誤和風險。並且，新技術應用的程度越深、越廣，各種錯誤發生的潛在可能性也就越大。

近日，著名未來學家託馬斯•弗雷（Thomas Frey）對人類技術發展可能引起的災難，也就是“技術啓示”或“技術末世”（techno-apocalypse）進行了預判和分析，並提出了有價值的警示和反思。

目前，大多數關於技術啓示的理論傾向於基於某種形式的奇點。技術奇點是一個根據技術發展史總結出的觀點，認爲未來將要發生一件不可避免的事件：技術發展將會在很短的時間內發生極大的接近於無限的進步。

一般設想技術奇點由超越現今人類並且可以自我進化的機器智能或者其它形式的超級智能的出現所引發。因此，最終技術的發展會完全超乎全人類的理解能力，並將導致人類社會出現不可想象的變化。

20世紀50年代，計算機科學家和物理學家約翰·馮·諾伊曼首次提出了“奇點”的概念。進入到21世紀，美國哲學家雷·庫茨維爾的著作《奇點臨近》再一次把這一概念推到聚光燈下。與此同時，更多世界級科學家和企業家都關注奇點，並表達了自己的觀點。

包括斯蒂芬·霍金、比爾·蓋茨和埃隆·馬斯克在內的一些行業領先者都對人類未來發出了警告，認爲我們需要警惕超越人類智慧的超級智能會擺脫人類控制並摧毀人類。

現代社會注重“進步”這一概念，即通過增益和減少的平衡尺度來扭轉有害的方向，控制着事件向我們認爲“正確”的方向發展。

對於所有的技術進步，我們首先會聚焦在積極、正面的方向進行審視，但這種技術“進步”方式有時可能會有所幫助，但也可能掩蓋某些隱藏的缺點，最終可能會出現“好心辦壞事”的局面。

我們現在已經擁有強大的能力去感知和監測變化，諸如降低全球大流感、生態崩潰、核戰爭、小行星撞擊和氣候變化等風險。但在託馬斯·弗雷看來，人類面臨的最大風險是不正常的人類行爲，而這種行爲越來越受到技術的影響。隨着安靜的心靈受到貪婪的侵蝕，我們冒着惡化的風險進入到一個生存主義社會。在這個社會中，我們最需要提防的是信任的缺失。

2.未來技術啓示的五種場景

託馬斯•弗雷預測了未來需要預防的五個技術啓示場景，這些場景可以讓更多人瞭解技術失控造成的危害。

• 極端隱私失敗

激進的透明度倡導者向人們宣傳構建在數字化模型世界中的幸福生活，並認爲如果我們都知道每個人的所有數據，我們將創造出一個更加安全的社會。但是，事實並非如此。

當我們瞭解鄰居的一切時，這意味着我們也知道他們的信用卡號碼、銀行帳號和密碼。當這種情況發生時，我們很快就會失去“擁有東西”的能力，而所有權是現代世界所依據的基本權利。

因此，當劍橋數據公司的分析人員使用Facebook賬戶瀏覽人們的個人電腦時，不僅發現了犯罪數據，而且還發現了可竊取的資產和可再分配的個人財富形式。

對於那些試圖創造一個新的世界秩序的人來說，很容易想象到通過這種後門方法來重寫“人類的所有權代碼”，而這勢必將導致一個非常混亂和功能失調的世界。

• 全球機場系統崩潰

航空已經成爲快速連接全球各地的最重要的交通方式，亞特蘭大、北京、迪拜和東京的機場已經成爲世界上最繁忙的機場。

如果這些機場遭遇一系列精心策劃的技術事故，將會對整個全球航空運輸網絡造成巨大的連鎖反應。

無論是改變交通控制系統的網絡襲擊，還是無人機造成的機場混亂而導致任何一個機場的關閉都將產生嚴重的影響。

如果這種問題不及時得到修正，並且有可能在多個機場快速複製，那麼這種問題可能會上升到技術啓示錄的水平。

航空運輸是一個基於多種依賴關係的、複雜的全球系統。迄今爲止，儘管它是所有交通方式中最安全的，但其核心是建立在信任的基礎之上。但信任是一件難以量化的事情，一旦失去信任就難以重建。

• 破壞大型科技公司

世界已經變得非常依賴於谷歌、亞馬遜、蘋果、微軟和阿里巴巴等少數幾家重要的科技公司。但反過來看，完全可能通過某種精心的動作，並使用一系列的策略來破壞和摧毀其中一家重要公司。試想一下，如果這些公司遭到攻擊，系統被破壞，數據被泄露，我們的社會發生什麼樣的變化。

通過專注於獨特的個人定位和細微的影響點，某些機構可以在沒有被注意到的時候，破除我們非常依賴的數字服務，直到發現時，爲時已晚。

• 暗網力量

在暗網，招募超級黑客會相對容易，因爲他們可以保持匿名，並很容易形成組織，而通過一系列的行動可以攻擊那些造成全球主要問題的關鍵決策者。

但這種“自我正義”式的行爲，可能會使一批重要的企業分崩離析，導致無數人失業，而最終帶來的危害會比他們試圖去解決的原始問題更糟糕。

• 佩克堡水壩事件

二十年前，託馬斯•弗雷曾想象和描繪過一場人爲攻擊造成的災難：美國佩克堡水壩（全世界最大的填土壩之一，位於美國蒙大拿州密蘇裏河的上游）被毀後，230億立方米的洪水傾泄而下，在一天半的時間裏，穿過密蘇裏河流域，對三千英里長的地區造成令人難以置信的破壞。

由於穿過美國中心地區，破壞將造成超過1500萬人無家可歸，數千人失蹤或死亡，主要發電廠被摧毀，整個國家的電力恢復將需要非常長的一段時間。

然而以上只是物理性的破壞，這次攻擊幾乎使地球上每個人都受到不同程度的影響。五家聯邦儲備銀行將倒閉，成千上萬的大公司將破產，全球股市陷入動盪，衆多保險公司無力賠償損失，全球糧食供應系統陷入混亂，而供水系統、地下管道系統和其它一些基礎設施需要數年才能修復。

當然，這只是託馬斯•弗雷想象出來的場景。這個例子只是警示我們，在現在社會中，任何一個事件的影響都不會是孤立的。牽一髮而動全身，當全世界形成一個統一的大系統後，我們需要重新思考其可能具有的脆弱性。