MIT初創公司發布全球首個光子AI晶元原型！獨立光學計算硬體，龐大系統成功集成至常規板卡丨獨家專訪
近日，麻省理工學院團隊背景的光子 AI 晶元公司 Lightelligence 對外宣佈了一項重要進展——成功開發出世界第一款光子晶元原型板卡（Prototype）。
對於這家成立一年半的公司，這款晶元原型的誕生，驗證了團隊部分成員在 2017 年發表在Nature Photonics 期刊上的開創性想法——用光子代替電子來進行 AI 計算。但是在那個時候，他們在實驗室開發的整個光子計算系統佔據了半個實驗室。
（來源：Lightelligence）
在視頻演示中，團隊在這個原型產品上成功用光子晶元運行了Google Tensorflow 自帶的卷積神經網路模型來處理 MNIST 數據集。這是一個使用計算機視覺識別手寫數字的基準機器學習模型，也是機器學習中最著名的基準數據集之一。測試中，整個模型超過 95% 的運算是在光子晶元上完成的處理，測試結果顯示，光子晶元處理的準確率已經接近電子晶元（97%以上），另外光子晶元完成矩陣乘法所用的時間是最先進的電子晶元的 1/100 以內。
Lightelligence CEO 沈亦晨對 DeepTech 表示，公司計劃將該光子晶元提供給一些合作方、潛在客戶進行測試，目前國外已經有谷歌、FaceBook、AWS級別，國內 BAT 級別的客戶與 Lightelligence 接洽。
他透露，儘管這款晶元還不是公司真正意義上的第一款商業化產品，在性能上也還有很大的提升空間，但卻是對團隊開發完整光子AI晶元系統可行性的一個重要驗證。
圖丨這款原型正在運行 MNIST（來源：Lightelligence）
沈亦晨表示，在接下來的幾十年中，對於 AI 演算法尤其是機器學習演算法的計算需求仍將大幅增加，但與此同時，我們回過頭看過去幾年計算硬體的發展，其演進速度正變得越來越慢，「從光子學的角度來看，我意識到，對於一些最基本的演算法以及機器學習任務來說，光子可能是最佳的計算平臺。在我的博士生涯中，我用一個項目簡單地證明瞭這個概念性質的設想，現在，Lightelligence 的成立正在將這個設想從學術研究帶到真實世界」。
「我們從硬體到軟體做出了一套可以運行的系統，原則上，它可以運行任何神經網路系統，它也是就我們所知世界上第一臺完全獨立的光學計算 AI 加速器（stand alone optical AI accelerator）。Lightelligence 現在發布這款晶元原型想傳達的另一個信息是，光學計算不再是一個「Science Project」，而是一個已經接近於產品化的技術」，他說。
圖丨 Lightelligence CEO 沈亦晨，MIT 物理學博士，因其從光學計算的獨特角度切入 AI 晶元入選 2017 年《麻省理工科技評論》「35 歲以下科技創新 35 人」中國區榜單（來源：麻省理工科技評論）
越來越近的光學計算
光學計算並不是一個全新的概念。
作為一種完全不同於電子計算的技術，光學計算以光子為信息處理載體，依賴光硬體而非電子硬體，以光運算代替電運算，擅長快速並行處理高度複雜的計算任務，但它一直沒找到合適的應用場景，且受限於傳統分離式光學器件光場調控手段單一、光學設計體積龐大的缺點，光學計算一直都停留在實驗室階段。
近幾年，電子計算愈發受制於摩爾定律，信息技術載體的存儲密度與運算速度的提升愈發力不從心，讓一部分人將目光從「電」轉向了速度更快、能耗更低的「光」。
（來源：麻省理工科技評論）
尤其是基於人工神經網路演算法的深度學習系統的流行。不同於通用晶元所運行的邏輯運算，深度學習系統的大部分時間都花在低精度的矩陣乘法運算上，而密集的矩陣乘法運算，正是人工智慧演算法中最耗時間和功率的。
目前 AI 加速晶元都是基於電子運算的，但在結合電子計算所有前沿技術的基礎上，光子晶元可以來執行 AI 計算裏最重要的兩個步驟：內存到計算單元的數據傳輸以及矩陣運算本身。這兩個方面光子晶元具有獨特優勢。
由此，光子 AI 晶元的概念應運而生，利用光子來做矩陣乘法運算，在功耗降低和速度提升上前景可期，很可能帶來光學計算有史以來最大的機會。
Lightelligence 成立的目的，就是從光子晶元這個全新的角度來切入 AI 加速。
「對產業界來說，這可能開啟了一個全新的方向，而且它的發展速度遠遠高於電子運算。」沈亦晨說。
（來源：Nature Photonics）
2016 年，沈亦晨還在 MIT 做博士後，他所在的研究團隊打造了首個光學計算系統。該成果於 2017 年以封面文章的形式發表在頂級期刊 Nature Photonics 雜誌上，其基於硬體和演算法有著雙重創新：在硬體上，光干涉儀作為基本的矩陣運算單元有效取代了傳統電子晶體管；在演算法上，團隊開發了一系列在不犧牲性能條件下有效降低深度學習計算量、並適應於光子晶元的演算法。
當時，國際著名光學科學家、斯坦福大學終身正教授 David Miller, 曾專門在 Nature 雜誌上撰文評價沈亦晨團隊的光學 AI 晶元的研究成果，稱「這一系列的研究成果極大地推動了集成光學在未來取代傳統電子計算晶元的發展。」
那篇論文可以說在全球範圍內啟發更多人投入到光子 AI 晶元的開發中，帶來這一成果的 MIT 團隊已經誕生出 Lightelligence 和 LightMatter 兩家公司。
現在，Lightelligence 團隊正在全力研發光子晶元的相關技術，包含晶元設計、核心演算法、傳輸、周邊等，欲打造一個完整的光學計算生態。全球包括 Lightelligence 在內也已經有 5~6 個團隊正在進行相關的研發及商業化，其中還不乏中國團隊。儘管各家公司的目標都不盡相同，從已經公佈的產品進度來看，作為全球首個光子 AI 晶元的公司，Lightelligence 仍將是最值得關注的公司之一。
（來源：Lightelligence）
以 Lightelligence 此次發布的晶元原型為例，和 2017 年的首個光學計算系統相比，其最大的改進就體現在計算效率的提升、軟體環境和集成程度的成熟上。
Lightelligence 團隊本身擁有一系列獨立自主知識產權，包括光學器件設計、光學系統集成和深度學習演算法的核心技術，在設計這款晶元的過程中，團隊在這幾個方面的技術儲備得到了驗證。
在開發的過程中，提升運算速度和改善尺寸的工作是交叉進行的。據沈亦晨介紹，原來實驗室版本的機器集成度比較低，它的控制單元沒有集成在板卡上。現在這款晶元原型的集成度大大提高，隨著集成程度的提高，運算速度也大大提升。
而且開發上的主要任務不只是集成度方面的工作，還包括高速信號的控制。對於光子計算機來說，其中比較重要也比較難的一點就是，當信號傳輸速度很快的時候，如何讓信號達到比較精確的強度。
最終，團隊用了近一年半的時間打造出了這款尺寸與指甲蓋差不多、封裝了光纖的晶元原型。這在光學計算領域也是前所未有的。
（來源：Lightelligence）
而除了前文提到的 MNIST 圖像識別任務以外，這款晶元原型還可以運行其他的計算任務，團隊同時也提供軟體支持，與谷歌的 Tensorflow，Facebook 的 Caffe2 和 Pytorch 常用框架中的演算法兼容。
沈亦晨表示：「團隊希望任何通用的基於線性運算的演算法都可以在光子 AI 晶元上運行，Lightelligence 生產的是一款通用的 AI 晶元，同時我們也會自研更適合在光子晶元上運算的演算法，後期我們會發布相關的演算法上的進展。」
未來，光子 AI 晶元的發展能否引領演算法開發上加大矩陣計算比重的「硬體定義軟體」風潮，亦值得觀察。
3 年內推出第一款量產產品，面向伺服器
目前，Lightelligence 成立已經一年半時間，團隊的技術進展並不完全體現在這次發布的晶元原型裏，沈亦晨說，其實團隊早在半年以前就已經著手開發下一代晶元了，「我們的下一款晶元將會在性能上徹底顛覆現有的電子同類產品」。
基於光子 AI 晶元速度快、損耗少、算力高、成本低的這些特點，很多面臨性能瓶頸的深度學習場景將是這款產品大展身手的方向。因此，在應用場景上，沈亦晨設想 Lightelligence 的第一款產品將面向伺服器和自動駕駛。
「第一款光子 AI 晶元的產品定位不是低端市場，我們的競爭力不是價格和尺寸大小，而是同一塊板卡的性能，針對這個優勢我們的應用場景確定為以上兩個市場。」沈亦晨說。他曾提到，電子晶元的生態鏈條非常完善，整個產業已經達到數以十億、百億計的規模。和電子晶元的完善的生態鏈條不同，光子晶元還在剛剛起步的階段，這也決定了其產品可能沒辦法短期內進入到輕量級、個人級的應用中。
未來的汽車工業很可能是光子 AI 晶元的最重要市場之一，例如，以 Lidar 技術所需要的大量光源和光探測器來說，光子 AI 晶元有望提供一個低成本、低功耗的解決方案。不過，自動駕駛的市場仍比較小，Lightelligence 仍會先從伺服器市場切入，然後過渡到自動駕駛中。
（來源：Lightelligence）
現在，在融資上，Lightelligence 已於 2017 年底獲得包括百度風投和真格基金在內的超過 1000 萬美元的風險投資，團隊規模也從最初麻省理工學院出來的三人團隊發展到了二十多人全職團隊，成員背景包括麻省理工學院、哥倫比亞大學、喬治亞理工大學、北京大學和加州大學伯克利分校等。團隊也吸引了很多業界專業人士加入，最引人注目的恐怕就是 Gilbert Hendry 和 Maurice Steinman 了。
Gilbert Hendry 博士畢業於哥倫比亞大學，曾在谷歌和微軟工作過5年，並且主持開發過多款機器學習產品，現在是Lightelligence的軟體部負責人及機器學習首席工程師。Maurice Steinman是Lightelligence的工程副總裁，加入Lightelligence之前曾任AMD 首席晶元架構師，並主持開發了AMD用於高通量信息傳輸的旗艦產品infinity fabric, 有超過30年的豐富的半導體行業經驗。
圖丨Gilbert Hendry （來源：Lightelligence）
圖丨Maurice Steinman（來源：Lightelligence）
但必須承認，光子 AI 晶元整體依然仍處於非常早期的階段，光子 AI 晶元公司面臨的落地風險和技術挑戰並不比其他 AI 晶元公司的小。但是，人類在追求更高程度的機器智能過程中，對晶元計算能力的需求只會不斷增加，光子 AI 晶元有希望能夠彌補電子晶元的不足，在一些特殊的計算領域超過電子晶元。
有意思的是，許多人瞭解到光子 AI 晶元和光學計算之後，更感興趣的不是其與電子計算的比較，反而好奇光子計算和量子計算有什麼區別，兩者哪一個將更快改變產業現狀。
和量子計算相比，光子計算髮展的時間短，投入研發的人力也相對較少，聽起來是一個更為小眾的領域。但光子計算對算力的提升不一定亞於量子計算，而且在技術實現上，其製造流程可兼容目前的 CMOS 工藝，在量產難度上遠低於量子計算，更容易與現有的計算周邊生態進行配合，可說是目前發展的次世代計算架構中，最有機會實現普及量產目標的一個。
推薦閱讀：
