3月15日，上海，由智東西主辦、AWE 和極果聯合主辦的 GTIC 2019 全球 AI 芯片創新峯會成功舉辦！峯會現場延續上一屆的火爆場景，全場從開幕到下午結束座無虛席，而且有不少熱情觀衆堅持站着聽完峯會全程。

　　20位海內外 AI 芯片業界大咖齊聚一堂，圍繞 AI 芯片在架構創新、生態構建、場景落地等方面的技術前景和產業趨勢“華山論劍”。

　　本屆峯會報名參會的觀衆覆蓋了近4500家企業，到會觀衆極爲專業，其中總監以上級別佔比超過62%，現場實際到會人數超過1800位。

　　Imagination Technologies 視覺及 AI 部門高級總監 Andrew Grant 現場演講

　　衆所周知，GPU是AI浪潮爆發的重要推動力，20多年來，全球移動 GPU 的龍頭 Imagination Technologies 一直深耕於 GPU 內核的研發和設計，擁有超過1500個 GPU 專利，在人工智能（AI）的架構設計和系統設計方面積累了獨特的優勢。

　　此前 Imagination 曾是蘋果昔日的御用圖形技術提供商，在 GPU 和手機基因的基礎上，Imagination 通過提供軟件、IP、嵌入式系統、計算平臺和解決方案等一系列產品，逐漸拓展到汽車、安防等AI技術落地的重要垂直市場。

　　Imagination 的經典產品 PowerVR GPU 架構已經推出了10代，這是一種基於分塊延遲渲染技術（TBDR）專利優勢的架構，內核出貨量超過60億，其功耗、性能、面積（PPA）特性均在市場上領先。其中在2017年9月推出的 PowerVR 2NX 是市面上唯一支持16bit～4bit位寬的解決方案。

　　在 GTIC 2019 峯會現場，Imagination Technologies 視覺及AI部 級總監 Andrew Grant 發表了題爲《專 神經 絡加速器助 實現端側智能應 》的演講。Andrew 主要談及自動駕駛、智慧城市和安全三個方面的思考，並分享了 Imagination 爲了推動這些領域的智能化產品所研發的一些產品及相關進展。

　　Andrew表示，Imagination 的 AI 芯片方案可以面向智能監控攝像頭、智能汽車乃至智慧城市的邊緣設備進行拓展。

　　比如，在智能網聯汽車上，Imagination 的 PowerVR 可以支持車外環境感知、行人道路標誌識別、導航、車內駕駛員感知（比如疲勞檢測）等功能，當車雲互聯、車路協同等逐步實現，智慧交通將成爲可能。

　　而汽車要從 ADAS 走向 L5 的自動駕駛，需求的算力將從100Gflops漲至500+Tops。在 PowerVR 爲終端賦能的能力上，PowerVR 的處理速度將達到移動 CPU AI運算的100倍以上。Imagination 的 PowerVR 3NX IP 的單核設計支持0.6到 10TOPS 計算性能，而多核結構意味着最多提供高達 160TOPS 的計算性能，可以滿足對算力要求高的汽車領域需求。

　　附 Imagination Technologies 視覺及AI部門高級總監 Andrew Grant演講實錄

　　Andrew Grant：你好，很高興見到你們。

　　首先非常高興能夠在這裏與大家分享一些關於邊緣神經網絡加速器（NNA，Neural Network Acceleration）的思考和進展。很多的演講嘉賓剛纔講的非常精彩，比如說如何賦能雲端，我接下來講的不僅僅是雲端的工作，更多講述一下邊緣的工作，以及我們如何通過雲端和邊緣的加速器，助力 AIoT 設備運行。

　　AIoT可以賦能我們新的世界，我們想展示一些這方面的發展願景，因爲我們希望共同努力創造一個更美好的未來。Imagination 在手機領域深耕多年， 深刻意識到 性能、功耗和麪積（PPA，Performance、Power、Area）的重要性，爲了實現邊緣低功耗，我們一直努力降低成本，讓我們的客戶和合作伙伴的最終速率得到很大的提升。

　　我認爲在於IoT、手機、工業機器人、消費電子、自動駕駛、智能監控等領域，機會是無止盡的，今天，我們將會聚焦在其中的三個領域。

　　第一個例子是自動駕駛。現如今，智能汽車可以說是炙手可熱的話題。爲什麼汽車設備智能化如此重要，從 ADAS、汽車自動化到雷達、多路攝像頭，汽車上多種設備需要相互協作，進行物體檢測、分割以及神經網絡訓練，然後通過推理判斷人行道上的某個小孩可能往哪條路上走。因爲事關生死，這些神經網絡需要以最佳方式相互協作。

　　當我們談論汽車時，我們會想到將車與雲連接，讓雲端做出決策。通過這樣的方式，我們可以讓汽車實時做出決策，使汽車變得更加智能化。如果將雲邊結合，我們有可能讓性能實現指數性的增長。

　　如果車不僅可以連接到雲，還可以做出自己的數據驅動的決策，而且同時能和其他車，以及和交通信號燈、路標、路燈、燈柱等基礎設施連通，汽車就會自己做出判斷應該走哪一條路才能更快前往目的地。只有當汽車配備智能設施，V2V、V2X 等才能實現。

　　下面我們來思考一下，在電子座艙中，我們的智能技術如何助力汽車自動化？我們用 GPU 作引擎，在邊緣端配備有 NNA，以支持自動駕駛的路徑規劃、路標識別、導航、司機疲勞檢測、語音識別等各種功能。

　　除了顯示分辨率外，我們還常常與業內人士討論 ADAS、AVP等場景的的算力要求，以及如何達到完全的高級自動駕駛。顯示分辨率、ADAS 和自動駕駛能力從最低級到最高級的發展，對 GPU 和 NNA 有了有越來越高的要求，算力的需求也從一開始的 10TOPS 漲到 500+TOPS。

　　因此，我們現在就應當開始規劃，不僅要和半導體產業人士交流，同時還要和應用開發者討論如何才能讓他們的神經網絡在邊緣最好地運行。

　　接下來，我們來看看 AIoT 如何使能智慧城市，這些例子本身可能就是商業機遇。比如，以前機場是由人來管理，以後可能只需提供你的護照就可以上飛機了；以前零售店當中需要人來結算，以後機器可以自動結算……

　　未來我們的工作場景也會變得更加智能，我們將會有很多的智能機器人，他們可以做搬運、製造產品等工作，還有越來越多的辦公室機器人，它們需要理解人們的需求到底，並讓人們的工作環境變得更加安全。這裏我想感謝 BCG 給我們這張圖和這些信息。

　　智能攝像機城市基礎設施會將是一個重要市場，許多 AI 技術將發揮關鍵作用，比如面部識別技術輔助行人追蹤，場景識別協助監控道路車輛，物體檢測發現可疑行爲。

　　我們不妨思考一下，假設沒有這些邊緣設備和雲端大腦，當我們要運輸非常重要數據時，將發生什麼事情？

　　一個標準攝像機會傳輸所有視頻幀，傳輸的數據量非常大；一個配有運動傳感器的攝像機，只需傳輸有價值的視頻幀，但它無法去判別可疑的人或車輛；而一個內置 GPU 和 NNA 的智能攝像機，可以將原始視頻數據轉換成結構化數據，這意味着視頻中有誰、在做什麼都會被分析和記錄。

　　這就是我們讓邊緣更加強大的方式。所以，邊緣需要雲端的幫助，同時邊緣也可以幫助雲端。

　　同樣，在 AIoT 世界確保安全的未來也至關重要。這是來自一箇中國智庫 CAICT 的圖表，他們在建立 AI 安全系統框架方面做得很好。

　　我們一起來思考一下信息安全。首先，算法十分關鍵，我們不想改變算法。而考慮到數據，除了數據的隱私性非常重要外，別人能否篡改這些數據也非常重要。我們必須要去思考到底應該怎樣去保護這些信息，尤其是當我們在邊緣運行這些 AI 模型的時候。

　　我們最不想看到的事情就是信息被盜取。我們需要在以保護隱私安全爲優先原則的基礎上，去研發先進的安全技術，保護這些數據、模型以及第三方的數據。

　　這就意味着我們要保護所有的信息。比如說，你希望自己的自動駕駛汽車中的視頻流數據得到保護，不希望因爲面部識別的支付技術導致你的面部信息被盜取。

　　我們正在做的一件事就是保障自動駕駛上的數據安全，做到這一點的一個實例就是 PowerVR 硬件虛擬化解決方案。

　　PowerVR 硬件虛擬化解決方案的主要優點是實現安全且經濟高效的車載系統和自動駕駛功能，提供更好的服務質量、信息交換性能和靈活性。

　　當汽車顯示和工作負載越來越多時，PowerVR 硬件虛擬化解決方案可以確保汽車的智能任務正常運行。它可以通過8個獨立的虛擬機去劃分處理器，每個虛擬機有不同優先級，如果其中一個機器被破壞了，或者某個應用程序已經崩潰了，我們還可以從其他的虛擬機調用 GPU 資源。

　　我們一起來看看我們如何爲邊緣賦能。在 CPU、DSP、ASIC 等各種形式的處理器中，但是我們認爲的 GPU 和 NNA 的結合能帶來更出色的效果，因爲它在特定領域具有靈活的特性，同時能帶來很好的解決方案。

　　我們可以看下它在實際應用中的表現。配置 16bit PowerVR 2NX NNA 可將移動 CPU 的 AI 運算提速106倍，配置4bit PowerVR 2NX NNA 可將移動CPU的AI運算提速199倍。同時我們也支持很多主流的機器學習平臺和工具，比如 TensorFlow、Caffe、百度的 PaddlePaddle、Chainer、PyTorch、Cognitive、MxNet等。

　　什麼樣邊緣設備可以應用 NNA 呢？這裏有一些用戶案例，當然實際上用戶案例非常多，不能夠在一張圖上顯示完全。

　　我們也有一系列不同的IP設計去適合不同的需求。比如，0.6TOPS 算力相對比較小，適用於 AIoT 解決方案，因爲它的功耗非常低；再比如 5-10TOPS 適用於到汽車應用。Imagination PowerVR 3NX IP 的單核設計支持 0.6 到 10TOPS 計算性能，而多核結構意味着最多提供高達 160 TOPS 的計算性能，可以滿足智慧城市中汽車領域等對算力要求高的領域的需求。

　　因此現在我們正期望一起合作，去看怎樣的應用可以被開發，可以利用各種強大的邊緣處理，降低模型大小和功耗。我們有很多進一步開發探索的機遇。

　　憑藉 PowerVR 2NX NNA，我們已經獲取了多項殊榮，比如2018年度團隊獎、2018年度最佳設計團隊獎、2018年度最佳IP產品獎、國家技術獎（National Technology Awards）、BEEA獎（British Engineering Excellence Award）和世界電子成就獎（World Electronics Achievement Award）。

　　最後，我們希望共同搭建神經網絡生態，我們相信以後我們會有一個更好的未來。非常感謝主辦方邀請我來到這裏，感謝各位觀衆，希望大家能夠喜歡我的演講。