地平線黃暢CES ASIA暢談邊緣計算發展趨勢

第五屆亞洲消費電子展（CES ASIA）于2019年6月11-13日在中國上海新國際博覽中心（SNIEC）舉行，聚焦邊緣人工智能計算的科技創業公司地平線受邀參展。12日上午，地平線聯合創始人&副總裁黃暢作為AI領域的資深專家，受邀在 CES 主論壇發表主題演講，分享其對人工智能時代邊緣計算趨勢的洞察并深度解讀地平線的“AI on Horizon, Journey Together”戰略。

地平線聯合創始人&副總裁黃暢

黃暢表示，普惠AI時代，邊緣計算將成為破解AI物聯網核心難題的關鍵。全球知名咨詢公司 Gartner于2018年8月首次正式提出了普惠AI時代的主張。這意味著人工智能這項新技術已經不僅局限于政府或實驗室，開始邁進了普惠大眾的階段，進入各個行業創造價值。然而機遇與挑戰并存，隨著AI的發展，數據量級和復雜度急劇增長。據國際 IDC 數據公司（IDC）白皮書《數據時代2025》預測，2025年，超過25%的數據將成為實時數據，其中95%生產自 IoT 終端，并且絕大部分不能直接創造價值，需要經過計算來提煉；而2025年全球數據總量的20%將直接關乎人們的日常生活乃至生存安危。

因此，分布式AI計算勢在必行。在通用性高的領域交付于云上完成，與生命安全、隱私保護密切相關的領域則由端進行處理。而邊緣計算將成為端上指數級爆炸數據的過濾器與控制閥，經過有效處理之后，只需提取少量有效數據傳回云端即可。隨著 5G 商用開啟，終端接入網的擴容極大，實時性要求進一步提升，但因為骨干網擴容成本高、延遲大，導致在邊緣側形成數據堰塞湖。Intel 曾表示：MEC（多接入邊緣計算）不一定需要 5G，但 5G 一定需要 MEC。有了邊緣計算的加持，5G 的商業價值才能真正得以發揮。邊緣計算帶來的是商業范式的轉移，是一次從軟件到硬件的全新變革。端邊云協同，未來，人們需要在一個更大的范圍內尋找AI解決方案的最優解。

另一方面，普惠AI時代的背后是數據計算帶來的巨大能源消耗。能源是支持一個社會運轉的重要生產資料、物質資料。指數級的數據增長不知不覺間給社會造成了巨大的負擔。以中國為例，今天，數據中心耗電驚人，據《中國數據中心能耗現狀白皮書》顯示，在中國有40萬個數據中心，每個數據中心平均耗電25萬度，總體超過1000億度，這相當于三峽和葛洲壩水電站1年發電量的總和。如果折算成碳排放的話，大概是9600萬噸，這個數字接近目前中國民航年碳排放量的3倍。這是一個巨大的數字。隨著時代向前推進，數據的處理量只會增，不會減。從工業時代的用電量，到數字經濟時代的用云量，再到AI經濟時代，要考慮的是“用算量”。追求極致效能，這不僅僅是出于利益考量，也成為了AI企業的社會責任。

當前的業界存在一個很大的誤區，往往會把峰值算力當作衡量AI芯片的主要指標。但其實真正需要的是有效算力，及其輸出的算法性能。這需要從四個維度來衡量：每瓦的峰值算力和每美元的峰值算力（由芯片架構、前后端設計和芯片工藝共同決定），峰值算力的有效利用率（由算法和芯片架構決定），以及有效算力轉化為AI性能的比率（主要是速度和精度兩個方面，由算法決定）。之前業界普遍采用 Resnet 這樣的模型，但今天采用類似 MobileNet 這樣更加精巧設計的小模型，可以用1/10的算力達到相同的精度和速度。這些精巧設計的算法給計算架構帶來了巨大的挑戰，往往使得傳統設計的計算架構的有效利用率大幅下降，從最終的AI性能角度來說，甚至得不償失。

地平線的最大特點，是對重要應用場景中，關鍵算法的發展趨勢進行預判，前瞻性地將其計算特點融入到計算架構的設計當中，使得AI處理器經過一兩年的研發，在推出的時候，仍然能夠很好地適應最新的主流算法。因此，和其他典型的AI處理器相比，地平線的AI處理器，隨著算法的演進趨勢，始終能夠保持相當高的有效利用率，從而真正意義上受益于算法創新帶來的優勢。

掌握了算法和計算架構，地平線還具備了巨大的潛能。而編譯器，則能夠將這兩者聯合起來進行極致優化，釋放出所有的潛能。舉一個實際的例子，在沒有優化的情況下，峰值算力的有效利用率是34%；但經過編譯器對指令序列進行優化之后，這個數值被提升到了85%。這使得芯片的處理速度，提升了2.5倍，或者說，處理相同多的任務，功耗降低到40%。

順勢而為，用未來重要應用場景中的關鍵算法發展趨勢，來指導地平線AI芯片的架構設計，首重效率，兼顧靈活，這是地平線一直以來的設計理念 -- 極致的AI能效是地平線在產品上始終如一的理想和追求。

極致的AI能效是地平線在產品上始終如一的理想和追求

而在面向客戶的實際合作案例中，地平線的方案也充分展示了賦能客戶的能力。L4級別自動駕駛的視覺感知的解決方案中有12個360度的攝像頭、4個魚眼、以及8個常規60度攝像頭，能夠覆蓋車周邊360度的場景，做分割、檢測、和車道線等各種各樣的視覺感知技術?？蛻糸_始選擇了 GPU 方案，發現就算把 GPU 塞到車里，功耗與制冷都成為了巨大的問題。地平線基于自主研發的征程處理器方案卻能將功耗降低到3W，且完全可以用量產的方式對車輛進行部署，解決了客戶的痛點。

另外，地平線選擇開發工具鏈+開放平臺，多層次開放賦能。地平線不僅會提供基礎開發工具，完成從數據到模型的轉換過程，還會將范疇拉開，提供AI的平臺級工具。AI從技術演示到商業落地的路徑很長，將AI解決方案集成到客戶的產品中，賦能并成就客戶，對大部分公司來說，存在不低的門檻。所以，為降低方案被集成的難度，地平線設計出一整套包含數據、訓練、部署在內的算法開發流程，并開發出一套全棧式的AI平臺工具用來高效地支撐這套開發流程。甚至提供大量優秀的算法模型和原型系統，作為參考樣例提供給客戶。通過這些工具和樣例，客戶可以照貓畫虎，快速地進行產品所需的算法開發，并持續迭代，由淺入深地進行全方位地調優，探索客戶自己在數據和算法方面的獨特價值。

地平線的全棧AI平臺工具鏈，包括數據、訓練和設備部署工具。它們形成了閉環，能夠高效地運作起來，數據產生模型，模型可以被部署到設備上運行，運行過程中又可以指導模型的調優，甚至收集新的數據。這樣的一種開發模式，可以提升開發速度，降低開發門檻，保證開發質量。地平線當前的評估結果顯示，它可以減少約30%的開發人力，節省50%的開發時間，更重要的是，因為開發門檻被降低，開發者的規模甚至可以擴大一個數量級。

地平線會持續對開發工具進行升級，為客戶提供半自動化的處理流程，這里包括：數據工具與模型，模型與端上設備之間的閉環迭代；豐富的模型/系統參考原型，簡潔易用直觀方便的交互手段；標準化開發流程，加上持續的測試，集成，部署機制。

不久前，地平線創始人&CEO 余凱公布了“AI on Horizon, Journey Together”的戰略。在目前這樣一個能源消耗巨大的AI時代，地平線以其自身特有的優勢及服務理念，為客戶提供高性價比和易被繼承的產品，友好的開發工具及參考樣例、先進的計算架構、前沿的算法支持和優質的服務。以開放賦能客戶為本，快速滿足不同客戶需求是地平線AI平臺服務客戶的宗旨，力圖節省更多的開發時間，節約更多的開發人員，也讓越來越多的企業參與到人工智能開發的環境中來，打造良好的生態基礎平臺。

AI on Horizon，地平線黃暢CES ASIA暢談邊緣計算發展趨勢

目前，地平線在智能駕駛和 AIoT 領域已成功賦能多個行業合作伙伴，包括地平線高精建圖與定位方案賦能 SK 電訊，終端完整語音方案賦能小愛音箱、車載多音區交互技術賦能理想 ONE 車內智能交互、工地安全帽檢測等等，并積極參與 AI生態建設，加入了 96boards 等生態社區聯盟，加速AI賦能。