重點:
?新的embARC機器學習推理(MLI)軟件庫針對使用卷積神經網絡(CNN)和遞歸神經網絡(RNN)的低功耗物聯網應用進行了優化。
?該庫支持節能的新思科技DesignWare ARC EM DSP和HS DSP處理器
?與未優化的實現相比,將二維卷積層的性能提高16倍
?該庫為各種拓撲結構(包括使用長短期內存(LSTM)單元構建的拓撲結構)將RNN加速5倍
?MLI軟件庫通過embARC.org網站作為免費的開源軟件發布
新思科技(Synopsys, Inc.,納斯達克股票市場代碼:SNPS)近日宣布推出全新embARC機器學習推理軟件庫,以促進集成了新思科技DesignWare? ARC? EM和HS DSP處理器IP的節能神經網絡片上系統(SoC)設計的開發。embARC機器學習推理(MLI)軟件庫為開發人員提供了優化的功能,來實現各種類型的神經網絡層,對于低功耗和低面積的應用,如語音檢測、語音識別和傳感器數據處理,可顯著減少處理器執行周期。embARC MLI軟件庫可通過embARC.org獲得。這是一個專門的網站,讓軟件開發人員能夠集中訪問支持ARC處理器的免費開源軟件、驅動程序、操作系統和中間件。
Kneron創始人兼首席執行官Albert Liu表示:“為了向用戶提供超低功耗的語音觸發和識別人工智能解決方案,我們需要像ARC EM DSP處理器那樣既節能又節省空間的處理器IP。通過提供embARC機器學習推理軟件庫,新思科技為片上系統開發人員提供了在基于ARC設計上快速實現機器學習算法所需的基本核心程序。”
embARC MLI軟件庫支持ARC EMxD和HS4xD處理器,并為有效推斷中小型機器學習模型提供了一組基本內核。它能夠有效地實現諸如卷積、長短期內存(LSTM)單元、池化、激活函數(如修正線性單元)和數據路由操作(包括填充、轉置和連接)等操作,同時降低功耗和內存占用。例如,在ARC EM9D處理器上運行CIFAR-10等低功耗神經網絡基準測試,與同類處理器中的競爭對手相比,最多可減少4倍的執行周期。此外,MLI庫在廣泛的神經網絡層(如深度方向的二維卷積、全連接的基本RNN單元和LSTM單元)中平均實現了3-5倍的性能改進,對于二維卷積層,最大性能提升可達16倍。
新思科技IP營銷副總裁John Koeter表示:“對于邊緣設備中的嵌入式機器學習功能,功耗和占用面積是至關重要的考慮因素。新思科技通過使多種類型的神經網絡運行在節能的ARC EM和HS DSP處理器上,擴展了ARC處理器系列,讓開發人員可以選擇這些處理器來創建他們的節能AI設計。”