新聞中心

EEPW首頁 > 智能計算 > 編輯觀點 > 賽靈思用“軟”實力加速自適應計算平臺的推廣

賽靈思用“軟”實力加速自適應計算平臺的推廣

—— 祭出Vitis統一軟件平臺,Vitis AI免費下載,吸引百萬軟件工程師
作者:迎九時間:2020-02-21來源:電子產品世界收藏

不久前,賽靈思推出了Vitis統一軟件平臺,并宣布其重要組件Vitis 開放下載,使人工智能()和機器學習開發者將可以利用賽靈思的高性能計算平臺的加速度。一家硬件平臺公司,為何重磅推出軟件平臺?為此,電子產品世界等媒體采訪了賽靈思軟件與 產品市場營銷副總裁Ramine Roane(羅明)。

本文引用地址:http://www.opuaih.live/article/202002/410142.htm

1582252029551228.png

賽靈思 軟件與 AI 產品市場營銷副總裁 Ramine Roane

1 賽靈思整體的業務戰略及對計算的看法

所有的電子系統應該是的,就像是有機物種一樣,這樣才能跟上創新的速度。同樣,“所有的硬件和計算應該是”的觀點,也得到越來越多的行業認可。

直到2000年之前,根據摩爾定律,業界還接受著芯片或硅工藝的密度每18個月翻一番的速度,當時所有的應用開發人員和軟件開發人員不用做什么,就等著新芯片出現。直到2000年時候,工藝方面的登納德縮放比例定律(Dennard scaling)走到盡頭,認為隨著工藝密度的進一步翻番,頻率不可能再進一步提高了,所有的CPU和計算機最多也就到(2~4) GHz的速度,而且一直維持了20年沒有進一步提升。為了提升所有的應用性能,要進一步擴展,后來使用多核CPU,這個問題從硬件轉向軟件(如下圖)。

1582250226659669.png

之后出現了向異構CPU和的轉移,到目前為止,這種方向是可行的。問題在于所有這些架構包括CPU都是固定的,這樣就很難跟上AI的創新速度。

賽靈思的思路是打造自適應的平臺,非常靈活多變,而且賽靈思的芯片也可針對不同的應用進一步進行硬件的優化。所以現在開發者就不用等著新的芯片出來,就可以建立一些特定架構的應用。

賽靈思提供的解決方案,如何追趕上像AI這樣的創新速度?從下圖可見,AI的CNN在2012年到2018年發展的趨勢,可看出每3個月會出現新的AI模型,會取代之前的模型,一般是1年半到2年的時間來構造1個全新的ASIC或GPU。

1582250279974542.png

從上圖可見,藍色的,之前最主流的是GoogLeNet,1年半到2年后是ResNet,現在ResNet是最尖端的技術,但是沒有辦法在原有的架構上運行。賽靈思的器件以及可自適應的硬件,就可以來構建這種特有的架構。

2 FPGA的成功案例

第1個例子illumina,是一家生命科學公司,利用FPGA技術可以加速醫療診斷。例如得了重癥的新生兒,可以通過加快它的基因組的分析,以前是用1天,現在20分鐘就可以進行診斷的判定。

在汽車行業的應用,戴姆勒汽車公司利用賽靈思的技術可以加速實現AI的決策。包括通過賽靈思FPGA的I/O,從不同的傳感器(包括攝像頭、雷達和激光)獲取信息,還可以使用賽靈思的自適應器件,幫助其更快地決策,而且是低延時的。

第3個例子是CERN,是位于瑞士的歐洲核子研究院,它們通過粒子碰撞機、質子碰撞碎片的分析,發現了希格斯的玻色子。這個發現后來奪得諾貝爾獎。需要對碎片進行快速分析得出結論。

1582252207399158.png

3 Vitis和Vitis AI的特點

Vitis的名字來自于法語,意思是生命力,解釋到中文也有“至關重要”的意思。

Vitis和Vitis AI開發工具可以助力軟件開發人員和AI科學家,用他們選擇的語言,例如C++進行開發,也可以使用相關的架構和庫進行開發。

1)Vitis針對軟件/AI軟件的開發人員

不過,對于軟件人員和AI人員,賽靈思并不是那么知名,因為過去長久以來,賽靈思的開發工具主要面向硬件的開發人員。隨著賽靈思推出Vitis和Vitis AI,想要改變人們對于賽靈思的認識——現在也針對軟件開發人員。

1582250397114543.png

而且軟件開發人員的機會更多,因為軟件人員的倍數大大高于硬件開發人員。現在全球硬件開發者可能是一二十萬的規模,而軟件開發人員是數以幾百萬計的。而且現在大學里學硬件開發的已經很少了,大部分人選擇學習軟件開發。賽靈思的Vivado是針對硬件開發人員的平臺,新推出的Vitis和Vitis AI是針對軟件開發者以及AI科學家的。

2)Vitis統一了所有應用平臺的開發

包括:① 把AI和傳統的軟件開發統一起來了。②把云和邊緣也都統一起來,包括終端計算以及邊緣和云計算,不同的架構全都統一起來。③可以使用統一的語言進行異構的加速。

為此,賽靈思已進行了六七年的實踐,從最開始的硬件開發平臺Vivado,到后面的OS和固件SDK,包括一些嵌入式的軟件開發環境,到不同的云計算的開發。亞馬遜云計算服務(AWS)成為第1個使用FPGA云服務的提供商,后來BAT(百度、阿里、騰訊)也緊隨其后。可見,所有的環境、語言、庫不同,針對包括云和邊緣,Vitis就是要把所有的這些統一到一個整體的平臺上來。

3)Vitis的堆棧

如下圖,最下面是基礎的硬件的平臺,從端點的平臺到邊緣計算,一直到云。往上的第2層是賽靈思運行時庫(XRT),主要管理CPU和FPGA之間的通訊。再上面一層是不同的工具,包括編譯器、分析器和調試器,它使用軟件語言編譯成為FPGA所用的加速語言。

1582250430774386.png

賽靈思建立了很多庫,來進行一些加速,包括有OpenCV、金融、BLAS等庫。而且這些都是業界標準的加速。這些庫當中,很多傳統的軟件開發人員可能是使用C++或者python語言進行編寫的,新的開發人員使用的是一些新的架構和DS的語言。

在AI方面,TensorFlow和python torch是首選的。對于Vitis AI,主要用的是TensorFlow(如上圖)。另外,還有視頻轉碼,主要用FFmpeg語言。

賽靈思支持很多庫,這對于開發者來說是非常關鍵的。眾所周知,軟件開發人員不愿意每次寫程序的時候重新開始,他們可以利用現成業界標準的庫,利用現成的材料,包括CPU、GPU等,現在還有Vitis來支持他們的工作。

賽靈思現在也在進行一個戰略轉型:從傳統硬件公司轉型成為軟件的平臺公司。賽靈思的理念是擁抱開源,把免費工具貢獻給大家。

作為賽靈思轉型戰略的一部分,賽靈思致力于開源,現在參與了多個開源的項目,賽靈思從2001年時就開始是使用者,2007年的時候成為革新者,2018年是頭號的貢獻者,第2名是谷歌。

現在賽靈思還有開源庫,例如Github,賽靈思還有SRT的運行庫,有AI模型的例子,都是經過優化的,可以在FPGA上運行,還有賽靈思收購深鑒科技公司獲得的技術。未來賽靈思還會宣布使用和貢獻更多的開源項目。

1582250460601048.png

    另外,賽靈思還推出了Developer.xilinx.com網站,主要將Vitis專家和相關的開發人員建立起聯系,這也是賽靈思轉型戰略的一部分。2019年11月推出該網站的時候,網站有30多篇文章,現在達到了50多篇,這些文章來自于不同領域的開發人員的專家,在編寫應用程序中所提供的一些經驗。這些不同的領域,包括汽車行業,還有智慧城市等。

    4 Vitis AI的應用案例

    一個典型的傳統軟件開發人員和AI結合的例子。例如對視頻的數據進行預處理,然后通過AI進行輸出,再進行后處理,預處理和后處理都是軟件,中間通過AI。

例如假設開發人員要通過這一條流線以6 FPS(每秒幀)的速度進行顯示。如果在CPU上運行,是6 FPS。如果在Vitis數據流流水線中,可以達到80 FPS(如下圖)。

1582250523427519.png

具體地,在FPGA或1個GPU上,要對AI進行加速,可以看到從6激增到30這么大的提升。如果是用GPU也就到這么多了,不可能再有更多的改善了。在FPGA上你可以決定對預處理部分加速,還是對后處理部分進行加速。這樣就達到了40 FPS。 最下面一行,可以進行流水線的優化處理,不用等著這一幀處理完畢就可以進行下一幀的處理,這樣就可以達到80 FPS的速度,而軟件層面的開發人員完全沒有必要了解這些硬件的技能,就可以達到這樣的效果。

早期Vitis和Vitis AI試用的客戶,有從事自動駕駛的北京小馬智行、汽車一級供應商日立公司的攝像頭識別,韓國三星的5G部署等。

5 如何降低FPGA的開發門檻

賽靈思和多個FPGA平臺合作,包括AWS,中國有BAT。基本上有兩個方法解決這個問題。①通過Vivado,這個比較難,因為涉及到硬件的設計和模擬。②幾年前賽靈思推出了SDAccel,它算是Vitis的鼻祖。賽靈思的FaaS(FPGA即服務)合作伙伴現在沒有更新它們的系統,預計2020年上半年會全部更新。因為賽靈思的Vitis和Vitis AI庫容量非常豐富,所以會幫助他們大幅加速FPGA應用。

1582250562244517.png

實際上,Vitis和Vitis AI是拋磚引玉——采用免費的模式,主要從硬件那邊賺取利潤。    

一個問題是:在深度學習做加速這方面,雖然現在FPGA成長快,但是在AI培訓方面,比較主流的還是GPU居多,一方面是因為GPU硬件性能高,另一方面,英偉達在軟件工具方面針對各個垂直領域做了很多工作。那么,Xilinx推出Vitis平臺之后,是不是有助于加速到各個垂直應用的進程?

Ramine Roane解釋道,GPU在AI培訓上的市場份額很大,但在AI的推斷上面效率并不是很高。AI推斷最大的市場份額還是由CPU占據的,不過現在CPU加速的效率還不是很高,例如在邊緣的一個案例是北京小馬智行公司的自動駕駛,時延是一個很大的問題,GPU最大的問題是時延太高了。不過,過去人們認為FPGA有點難用,需要用硬件開發,所以Vitis、Vitis AI的推出,就是為了降低這個難度。



關鍵詞: AI 加速器 自適應

評論


相關推薦

技術專區

關閉
pk10稳赢公式