自1985年首款FPGA誕生以來，F(xiàn)PGA已經(jīng)是一名在電子信息領(lǐng)域征戰(zhàn)了30年的老兵,，這名戰(zhàn)功赫赫的老兵如今已經(jīng)正式開赴了一個(gè)新的戰(zhàn)場。從2011年Altera公司發(fā)布支持利用OpenCL來開發(fā)FPGA的SDK工具以后,，采用CPU+FPGA構(gòu)成異構(gòu)計(jì)算系統(tǒng)成為另一種具有競爭力的解決方案。為了讓更多網(wǎng)友了解FPGA異構(gòu)計(jì)算系統(tǒng)的原理、架構(gòu)和開發(fā)流程，《電子技術(shù)應(yīng)用》特別邀請(qǐng)了電子科技大學(xué)黃樂天博士和電子科技大學(xué)“成電杰出學(xué)生”蒲宇亮在電子技術(shù)應(yīng)用·云課堂進(jìn)行了一場公益演講,。

       雖然開講時(shí)間安排在9月25日，一個(gè)周日晚上的八點(diǎn),，仍有100多網(wǎng)友參與了學(xué)習(xí)，隨后幾天學(xué)習(xí)人數(shù)已經(jīng)超過200人,。

       在演講過程中,，很多網(wǎng)友都提出了自己在學(xué)習(xí)CPU+FPGA異構(gòu)計(jì)算中遇到的問題，授課講師黃樂天,、蒲宇亮都進(jìn)行了詳細(xì)的解答,。

       感興趣的網(wǎng)友還可以通過以下網(wǎng)址觀看學(xué)習(xí)視頻：

       http://webinar.chinaaet.com/zh-CN/Chinaaet/Youke/CourseDetail?courseId=541
授課講師簡介：

黃樂天，電子科技大學(xué),，講師,，博士，《FPGA異構(gòu)計(jì)算》一書的第一作者,。

《電子技術(shù)應(yīng)用》著名專家博主：老莫（http://blog.chinaaet.com/molf）主要研究方向?yàn)椋憾嗵幚砥髌舷到y(tǒng)與片上網(wǎng)絡(luò),；高能效并行計(jì)算系統(tǒng),；基于FPGA的新型異構(gòu)計(jì)算系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)。

蒲宇亮,，電子科技大學(xué)“成電杰出學(xué)生”,，中興通訊公司工程師。

研究生期就讀于電子科技大學(xué)——Altera聯(lián)合實(shí)驗(yàn)室,，主要研究方向?yàn)榛贔PGA的新型異構(gòu)計(jì)算系統(tǒng),，是《FPGA異構(gòu)計(jì)算》一書的主要作者之一。2016年7月以 “藍(lán)劍”精英人才計(jì)劃（該計(jì)劃全國僅招50人）身份入職中興通訊,。

精華問答整理

問題：使用的平臺(tái)是SoC還是PCIe的FPGA?

黃樂天（以下簡稱黃）：我們兩個(gè)平臺(tái)都有使用過,。SoC版本使用的是友晶公司提供的DE1-SoC開發(fā)板，基于PCIe的版本使用的是友晶公司提供的DE5-net,，這二者在開發(fā)方法上并無本質(zhì)區(qū)別,，只是在開發(fā)流程和BSP支持上稍有不同。友晶公司的技術(shù)人員提供了很好的支持,。

蒲宇亮（以下簡稱蒲）：兩者都可以,，SoC資源較少，采用串口傳輸數(shù)據(jù),。若是對(duì)計(jì)算時(shí)間有嚴(yán)格要求則需采用PCIe傳輸?shù)腇PGA進(jìn)行實(shí)現(xiàn),。

問題：FPGA異構(gòu)計(jì)算目前在中國主要應(yīng)用在那些領(lǐng)域？異構(gòu)計(jì)算能夠給這些領(lǐng)域帶來那些新變化,？

黃：FPGA異構(gòu)計(jì)算在中國目前還處于“試用階段”,，有部分公司（因?yàn)樗麄儧]有公開報(bào)道也不太好直接點(diǎn)名）在預(yù)研或者實(shí)驗(yàn)階段嘗試在使用這一計(jì)算模式。但基于GPU的傳統(tǒng)異構(gòu)計(jì)算已經(jīng)在并行計(jì)算領(lǐng)域得到了較大規(guī)模的應(yīng)用,，如超級(jí)計(jì)算機(jī),、高性能服務(wù)器以及某些專用仿真設(shè)備。

蒲：基于OpenCL的FPGA異構(gòu)計(jì)算比較適合用在算法中存在大規(guī)模并行計(jì)算特性的系統(tǒng)中,，類似傳統(tǒng)的GPU并行系統(tǒng),，相比GPU系統(tǒng)能夠帶來更低的功耗和更好的計(jì)算能效，能降低運(yùn)維成本,。

問題：多核異構(gòu)是指不同的處理器集成到一起?CPU與DSP,、FPGA算異構(gòu)嗎？

黃：不同的處理器集成到一起只不過是異構(gòu)計(jì)算的一個(gè)要素而已,，更重要的是要用這些不同的處理器組合到一起去實(shí)現(xiàn)通用計(jì)算,。這就涉及到一系列開發(fā)方法、流程和工具,。如果不是去實(shí)現(xiàn)通用計(jì)算,，其實(shí)就是一種獨(dú)特形式的“嵌入式系統(tǒng)設(shè)計(jì)”而已。這部分內(nèi)容在課程視頻中有專門講到,。

蒲：目前研究主要是用專用硬件如DSP,、FPGA對(duì)原來的CPU系統(tǒng)進(jìn)行加速,，但并沒有進(jìn)一步挖掘原系統(tǒng)的計(jì)算能力，未來商用的異構(gòu)計(jì)算系統(tǒng)應(yīng)該是主機(jī)端和設(shè)備端各司其職,，將計(jì)算密度大的模塊放在設(shè)備端進(jìn)行加速,，而將邏輯控制多的模塊放在主機(jī)端，這樣才能充分發(fā)揮異構(gòu)系統(tǒng)的優(yōu)勢(shì),。

問題：異構(gòu)的處理器時(shí)鐘如何同步,？

黃：并不需要時(shí)鐘級(jí)別的同步，而是在系統(tǒng)級(jí)別解決同步的問題,。利用的是多層存儲(chǔ)結(jié)構(gòu),，基于barrier的編程方法等使數(shù)據(jù)一致性得到保證即可。這是在任何多核心系統(tǒng)或者復(fù)雜SoC設(shè)計(jì)中都被經(jīng)常采用的方法,。如果對(duì)這個(gè)問題希望有深入的了解,，應(yīng)該閱讀多核片上系統(tǒng)設(shè)計(jì)方面的書籍或論文。

問題：用ARM體系結(jié)構(gòu)和X86體系結(jié)構(gòu)作為Host,，有什么區(qū)別嗎,？

黃：本質(zhì)上沒有區(qū)別，Host需要是一個(gè)處理器來實(shí)現(xiàn)“主控”的功能,，完成一些“準(zhǔn)備性”和“總結(jié)性”的工作,。區(qū)別只在于ARM體系結(jié)構(gòu)的處理器和X86體系結(jié)構(gòu)的處理器在執(zhí)行程序時(shí)本身性能以及能效上的差別。

蒲：Altera的SoC-de1開發(fā)板將ARM和FPGA集成到片上,，相比X86體系中需要將數(shù)據(jù)在Host端和設(shè)備端傳輸,，帶來的好處是傳輸速度快，延遲小,。

問題：Host和Device對(duì)OpenCL的效能哪個(gè)影響大,？

黃：由于運(yùn)算加速主要依靠Device來實(shí)現(xiàn)，因此Device的影響更大,。但反過來說,，OpenCL編程的時(shí)候需要考慮到不同Device的特性來對(duì)代碼結(jié)構(gòu)和代碼風(fēng)格加以優(yōu)化。我們之前發(fā)表過多篇論文來討論這個(gè)問題,，在視頻課程的最后部分有所介紹,。

蒲：Device端影響更大，因?yàn)槠溆?jì)算密度大,，在系統(tǒng)設(shè)計(jì)時(shí)研究將哪些模塊放在Device端是一個(gè)關(guān)鍵點(diǎn)。

問題：異構(gòu)計(jì)算主要用于哪些領(lǐng)域,？

黃：目前主要用于運(yùn)算加速,，也就是高性能計(jì)算。但由于高性能計(jì)算用途廣泛,，因此也可以說異構(gòu)計(jì)算可以被用于很多領(lǐng)域,。包括但不限于金融分析,、天氣預(yù)報(bào)、大規(guī)模仿真等,。

問題：KNN算法中FPGA仍然是加速器,多核異構(gòu)與X86+FPGA有啥區(qū)別?

黃：我猜想這位朋友想問的是異構(gòu)計(jì)算和利用傳統(tǒng)的設(shè)計(jì)方法在FPGA上實(shí)現(xiàn)一個(gè)加速器之間有什么區(qū)別,？這其實(shí)就是代表了開發(fā)方法的不同。用傳統(tǒng)的設(shè)計(jì)方法在FPGA上實(shí)現(xiàn)一個(gè)加速器是將CPU上的軟件和FPGA上的加速器分開設(shè)計(jì),，也就是傳統(tǒng)的嵌入式系統(tǒng)的設(shè)計(jì)方法,。而異構(gòu)計(jì)算是在統(tǒng)一的開發(fā)平臺(tái)，統(tǒng)一的編程模型下開發(fā),。使用OpenCL的編程框架使得CPU+FPGA架構(gòu)開發(fā)“一體化”,。

問題：開發(fā)者在適應(yīng)異構(gòu)計(jì)算時(shí)，采用的程序開發(fā)有哪些需要特別注意到的地方嗎,？

黃：這個(gè)問題很大,，首先需要符合編程規(guī)范，其次需要根據(jù)器件的特點(diǎn)做一些代碼結(jié)構(gòu)上的優(yōu)化,。具體內(nèi)容可以閱讀《FPGA異構(gòu)計(jì)算》這本書以及OpenCL編程相關(guān)章節(jié),。

蒲：需要具備并行編程的思想，在系統(tǒng)設(shè)計(jì)時(shí)最需要考慮的是模塊劃分,。

問題：如果我必須處理大稀疏矩陣,，最好是用循環(huán)雙向鏈表，否則內(nèi)存放不下,，我已在CPU上實(shí)現(xiàn)算法了,，有沒有可能實(shí)現(xiàn)異構(gòu)運(yùn)算？

黃：這種情況下需要你改變算法,，在適合于矩陣運(yùn)算的編程方法（如向量運(yùn)算）來加以處理,，才有可能實(shí)現(xiàn)算法的并行化。這方面的并行編程技巧和算法優(yōu)化需要學(xué)習(xí),，當(dāng)然這比單純的寫CPU上的串行處理程序還是要難很多,。

問題：GPU的OpenCL內(nèi)核可以直接移植到FPGA上嗎？

黃：很多時(shí)候需要修改,，并不能保證能直接移植,。但修改的部分并不一定太多，取決于具體的代碼,。

蒲：GPU的內(nèi)核代碼經(jīng)過一定修改可以移植到FPGA上,，這也是OpenCL強(qiáng)調(diào)通用性的表現(xiàn)。

問題：老師好,！我想問的是,，對(duì)于一個(gè)初學(xué)者。如果想進(jìn)行FPGA異構(gòu)計(jì)算的學(xué)習(xí)和開發(fā)，我所需要做的工作都應(yīng)該包括那幾個(gè)方面呢,？

黃：建議首先把OpenCL的編程方法學(xué)會(huì),。由于FPGA綜合一次時(shí)間太長，所以調(diào)試代碼很困難,。因此如果學(xué)習(xí)OpenCL更好的平臺(tái)是GPU,，可以選擇AMD公司支持OpenCL的GPU。

蒲：1.有C\C++編程基礎(chǔ)2.熟悉GPU并行編程思想3.對(duì)FPGA硬件架構(gòu)有一定了解即可,。

問題：處理器之間的數(shù)據(jù)傳輸消耗的時(shí)間,，是否會(huì)抵消耗費(fèi)心血優(yōu)化程序所帶來的性能提升呢？

黃：這確實(shí)是一個(gè)問題,。所以現(xiàn)在要靠幾個(gè)方面來解決這一問題,。首先就是單片化，把CPU和FPGA集成到一個(gè)芯片上,，兩者之間的傳輸時(shí)間可以下降,。第二就是采用“設(shè)備間流水”方法來適當(dāng)降低這方面的影響。第三就是異構(gòu)計(jì)算的適用范圍,，目前更多的適用于高吞吐率的應(yīng)用而非低延遲的應(yīng)用,。最新的研究還包括一些體系結(jié)構(gòu)級(jí)的研究。

蒲：目前的內(nèi)存訪問機(jī)制限制了子系統(tǒng)之間的頻繁交互,，所以設(shè)計(jì)時(shí)應(yīng)盡量將計(jì)算密度高的模塊放在一起,，從而減少傳輸延遲。相信隨著硬件加速應(yīng)用需求的增多,，業(yè)界能夠給出更可靠完善的解決方案,。

問題：從前面講的，異構(gòu)更多的工作是在優(yōu)化吧,？

黃：一定程度上可以這么說,，在AMD公司內(nèi)部從事異構(gòu)計(jì)算相關(guān)開發(fā)工作的工程師也常常被稱為“算法優(yōu)化工程師”。但從廣義來講大部分做實(shí)現(xiàn)的工程師其實(shí)都是在做優(yōu)化,，傳統(tǒng)的FPGA工程師在實(shí)現(xiàn)算法的過程也可以認(rèn)為是一個(gè)算法優(yōu)化的過程,。

問題：做異構(gòu)計(jì)算開發(fā)與平常的FPGA開發(fā)來說,從思維、觀念上需要哪些改變,？

黃：需要從更高的層級(jí),，也就是體系結(jié)構(gòu)的層級(jí)上面去理解整個(gè)系統(tǒng)的運(yùn)行過程。而不是傳統(tǒng)的RTL級(jí)關(guān)注的那些點(diǎn),。

問題：我現(xiàn)在想的是先對(duì)OpenCL在GPU的開發(fā)中具有一定的了解后,，再進(jìn)行移植到FPGA上。這樣的思路對(duì)么,？

黃：在初期學(xué)習(xí)OpenCL的時(shí)候這樣的思路是對(duì)的,，但是后期要想發(fā)揮FPGA的最大能效還需要對(duì)FPGA內(nèi)部結(jié)構(gòu)和OpenCL到FPGA內(nèi)部資源的映射關(guān)系有全面的了解。

問題：FPGA可以運(yùn)行多個(gè)內(nèi)核程序嗎,？

黃：請(qǐng)蒲宇亮回答,。

蒲：目前一個(gè)FPGA能串行運(yùn)行多個(gè)內(nèi)核程序，但無法同時(shí)并行執(zhí)行多個(gè)內(nèi)核程序,。相信隨著硬件虛擬化需求的增加以及技術(shù)的跟進(jìn),，以后的標(biāo)準(zhǔn)中會(huì)對(duì)這方面有所支持。