去年 3 月 22 號,,華為 HiAI 首席架構(gòu)師楊鋆源第一次聽到 PaddlePaddle 這個名字,。當(dāng)時,他的內(nèi)心想法是,,「業(yè)界深度學(xué)習(xí)框架已經(jīng)很多了,,開發(fā)者已經(jīng)是選擇困難,百度還有必要再做一個嗎?」
如今,,他的想法發(fā)生了改變:「做深度學(xué)習(xí)框架需要大量的投入,,無論是做框架的提供者,還是廣大的學(xué)員或者是開發(fā)者,,都要花很大的精力去學(xué)習(xí),。平臺必須堅持?jǐn)?shù)年連續(xù)投入,百度愿意做這件事是國內(nèi)開發(fā)者的幸事,。向所有愿意在基礎(chǔ)能力投入的組織和個人致敬,,因?yàn)樗麄兺苿恿苏麄€產(chǎn)業(yè)的可持續(xù)性發(fā)展?!?/p>
楊鋆源想法的改變,,源于一項為期六個月的培訓(xùn)。
今年初,,百度聯(lián)合「深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程實(shí)驗(yàn)室」成立「黃埔學(xué)院」,,旨在為各行各業(yè)培養(yǎng)第一批「首席 AI 架構(gòu)師」。
第一期學(xué)員共 35 人,分別來自不同企業(yè)和單位(包括國家衛(wèi)星氣象中心,、中油瑞飛,、中信銀行、神思電子,、OPPO,、廣東電網(wǎng)、廣東長隆集團(tuán),、中國聯(lián)通軟件研究院,、華為、米文動力,、愛奇藝等),,當(dāng)然楊鋆源是其中之一。
他們在北京進(jìn)修半年,,在半年時間里,,他們結(jié)合自身行業(yè)和企業(yè)需求,使用飛槳(PaddlePaddle),,將 AI 結(jié)合到業(yè)務(wù)實(shí)踐中應(yīng)用落地,。
上周日(6 月 16 日)下午,他們在百度科技園熊掌報告廳上完「最后一課」后,,28 位通過畢業(yè)答辯的學(xué)員獲得了畢業(yè)證書,,成為百度認(rèn)證的業(yè)界首批「首席 AI 架構(gòu)師」。
在這半年時光里,,陪伴著楊鋆源們一起成長的,,還有 PaddlePaddle——中文名為「飛槳」,是由百度自主研發(fā),,集深度學(xué)習(xí)訓(xùn)練和預(yù)測框架,、模型庫、工具組件,、服務(wù)平臺等為一體的開源深度學(xué)習(xí)平臺,。
2016 年,在百度世界大會上,,百度宣布 PaddlePaddle 開源,,國內(nèi)首個也是目前唯一一個開源開放、功能完備的端到端深度學(xué)習(xí)平臺誕生,。
去年,,PaddlePaddle 核心框架 Paddle Fluid v1.0 發(fā)布了穩(wěn)定版本;半年來,飛槳(PaddlePaddle)在易用性,、性能,、模型豐富度等方面取得了大量突破性進(jìn)展,百度深度學(xué)習(xí)技術(shù)平臺部總監(jiān),、黃埔學(xué)院副院長馬艷軍說,。
基于百度多年的產(chǎn)業(yè)應(yīng)用經(jīng)驗(yàn),以及百度大腦生態(tài)伙伴的人工智能解決方案實(shí)踐,,飛槳(PaddlePaddle)目前已經(jīng)支持六十多個經(jīng)過真實(shí)業(yè)務(wù)場景驗(yàn)證的官方模型,,涵蓋視覺、自然語言處理,、推薦等 AI 核心技術(shù)領(lǐng)域,。
在核心框架層面,它提供開發(fā),、訓(xùn)練和預(yù)測一整套的技術(shù)能力,,它同時支持稠密參數(shù)和稀疏參數(shù)場景,支持千億規(guī)模參數(shù),、數(shù)百個節(jié)點(diǎn)的高效并行訓(xùn)練,,為用戶提供業(yè)界最強(qiáng)的超大規(guī)模并行深度學(xué)習(xí)能力;它提供性能全面領(lǐng)先的底層加速庫和推理引擎、Paddle Mobile,、Paddle Serving,、高效自動化模型壓縮庫 PaddleSlim,為用戶提供端到端全流程部署方案;
為適應(yīng)工業(yè)大生產(chǎn)階段的「標(biāo)準(zhǔn)化,、自動化和模塊化」,,它提供包括遷移學(xué)習(xí)、強(qiáng)化學(xué)習(xí),、自動化網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計,、訓(xùn)練可視化工具、彈性深度學(xué)習(xí)計算等在內(nèi)的工具組件;
在服務(wù)平臺層面,,它提供零基礎(chǔ)定制化訓(xùn)練和服務(wù)平臺 EasyDL 和一站式開發(fā)平臺 AI Studio,,進(jìn)一步降低深度學(xué)習(xí)應(yīng)用門檻,讓零算法基礎(chǔ)加速推動產(chǎn)業(yè)智能化變革,。
「飛槳(PaddlePaddle)核心框架 Paddle Fluid v1.5 馬上就要發(fā)布」,,馬艷軍當(dāng)日透露。
飛槳(PaddlePaddle)總架構(gòu)師于佃海,、主任架構(gòu)師胡曉光和董大祥分別從飛槳的基本能力,、設(shè)計,模型的穩(wěn)定性和易用性,,飛槳在大規(guī)模分布式應(yīng)用場景中的應(yīng)用等方面,,對飛槳在這半年里取得的進(jìn)展做了更詳細(xì)的介紹。
于佃海說,,最近半年,,他們在 OP 的完備性上做了很多建設(shè);飛槳(PaddlePaddle)的 API 也逐漸穩(wěn)定下來;他們還完善了對應(yīng)的中英文雙語文檔,,優(yōu)化了底層性能,并增加了對動態(tài)圖編程的支持,。
胡曉光表示,,飛槳(PaddlePaddle)模型庫中模型的數(shù)量已經(jīng)從早期的不到二十個模型,增長到六十多個,,覆蓋方方面面,,還包含「非常前沿」的模型。
他還表示,,飛槳(PaddlePaddle)提供的算法模型全部源于百度的工業(yè)實(shí)踐,,歷經(jīng)大規(guī)模數(shù)據(jù)、場景訓(xùn)練,,特別是針對中文的語義表示,、情感分析等,百度基于特有的數(shù)據(jù)算法已可提供成熟穩(wěn)定的模型,,大幅提升訓(xùn)練速度和實(shí)現(xiàn)效率,。比如機(jī)器翻譯的模型,在訓(xùn)練上比其他框架快 60% 以上,,預(yù)測速度快近 4 倍,。
董大祥透露,他們在大數(shù)據(jù)訓(xùn)練的過程中做了很多優(yōu)化,,包括數(shù)據(jù)分布式的 I/O,,隨機(jī)打亂等功能。他們將在飛槳(PaddlePaddle)的開源項目里逐步增強(qiáng)模型的異步能力,,以更高性價比擴(kuò)展節(jié)點(diǎn),。「易用性方面,,1.5 版本會發(fā)布分布式訓(xùn)練的 API,。」