5 月 15 日消息,谷歌公司在今天召開的 I / O 2024 開發(fā)者大會(huì)上,,宣布了第六代數(shù)據(jù)中心 AI 芯片 Tensor 處理器單元(TPU)--Trillium,,并表示將于今年晚些時(shí)候推出交付,。
谷歌首席執(zhí)行官桑達(dá)爾?皮查伊(Sundar Pichai)表示:" 谷歌就是為這一刻而生的。十多年來(lái),,我們一直是 GPU 的先驅(qū),。"
皮查伊表示新款 TPU 交付之后,每塊芯片的計(jì)算性能將比第五代提升 4.7 倍,。谷歌是通過(guò)擴(kuò)大芯片的矩陣乘法單元(MXU)和提高整體時(shí)鐘速度來(lái)實(shí)現(xiàn)這一目標(biāo)的,。此外,谷歌還將 Trillium 芯片的內(nèi)存帶寬提高了一倍,。
Trillium 采用了第三代 SparseCore,,谷歌將其描述為 " 在高級(jí)排名和推薦工作負(fù)載中,處理常見大規(guī)模任務(wù)的專用加速器 ",。該公司認(rèn)為,,這可以讓 Trillium TPU 更快地訓(xùn)練模型,并以更低的延遲為模型提供服務(wù)。
皮查伊還將新芯片描述為谷歌迄今為止 " 最節(jié)能 " 的 TPU,,這一點(diǎn)在人工智能芯片需求持續(xù)成倍增長(zhǎng)的情況下尤為重要,。
翻譯皮查伊部分內(nèi)容如下:" 在過(guò)去六年中,行業(yè)對(duì) ML 計(jì)算的需求增長(zhǎng)了 100 萬(wàn)倍,,大約每年增長(zhǎng) 10 倍,。如果不投資降低這些芯片的功耗需求,這種情況將難以為繼,。谷歌承諾,,新的 TPU 比第五代芯片節(jié)能 67%"。