近日,Meta在官網(wǎng)發(fā)布公告,為了滿足未來十年AI算力急劇增長的需求,Meta開始大力布局下一代AI軟硬件基礎(chǔ)設(shè)施。其中包括首款自研第一代AI推理加速器芯片MTIA v1,并公布了各種技術(shù)細(xì)節(jié)。
Meta官網(wǎng)顯示,MTIA是一種ASIC芯片,能夠?qū)⒉煌娐方M合在同一塊芯片上,還可以并行執(zhí)行一項(xiàng)或多項(xiàng)任務(wù)。第一代MTIA ASIC芯片于2020年開始設(shè)計(jì),是一款A(yù)I推理加速器芯片,該芯片采用臺(tái)積電7nm工藝制造,運(yùn)行頻率為800 MHz,在INT8精度下算力達(dá)102.4 TOPS,在FP16精度下算力達(dá)51.2 TFLOPS,熱設(shè)計(jì)功率(TDP)為25W。
Meta副總裁兼基礎(chǔ)設(shè)施負(fù)責(zé)人Santosh Janardhan在一篇博客文章中寫道,MTIA是Meta針對(duì)推理性工作的內(nèi)部定制加速器芯片,它提供了比CPU更高的計(jì)算能力和效率,能夠?yàn)閮?nèi)部工作提供定制化服務(wù),實(shí)現(xiàn)更好的性能、更低的延遲和更高的效率。
據(jù)了解,在過去的十年間,Meta花費(fèi)了數(shù)十億美元聘請(qǐng)頂級(jí)數(shù)據(jù)科學(xué)家來構(gòu)建新型AI模型,努力布局生成式AI。一直到2022年,Meta主要采用的是CPU和專為加速AI算法而設(shè)計(jì)的芯片組合來維持其AI的運(yùn)行,而該組合的任務(wù)效率通常會(huì)低于GPU。這也是為何Meta取消了原本打算在2022年大規(guī)模推廣CPU和AI定制芯片的計(jì)劃,轉(zhuǎn)而訂購了價(jià)值數(shù)十億美元的英偉達(dá)GPU。為了能夠與這些GPU相匹配, Meta對(duì)旗下的幾個(gè)數(shù)據(jù)中心進(jìn)行了顛覆性的重新設(shè)計(jì),而這樣也是Meta開發(fā)MTIA這款A(yù)SIC芯片的原因,預(yù)計(jì)這款這款芯片將于2025年正式推出。
- QQ:61149512