世界兩家在人工智能芯片領(lǐng)域領(lǐng)先的廠商高通和英偉達(dá)在周三公布的一組新的測(cè)試數(shù)據(jù)中,高通的人工智能芯片在三個(gè)衡量電源效率的指標(biāo)中擊敗了英偉達(dá)。
人工智能模型需要用大量的數(shù)據(jù)進(jìn)行訓(xùn)練,以提高其準(zhǔn)確性和性能。在訓(xùn)練完成之后,人工智能模型就可以用于推理——執(zhí)行一些具體的任務(wù),比如根據(jù)輸入生成文本回復(fù),或者判斷一張圖片是否有貓。推理是人工智能技術(shù)在產(chǎn)品中廣泛應(yīng)用的環(huán)節(jié),但也會(huì)增加企業(yè)的成本,其中一個(gè)主要成本就是電力。
高通公司利用其在為手機(jī)等低功耗設(shè)備設(shè)計(jì)芯片的經(jīng)驗(yàn),推出了一款專為云端和邊緣端提供高性能、低功耗人工智能處理的芯片——Cloud AI 100。該芯片在周三公布的由MLCommons發(fā)布的測(cè)試數(shù)據(jù)中,在兩項(xiàng)功率效率指標(biāo)上擊敗了英偉達(dá)的旗艦芯片H100。
功率效率指標(biāo)是指每瓦特電力可以執(zhí)行多少次服務(wù)器查詢。Cloud AI 100在圖像分類方面達(dá)到了227.4次查詢每瓦特,而英偉達(dá)的H100只有108.4次查詢每瓦特,圖像分類可以用于識(shí)別圖片中的物體或場(chǎng)景。
物體檢測(cè)部分高通也領(lǐng)銜英偉達(dá),分別達(dá)到了3.8次查詢每瓦特和2.4次查詢每瓦特。物體檢測(cè)可以用于分析零售店的監(jiān)控視頻,了解顧客最常去哪些地方。
不過(guò)在自然語(yǔ)言處理方面,英偉達(dá)卻占據(jù)了絕對(duì)優(yōu)勢(shì),無(wú)論是在性能還是功率效率方面都排名第一。自然語(yǔ)言處理是人工智能技術(shù)中最廣泛應(yīng)用于聊天機(jī)器人等系統(tǒng)的技術(shù),英偉達(dá)達(dá)到了10.8次查詢每瓦特,而高通排名第二,為8.9次查詢每瓦特。
自由美利堅(jiān)...
到自助洗車店,品百態(tài)人生。
GHS還是第一生產(chǎn)力