云端AI雖強(qiáng)，但其固有的延遲、網(wǎng)絡(luò)依賴和隱私風(fēng)險始終是用戶體驗的隱形風(fēng)險。無奈過去的移動端側(cè)AI普遍能力不足，難以在語義、生圖、問答等高頻環(huán)境下提供同等的體驗。

如今端側(cè)AI的發(fā)展勢頭迅猛，AI手機(jī)的下一次進(jìn)化，必須由底層技術(shù)革新來驅(qū)動。更強(qiáng)大、可靠的端側(cè)AI能力，將是突破當(dāng)前移動AI困境的關(guān)鍵。

在這樣的行業(yè)背景下，穩(wěn)坐全球智能手機(jī)芯片市場份額頭把交椅的聯(lián)發(fā)科，再次向行業(yè)拋出了一枚重磅AI旗艦芯——天璣9500。

深入到芯片底層，其通過架構(gòu)、算法等多方面的底層技術(shù)創(chuàng)新，實(shí)現(xiàn)了令人“驚艷”的AI能力提升，令端側(cè)AI能力達(dá)到了一個新的高度。同時，在最強(qiáng)NPU性能基礎(chǔ)上，天璣9500構(gòu)建了一個從芯片底層到應(yīng)用體驗，再到開發(fā)生態(tài)的完整創(chuàng)新體系，讓AI從嘗鮮加速走向常用，AI主動服務(wù)能力更強(qiáng)。

由此，聯(lián)發(fā)科正讓手機(jī)AI從“附加功能”轉(zhuǎn)變?yōu)?ldquo;核心能力”。

一、手機(jī)市場All in AI，天璣首發(fā)雙NPU架構(gòu)，端側(cè) AI向“好用”進(jìn)化

如今，AI能力已經(jīng)成為手機(jī)競爭的核心焦點(diǎn)。

前不久蘋果秋季發(fā)布會剛剛結(jié)束，AI無疑是iPhone重要的新功能，蘋果甚至直接在GPU的核心中塞入了神經(jīng)網(wǎng)絡(luò)處理器。同時，OPPO、vivo等手機(jī)巨頭在旗艦機(jī)發(fā)布會上頻頻強(qiáng)調(diào)芯片層的AI能力革新所帶來的AI體驗提升。

從芯片廠商到終端巨頭，所有玩家都在聚焦芯片AI能力的提升。AI體驗響應(yīng)不夠流暢、常駐AI能力不夠省電、AI云端依賴過于嚴(yán)重……想要實(shí)現(xiàn)真正的端側(cè)AI自由，芯片層的技術(shù)革新勢在必行。

此次聯(lián)發(fā)科直接從芯片底層架構(gòu)動刀，采用了突破性的雙NPU架構(gòu)，一顆性能極強(qiáng)的NPU990與一顆能效出色的超能效NPU相結(jié)合。

性能 NPU，峰值性能暴漲111%的同時，峰值性能功耗還下降了56%。

具體來看，這顆性能NPU在權(quán)威ETHZ AI性能基準(zhǔn)測試中的跑分達(dá)到了15015分，榮登榜單第一名。

▲ETHZ AI基準(zhǔn)測試排行

根據(jù)榜單數(shù)據(jù)，當(dāng)前同類旗艦手機(jī)芯片的成績通常在8000-9000分左右，天璣9500 AI性能的提升是十分可觀的，連續(xù)數(shù)年持續(xù)霸榜，天璣在推動端側(cè) AI 落地上的決心和投入可見一斑。

與此同時，超強(qiáng)性能下，天璣9500的雙NPU甚至實(shí)現(xiàn)了更低的功耗。其中能效NPU采用了存算一體（CIM）架構(gòu)，尚屬業(yè)內(nèi)首個。能效NPU讓手機(jī)在運(yùn)行低功耗小模型時的功耗下降了42%之多，讓手機(jī)端側(cè)AI擁有了能夠始終在線的扎實(shí)基礎(chǔ)。

此外還有幾項值得一提的黑科技，進(jìn)一步優(yōu)化了端側(cè)AI使用體驗。

·全新的Transformer專用固化電路設(shè)計：這項設(shè)計可以讓端側(cè)AI模型跑的又快又省電，實(shí)現(xiàn)了硬件級的AI加速，結(jié)合推理加速算法Eagle的應(yīng)用，生成性能最高提升了2倍。

·首發(fā)支持四通道UFS 4.1：可以讓模型的加載速度再次提升40%。同時，新的大模型內(nèi)存壓縮技術(shù)能進(jìn)一步節(jié)省帶寬占用、降低功耗開銷。

·端側(cè)支持了BitNet 1.58bit推理框架技術(shù)，相比上代實(shí)現(xiàn)了33%左右的功耗下降。