將大模型部署在芯片上,阿里云如何重塑AI手機(jī)新體驗?
在這個智能手機(jī)幾乎成為人體延伸的模型時代,一場靜悄悄的部署革命正在悄然發(fā)生——AI(人工智能)技術(shù)的飛速進(jìn)步開始重新定義我們與手機(jī)的互動方式。
IDC(國際數(shù)據(jù)公司)預(yù)測,芯片未來幾年將會有一個顯著的上阿塑AI手轉(zhuǎn)折點(diǎn):2024年,全球AI智能手機(jī)的何重出貨量將達(dá)到1.7億部,而到了2027年,體驗僅中國市場的將大機(jī)新AI手機(jī)出貨量就將達(dá)到1.5億部。顯而易見,模型AI不再是部署遙不可及的未來技術(shù),而是芯片已融入我們生活的現(xiàn)實力量。
面對繁榮的上阿塑AI手市場,全球的何重手機(jī)制造商都已經(jīng)開始行動了起來,摁下了AI大模型研發(fā)競賽的體驗快進(jìn)鍵,手機(jī)成為了AI落地的將大機(jī)新第一戰(zhàn)場。
挑戰(zhàn)也隨之接踵而來。
如何構(gòu)建AI手機(jī)?過去的做法是將大模型部署在云端,完全依靠云端算力運(yùn)行,但這樣的方式往往難以滿足用戶即時響應(yīng)和高度個性化的需求。
事實上,這一技術(shù)演進(jìn)背后所隱藏的挑戰(zhàn)還包括如何在資源有限的手機(jī)上運(yùn)行越發(fā)復(fù)雜的AI模型,以及如何解決網(wǎng)絡(luò)延遲和數(shù)據(jù)同步等問題。
尋找一份完備的解決方案成為了通信行業(yè)的當(dāng)下共識。

在這一關(guān)鍵時刻。阿里云與聯(lián)發(fā)科近日聯(lián)合宣布了端云協(xié)同技術(shù),成功將“通義千問”大模型在部署在SoC上,首次實現(xiàn)了在手機(jī)芯片端對大模型的深度適配。
這一創(chuàng)新不僅保證了即便在斷網(wǎng)的情況下,用戶依然能享受到順暢的AI服務(wù),更預(yù)示著在端云協(xié)同技術(shù)的推動下,AI智能手機(jī)的用戶體驗躍進(jìn)到“自由王國”,即AI隨時隨地皆可使用,滿足用戶在復(fù)雜場景下對AI功能的需求。
創(chuàng)新的背后,凝結(jié)了阿里云與聯(lián)發(fā)科在模型瘦身、工具鏈優(yōu)化、推理加速等多個方面的深度合作成果,跨越了從底層芯片到上層操作系統(tǒng)及應(yīng)用開發(fā)的多重挑戰(zhàn),展現(xiàn)了軟硬件一體化深度適配的巨大潛力。
這場端側(cè)AI技術(shù)的探索,不僅開辟了Model on Chip(芯片上模型)商業(yè)化落地的新航道,更為全球手機(jī)廠商提供了新的解決方案,預(yù)示著智能手機(jī)行業(yè)即將邁入一個全新的AI時代。
新趨勢——Model on Chip
將龐大的人工智能大模型優(yōu)化并部署到手機(jī)處理器上,克服傳統(tǒng)上手機(jī)對云端算力的依賴,這項創(chuàng)新不僅使得如自然語言處理、圖像識別等高級AI功能能在手機(jī)上得以直接運(yùn)行,還顯著提升了執(zhí)行效率,同時在用戶體驗和數(shù)據(jù)隱私保護(hù)方面實現(xiàn)了質(zhì)的飛躍。
通義實驗室業(yè)務(wù)負(fù)責(zé)人徐棟對此指出:“端側(cè)AI作為大模型應(yīng)用落地的關(guān)鍵,面臨軟硬件適配和開發(fā)環(huán)境不足等挑戰(zhàn)。阿里云與聯(lián)發(fā)科的合作成功克服了這些難題,通過底層硬件到上層應(yīng)用的全面技術(shù)攻關(guān),將大模型有效部署至手機(jī)芯片,引領(lǐng)了端側(cè)AI在Model on Chip部署的新趨勢。”
據(jù)了解,“通義千問”18億參數(shù)的開源大模型超越了以往模型,在性能和資源使用效率上取得了顯著進(jìn)步,僅使用1.8G內(nèi)存就能處理高達(dá)2048個token的推理,展現(xiàn)了其低成本、易部署及對商業(yè)化極為友好的特性。
觀察人士認(rèn)為,這項技術(shù)的創(chuàng)新打破了以往的局限,讓大模型深度適配手機(jī)芯片成為了可能。究其背后的技術(shù)原理,阿里云的將其落地的產(chǎn)品化思維功不可沒。

首先,在進(jìn)入小小的手機(jī)之前,大模型需要“瘦身”。通過量化、參數(shù)剪枝和知識蒸餾等多種技術(shù)手段減小模型體積。
量化是將模型的浮點(diǎn)數(shù)參數(shù)轉(zhuǎn)化為更高效的低位寬整數(shù)形式,減少存儲和計算資源的需求;參數(shù)剪枝則是通過移除非核心參數(shù)來縮減模型規(guī)模;知識蒸餾是利用一個小型但高效的模型模仿復(fù)雜大模型的行為,既能實現(xiàn)模型的輕量化,又能保持其性能。
其次,量化后的模型雖然體積縮小,但可能會出現(xiàn)性能損失。所以還需要各種優(yōu)化精心調(diào)整,進(jìn)一步提升模型性能,確保其在手機(jī)上的高效運(yùn)行。
最后,經(jīng)過優(yōu)化后的大模型,還需要進(jìn)一步提升其潛能,逐步增強(qiáng)模型能力,更好地適應(yīng)終端應(yīng)用的具體需求。
阿里云的這項端云協(xié)同技術(shù),因為融合了云計算與邊緣計算的優(yōu)勢,相較于傳統(tǒng)方法,帶來了低延遲、 隱私保護(hù)、離線能力、節(jié)省帶寬和實時處理這五大優(yōu)勢。對于自動駕駛、智能制造等未來應(yīng)用場景來說,這一技術(shù)顯得至關(guān)重要。
端云協(xié)同重塑手機(jī)AI
可以預(yù)見的是,端云協(xié)同技術(shù)已經(jīng)徹底改變了AI手機(jī)的計算效率。例如,智能語音助手能夠快速處理簡單請求,如天氣查詢,而復(fù)雜任務(wù)則依托云端的強(qiáng)大算力完成,從而提供高效、靈活的用戶體驗。
在隱私保護(hù)方面,端云協(xié)同技術(shù)通過在設(shè)備端處理敏感數(shù)據(jù),大幅提升了數(shù)據(jù)安全性和隱私性。比如,在健康監(jiān)測應(yīng)用中,個人健康數(shù)據(jù)會首先在本地被加密處理,只有必要的信息才會被安全傳輸至云端,有效降低了泄露風(fēng)險。
根據(jù)最新數(shù)據(jù)預(yù)測,伴隨著端側(cè)AI模型和硬件技術(shù)的不斷進(jìn)步,預(yù)計到2024年,AI智能手機(jī)的市場種類和數(shù)量將迎來顯著增長。市場滲透率預(yù)計將達(dá)到6.4%,并有望在2025年實現(xiàn)翻倍,增至19%。

這一趨勢在2024年的移動世界大會上得到了明顯體現(xiàn),榮耀、OPPO、vivo等手機(jī)品牌紛紛展示了他們的最新AI手機(jī),突出了AI技術(shù)在提升用戶體驗上的諸多應(yīng)用。而隨著阿里云端云協(xié)同技術(shù)的下放,智能手機(jī)市場的競爭格局必然會因此產(chǎn)生重大變革——誰能拒絕一款能在本地運(yùn)行AI大模型的手機(jī)呢?
與此同時,端云協(xié)同技術(shù)也為手機(jī)應(yīng)用的創(chuàng)新提供了強(qiáng)大的動力和廣闊的平臺。開發(fā)者能夠借助這一技術(shù)開發(fā)出更多創(chuàng)新型應(yīng)用,滿足用戶的個性化需求,從而加速推動手機(jī)應(yīng)用市場的活力和生態(tài)繁榮。
結(jié)語
這場由端云協(xié)同技術(shù)驅(qū)動的變革,不僅預(yù)示著手機(jī)性能和應(yīng)用將邁入一個前所未有的新紀(jì)元,也象征著人類與AI深度的融合又進(jìn)了一步。由此,我們也站在了全新的技術(shù)發(fā)展高速路上,目睹著手機(jī)從傳統(tǒng)的通訊、娛樂工具,逐步演變?yōu)榧疉I智慧于一身的全能伙伴,可以預(yù)見的是,隨著與AI技術(shù)的進(jìn)一步融合,手機(jī)的未來,也將變革出無限的可能。
分享免責(zé)聲明:家電資訊網(wǎng)站對《將大模型部署在芯片上,阿里云如何重塑AI手機(jī)新體驗?》一文中所陳述、觀點(diǎn)判斷保持中立,不對所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔(dān)全部責(zé)任。
本網(wǎng)站有部分內(nèi)容均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對其真實性負(fù)責(zé),本網(wǎng)站無法鑒別所上傳圖片或文字的知識版權(quán),本站所轉(zhuǎn)載圖片、文字不涉及任何商業(yè)性質(zhì),如果侵犯,請及時通知我們,本網(wǎng)站將在第一時間及時刪除,不承擔(dān)任何侵權(quán)責(zé)任。聯(lián)系QQ:411954607
本網(wǎng)認(rèn)為,一切網(wǎng)民在進(jìn)入家電資訊網(wǎng)站主頁及各層頁面時已經(jīng)仔細(xì)看過本條款并完全同意。敬請諒解。









