將大模型部署在芯片上，阿里云如何重塑AI手機(jī)新體驗？
在這個智能手機(jī)幾乎成為人體延伸的模型時代，一場靜悄悄的部署革命正在悄然發(fā)生——AI(人工智能)技術(shù)的飛速進(jìn)步開始重新定義我們與手機(jī)的互動方式。
IDC(國際數(shù)據(jù)公司)預(yù)測，芯片未來幾年將會有一個顯著的上阿塑AI手轉(zhuǎn)折點(diǎn)：2024年，全球AI智能手機(jī)的何重出貨量將達(dá)到1.7億部，而到了2027年，體驗僅中國市場的將大機(jī)新AI手機(jī)出貨量就將達(dá)到1.5億部。顯而易見，模型AI不再是部署遙不可及的未來技術(shù)，而是芯片已融入我們生活的現(xiàn)實力量。
面對繁榮的上阿塑AI手市場，全球的何重手機(jī)制造商都已經(jīng)開始行動了起來，摁下了AI大模型研發(fā)競賽的體驗快進(jìn)鍵，手機(jī)成為了AI落地的將大機(jī)新第一戰(zhàn)場。
挑戰(zhàn)也隨之接踵而來。
如何構(gòu)建AI手機(jī)?過去的做法是將大模型部署在云端，完全依靠云端算力運(yùn)行，但這樣的方式往往難以滿足用戶即時響應(yīng)和高度個性化的需求。
事實上，這一技術(shù)演進(jìn)背后所隱藏的挑戰(zhàn)還包括如何在資源有限的手機(jī)上運(yùn)行越發(fā)復(fù)雜的AI模型，以及如何解決網(wǎng)絡(luò)延遲和數(shù)據(jù)同步等問題。
尋找一份完備的解決方案成為了通信行業(yè)的當(dāng)下共識。
在這一關(guān)鍵時刻。阿里云與聯(lián)發(fā)科近日聯(lián)合宣布了端云協(xié)同技術(shù)，成功將“通義千問”大模型在部署在SoC上，首次實現(xiàn)了在手機(jī)芯片端對大模型的深度適配。
這一創(chuàng)新不僅保證了即便在斷網(wǎng)的情況下，用戶依然能享受到順暢的AI服務(wù)，更預(yù)示著在端云協(xié)同技術(shù)的推動下，AI智能手機(jī)的用戶體驗躍進(jìn)到“自由王國”，即AI隨時隨地皆可使用，滿足用戶在復(fù)雜場景下對AI功能的需求。
創(chuàng)新的背后，凝結(jié)了阿里云與聯(lián)發(fā)科在模型瘦身、工具鏈優(yōu)化、推理加速等多個方面的深度合作成果，跨越了從底層芯片到上層操作系統(tǒng)及應(yīng)用開發(fā)的多重挑戰(zhàn)，展現(xiàn)了軟硬件一體化深度適配的巨大潛力。
這場端側(cè)AI技術(shù)的探索，不僅開辟了Model on Chip(芯片上模型)商業(yè)化落地的新航道，更為全球手機(jī)廠商提供了新的解決方案，預(yù)示著智能手機(jī)行業(yè)即將邁入一個全新的AI時代。
新趨勢——Model on Chip
將龐大的人工智能大模型優(yōu)化并部署到手機(jī)處理器上，克服傳統(tǒng)上手機(jī)對云端算力的依賴，這項創(chuàng)新不僅使得如自然語言處理、圖像識別等高級AI功能能在手機(jī)上得以直接運(yùn)行，還顯著提升了執(zhí)行效率，同時在用戶體驗和數(shù)據(jù)隱私保護(hù)方面實現(xiàn)了質(zhì)的飛躍。
通義實驗室業(yè)務(wù)負(fù)責(zé)人徐棟對此指出：“端側(cè)AI作為大模型應(yīng)用落地的關(guān)鍵，面臨軟硬件適配和開發(fā)環(huán)境不足等挑戰(zhàn)。阿里云與聯(lián)發(fā)科的合作成功克服了這些難題，通過底層硬件到上層應(yīng)用的全面技術(shù)攻關(guān)，將大模型有效部署至手機(jī)芯片，引領(lǐng)了端側(cè)AI在Model on Chip部署的新趨勢。”
據(jù)了解，“通義千問”18億參數(shù)的開源大模型超越了以往模型，在性能和資源使用效率上取得了顯著進(jìn)步，僅使用1.8G內(nèi)存就能處理高達(dá)2048個token的推理，展現(xiàn)了其低成本、易部署及對商業(yè)化極為友好的特性。
觀察人士認(rèn)為，這項技術(shù)的創(chuàng)新打破了以往的局限，讓大模型深度適配手機(jī)芯片成為了可能。究其背后的技術(shù)原理，阿里云的將其落地的產(chǎn)品化思維功不可沒。
首先，在進(jìn)入小小的手機(jī)之前，大模型需要“瘦身”。通過量化、參數(shù)剪枝和知識蒸餾等多種技術(shù)手段減小模型體積。
量化是將模型的浮點(diǎn)數(shù)參數(shù)轉(zhuǎn)化為更高效的低位寬整數(shù)形式，減少存儲和計算資源的需求;參數(shù)剪枝則是通過移除非核心參數(shù)來縮減模型規(guī)模;知識蒸餾是利用一個小型但高效的模型模仿復(fù)雜大模型的行為，既能實現(xiàn)模型的輕量化，又能保持其性能。
其次，量化后的模型雖然體積縮小，但可能會出現(xiàn)性能損失。所以還需要各種優(yōu)化精心調(diào)整，進(jìn)一步提升模型性能，確保其在手機(jī)上的高效運(yùn)行。
最后，經(jīng)過優(yōu)化后的大模型，還需要進(jìn)一步提升其潛能，逐步增強(qiáng)模型能力，更好地適應(yīng)終端應(yīng)用的具體需求。
阿里云的這項端云協(xié)同技術(shù)，因為融合了云計算與邊緣計算的優(yōu)勢，相較于傳統(tǒng)方法，帶來了低延遲、 隱私保護(hù)、離線能力、節(jié)省帶寬和實時處理這五大優(yōu)勢。對于自動駕駛、智能制造等未來應(yīng)用場景來說，這一技術(shù)顯得至關(guān)重要。
端云協(xié)同重塑手機(jī)AI
可以預(yù)見的是，端云協(xié)同技術(shù)已經(jīng)徹底改變了AI手機(jī)的計算效率。例如，智能語音助手能夠快速處理簡單請求，如天氣查詢，而復(fù)雜任務(wù)則依托云端的強(qiáng)大算力完成，從而提供高效、靈活的用戶體驗。
在隱私保護(hù)方面，端云協(xié)同技術(shù)通過在設(shè)備端處理敏感數(shù)據(jù)，大幅提升了數(shù)據(jù)安全性和隱私性。比如，在健康監(jiān)測應(yīng)用中，個人健康數(shù)據(jù)會首先在本地被加密處理，只有必要的信息才會被安全傳輸至云端，有效降低了泄露風(fēng)險。
根據(jù)最新數(shù)據(jù)預(yù)測，伴隨著端側(cè)AI模型和硬件技術(shù)的不斷進(jìn)步，預(yù)計到2024年，AI智能手機(jī)的市場種類和數(shù)量將迎來顯著增長。市場滲透率預(yù)計將達(dá)到6.4%，并有望在2025年實現(xiàn)翻倍，增至19%。
這一趨勢在2024年的移動世界大會上得到了明顯體現(xiàn)，榮耀、OPPO、vivo等手機(jī)品牌紛紛展示了他們的最新AI手機(jī)，突出了AI技術(shù)在提升用戶體驗上的諸多應(yīng)用。而隨著阿里云端云協(xié)同技術(shù)的下放，智能手機(jī)市場的競爭格局必然會因此產(chǎn)生重大變革——誰能拒絕一款能在本地運(yùn)行AI大模型的手機(jī)呢?
與此同時，端云協(xié)同技術(shù)也為手機(jī)應(yīng)用的創(chuàng)新提供了強(qiáng)大的動力和廣闊的平臺。開發(fā)者能夠借助這一技術(shù)開發(fā)出更多創(chuàng)新型應(yīng)用，滿足用戶的個性化需求，從而加速推動手機(jī)應(yīng)用市場的活力和生態(tài)繁榮。
結(jié)語
這場由端云協(xié)同技術(shù)驅(qū)動的變革，不僅預(yù)示著手機(jī)性能和應(yīng)用將邁入一個前所未有的新紀(jì)元，也象征著人類與AI深度的融合又進(jìn)了一步。由此，我們也站在了全新的技術(shù)發(fā)展高速路上，目睹著手機(jī)從傳統(tǒng)的通訊、娛樂工具，逐步演變?yōu)榧疉I智慧于一身的全能伙伴，可以預(yù)見的是，隨著與AI技術(shù)的進(jìn)一步融合，手機(jī)的未來，也將變革出無限的可能。
分享免責(zé)聲明：家電資訊網(wǎng)站對《將大模型部署在芯片上，阿里云如何重塑AI手機(jī)新體驗？》一文中所陳述、觀點(diǎn)判斷保持中立，不對所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考，并請自行承擔(dān)全部責(zé)任。
本網(wǎng)站有部分內(nèi)容均轉(zhuǎn)載自其它媒體，轉(zhuǎn)載目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對其真實性負(fù)責(zé)，本網(wǎng)站無法鑒別所上傳圖片或文字的知識版權(quán)，本站所轉(zhuǎn)載圖片、文字不涉及任何商業(yè)性質(zhì)，如果侵犯，請及時通知我們，本網(wǎng)站將在第一時間及時刪除，不承擔(dān)任何侵權(quán)責(zé)任。聯(lián)系QQ：411954607
本網(wǎng)認(rèn)為，一切網(wǎng)民在進(jìn)入家電資訊網(wǎng)站主頁及各層頁面時已經(jīng)仔細(xì)看過本條款并完全同意。敬請諒解。
