從手機、PC、汽車到XR，高通亮軟硬技術全家桶，加速端側AI落地

作者 | 雲鵬

編輯 | 漠影

今年無疑是AI發展具有里程碑意義的一年，基於各類AI大模型的生成式AI技術快速應用在各類智慧終端產品中，從手機、PC、汽車、XR到可穿戴裝置，各個領域都在與AI深度融合。

生成式AI在端側的加速落地，讓整個產業都看到了其巨大應用潛力。從硬體、軟體到應用生態，從上游到下游，整個產業都瞄準AI的未來加碼佈局，AI普惠進一步提速。

AI技術的快速發展也帶來了對端側AI算力需求的爆發式增長，同時端側AI體驗對應用生態的依賴性也越來越強，在AI這條賽道上進行產業聯合已經成為行業大趨勢。

在這樣的大背景下，晶片廠商作為底層技術提供者，其角色地位的重要性愈發凸顯。晶片廠商不僅是AI算力提供者，更是軟體工具方面的核心構建者以及AI產業生態建設的關鍵推動者。

在這一領域，高通作為移動晶片市場的頭部玩家一直跑在行業前面。在端雲協同的大趨勢成為行業共識之前，高通很早就提出了混合AI的願景構想併發布了相關技術白皮書，開始在端側AI領域加速佈局。

從晶片AI引擎的加速到AI軟體棧提供完備的開發支援，再到聯合產業各方推動生態建設，高通無疑讓智慧計算這件事變得更加觸手可及。

近期安卓陣營中，從OPPO、vivo到小米、榮耀，諸多頭部大廠都亮出了最新的旗艦機，各類亮眼的AI功能加速落地，AI能夠多模態互動，透過語音、影象、影片、文字快速理解世界，執行復雜操作，同時AI還變得更懂我們、個性化體驗大幅增強。

安卓陣營在AI落地上已經階段性跑贏了蘋果，而在這背後，驍龍8至尊版旗艦移動平臺以及基於其上的高通AI軟體技術和開發生態，無疑是關鍵底層支撐。

正如高通公司總裁兼CEO克里斯蒂亞諾·安蒙所說，高通在改變和轉型，今天的高通是一家面向AI時代的網際網路公司。AI正在今天的移動計算領域掀起顛覆式變革，而高通已經成為加速端側AI落地的核心推動者。

▲高通總裁兼CEO克里斯蒂亞諾·安蒙

一、混合AI成行業發展方向，高通領跑端側AI

AI給產業帶來機遇的同時也帶來了巨大挑戰，諸多新需求、新的特性湧現，如何把握？如何結合自身技術優勢和業務特點快速跟進實現落地，這對晶片廠商來說都是考驗。

高通能夠快速抓住新AI時代的技術趨勢並實現領跑，離不開其在AI領域的深入思考和前瞻性佈局。

站在今天這個節點，從各大終端廠商最終落地產品、應用AI的形式來看，端雲結合已經成為行業公認的生成式AI落地智慧終端產品的主流模式。

隨著端側大模型在規模和效率方面不斷增長，我們在端側已經可以享受到絕大部分AI服務，這些端側體驗可以更好地保證資料隱私安全。另一邊，雲端的充足算力則可以支援大模型提供更復雜、更高質量的內容輸出。

最終端雲相結合，才能實現最佳的AI體驗。

其實高通早在去年就已經提出了混合AI願景，釋出了《混合AI是AI的未來》技術白皮書，並提出“混合AI架構”。

混合AI實際上就是對端雲結合模式的肯定和進一步深化拆解。在高通看來，AI處理必須分佈在雲端和終端進行，才能實現AI規模化擴充套件併發揮其最大潛能，進而實現成本、能耗、效能、隱私、安全和個性化等多方面優勢。

可以說，高通很早就明確了產業將來的發展方向，並明確了自身在其中扮演的關鍵角色——端側AI將是高通核心佈局的領域。

在端側，生成式AI應用日益多樣化、複雜化，垂直領域計算需求不斷增長，這需要專門為AI定製設計計算架構：一個面向生成式AI設計的神經網路處理器——NPU。

早在去年3月，高通就釋出了《透過NPU和異構計算開啟終端側生成式AI》技術白皮書中文版。利用CPU、GPU、NPU異構處理器組合，才能實現更好的端側AI體驗，保證更好的效能、能效、續航。

生成式AI的變革已經到來，而高通押寶的混合AI，已經成為後續AI產業發展的重要趨勢之一。

二、從手機、PC到汽車，從晶片到AI軟體棧，高通AI全家桶佈局展開

基於自身的混合AI架構、願景，面向未來更多生成式AI應用和功能的爆發，高通已經在AI相關硬體、軟體、生態等方面儲備了諸多產品和技術，成為智慧終端落地AI不可或缺的關鍵技術底座。

首先在硬體層面，高通各類旗艦移動晶片正在手機、PC、汽車、XR等賽道上大放異彩。

最近剛剛釋出的驍龍8至尊版，首次將其自研的Oryon CPU融入了高通AI引擎中，Oryon CPU支援更高的浮點和整數運算效能、可以進行更復雜的多工處理、同時執行多個應用，還可以負責啟動所有的AI工作負載，從而解放AI引擎的其他元件專注於特定的AI任務。

形象地來看，Oryon CPU就像一個交響樂團中的指揮家，高效精準地指揮每個音樂家創作出完美的AI交響樂。

當然，優秀的樂團離不開出色的樂手，高通AI引擎中Hexagon NPU這次也進行了大幅升級，其效能提升了45%，能效提升了45%，同時還提升了加速器的核心吞吐量，AI推理效能更強。

具體來看，Hexagon NPU中的標量和向量加速器都增加了核心，去滿足快速增長的生成式AI運算需求，在大模型處理中，支援更長的上下文。

在這些AI引擎重磅升級的加持下，手機上的智慧助手可以支援更強大更豐富的AI多模態和AI智慧體功能，我們看到，AI開始認識世界、理解世界，並且AI變得懂你，個性化體驗進一步增強。

比如AI可以隨時隨地幫你“拍圖識物”，AI可以結合手機的情境資料、位置、偏好和個人習慣建立個性化神經網路，針對我們的需求生成個性化回覆。

除了智慧手機，在AI PC領域，驍龍 X Elite平臺也成為AI PC落地的排頭兵。

在PC領域，高通跟微軟一起構建了全棧的AI最佳化，從作業系統和系統整合的AI使用者體驗，到直接訪問驍龍平臺的硬體加速。簡單來說，在AI PC上，高通希望使用者得到的是能效、效能表現極佳的AI體驗。

微軟的Copilot+ PC最初就是在驍龍平臺上進行編譯和測試的，目前已經有40多個端側AI模型跑在驍龍平臺的AI引擎上。這些模型得到高通AI引擎中NPU的加速，可以更好地實現效能和續航的兼顧。

在汽車平臺領域，高通剛剛釋出的驍龍座艙至尊版、Snapdragon Ride至尊版已經成為汽車市場中的王炸級存在，這也是高通首次在釋出手機側全新處理器架構的時候同步推出車載智慧計算解決方案，可見高通對其重視程度之高。

此次兩款車規級產品直接用上了高通自研Oryon CPU以及其它最新的自研技術模組，面向多模態AI設計的NPU效能比前代提升了12倍。

除了硬體，在AI軟體工具和開發生態層面，高通也做了諸多佈局。

用高通的話來說，僅憑硬體不能打造出強大的AI，這就像一輛頂級賽車需要出色的車手來駕馭，整個賽車才有了靈魂，才能真正創造好的成績。

所以在驍龍8至尊版這代產品中，高通重點改進了AI軟體棧相關技術。開發者有史以來第一次可以在驍龍8至尊版上利用高通AI Hub執行並測試模型。

在手機上市幾個月前，開發者就可以透過高通Device Cloud，基於驍龍8至尊版開發AI應用服務，不斷最佳化其AI體驗。

這些AI應用服務可以快速、高效利用到驍龍平臺端側AI處理能力，透過ONNX、DirectML等框架和高通AI軟體棧，享受到NPU的直接加速。

▲高通AI軟體棧

可以說，從晶片、AI軟體工具到開發生態，從手機、PC到汽車，高通的AI全家桶正成為端側AI落地的關鍵加速器。

三、聯合產業打通AI落地全鏈條，開發者們的新福音來了

練好內功還不夠，正如前文所說，端側AI的發展不是一個人的戰鬥，需要行業合力。在推動AI生態的建設和完善方面，高通也在廣泛開展產業合作，在產業鏈各個環節進行賦能。

比如在與大模型廠商的合作方面，高通和國內智譜進行合作，將GLM-4V端側視覺大模型面向驍龍8至尊版進行了深度適配和推理最佳化，讓其在手機端可以支援更豐富的AI多模態互動。

這背後，驍龍8至尊版提供了端側AI效能支撐，高通AI軟體棧最佳化模型效能，據稱GLM-4V端側視覺大模型在手機端側的執行速度可以達到70 tokens/秒。

智譜還在GLM4v-mini上建立了基於多模態大模型的AI助手，它可以看到使用者周圍的世界並提供實時資訊。

我們可以直接透過手機攝像頭獲取穿搭建議、利用視覺資訊實現智慧導航，還可以透過車內攝像頭識別遺留物品。

▲透過手機攝像頭想AI助手獲取穿搭建議

在與騰訊混元的合作中，高通基於硬體的INT4量化技術可以提升大模型端側執行的效率，目前基於驍龍8至尊版可以實現騰訊混元大模型7B和3B版本的端側部署。

據稱目前騰訊混元大模型在端側推理方面可以將首個token生成時延縮短到150ms。

除了騰訊混元和智譜，高通還與AWS、Dataloop.AI等AI服務整合商，以及微軟ONNX、谷歌TensorFlow Lite等runtime廠商合作，進一步推進大模型生態層面的建設。

在終端廠商領域，驍龍8至尊版活躍在各大頭部手機廠商的釋出會上，各類AI手機功能升級幾乎都離不開底層晶片提供的關鍵支援。

在近期各類頭部手機廠商釋出會上，我們都能看到基於驍龍8至尊版實現的各類出色端側AI體驗：AI識屏、AI一句話做各種事、AI變得超級懂你、AI個性化體驗開始落地。

▲搭載驍龍8至尊版的榮耀旗艦機，其YOYO助手可以實現一句話設定手機複雜功能

在PC領域，高通與微軟合作打造的Windows 11 AI+ PC已經成為AI PC領域公認的“能效比新王”，甚至與蘋果同期M系列晶片相比仍有優勢。

此外，高通與Meta的合作進一步推動了大模型在XR等智慧可穿戴裝置中的落地。

在高通當下積極拓展的車載領域，他們與谷歌進行合作，利用驍龍數字底盤和谷歌車載技術，打造生成式AI增強的數字座艙和軟體定義汽車（SDV）所需的開發標準化參考框架。

可以說，在手機、PC、XR、汽車等各個領域，高通都在基於自身軟硬體全家桶技術優勢，與廠商合作，加速著各類終端的AI體驗升級，加速AI普惠。

結語：瞄準混合AI未來，高通加速AI生態發展

從最早提出混合AI願景，到持續加碼佈局端側AI，今天的高通已經在智慧終端產業全面AI化的浪潮中走到了潮頭。驍龍8至尊版過硬的AI效能、對諸多AI新特性的支援、對各類大模型的針對性最佳化，都讓使用者的端側AI體驗有了跨越式升級。

展望未來，AI與智慧終端產品的融合將會更加深入，比如AI手機已經邁向了AI OS時代，AI智慧體越來越強大、AI多模態互動越來越成熟。

在這樣的趨勢下，AI對算力、能效、生態協同的要求必然會越來越高，從晶片、系統到終端，整個產業鏈還將面臨諸多挑戰。聚焦AI體驗，端側AI未來要走的路還很長。