9月10日凌晨1點,蘋果新品發(fā)布會如期舉行,全新iPhone16系列成為蘋果生態(tài)中真正意義上的第一款原生AI手機,在第二代3nm工藝A18和A18 Pro芯片的加持下,iPhone16系列能夠容納并快速運行以Apple Intelligence為中心的生成式AI功能在手機端側運行。用庫克的話說:“新一代iPhone徹徹底底為Apple Intelligence打造”。
本次發(fā)布會的主要亮點除蘋果新增的相機控制按鈕外,主要集中在蘋果對AI生態(tài)的全面構建方面。在理解蘋果發(fā)布會的新功能之前,先帶大家回顧一下蘋果在生成式AI方面的主要成果。
具體來說,蘋果開發(fā)了兩種全新基礎語言模型,構成了蘋果Apple Intelligence的核心:一個是可以在蘋果云服務器中運行的較大參數(shù)的大語言模型(LLM),稱為AFM-server,專為密集型任務設計,并使用私人云計算(Private Cloud Compute)的系統(tǒng)來保護用戶數(shù)據(jù);另一個是端側小語言模型(SLM)AFM-on-device,大約有30億參數(shù),通過對大語言模型進行剪枝、蒸餾,并通過精選的高質量數(shù)據(jù)訓練和架構調整而來,優(yōu)化后可以在iPhone和其他終端設備上運行,具備更高效率和響應能力。
蘋果為何可以稱為重新定義了AI手機?
蘋果的AI戰(zhàn)略通過整合操作系統(tǒng)、軟件、模型和數(shù)據(jù),強化了對應用場景的理解,訓練出了能夠深刻洞察用戶需求并幫助用戶決策的AI Agent。
簡單來講,相較于各類傳統(tǒng)的生成式AI應用工具,蘋果將AI功能融合到用戶使用手機的每一個環(huán)節(jié),通過手機端側運行的小語言模型能力讓智能手機真正成為日常生活、辦公、娛樂的私人管家,它會收集整理手機端本地的各類信息,在用戶使用或有需要時主動提供建議或直接幫助實現(xiàn)。
并且因為其端側模型在本地運行的特性,可以充分保護用戶的隱私信息安全、提升信息反饋效率??梢哉f每一個搭載了AI功能的蘋果手機都是一個獨立的個體。
為何大廠們最終選擇了端側AI賽道?
在大語言模型產品的實際應用中,從業(yè)者們逐漸意識到大模型存在產品訓練成本高、算力需求高、資源消耗大等難點,以及應用適配性差、網(wǎng)絡傳輸不穩(wěn)定等缺點。在此背景下,AI模型的發(fā)展正在著力擺脫網(wǎng)絡、參數(shù)的多方限制,努力向更簡單、更小體量,為應用場景量身定制和跨應用生態(tài)的智能化轉變。
在端側AI的實際應用方面,2023年3月谷歌推出參數(shù)規(guī)模達5620億的PaLM-E的大模型,并在同年10月發(fā)布搭載Google AI基礎功能的Pixel 8系列手機。2023年11月,vivo發(fā)布1750億規(guī)模的自研藍心大模型,落地終端側70億參數(shù)大語言模型;2024年9月6日,榮耀CEO趙明在2024德國柏林消費電子展IFA上面向全球推出行業(yè)首個跨應用開放生態(tài)AI Agent。
不難看出,端側小模型將成為未來智能手機乃至各類智能終端的語言模型應用樣本。IDC(國際數(shù)據(jù)公司)預計2024年全球新一代 AI 手機的出貨量將超過1.7億部,約占智能手機整體出貨量的15%,Counterpoint預計2027年出貨量達到5.22億部,滲透率達到40%。從大廠們的選擇不難看出,隨著端側算力的提升,端側AI成為大模型終端落地的最優(yōu)解,模型語言與應用生態(tài)融合發(fā)展的AI Agent成為未來的趨勢。
隨著軟硬件技術的高速發(fā)展,相信除智能手機外,各類IoT終端產品也將逐步落地端側AI,相關硬件算力和通信交互需求也將持續(xù)增長。
美格智能持續(xù)加碼高算力AI模組研發(fā)
與行業(yè)伙伴共建端側AI新生態(tài)
洞察到端側AI的優(yōu)勢和廣闊前景,美格智能圍繞高算力、大帶寬、低功耗、廣鏈接,打造多款高算力AI模組產品,為端側小語言模型落地提供12Tops~48Tops算力支持。
在模組強大算力的支持下,不僅能夠在模組上成功運行Stable Diffusion、LLaMA-2、通義千問Qwen、百川大模型、RedPajama、ChatGLM2、Vicuna等大模型產品,展現(xiàn)出卓越的邊緣端大模型部署能力,同時模組產品豐富的外圍接口,能夠以AI模組的形式將語音識別、機器視覺、導航、定位、避障和多模態(tài)技術通過各種傳感器植入到終端側,幫助終端產品快速收集和整合信息,打造不斷學習進步的智能“大腦”,助力客戶快速實現(xiàn)端側AI落地應用,節(jié)約開發(fā)成本。
同時,面對端側AI與物聯(lián)網(wǎng)生態(tài)融合發(fā)展的新趨勢,美格智能以智能車載為切入打造端云協(xié)作的智能物聯(lián)網(wǎng)解決方案。以美格智能在2023年即已發(fā)布的車規(guī)級5G R16/R17 + C-V2X系列模組為例,該模組具備的5G通信能力和高算力成為端側+云端結合的混合式AI的落地形式之一,可廣泛應用于AI Agent智能座艙、高階輔助駕駛、無人駕駛、車路云一體化相關領域。
在通信方面,相關模組產品符合3GPP Release 16/17標準,支持5G NR 獨立組網(wǎng)(SA)和非獨立組網(wǎng)(NSA),兼容全球主流國家和地區(qū)的頻段,支持選配C-V2X功能,使用全球統(tǒng)一的ITS 5.9GHz頻段部署V2X應用,可采用PC5 Mode4模式直連通信,內置ECDSA硬件引擎,可實現(xiàn)高達6000次/秒的C-V2X驗簽性能,具備在高速移動環(huán)境中提供遠距離傳輸、大帶寬、低延時連接的優(yōu)越性能;在算力方面,模組內置多核心CPU處理器,最大支持22K的算力,在充足算力的支持下,車輛可基于C-V2X構建網(wǎng)聯(lián)智能,實現(xiàn)由端側車載計算、路側邊緣計算和中心云計算構成的分級、網(wǎng)絡化智能決策與控制,快速進行如車輛碰撞預警、車速引導、紅綠燈信息獲取等應用。
端側AI是大模型技術落地的最優(yōu)解,而端側AI與云側大模型協(xié)同的混合式AI被行業(yè)從業(yè)者稱為“大模型時代的終極范式”,充分適配智能座艙、智能機器人、手持終端、AR/VR眼鏡等產品,成為人工智能落地應用的新方向。同時混合式AI生態(tài)的發(fā)展又對終端的無線通信能力和算力提出了新的要求,集成了4G/5G 通信能力和高算力芯片以及眾多功能接口的智能模組和高算力AI模組,或將成為智能終端廠商們的首選。
從蘋果的選擇來看,隨著端側算力的不斷增長和大模型技術的持續(xù)演進,終端側AI與混合式AI或許將成為大模型時代的最終選擇。美格智能也將持續(xù)不斷推出高算力模組和智能模組解決方案,以模組+解決方案雙輪驅動,支持更廣泛的垂直領域和合作伙伴共同引領生態(tài)發(fā)展,以先進的無線通信和AI技術加快實現(xiàn)萬物智聯(lián)的美好愿景。
-
iPhone
+關注
關注
28文章
13500瀏覽量
206250 -
Apple
+關注
關注
1文章
935瀏覽量
53968 -
AI
+關注
關注
88文章
35168瀏覽量
280112
發(fā)布評論請先 登錄
WPP Media發(fā)布業(yè)內首個「大營銷模型」Open Intelligence

評論