聯發科天璣AI開發套件：加速生成式AI大模型終端部署

近日，主題為“AI予萬物”的聯發科天璣開發者大會2024(MDDC)在深圳成功舉辦。眾多移動生態領域的領先廠商與開發者匯聚一堂，共同探討端側生成式AI技術及生成式AI手機的未來發展，并分享了天璣AI生態戰略與終端生成式AI應用開發一站式解決方案——“天璣AI開發套件”。此外，聯發科攜手業界生態伙伴共同發布《生成式AI手機產業白皮書》，并針對全球開發者推出“天璣AI先鋒計劃”。這一舉措既為生成式AI手機的定義與發展提供了新的思考與期待，也整合了產業各方資源，為全球開發者提供優質平臺與資源，助力全場景生成式AI應用的普及與發展。

　　當前生成式AI應用的體驗升級已成為行業和用戶的共同期待，智能終端是生成式AI普及的關鍵載體。智能手機憑借移動便攜性、個人專屬化、多模態感知以及強勁的AI算力和通信功能，毫無疑問將成為端側生成式AI應用落地的最佳選擇。伴隨生成式AI與智能手機融合加速，智能手機迎來了繼觸控屏幕之后的又一個革新機遇，在聯發科等行業先行者的推動下，屬于“生成式AI手機”的時代已經到來。

　　天璣AI先鋒計劃啟動，助力開發者打造創新用戶體驗

　　目前，由于生成式AI模型積累不足、硬件多樣移植難度大、開發界面不統一等問題，生成式AI普及仍面臨由點向面發展的巨大挑戰。為促進產業共創實現生態共贏，聯發科在天璣開發者大會上聯合阿里云、百川智能、傳音、零一萬物、OPPO、榮耀、vivo、小米面向全球開發者啟動“天璣AI先鋒計劃”，提供基于模型化、算力化和軟硬件等方面的開發資源和支持，并提供廣泛的商業機遇。通過天璣AI先鋒計劃，開發者可以充分發揮天璣移動平臺的優勢，加速端側生成式AI應用的開發與落地，為用戶打造獨具創新的AI體驗。

　　為實現這一長期計劃和全場景生成式AI愿景，聯發科在大會上提出了天璣生態戰略，從芯片、模型、應用三個層面，聯合產業伙伴和開發者共同探索端側AI技術路線，推進顛覆性的端側AI應用和服務創新。

　　聯合產業伙伴發布《生成式AI手機產業白皮書》，共同定義“生成式AI手機”

　　在天璣開發者大會上，聯發科聯合Counterpoint并攜手阿里云通義千問、百川大模型、虎牙、酷狗音樂、零一萬物、OPPO、Soul、騰訊AI Lab、騰訊混元、vivo行業頭部伙伴聯合發布《生成式AI手機產業白皮書》，共同定義了“生成式AI手機”的概念和典型特征。《白皮書》提到：生成式AI手機是利用大規模、預訓練的生成式AI模型，實現多模態內容生成、情境感知，并具備不斷增強的類人能力。生成式AI手機開啟了智能手機發展的新周期，長遠看，智能手機將會發展為移動智能體。

　　同時，《白皮書》這樣定義了生成式AI手機的典型特征：在未來，生成式AI手機將具備強大的AI算力，支持大模型的本地部署，或是通過云端協同的方式執行復雜的生成式AI任務，無需完全依賴云端服務器。同時將具備多模態能力，處理文本、圖像、語音等多種形式的內容輸入，以生成各種形式的輸出，確保流暢、無縫的用戶體驗，設備能夠以自然而直觀的交互方式，快速響應用戶的請求。而為了實現這一目標，生成式AI手機將需要強大的硬件支持，包括但不限于基于領先工藝和先進架構設計的移動計算平臺，集成或者獨立的神經網絡運算單元(如APU/NPU/TPU)，大容量和高帶寬的內存，以及穩定和高速的連接，硬件級和系統級的安全防御。

　　從《白皮書》中可以預見，未來的手機將成為一個能夠理解并預測用戶需求、提供創造性解決方案的智能伙伴，搭載多個AI智能體的生成式AI手機將成為用戶訪問數字生態的超級入口，端側的AI應用將進入人們日常生活的購物、旅游、游戲等場景，扮演購物達人、私人顧問、互動NPC等專屬角色，實現用戶體驗的優化與飛躍。

　　天璣AI開發套件，為廣大開發者提供“快、全、強、易”的專業開發體驗

　　很多開發者都面臨著終端生成式AI應用開發起步期的多元挑戰，聯發科不僅研發出領先的天璣芯片，更重要的是，幫助開發者在搭載天璣芯片的終端上打造出更具創新性的生成式AI用戶體驗，從而推動整個AI新生態的繁榮與發展。會上，聯發科隆重推出了“天璣AI開發套件”，為廣大開發者提供終端生成式AI應用開發的一站式解決方案。天璣AI開發套件包含四大模塊，包括快速高效的GenAI最佳實踐、覆蓋全球主流大模型的GenAI Model Hub、高效提升性能的GenAI優化技術和Neuron Studio一站式視覺化開發環境等四大模塊，為廣大開發者提供“快、全、強、易”的專業開發體驗，賦能終端生成式AI應用開發全流程。

　　其中，GenAI 最佳實踐，它可以提升大模型的終端部署速度，從原先的數周加速到一天即可完成部署。在模型的量化、編譯、推理方面，為開發者提供先進的INT4量化技術、內存壓縮技術、Token加速技術、最優緩存配置，還可以開放端側部署源碼。讓開發者在與時間賽跑的創新競賽中，搶得先機，更好地把握創新機遇。

　　全面的GenAI Model Hub ，是聯發科為開發者打造的模型庫，目前已適配包括：Meta Llama、百川大模型、阿里云通義千問在內的全球主流大模型。開發者可以輕松獲取并使用這些不斷新增的大模型，進而大幅降低模型部署的難度和復雜性。

　　強大的GenAI優化技術，是生成式AI應用體驗的關鍵。目前已導入了多項業界最新、最快的軟件優化技術，包括“推測解碼加速”和“LoRA Fusion”等等，可顯著提升AI應用的生成速度，功能包所占用的存儲空間也可以大幅減少。

　　易用的Neuron Studio 集成開發環境，跳出傳統的代碼開發環境，可為開發者提供高度集成的，一站式、可視化開發環境 ，帶來“所見即所得”般更易用的開發體驗，讓開發過程變得更加直觀、易用。

　　目前天璣AI開發套件，已覆蓋包括智能手機、智能汽車、物聯網、個人電腦等智能終端設備，推動這些領域的AI應用快速創新和落地。

　　從應用落地成果來看，聯發科憑借其優秀的AI平臺能力，已攜手阿里云通義千問、Cocos、Honor of Kings、虎牙直播、酷狗音樂、美圖、全民K歌、RWKV、Soul、騰訊AI Lab、小紅書等數十家生態伙伴共創體驗更精彩的生成式AI應用。

　　天璣9300+全大核旗艦亮相，AI芯更強

　　本屆MDDC2024上，聯發科還重磅發布旗艦5G生成式AI移動平臺天璣9300+，以先進架構和強勁算力為生成式AI手機提供硬件支持。天璣9300+率先支持AI推測解碼加速技術，同時支持天璣AI LoRA Fusion 2.0技術，為用戶帶來高速和個性化的生成式AI體驗。天璣9300+還支持AI框架ExecuTorch，可加速端側生成式AI應用的開發進程。此外，這款旗艦芯支持多種前沿主流AI大模型，包括阿里云通義千問大模型、百川大模型、文心大模型、谷歌Gemini Nano、零一萬物終端大模型、Meta Llama 2 & Llama 3等。用一句話概括天璣9300+就是，不僅擁有卓越的全大核性能和低功耗設計，還具備多項業界領先的生成式AI技術，以及聯發科與生態伙伴共創的優質游戲體驗，無疑是當下生成式AI手機的最優選擇。

　　顯然，聯發科的天璣生態戰略凸顯出卓越的前瞻性、技術領先地位以及顯著的產品優勢。通過參與天璣開發者大會，聯發科從生成式AI產業的先驅及參與者，躍升為該領域發展的引領者。全方位推動生成式AI在終端側的廣泛普及和持續發展，攜手產業合作伙伴共同開創生成式AI的新生態。