AI 手機的 iPhone 時刻
前不久, 聯發科正式推出新一代旗艦 5G 智慧體 AI 芯片天璣 9400。發布沒多久, 它就成為了 2024 年旗艦手機芯片的標桿, 并且會應用在即將上市的 vivo 手機上。
在這塊芯片強大性能的支持下, 手機的 AI 算力顯著提升,AI 功能豐富多樣, 帶來用戶體驗的更多可能性。
將大模型裝進手機并且流暢運行,AI 離我們越來越近了。但無法忽視的一件事是, 受限于大模型對算力資源的需求, 目前各家手機廠商的手機 AI 進化之路, 幾乎都是建立在芯片的能力突破這一前提下。也就是說, 脫離高算力的芯片, 手機無法達到同等程度的 AI 升級。
我們不禁要問, 米 OV 們在手機的 AI 突破上展現出真本事, 是否只能依賴高算力芯片? 在手機上運行更復雜的大模型, 搭載天璣 9400 這樣的芯片是唯一路徑嗎?
另一條路: 算力競賽算法優化
從設備的算力競賽轉到大模型的算法優化,RockAI 一直堅持一條不一樣的道路, 以通用的端側大模型去適配不同算力的終端設備, 無需裁剪, 無損部署, 最大程度保證 AI 功能的完整呈現。
1.全新架構
非 Transformer 架構類腦激活機制
當前市場上主流大模型普遍采用 Transformer 架構、Attention 機制, 對算力的要求非常高, 這也是廠商升級芯片、設備的主要原因之一。許多業界人士提出 AI 的發展路線不應局限于 Transformer 架構, 開發成本、計算資源、終端響應速度等因素倒逼大模型的革新。
在“高算力才能負載大模型”中尋找突破點,RockAI 從底層神經網絡著手, 自研 Yan 架構大模型, 以 MCSD (Multi-channel slope and decay) 架構替代 Transformer 的 Attention 機制, 并實現類腦分區激活, 大大減少了計算復雜度和算力消耗。
2.全線適配
真端側真無損 0 壓 0 裁
本地部署隱私安全
今年 7 月的 WAIC 大會上, 未經壓縮裁剪的 Yan1.2, 能跑通算力不到普通家用筆記本的 1/8、且低于絕大多數智能手機的樹莓派 5, 說明 Yan 架構大模型已經具備部署在大多數設備上的能力。
RockAI 最新發布的 Yan1.3 群體智能單元大模型, 作為一個 3B 參數的多模態大模型, 能夠處理文本、語音、視覺等多模態信息, 可在主流消費級 CPU 等端側設備上無損運行, 且綜合性能已經超越了 Llama3。
與昂貴旗艦芯才有良好體驗的大模型, 或經過壓縮量化性能有損的大模型相比,Yan1.3 是更具普適性、高中低端設備輕松駕馭的“滿血”端側大模型。
目前,Yan1.3 已經實現了手機、PC、無人機、機器人等設備的本地部署, 從低算力到高算力, 從消費級到工業級, 讓智能不受限。
人工智能為人類帶來前所未有的便利, 也引發了不容忽視的安全風險。無論個人還是企業, 對數據安全和隱私保護的訴求日益提升。在本地部署的 Yan1.3, 天然具有保護隱私的優勢。以手機、PC 為例, 一方面可以在本地處理用戶數據, 將數據保留在終端上, 避免重要資料、個人信息的外泄, 另一方面也減少了對網絡傳輸的依賴, 可以滿足高鐵辦公、離線會議總結等網絡狀況不佳或斷網場景下的需求, 讓用戶感受到 AI 的便利。
在本地運算的端側大模型不依賴網絡傳輸, 意味著響應速度更快, 可以直接在終端設備上進行智能化決策, 是交互效率提升的理想選擇。憑借出色的架構設計和多模態處理能力,Yan1.3 能夠實現設備上的高效運行, 在 CPU 上秒級響應,GPU 上更是百毫秒級實時處理, 超強模力讓不同終端的交互體驗十分絲滑。
3.群體智能
自主學習持續進化
強交互高協同
RockAI 認為群體智能才是通往人工智能的最終路徑, 而實現群體智能包括四個發展階段: 創新性基礎架構、多元化硬件生態、自適應智能進化、協同化群體智能。隨著 Yan 1.3 成功在多元設備端部署,RockAI 已經完成了第二階段, 為打通智能生態創造條件。
從生物的群體智能源起, 機器的群體智能以一個個智能單元的協同、交互激發群體的智慧。Yan 架構大模型作為 RockAI 面向機器的群體智能單元大模型, 不只是為了提升單個設備的能力, 更是為機器注入新的智能基因, 讓世界上每一臺設備擁有自己的智能。
它們或許外觀不同、功能不同、適用場景不同, 當智能體間的交互壁壘被打破, 可以像人類一樣交流協作, 釋放出超越個體的能力, 形成群體智能系統, 掀開群體智能的新篇章。
創新 > follow
在 AI 滲透到各行各業的今天, 或許我們更需要思考, 為什么出發以及怎樣前進?
為了 AI 而 AI, 還是從人本主義出發普惠大眾?
獨立思考持續創新, 還是 follow?
RockAI 不斷探索人工智能的出發點是,AI 普惠。當下, 還有更大多數值得我們關注, 我們期待, 通過另辟蹊徑, 在實現商業價值的同時, 最大程度實現社會價值, 為 AI 普惠貢獻力量。
本文鏈接:http://www.www897cc.com/showinfo-26-125078-0.html高端手機才能用 AI?NO!RockAI 讓 AI 觸手可及
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com