把LangChain跑起來的三個方法
使用LangChain開發LLM應用時，需要機器進行GLM部署，好多同學第一步就被勸退了，那么如何繞過這個步驟先學習LLM模型的應用，對Langchain進行快速上手？本片講解3個把LangChain跑起來
在大型語言模型（LLM）火熱的2023年，小米董事長兼CEO雷軍日前強調，全面擁抱LLM正是小米接下來的戰略，而要讓手機終端運行LLM，更是小米開啟邀請內測的重點，小米高層最新更表態，很快實現手機端AI大模型能力。
延伸報導小米自研大語言模型 力拼「輕量化部署」在手機
中媒引述小米集團資深副總裁、手機部總裁曾學忠透露，有監于小米和高通（Qualcomm）、聯發科的深度底層技術合作，以及每周舉行聯合技術交流會議的高頻率溝通，小米很快會推出手機端AI大模型應用，屆時相信消費者一定不會失望。
高通現有的Snapdragon 8 Gen 2系列平臺，可以直接支持生成式人工智能（generative AI）應用，而聯發科2023年下半新旗艦平臺天璣9300，也將導入生成式AI應用。
此外，小米集團技術委員會副主席、機器人事業部總經理許多也透露，小米手機端AI大模型技術專案，已經取得發展預算。
誠然，在手機終端應用LLM，避不開算力問題，不僅需要調用云端算力，還需要調用終端裝置的算力，在這個過程中，無論是云端相關的加速處理器，或是與邊緣AI芯片相關，其資金消耗被稱為燒錢產業。
就在雷軍演講的當晚，小米手機語音助理小愛同學，已升級LLM，并開啟邀請測試。對此，中媒財經網引述北京社科院研究員王鵬表示，小米大模型首先選擇應用在小愛同學，從供需兩方面來看，一來由于小愛同學每日與用戶交流的高頻率，可形成大量的數據，這是小米能快速訓練LLM的最好方式。
再者，由于小愛同學連接小米智能家居的終端裝置，擁有上億用戶，可以進一步提供用戶精準化、個性化的體驗。
手機廠商需要新的技術、硬件或軟件來引爆市場換機潮，如今LLM向邊緣端移動，很可能成為各家手機廠競逐的新焦點。
無獨有偶，8月初，在華為的開發者大會上，正式宣布HarmonyOS 4最新鴻蒙操作系統，并接入AI大模型，華為也選擇語音助理小藝同學，作為手機運行LLM的優先選擇。
與小米類似，LLM在終端上的應用，是由內容引發的技術顛覆，亟需大量的數據、算力和資金投入，算力可與芯片廠商設法找出方案，資金也可透過集團內部調度，但最需要的數據，仍取決于大量用戶在各種場景的使用，回饋訓練LLM。
報導指出，從目前來看，LLM可望扮演手機廠商建立差異化優勢的重要因素，然而，從小米、華為盡早展開邀請公測等時程也反映出，業者還在找出最適合LLM導入手機終端的應用模式，而這仍取決于大量用戶的數據回饋，各家廠商雖紛紛起跑，但還沒人說得準「行得通、能獲利」的營運模式為何。
責任編輯：張興民
本文鏈接：http://www.www897cc.com/showinfo-22-5942-0.html小米：與高通、聯發科密切合作 手機上跑LLM可望實現
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號