10 月 17 日消息,Mistral 公司最新推出了 Ministral 3B 和 Ministral 8B 兩款 AI 模型,并不需要連接云服務器,重點提高筆記本電腦和智能手機等設備的本地化 AI 體驗,官方聲稱是“世界上最好的邊緣模型”。
Mistral 公司表示越來越多的企業希望能夠在個人設備上運行 AI 模型,一方面確保安全的數據處理,另一方面也提高響應速度。
上述兩個模型可在沒有互聯網接入的情況下,執行翻譯服務、本地分析和機器人等多項服務。
這兩個 AI 模型的上下文窗口均為 128K,相當于一次可以處理 50 頁文檔。
Ministral 8B 的價格為每百萬個 tokens 售價 0.1 美元,而 3B 版本則為 0.04 美元,適合小規模操作或初創開發者。Ministral 8B 采用了特殊的交錯滑動窗口注意力機制,這種設計可以在推理時更快且節省內存。附上相關性能圖表如下:
本文鏈接:http://www.www897cc.com/showinfo-45-9167-0.html端側 AI 崛起:Mistral 發布 Ministral 3B 8B,“全球最好的邊緣模型”
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com