3 月 14 日消息,加拿大 AI 初創公司 Cohere昨日發布了一款名為“Command A”的 AI模型,該模型主打輕量化應用,號稱只需要兩塊英偉達 A100 或 H100 GPU 即可輕松部署,號稱“表現能和 GPT-4o 相媲美”,實現“用最少的硬件發揮最大的性能”。
Cohere 表示,Command A 專門為中小型企業環境設計,其支持 256k 的上下文長度和 23 種語言,作為比較,其他競爭對手的“同類模型”需要 32 塊 GPU 才能部署。
在性能測試中,Command A 最快每秒可以輸出 156 個 Token,據稱比 GPT-4o 快 1.75 倍。而在指令追蹤、SQL、代理程序和工具任務的基準測試上,Command A 也表現出色。
Cohere 援引相應性能數據,聲稱業界的大語言模型如果“規模過大”,反而在輸出結果時可能會出現嚴重的延遲問題;如果只是想快速得到正確答案,Command A 相對是個不錯的選擇。
目前,Cohere 已將相應 Command A 發布在Hugging Face 平臺(點此訪問),對學術界開放使用,未來還會登陸其他云服務平臺。
本文鏈接:http://www.www897cc.com/showinfo-45-11558-0.html加拿大初創公司推出 Command A 輕量級 AI 模型,號稱僅需兩塊英偉達 A100 H100 GPU 即可部署
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com