日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 軟件

Keras 3.0正式發布!一統TF/PyTorch/Jax三大后端框架,網友:改變游戲規則

來源: 責編: 時間:2023-11-30 09:28:48 234觀看
導讀Keras 3.0正式發布,被譽為改變了機器學習游戲規則:不僅支持TensorFlow、PyTorch、Jax三大框架作為后端,還能在它們之間無縫切換,甚至混合使用。圖片Keras之父Fran?ois Chollet認為,這樣至少可以獲得4大好處:始終讓模型獲得

Keras 3.0正式發布,被譽為改變了機器學習游戲規則:92A28資訊網——每日最新資訊28at.com

不僅支持TensorFlow、PyTorch、Jax三大框架作為后端,還能在它們之間無縫切換,甚至混合使用。92A28資訊網——每日最新資訊28at.com

圖片圖片92A28資訊網——每日最新資訊28at.com

Keras之父Fran?ois Chollet認為,這樣至少可以獲得4大好處:92A28資訊網——每日最新資訊28at.com

  • 始終讓模型獲得最佳性能:

JAX通常在GPU、CPU各種PU上都最快,但不使用XLA(加速線性代數)的Tensorflow在GPU上偶爾更快。92A28資訊網——每日最新資訊28at.com

Keras 3.0能夠動態為模型提供最佳性能的后端,而無需更改代碼,保證以最高效率運行。92A28資訊網——每日最新資訊28at.com

  • 解鎖多個生態系統

任何Keras 3模型都可以作為PyTorch模塊實例化,可以導出為TF的SavedModel,或者可以實例化為無狀態的 JAX 函數。92A28資訊網——每日最新資訊28at.com

這意味著可以將Keras 3模型與PyTorch生態的包,TensorFlow中的部署工具或生產工具,以及JAX大規模TPU訓練基礎設施一起使用,獲得機器學習世界所提供的一切。92A28資訊網——每日最新資訊28at.com

  • 在開源社區擴大影響力

如果使用純TensorFlow或PyTorch實現一個開源模型,都只有大約一半的人能使用。92A28資訊網——每日最新資訊28at.com

但如果使用Keras 3,任何人無論偏好哪個框架,(即使不是 Keras 用戶)都能立刻使用。在不增加開發成本的情況下,使影響力翻倍。92A28資訊網——每日最新資訊28at.com

  • 使用任何來源的數據管道

無論使用哪個后端,Keras 3 都能與tf.data.Dataset對象、PyTorch DataLoader對象、NumPy 數組、Pandas數據框兼容。92A28資訊網——每日最新資訊28at.com

這意味著可以在PyTorch DataLoader上訓練Keras 3 + TensorFlow模型,或在 tf.data.Dataset上訓練Keras 3 + PyTorch模型。92A28資訊網——每日最新資訊28at.com

圖片圖片92A28資訊網——每日最新資訊28at.com

不少人都對這一進展表示祝賀,項目參與者、谷歌高級工程師Aakash Kumar Nain認為:92A28資訊網——每日最新資訊28at.com

Keras 3再次展示了心智模型的重要性。開發API 是一方面,而開發一個擁有出色心智模型的API則完全是另一個層次的工程實踐。92A28資訊網——每日最新資訊28at.com

圖片圖片92A28資訊網——每日最新資訊28at.com

也有開發者表示:92A28資訊網——每日最新資訊28at.com

很高興能夠通過熟悉的Keras API獲得框架可選性,讓簡單的用例變得容易,復雜的用例也成為可能。92A28資訊網——每日最新資訊28at.com

圖片圖片92A28資訊網——每日最新資訊28at.com

歡迎來到多框架機器學習

Keras 3.0發布公告中開篇寫到,歡迎來到多框架機器學習。92A28資訊網——每日最新資訊28at.com

圖片圖片92A28資訊網——每日最新資訊28at.com

具體來說,Keras 3.0完全重寫了框架API,并使其可用于TensorFlow、JAX和PyTorch。92A28資訊網——每日最新資訊28at.com

任何僅使用內置層的Keras模型都將立即與所有支持的后端配合使用。92A28資訊網——每日最新資訊28at.com

圖片圖片92A28資訊網——每日最新資訊28at.com

使用Keras 3可以創建在任何框架中都能以相同方式工作的組件,允許訪問跨所有后端運行的keras.ops命名空間。92A28資訊網——每日最新資訊28at.com

只要僅使用keras.ops中的ops,自定義層、損失、指標和優化器等就可以使用相同的代碼與JAX、PyTorch和TensorFlow配合使用。這意味著只需維護一個組件實現,就可以在所有框架中使用完全相同的數值。92A28資訊網——每日最新資訊28at.com

圖片圖片92A28資訊網——每日最新資訊28at.com

除此之外,還發布了用于大規模數據并行和模型并行的新分布式API,為多設備模型分片問題提供Keras風格的解決方案。92A28資訊網——每日最新資訊28at.com

為此設計的API使模型定義、訓練邏輯和分片配置完全獨立,這意味可以像在單個設備上運行一樣編寫代碼,然后在訓練任意模型時將任意分片配置添加到任意模型中。92A28資訊網——每日最新資訊28at.com

圖片圖片92A28資訊網——每日最新資訊28at.com

不過新的分布式API目前僅適用于JAX后端,TensorFlow和PyTorch支持即將推出。92A28資訊網——每日最新資訊28at.com

圖片圖片92A28資訊網——每日最新資訊28at.com

為適配JAX,還發布了用于層、模型、指標和優化器的新無狀態API,添加了相關方法。92A28資訊網——每日最新資訊28at.com

圖片圖片92A28資訊網——每日最新資訊28at.com

這些方法沒有任何副作用,它們將目標對象的狀態變量的當前值作為輸入,并返回更新值作為其輸出的一部分。92A28資訊網——每日最新資訊28at.com

用戶不用自己實現這些方法,只要實現了有狀態版本,它們就會自動可用。92A28資訊網——每日最新資訊28at.com

如果從Keras 2遷移到3,使用tf.keras開發的代碼通常可以按原樣在Keras 3中使用Tensorflow后端運行。有限數量的不兼容之處也給出了遷移指南。92A28資訊網——每日最新資訊28at.com

在舊版Keras 2中開發的預訓練模型通常也可以在Keras 3中使用TensorFlow后端開箱即用。92A28資訊網——每日最新資訊28at.com

如果舊版模型僅使用了Keras內置層,那么也可以在Keras 3中使用JAX和PyTorch后端開箱即用。92A28資訊網——每日最新資訊28at.com

也有人敲警鐘

在迫不及待嘗試新版本的開發社區氛圍中,Cohere機器學習總監Nils Reimers提出“真心希望歷史不要重演”,也獲得不少關注。92A28資訊網——每日最新資訊28at.com

圖片圖片92A28資訊網——每日最新資訊28at.com

Reimers認為,Keras最初從支持單個后端(Theano)開始,陸續添加了Tensorflow、MXNet和CNTK等多后端。92A28資訊網——每日最新資訊28at.com

這引發了一系列問題:92A28資訊網——每日最新資訊28at.com

  • 某些功能只在特定后端可用
  • 各個后端的計算結果存在不一致:在一個后端上運行正常的代碼,在另一個后端可能產生不同結果
  • 對于開源軟件開發者來說體驗糟糕:你剛完成了一個自定義的 Keras層想要分享?你是否愿意為其他后端重新實現和優化它呢?
  • 調試問題:代碼在一個后端上表現完美,但在另一個后端的最新版本上卻頻繁出錯…

隨著時間推移,這些問題愈發嚴重:某些模塊只能在 Theano 上運行良好,某些只適用于Tensorflow,還有一些模塊可以在MXNet上進行推理,但無法訓練…92A28資訊網——每日最新資訊28at.com

因此,2019年Keras轉向單一后端(Tensorflow),是保障這一偉大項目繼續存在的關鍵之舉。92A28資訊網——每日最新資訊28at.com

我希望這一次的多后端能有更好的表現,但這無疑仍是一個挑戰。92A28資訊網——每日最新資訊28at.com

您是否需要等到像FlashAttention v2這樣的重要特性在JAX、TensorFlow和PyTorch 上都可用后,才能在 Keras 中使用它?還是說您只能在某些特定后端中使用它?92A28資訊網——每日最新資訊28at.com

對于未來,我們還面臨著許多未解決的挑戰。92A28資訊網——每日最新資訊28at.com

參考鏈接:
[1]https://keras.io/keras_3/[2]https://x.com/sampathweb/status/1729556960314339534[3]https://twitter.com/Nils_Reimers/status/172961201734065799392A28資訊網——每日最新資訊28at.com


92A28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-26-35300-0.htmlKeras 3.0正式發布!一統TF/PyTorch/Jax三大后端框架,網友:改變游戲規則

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 線程包括哪些狀態,狀態之間是如何變化?

下一篇: 一篇學會如何使用Trait來定義接口?

標簽:
  • 熱門焦點
  • 一加Ace2 Pro真機揭曉 鈦空灰配色質感拉滿

    終于,在經過了幾波預熱之后,一加Ace2 Pro的外觀真機圖在網上出現了。還是博主數碼閑聊站曝光的,這次的外觀設計還是延續了一加11的方案,只是細節上有了調整,例如新加入了鈦空灰
  • 石頭智能洗地機A10 Plus體驗:雙向自清潔治好了我的懶癌

    一、前言和介紹專為家庭請假懶人而生的石頭科技在近日又帶來了自己的全新旗艦新品,石頭智能洗地機A10 Plus。從這個產品名上就不難看出,這次石頭推出的并不是常見的掃地機器
  • 6月安卓手機好評榜:魅族20 Pro蟬聯冠軍

    性能榜和性價比榜之后,我們來看最后的安卓手機好評榜,數據來源安兔兔評測,收集時間2023年6月1日至6月30日,僅限國內市場。第一名:魅族20 Pro好評率:95%5月份的時候魅族20 Pro就是
  • 谷歌KDD'23工作:如何提升推薦系統Ranking模型訓練穩定性

    谷歌在KDD 2023發表了一篇工作,探索了推薦系統ranking模型的訓練穩定性問題,分析了造成訓練穩定性存在問題的潛在原因,以及現有的一些提升模型穩定性方法的不足,并提出了一種新
  • Python異步IO編程的進程/線程通信實現

    這篇文章再講3種方式,同時講4中進程間通信的方式一、 Python 中線程間通信的實現方式共享變量共享變量是多個線程可以共同訪問的變量。在Python中,可以使用threading模塊中的L
  • 共享單車的故事講到哪了?

    來源丨??素斀浥c共享充電寶相差不多,共享單車已很久沒有被國內熱點新聞關照到了。除了一再漲價和用戶直呼用不起了。近日多家媒體再發報道稱,成都、天津、鄭州等地多個共享單
  • 重估百度丨大模型,能撐起百度的“今天”嗎?

    自象限原創 作者|程心 羅輯2023年之前,對于自己的“今天”,百度也很迷茫。“新業務到 2022 年底還是 0,希望 2023 年出來一個 1。”這是2022年底,李彥宏
  • 榮耀Magicbook V 14 2021曙光藍版本正式開售,擁有觸摸屏

    榮耀 Magicbook V 14 2021 曙光藍版本正式開售,搭載 i7-11390H 處理器與 MX450 顯卡,配備 16GB 內存與 512GB SSD,重 1.48kg,厚 14.5mm,具有 1.5mm 鍵盤鍵程、
  • 英特爾Xe HPG游戲顯卡:擁有512EU,單風扇版本

    據10 月 30 日外媒 TheVerge 消息報道,英特爾 Xe HPG Arc Alchemist 的正面實被曝光,不僅擁有 512 EU 版顯卡,還擁有 128EU 的單風扇版本。另外,這款顯卡 PCB
Top 主站蜘蛛池模板: 宁津县| 托克逊县| 从江县| 甘泉县| 上杭县| 城口县| 永安市| 且末县| 静海县| 哈密市| 扎鲁特旗| 左贡县| 大关县| 武宁县| 海城市| 鹤山市| 舒城县| 当阳市| 沧州市| 大连市| 定西市| 社旗县| 泰宁县| 建宁县| 姚安县| 乾安县| 嘉祥县| 方山县| 舟山市| 闸北区| 漾濞| 敦煌市| 黄龙县| 嘉禾县| 南部县| 日喀则市| 湖州市| 甘洛县| 新津县| 珠海市| 林周县|