亚洲精品无码乱码成人|最近中文字幕免费大全|日韩欧美卡一卡二卡新区|熟妇性饥渴一区二区三区|久久久久无码精品国产AV|欧美日韩国产va在线观看|久久精品一本到99热动态图|99国产精品欧美一区二区三区

您現在的位置是: 資訊 > > 正文

微軟推出ZeRO++技術 可顯著減少AI大模型訓練時間和成本

時間:2023-06-28 10:56:38 來源:科技頭條 發(fā)布者:DN032

(資料圖片)

據微軟官方消息,微軟研究人員日前推出了名為 ZeRO++ 的新技術,可顯著減少大模型訓練時間和成本。

ZeRO++ 建立在 ZeRO 傳輸技術基礎上,提供增強的通信策略,可提高訓練效率,同時減少訓練時間和成本。ZeRO++ 可對權重進行量化,其利用基于塊的量化方法來保持訓練精度,這種優(yōu)化的量化過程相對原始 Zero 傳輸技術更快更準確。

微軟研究人員表示,與 ZeRO 相比,ZeRO++ 減少了高達 4 倍的通信量,提高了訓練吞吐量和效率。

標簽: 人工智能 大模型訓練 大數據模型訓練

搶先讀

相關文章

熱文推薦

精彩放送

關于我們| 聯(lián)系我們| 投稿合作| 法律聲明| 廣告投放

版權所有© 2011-2023  產業(yè)研究網  m.www-332159.com

所載文章、數據僅供參考.本站不作任何非法律允許范圍內服務!

聯(lián)系我們:39 60 29 14 2 @qq.com

皖ICP備2022009963號-13


长治市| 双柏县| 通化市| 新源县| 长顺县| 高清| 黑龙江省| 彭州市| 尉氏县| 方正县| 汾阳市| 永宁县| 云浮市| 武隆县| 罗山县| 长白| 凯里市| 青田县| 方山县| 抚宁县| 唐山市| 郎溪县| 衡东县| 南川市| 菏泽市| 徐汇区| 射阳县| 萝北县| 吴川市| 赣州市| 板桥市| 双鸭山市| 盈江县| 大埔县| 封开县| 勐海县| 集贤县| 深圳市| 铅山县| 文登市| 城口县|