世界模型WHALE來了！
因此，具身智能體可以與世界模型進行交互，而不是直接與現(xiàn)實世界環(huán)境交互，以生成模擬數(shù)據(jù)，這些數(shù)據(jù)可以用于各種下游任務，包括反事實預測、離線策略評估、離線強化學習。
世界模型在具身環(huán)境的決策中起著至關重要的作用，使得在現(xiàn)實世界中成本高昂的探索成為可能。為了促進有效的決策，世界模型必須具備強大的泛化能力，以支持分布外（OOD）區(qū)域的想象，并提供可靠的不確定性估計來評估模擬體驗的可信度，這兩者都對之前的可擴展方法提出了重大挑戰(zhàn)。
近日，來自南京大學、南棲仙策等機構的研究者在論文中引入了WHALE（World models with beHavior-conditioning and retrAcing-rollout LEarning），這是一個用于學習可泛化世界模型的框架，由兩種可以與任何神經(jīng)網(wǎng)絡架構普遍結合的關鍵技術組成。
在確定策略分布差異是泛化誤差的主要來源的基礎上，研究者引入了一種行為—條件（behavior-conditioning）技術來增強世界模型的泛化能力，該技術建立在策略條件模型學習的概念之上，旨在使模型能夠主動適應不同的行為，以減小分布偏移引起的外推誤差。此外，研究者還提出了一種簡單而有效的技術，稱為retracing-rollout，以便對模型想象進行有效的不確定性估計，作為一種即插即用的解決方案，可以有效地應用于各種實施任務中的末端執(zhí)行器姿態(tài)控制，而無需對訓練過程進行任何更改。
通過整合WHALE的這兩種技術，研究者提出了WHALE-ST，這是一種可擴展的基于時空transformer的世界模型，旨在實現(xiàn)更有效的決策。研究者進一步提出了WHALE-X，這是一個在970K機器人演示上預訓練的414M參數(shù)世界模型。最后，研究者進行了大量的實驗，以證明WHALE-ST和WHALE-X在模擬和現(xiàn)實世界任務中的卓越可擴展性與泛化性，突出了它們在增強決策方面的效果。
為了評估WHALE-X在實際物理環(huán)境中的泛化能力，研究團隊在ARX5機器人上進行了全面實驗。與預訓練數(shù)據(jù)不同，評估任務調整了攝像機角度和背景等，增加了對世界模型的挑戰(zhàn)。他們收集了每個任務60條軌跡的數(shù)據(jù)集用于微調，任務包括開箱、推盤、投球和移動瓶子，還設計了多個模型從未接觸過的任務來測試模型的視覺、運動和任務泛化能力。
結果顯示，WHALE-X在真實世界中展現(xiàn)出明顯的優(yōu)勢：與沒有行為—條件的模型相比，WHALEX的一致性提高了63％，表明該機制顯著提升了OOD泛化能力；在97萬個樣本上進行預訓練的WHALE-X，比從零開始訓練的模型具有更高的一致性，凸顯了大規(guī)模互聯(lián)網(wǎng)數(shù)據(jù)預訓練的優(yōu)勢；增加模型參數(shù)能夠提升世界模型的泛化能力，WHALE-X-base（203M）動態(tài)模型在三個未見任務中的一致性比率是77M版本的3倍。此外，視頻生成質量與一致性的結果一致。通過行為—條件策略、大規(guī)模預訓練數(shù)據(jù)集和擴展模型參數(shù)，三種策略結合，顯著提高了模型的OOD泛化能力，尤其是在生成高質量視頻方面。
標簽：
搶先讀
- 世界模型WHALE來了！
- 港股航空股持續(xù)走高
- 浙江金東澧浦苗木城三年累計銷售額超90億元
- 陜西西咸空港綜合保稅區(qū)全域正式通過驗收
- 浙江金東澧浦苗木城三年累計銷售額超90億元
- 構筑新優(yōu)勢 浙江安吉小鎮(zhèn)組團奔向“大未來”
- 浙江金東澧浦苗木城三年累計銷售額超90億元
- 陜西西咸空港綜合保稅區(qū)全域正式通過驗收
- 報告：生成式人工智能帶來智慧旅游發(fā)展新機遇
- 青海湖之南推冰雪旅游大餐 冀“冰雪資源”成“火熱經(jīng)濟”
- 浙江義烏第六代市場面向全球招商 外商可入駐開店
- 浙江義烏市場6.0時代：海量新技術成為商人“三頭六臂”
- 企業(yè)反映經(jīng)營還有困難？多部門表態(tài)：持續(xù)推動解決！
- 加快推進制造業(yè)數(shù)字化綠色化協(xié)同轉型發(fā)展
- 國際金融論壇香港舉行年會 探討中國企業(yè)“出?！毙潞铰?/a>
- 國際金融論壇香港舉行年會 探討中國企業(yè)“出?！毙潞铰?/a>
- 浙江義烏市場6.0時代：海量新技術成為商人“三頭六臂”
- 滬指周五跌逾3% 互聯(lián)網(wǎng)電商板塊逆勢上漲
- 滬指周五跌逾3% 互聯(lián)網(wǎng)電商板塊逆勢上漲
- 企業(yè)反映經(jīng)營還有困難？多部門表態(tài)：持續(xù)推動解決！
- 國際金融論壇香港舉行年會 探討中國企業(yè)“出?！毙潞铰?/a>
- 國際金融論壇香港舉行年會 探討中國企業(yè)“出?！毙潞铰?/a>
- 滬指周五跌逾3% 互聯(lián)網(wǎng)電商板塊逆勢上漲
- 中歐班列（鄭州）開行突破10000列 通達歐洲40國
- （經(jīng)濟觀察）熱門中概股密集發(fā)布三季度業(yè)績 “超預期”成關鍵詞
- 國家外匯局：10月中國外匯市場總計成交24.26萬億元人民幣
- 我國充電基礎設施建設駛上“快車道” 汽車充換電產(chǎn)業(yè)生態(tài)將多方面拓展完善
- 今年前九月廣州新設外資企業(yè)同比增長32.2%
- 今年前九月廣州新設外資企業(yè)同比增長32.2%
- （經(jīng)濟觀察）熱門中概股密集發(fā)布三季度業(yè)績 “超預期”成關鍵詞
- 我國充電基礎設施建設駛上“快車道” 汽車充換電產(chǎn)業(yè)生態(tài)將多方面拓展完善
- 三方面9條政策助力外貿企業(yè)穩(wěn)訂單拓市場 為經(jīng)濟持續(xù)回升提供“硬支撐”
- 透過烏鎮(zhèn)看未來：數(shù)字警務“智慧護航”互聯(lián)網(wǎng)大會
- 今年前九月廣州新設外資企業(yè)同比增長32.2%
- 國家外匯局：10月中國外匯市場總計成交24.26萬億元人民幣
- “綠美灣區(qū)‘碳’索未來” 廣東邊會在COP29中國角舉辦
- 透過烏鎮(zhèn)看未來：數(shù)字警務“智慧護航”互聯(lián)網(wǎng)大會
- 文旅部：促進旅行社研學旅游業(yè)務健康發(fā)展
- “國樂行者”方錦龍：一個“不靠譜”的演奏家
- “中國—東盟童書合作計劃”累計推出71種圖書
- “綠美灣區(qū)‘碳’索未來” 廣東邊會在COP29中國角舉辦
- 2024年“閱讀北京”輻射超千萬人次
- “國樂行者”方錦龍：一個“不靠譜”的演奏家
- 解謎三星堆：他們去哪兒了
- 為啥說小雪節(jié)氣不一定下雪？
- 導演邵藝輝攜鐘楚曦“回家”路演 解讀《好東西》中的“晉味道”
- 解謎三星堆：他們去哪兒了
- 安徽全面啟動全域“無廢城市”建設
- “國樂行者”方錦龍：一個“不靠譜”的演奏家
- 紀錄片《葉爾羌河》創(chuàng)作研討會在京舉辦
- “國樂行者”方錦龍：一個“不靠譜”的演奏家
- 兒童小說《狼洞的外婆》用豐沛想象傳遞成長和親情的力量
- 兒童小說《狼洞的外婆》用豐沛想象傳遞成長和親情的力量
- 冬季如何防護才能保持血壓的穩(wěn)定？醫(yī)生解答
- 冬季如何防護才能保持血壓的穩(wěn)定？醫(yī)生解答
- 創(chuàng)新保險模式 助力經(jīng)濟社會高質量發(fā)展
- 小雪節(jié)氣后如何避免陽氣損害？中醫(yī)專家建議首先要潛藏
- 創(chuàng)新保險模式 助力經(jīng)濟社會高質量發(fā)展
- 黑龍江中俄友好醫(yī)院揭牌：多領域合作為兩國人民健康福祉貢獻力量
- 中新健康｜六部門：完善基層藥品聯(lián)動管理 擴大基層藥品種類
- 冬季怕冷人群如何養(yǎng)生保健？哪些人適合服用膏方？
- 中新教育丨教育部印發(fā)《中小學校園食品安全和膳食經(jīng)費管理工作指引》
- 首個由中國主導的世界職教合作組織機構成立
- 登廣告吁救臺灣教育 區(qū)桂芝指現(xiàn)行課綱綁架所有師生
- 中新教育丨教育部印發(fā)《中小學校園食品安全和膳食經(jīng)費管理工作指引》
- 福建師范大學成立全球南方教育研究中心
- “課間一刻鐘”何以更好支持學生健康成長？
- 中國教育部：2025年全國碩士研究生報名人數(shù)為388萬
- “課間一刻鐘”何以更好支持學生健康成長？
- 中新教育丨教育部印發(fā)《中小學校園食品安全和膳食經(jīng)費管理工作指引》
- 強化班主任隊伍建設 賦能技工教育高質量發(fā)展——河南省技工院校班主任能力提升培訓班圓滿落幕
- 中疾控：有疫苗可預防的呼吸道疾病要盡早開展疫苗接種
- 冬季如何防護才能保持血壓的穩(wěn)定？醫(yī)生解答
- 上?？蒲袌F隊研究成果再登《自然》 提出限制性飲食聯(lián)合抑制劑治療腫瘤新策略
- 中新健康｜高速擴張暗藏隱憂 塔斯汀屢陷食品安全丑聞
- 冬季如何防護才能保持血壓的穩(wěn)定？醫(yī)生解答
- 湯圓和餃子能在一起煮嗎？速凍湯圓一般煮多久？
- 小雪節(jié)氣后如何避免陽氣損害？中醫(yī)專家建議首先要潛藏
- 中新健康｜六部門：完善基層藥品聯(lián)動管理 擴大基層藥品種類
- 成都市民興隆湖畔享受初冬暖陽
- 小雪節(jié)氣后如何避免陽氣損害？中醫(yī)專家建議首先要潛藏
- 中新健康｜高速擴張暗藏隱憂 塔斯汀屢陷食品安全丑聞
- 冬季怕冷人群如何養(yǎng)生保??？哪些人適合服用膏方？
- 駐馬店市驛城區(qū)古城街道：愛心護學崗 共伴成長路
- 駐馬店市驛城區(qū)朱古洞鄉(xiāng)：打好秋冬戰(zhàn)役 清潔美麗家園
- ?西平縣譚店鄉(xiāng)：疏浚溝渠惠民生 未雨綢繆保穩(wěn)定
- ?西平縣安委辦積極助企紓困全力營造安全環(huán)境
- 北京將啟動“京彩時光 銀齡守望”養(yǎng)老志愿服務活動
- 云南民族體育項目發(fā)展蓬勃 展文化促“三交”
- 江西靖安：凝聚統(tǒng)戰(zhàn)合力 激活文旅產(chǎn)業(yè)發(fā)展“一池春水”
- 江西靖安：凝聚統(tǒng)戰(zhàn)合力 激活文旅產(chǎn)業(yè)發(fā)展“一池春水”
- 駐馬店市生態(tài)環(huán)境局遂平分局組織參加全國固體廢物管理信息系統(tǒng)填報培訓會
- 國家菌草工程技術研究中心產(chǎn)學研合作（永德）基地授牌
- 國家菌草工程技術研究中心產(chǎn)學研合作（永德）基地授牌
- 千年城湖何以共生共榮？七位守護者講述“西湖之美”
- 駐馬店市驛城區(qū)古城街道：發(fā)揮黨建引領力 激發(fā)產(chǎn)業(yè)新活力
- ?西平縣專探雙河小學召開學習《教育系統(tǒng)重大事故隱患判定指南》專題會
- 國家菌草工程技術研究中心產(chǎn)學研合作（永德）基地授牌
- 日照探索道路交通糾紛多元解法 推進“一站式”辦理化解
- 福建摸清自然資源“家底” 筑牢生態(tài)保護產(chǎn)權根基