（聚焦博鰲）AI迅猛發(fā)展，人類能否穩(wěn)控“方向盤”
為何人類必須掌控AI“方向盤”
AI近年來的快速發(fā)展既令人振奮，又暗藏隱憂。上海科學智能研究院首席戰(zhàn)略官、復旦大學經(jīng)濟學教授楊燕青指出，AI可能是人類歷史上最強大的通用技術。“與蒸汽機、電力等增強人類體力的技術不同，AI直接賦能人類大腦，涉及計算與認知的深度融合。”楊燕青將AI特性描述為“類人”，這使得AI既能帶來生產(chǎn)力提升，也可能引發(fā)威脅人類生存的風險。
中國工程院院士、清華大學智能產(chǎn)業(yè)研究院院長張亞勤介紹，2025年人工智能發(fā)展呈現(xiàn)三大趨勢：從生成式大模型邁向智能體，從預訓練走向推理，從信息智能走向物理智能和具身智能。
隨著AI的快速迭代，一個令人不安的場景或從科幻電影中走向現(xiàn)實：本應協(xié)助人類的AI，可能因為算法偏差或外部操縱，做出違背倫理、危及人類利益的決策。
人類如何掌控AI“方向盤”
面對未知的AI風險，人類如何應對？中國科學院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構專家曾毅主張，將倫理安全融入AI開發(fā)的底層設計，視其為“第一性原則”，不可刪除、不可違背。他強調(diào)，AI的倫理安全應成為技術發(fā)展的基因，確保其與人類價值觀保持一致。
張亞勤進一步將AI風險分解為可信度與可控性兩個層面?？尚哦纫驛I在執(zhí)行任務時遵循人類期望、倫理規(guī)范和社會法律，不產(chǎn)生誤導性、有害或不公平的結果；可控性則確保人類能有效監(jiān)控、干預和糾正AI行為，避免失控或不可預測的后果。他提出，設定技術紅線與邊界是關鍵，如限制智能體自我復制，以降低失控風險。
在具體實踐上，國際社會已采取行動。歐盟《人工智能法案》于2024年實施，對高風險AI系統(tǒng)設定了嚴格的透明度和問責要求；中國2023年發(fā)布的《生成式人工智能服務管理暫行辦法》則明確要求企業(yè)對AI輸出內(nèi)容負責。這些技術與倫理并重的措施，旨在確保人類腳踩AI超速的“剎車片”，手握AI發(fā)展的“方向盤”。
平衡AI：發(fā)展與治理的共生之道
有人擔憂，給AI“裝上剎車片”會削弱其競爭力。曾毅介紹，其所在的團隊通過對大模型進行微調(diào)，可以將安全能力提升20%至30%，對其性能幾乎沒有負面影響。這一發(fā)現(xiàn)證明，安全治理與技術發(fā)展可以并行不悖。
當天在博鰲的討論最終匯聚成共識：AI治理需要構建一個多元、立體的全方位治理體系。這一體系如同一個精密的生態(tài)系統(tǒng)，既有自上而下的宏觀規(guī)劃，也有自下而上的微觀參與，涵蓋技術、社會、經(jīng)濟等多元維度。
“我們怎么和人工智能共處？如何讓人工智能使得整個世界變得更好，人類應有更大的責任。”楊燕青認為，AI治理是每個人的使命。社會大眾應保持自身的價值觀和創(chuàng)新力，在多元的理念中把握好自己的“方向盤”。
標簽：
搶先讀
- （聚焦博鰲）AI迅猛發(fā)展，人類能否穩(wěn)控“方向盤”
- 陜西鎮(zhèn)巴至四川廣安高速公路白馬渠江特大橋貫通
- 中國網(wǎng)絡視聽用戶近11億
- 商務部：有序擴大單方面免簽國家范圍
- 國內(nèi)自研最大直徑盾構機“滄淵號”成功下線
- 鄭永年：解決國家間貧富差距應“達則兼濟天下”
- （聚焦博鰲）博鰲亞洲論壇全球健康論壇2025年北京會議將于7月召開
- 商務部：有序擴大單方面免簽國家范圍
- 水泥填縫的方法是什么？水泥填縫多久可以擦？
- “新時代網(wǎng)紅生態(tài)發(fā)展工程”簽約儀式在京舉行
- 首驅（Sky Motor）震撼發(fā)布，開啟智能兩輪出行新紀元
- 龍永圖：只要科學技術發(fā)展不停止，全球化就不可能停止
- 洗衣機中途暫停了如何打開鎖？洗衣機不脫水了是什么原因？
- （經(jīng)濟觀察）中式茶飲掀境外上市熱，背后有何“生意經(jīng)”？
- （經(jīng)濟觀察）中式茶飲掀境外上市熱，背后有何“生意經(jīng)”？
- 紅西鳳升級版價值解讀：“文化基因+非遺工藝+品質密碼”引領高端鳳香新境界
- （聚焦博鰲）遲福林：要高度重視RCEP在促進亞洲經(jīng)濟一體化中的作用
- （聚焦博鰲）遲福林：要高度重視RCEP在促進亞洲經(jīng)濟一體化中的作用
- 全系標配高階智駕+高階智艙，比亞迪海獅05EV正式上市 售價11.78萬元-13.78萬元
- 張軍：亞洲發(fā)展中國家多 綠色轉型卻走在世界前列
- 比亞迪發(fā)布2024年ESG報告 以技術創(chuàng)新驅動可持續(xù)發(fā)展
- （聚焦博鰲）周小川建言海南自貿(mào)港：打造中國服務業(yè)開放高地
- （聚焦博鰲）周小川建言海南自貿(mào)港：打造中國服務業(yè)開放高地
- 3月26日人民幣對美元中間價報7.1754元 上調(diào)34個基點
- 透過1秒、1天、1年看中國快遞有多強
- AI醫(yī)生看病靠譜嗎
- 銷量破百萬 一“冠”難求 文創(chuàng)產(chǎn)業(yè)還藏著哪些“出圈”密碼？
- 個頭更大 價格更優(yōu) 大個頭藍莓藏著哪些科技秘密？
- 專業(yè)跟著產(chǎn)業(yè)走 河南高校專業(yè)花樣“上新”
- 透過1秒、1天、1年看中國快遞有多強
- 專業(yè)跟著產(chǎn)業(yè)走 河南高校專業(yè)花樣“上新”
- 專業(yè)跟著產(chǎn)業(yè)走 河南高校專業(yè)花樣“上新”
- 這座川西北高原小城，人均擁有梨樹19棵！
- 農(nóng)民增收新思路 設置“帶薪釣魚”崗位有何用意
- 重慶：3D打印技術助力飛機維修
- 手機賬戶資金莫名被盜刷 “免密支付”風險怎樣防范
- 昆明打造機床產(chǎn)業(yè)聚集區(qū) 力爭3年產(chǎn)值破百億元
- “文景口”輪將首航 為中國新能源汽車出口提供全鏈路保障
- 重慶：3D打印技術助力飛機維修
- 滬蘇湖高鐵加速長三角農(nóng)文旅融合步伐
- 蘭州明確出入境限定區(qū)域
- 昆明打造機床產(chǎn)業(yè)聚集區(qū) 力爭3年產(chǎn)值破百億元
- 浙江單批次商品車裝箱出運量紀錄刷新
- 江西累計引進臺資項目4067個 實際進資197.56億美元
- 湖北荊州觀音寺長江大橋公安側主塔封頂
- （聚焦博鰲）聯(lián)合國官員：博鰲亞洲論壇為南南合作提供更多參考
- 滬蘇湖高鐵加速長三角農(nóng)文旅融合步伐
- （聚焦博鰲）國際經(jīng)貿(mào)合作：海南自貿(mào)港注入新動力
- 滬蘇湖高鐵加速長三角農(nóng)文旅融合步伐
- （聚焦博鰲）國際經(jīng)貿(mào)合作：海南自貿(mào)港注入新動力
- 在博鰲感受開放的中國
- （經(jīng)濟觀察）中國運營商加碼算力基礎設施投資
- （聚焦博鰲）海南博鰲零碳示范區(qū)實現(xiàn)全域零碳運行
- （聚焦博鰲）黃奇帆：“中國制造”并非閉門造車，外資起橋梁作用
- “德國制造”與“東方魯爾”再燃新火花：賀利氏石英沈陽新工廠落成
- “德國制造”與“東方魯爾”再燃新火花：賀利氏石英沈陽新工廠落成
- （聚焦博鰲）海南博鰲零碳示范區(qū)實現(xiàn)全域零碳運行
- 天津創(chuàng)建首批4家未來產(chǎn)業(yè)先導區(qū) 推動創(chuàng)新資源集聚
- 渝昆高鐵云南段“四電”工程開工
- 以舊換新加力擴圍 “煥”出消費新動能
- 股票超跌反彈的應用有哪些？股票漲停時為何不選擇賣出？
- 周小川：海南自貿(mào)港在服務貿(mào)易、綠色發(fā)展領域大有可為
- 周小川：海南自貿(mào)港在服務貿(mào)易、綠色發(fā)展領域大有可為
- 黑龍江同江：6年培育大麻哈魚苗260萬尾
- 守護數(shù)字原住民：《蛋仔派對》的未成年人保護與公益創(chuàng)新之路
- 黑龍江同江：6年培育大麻哈魚苗260萬尾
- 個險改革新探索：大家人壽創(chuàng)新保險代理模式
- 今年以來中國電動自行車以舊換新超220萬輛
- 2月中國銷售彩票同比增15.3%
- 個險改革新探索：大家人壽創(chuàng)新保險代理模式
- 2月中國銷售彩票同比增15.3%
- 個險改革新探索：大家人壽創(chuàng)新保險代理模式
- 第20屆SIUF中國國際品牌內(nèi)衣展開幕 勾勒時尚畫卷
- 第20屆SIUF中國國際品牌內(nèi)衣展開幕 勾勒時尚畫卷
- 73.1℃！湖北咸寧刷新中深層地熱井溫度新高
- 廣西發(fā)布住房公積金業(yè)務標準 利于更多的靈活就業(yè)人員
- 廣西發(fā)布住房公積金業(yè)務標準 利于更多的靈活就業(yè)人員
- 以金融溫度助力消費升溫 中信銀行信用卡深耕“食住行娛購”
- 數(shù)百萬外賣騎手“工傷保險”擴圍在即，美團近三年已投入14億元
- 數(shù)百萬外賣騎手“工傷保險”擴圍在即，美團近三年已投入14億元
- 以金融溫度助力消費升溫 中信銀行信用卡深耕“食住行娛購”
- 糖酒會吹“減糖”風 “體重管理”助力健康經(jīng)濟
- 糖酒會吹“減糖”風 “體重管理”助力健康經(jīng)濟
- 廣西發(fā)布住房公積金業(yè)務標準 利于更多的靈活就業(yè)人員
- 全國城市巡回招聘寧夏站在銀川舉辦 吸引約1.5萬名求職者
- 湖北啟動實施知識價值信用貸 助科技型企業(yè)發(fā)展
- 基金后面加倉怎么算持有天數(shù)？基金漲了加倉還是跌了加倉？
- 基金加倉的兩大方法是什么？基金加倉凈值怎么算？
- 安利全球CEO邁克爾·尼爾森：5年投資21億元 持續(xù)加碼中國
- （聚焦博鰲）報告稱亞洲經(jīng)濟2025年將增長4.5%
- 中國工程院院士孫寶國蒞臨西鳳股份公司助力風味科學研究
- 種業(yè)發(fā)展筑牢創(chuàng)新底座
- 十月稻田發(fā)布2024年業(yè)績報告，穩(wěn)中增效提質能力凸顯
- 免密支付存隱患 如非必要莫開啟
- 北京市首家“名特優(yōu)新”個體工商戶孵化服務站成立
- 西鳳酒10萬噸優(yōu)質基酒及配套生產(chǎn)項目制酒工藝方案通過專家評審
- 商務部：加快落實各項擴消費政策措施
- 專項行動持續(xù)深化 央企加速“擁抱”人工智能
- 歐美企業(yè)高管齊聚北京，用實際行動反駁“脫鉤論”
- 新品密集發(fā)布 人形機器人加速產(chǎn)業(yè)“進化”