深度思維為AI生成文本“打水印”
最新一期《自然》雜志發(fā)表的一篇論文稱，谷歌深度思維團(tuán)隊(duì)開發(fā)了一種能為大語言模型生成文本添加水印的工具，可提高對合成內(nèi)容的鑒別和追溯能力。
大語言模型（LLM）是廣泛使用的人工智能（AI）工具，能為聊天機(jī)器人、文章寫作和其他目的生成文本。不過，人們很難識別并追溯AI生成文本的來源，使信息的可靠性受到質(zhì)疑。水印被認(rèn)為能解決這一問題，但生產(chǎn)系統(tǒng)對質(zhì)量和計算效率的嚴(yán)格要求阻礙了其規(guī)?；瘧?yīng)用。
深度思維團(tuán)隊(duì)此次利用一種全新采樣算法，開發(fā)出一個給AI生成文本添加水印的系統(tǒng)——SynthID-Text。該工具通過采樣算法對LLM的詞匯選擇進(jìn)行巧妙偏移，插入一個能被相關(guān)檢測軟件識別的簽名。這既可以通過一種“扭曲”路徑實(shí)現(xiàn)（能提高水印質(zhì)量但會輕微影響輸出質(zhì)量），也可以通過另一種能保留文本質(zhì)量的“非扭曲”路徑實(shí)現(xiàn)。
深度思維已在多個公開模型上評估了這些水印的可檢測性，結(jié)果顯示，SynthID-Text的可檢測性優(yōu)于當(dāng)前其他方法。
他們還用Gemini LLM的近2000萬次在線對話，評估了這些文本的質(zhì)量，最終認(rèn)為非扭曲水印形式不會降低文本質(zhì)量。此外，使用SynthID-Text對LLM運(yùn)行所需算力的影響可忽略不計，從而減少了應(yīng)用上的障礙。
該研究證明，為生成式文本添加水印是可行的，其可提高AI使用的責(zé)任和透明度。
標(biāo)簽：
搶先讀
- 深度思維為AI生成文本“打水印”
- 神舟十九號航天員乘組確定
- 西湖十景是哪十景？杭州西湖一日游攻略
- 嚴(yán)二平：堅持長期主義，袋鼠媽媽用品質(zhì)贏得生意和品牌雙增長
- 神舟十九號航天員乘組確定
- “風(fēng)口”上的自動駕駛何時大規(guī)模商業(yè)化落地？
- 神舟十九號航天員乘組確定
- 俄在中國采集的月壤中發(fā)現(xiàn)不尋常晶體
- 諾獎成果“技術(shù)科學(xué)化”說明什么
- 層林盡染，候鳥南遷 各地陸續(xù)進(jìn)入最美賞秋季
- 神舟十九號乘組兩名“90后”
- 《福布斯》雜志預(yù)測AI發(fā)展趨勢
- 科技賦能文旅，縣城變“寶藏小城”
- 科技賦能文旅，縣城變“寶藏小城”
- 前三季度電子商務(wù)持續(xù)健康發(fā)展
- 國安門將韓佳奇表現(xiàn)驚艷 有望叩開國足大門
- 俄在中國采集的月壤中發(fā)現(xiàn)不尋常晶體
- 俄在中國采集的月壤中發(fā)現(xiàn)不尋常晶體
- 科技賦能文旅，縣城變“寶藏小城”
- 福建省名山有哪些？福建的茶葉有哪些名茶？
- 俄在中國采集的月壤中發(fā)現(xiàn)不尋常晶體
- 科技賦能文旅，縣城變“寶藏小城”
- 諾獎成果“技術(shù)科學(xué)化”說明什么
- 諾獎成果“技術(shù)科學(xué)化”說明什么
- 北汽主場輕取寧波 北控客場大勝天津 京城CBA雙雄本輪齊奏凱
- 江蘇：全域整治“一子落”，鄉(xiāng)村振興“滿盤活”
- 神舟十九號載人飛船發(fā)射取得圓滿成功
- 青年臺商初訪汽車大省吉林 看市場尋合作
- 江蘇省13個“一件事”已辦435萬件
- 神舟十九號航天員夜赴太空 三大“護(hù)身法寶”揭秘
- 神舟十九號載人飛船發(fā)射取得圓滿成功
- 天津發(fā)布公積金新政 四種情形認(rèn)定為“首套”
- 神舟十九號載人飛船發(fā)射取得圓滿成功
- 北證50指數(shù)“五連漲”再創(chuàng)歷史新高
- 東西問｜章麗：民間航海家汪大淵為何被稱為“東方的馬可·波羅”？
- 水利部針對海南省啟動洪水防御Ⅳ級應(yīng)急響應(yīng)
- 專家談神舟十九號飛船特點(diǎn)：裝載貨物體積最大、重量最重
- 神舟十九號航天員夜赴太空 三大“護(hù)身法寶”揭秘
- 海南三亞暴雨中失蹤學(xué)生已遇難 官方展開全面調(diào)查
- 水利部針對海南省啟動洪水防御Ⅳ級應(yīng)急響應(yīng)
- 國乒回應(yīng)近期比賽成績起伏：嚴(yán)肅對待問題，及時認(rèn)真總結(jié)
- 商家關(guān)店之后，如何避免消費(fèi)者預(yù)付款“打水漂”？
- 海南三亞暴雨中失蹤學(xué)生已遇難 官方展開全面調(diào)查
- 東西問｜章麗：民間航海家汪大淵為何被稱為“東方的馬可·波羅”？
- 學(xué)計算機(jī)的大學(xué)生接力5年“死磕”田間雜草
- 浮云遮日的意思怎么解釋？不畏浮云遮望眼下一句是什么？
- 商務(wù)部就歐盟公布對華電動汽車反補(bǔ)貼調(diào)查終裁結(jié)果答記者問
- 商家關(guān)店之后，如何避免消費(fèi)者預(yù)付款“打水漂”？
- 商家關(guān)店之后，如何避免消費(fèi)者預(yù)付款“打水漂”？
- 今年前三季度廣西友誼關(guān)口岸進(jìn)出口規(guī)模創(chuàng)歷史同期新高
- 今年前三季度中國社會物流總額258.2萬億元 同比增長5.6%
- 城市房地產(chǎn)融資新機(jī)制持續(xù)發(fā)力
- 遼寧出臺措施激發(fā)創(chuàng)業(yè)投資發(fā)展活力
- 今年前三季度中國社會物流總額258.2萬億元 同比增長5.6%
- 自駕游市場蓬勃發(fā)展
- 對話付輝：中國車企扎堆泰國，競爭激烈程度堪比國內(nèi)
- 澳一報告稱：對華貿(mào)易讓澳大利亞家庭年獲290億澳元收入
- 渤海銀行（09668.HK）：獲標(biāo)普投資級主體信用評級評級展望調(diào)整為穩(wěn)定
- 教育創(chuàng)新腳步不停， 佛山獅山啟動三個AI項(xiàng)目
- 澳一報告稱：對華貿(mào)易讓澳大利亞家庭年獲290億澳元收入
- 今年前三季度廣西友誼關(guān)口岸進(jìn)出口規(guī)模創(chuàng)歷史同期新高
- 房地產(chǎn)政策組合拳打出樓市“銀十”成色
- 商務(wù)部就歐盟公布對華電動汽車反補(bǔ)貼調(diào)查終裁結(jié)果答記者問
- 年內(nèi)近兩千只理財產(chǎn)品提前“退場”
- 中國品牌出海，已各有偏好市場
- 代銷指數(shù)基金 銀行戰(zhàn)斗力“滿格”
- 一線城市樓市觀察：政策暖風(fēng)持續(xù)激發(fā)市場活力
- 政策“東風(fēng)”勁吹 科技創(chuàng)新驅(qū)動綠色轉(zhuǎn)型“加速跑”
- 石榴花是幾月開放的？軟籽石榴的籽可以吃下去嗎？
- 今年前三季度安徽各項(xiàng)存款增速居全國第一
- 福州193個重大項(xiàng)目開工 總投資達(dá)1350億元
- 福州193個重大項(xiàng)目開工 總投資達(dá)1350億元
- 助力維護(hù)全球產(chǎn)業(yè)鏈供應(yīng)鏈穩(wěn)定暢通
- 歐盟終裁對中國電動汽車加征反補(bǔ)貼稅
- 樓市新政“滿月” 一線城市成交量如何？
- 俄羅斯學(xué)者：金磚國家將對全球經(jīng)濟(jì)產(chǎn)生深遠(yuǎn)影響
- 【中國那些事兒】持續(xù)推動高質(zhì)量發(fā)展和高水平對外開放 外資企業(yè)對中國經(jīng)濟(jì)充滿信心
- 【中國那些事兒】持續(xù)推動高質(zhì)量發(fā)展和高水平對外開放 外資企業(yè)對中國經(jīng)濟(jì)充滿信心
- 樓市新政“滿月” 一線城市成交量如何？
- 德國汽車工業(yè)協(xié)會：歐盟對華電動汽車加征關(guān)稅是全球自由貿(mào)易的倒退
- 德國汽車工業(yè)協(xié)會：歐盟對華電動汽車加征關(guān)稅是全球自由貿(mào)易的倒退
- 財政部在澳門發(fā)行50億元人民幣國債
- ?西平縣焦莊鄉(xiāng)對轄區(qū)內(nèi)超市開展消防安全檢查
- 萬名跑友齊聚 首屆北京海淀馬拉松激情開跑
- 2024CFC國民體能賽城市選拔賽舉行
- 廣廈男籃勝天津男籃 孫銘徽升至CBA歷史助攻榜第七
- 2024CFC國民體能賽城市選拔賽舉行
- CBA常規(guī)賽：北京北汽止步6連勝 聯(lián)賽已無全勝球隊(duì)
- 第十五屆全國運(yùn)動會市場開發(fā)計劃發(fā)布暨啟動儀式在穗舉行
- 塞爾維亞選手丹尼洛維奇奪得廣網(wǎng)女單冠軍
- 2024年世界U23摔跤錦標(biāo)賽 中國選手陸鋒摘銀
- 2024CFC國民體能賽城市選拔賽舉行
- 2024CFC國民體能賽城市選拔賽舉行
- 第十一屆平潭國際風(fēng)箏沖浪節(jié)中國風(fēng)箏板巡回賽落幕
- 威爾遜奪得2024斯諾克北愛爾蘭公開賽冠軍
- 湖南省第二屆殘疾人云動會在長沙啟動
- 湖南省第二屆殘疾人云動會在長沙啟動
- 湖南省第二屆殘疾人云動會在長沙啟動
- NBA生涯首秀得分！崔永熙賽后回應(yīng)：不緊張
- 歷史名城寫體育新篇，2024北京體育產(chǎn)業(yè)招商推介會舉辦