深度思維為AI生成文本“打水印”
最新一期《自然》雜志發(fā)表的一篇論文稱(chēng)，谷歌深度思維團(tuán)隊(duì)開(kāi)發(fā)了一種能為大語(yǔ)言模型生成文本添加水印的工具，可提高對(duì)合成內(nèi)容的鑒別和追溯能力。
大語(yǔ)言模型（LLM）是廣泛使用的人工智能（AI）工具，能為聊天機(jī)器人、文章寫(xiě)作和其他目的生成文本。不過(guò)，人們很難識(shí)別并追溯AI生成文本的來(lái)源，使信息的可靠性受到質(zhì)疑。水印被認(rèn)為能解決這一問(wèn)題，但生產(chǎn)系統(tǒng)對(duì)質(zhì)量和計(jì)算效率的嚴(yán)格要求阻礙了其規(guī)?；瘧?yīng)用。
深度思維團(tuán)隊(duì)此次利用一種全新采樣算法，開(kāi)發(fā)出一個(gè)給AI生成文本添加水印的系統(tǒng)——SynthID-Text。該工具通過(guò)采樣算法對(duì)LLM的詞匯選擇進(jìn)行巧妙偏移，插入一個(gè)能被相關(guān)檢測(cè)軟件識(shí)別的簽名。這既可以通過(guò)一種“扭曲”路徑實(shí)現(xiàn)（能提高水印質(zhì)量但會(huì)輕微影響輸出質(zhì)量），也可以通過(guò)另一種能保留文本質(zhì)量的“非扭曲”路徑實(shí)現(xiàn)。
深度思維已在多個(gè)公開(kāi)模型上評(píng)估了這些水印的可檢測(cè)性，結(jié)果顯示，SynthID-Text的可檢測(cè)性?xún)?yōu)于當(dāng)前其他方法。
他們還用Gemini LLM的近2000萬(wàn)次在線(xiàn)對(duì)話(huà)，評(píng)估了這些文本的質(zhì)量，最終認(rèn)為非扭曲水印形式不會(huì)降低文本質(zhì)量。此外，使用SynthID-Text對(duì)LLM運(yùn)行所需算力的影響可忽略不計(jì)，從而減少了應(yīng)用上的障礙。
該研究證明，為生成式文本添加水印是可行的，其可提高AI使用的責(zé)任和透明度。
標(biāo)簽：
搶先讀
- 深度思維為AI生成文本“打水印”
- 神舟十九號(hào)航天員乘組確定
- 西湖十景是哪十景？杭州西湖一日游攻略
- 嚴(yán)二平：堅(jiān)持長(zhǎng)期主義，袋鼠媽媽用品質(zhì)贏得生意和品牌雙增長(zhǎng)
- 神舟十九號(hào)航天員乘組確定
- “風(fēng)口”上的自動(dòng)駕駛何時(shí)大規(guī)模商業(yè)化落地？
- 神舟十九號(hào)航天員乘組確定
- 俄在中國(guó)采集的月壤中發(fā)現(xiàn)不尋常晶體
- 諾獎(jiǎng)成果“技術(shù)科學(xué)化”說(shuō)明什么
- 層林盡染，候鳥(niǎo)南遷 各地陸續(xù)進(jìn)入最美賞秋季
- 神舟十九號(hào)乘組兩名“90后”
- 《福布斯》雜志預(yù)測(cè)AI發(fā)展趨勢(shì)
- 科技賦能文旅，縣城變“寶藏小城”
- 科技賦能文旅，縣城變“寶藏小城”
- 前三季度電子商務(wù)持續(xù)健康發(fā)展
- 國(guó)安門(mén)將韓佳奇表現(xiàn)驚艷 有望叩開(kāi)國(guó)足大門(mén)
- 俄在中國(guó)采集的月壤中發(fā)現(xiàn)不尋常晶體
- 俄在中國(guó)采集的月壤中發(fā)現(xiàn)不尋常晶體
- 科技賦能文旅，縣城變“寶藏小城”
- 福建省名山有哪些？福建的茶葉有哪些名茶？
- 俄在中國(guó)采集的月壤中發(fā)現(xiàn)不尋常晶體
- 科技賦能文旅，縣城變“寶藏小城”
- 諾獎(jiǎng)成果“技術(shù)科學(xué)化”說(shuō)明什么
- 諾獎(jiǎng)成果“技術(shù)科學(xué)化”說(shuō)明什么
- 北汽主場(chǎng)輕取寧波 北控客場(chǎng)大勝天津 京城CBA雙雄本輪齊奏凱
- 江蘇：全域整治“一子落”，鄉(xiāng)村振興“滿(mǎn)盤(pán)活”
- 神舟十九號(hào)載人飛船發(fā)射取得圓滿(mǎn)成功
- 青年臺(tái)商初訪(fǎng)汽車(chē)大省吉林 看市場(chǎng)尋合作
- 江蘇省13個(gè)“一件事”已辦435萬(wàn)件
- 神舟十九號(hào)航天員夜赴太空 三大“護(hù)身法寶”揭秘
- 神舟十九號(hào)載人飛船發(fā)射取得圓滿(mǎn)成功
- 天津發(fā)布公積金新政 四種情形認(rèn)定為“首套”
- 神舟十九號(hào)載人飛船發(fā)射取得圓滿(mǎn)成功
- 北證50指數(shù)“五連漲”再創(chuàng)歷史新高
- 東西問(wèn)｜章麗：民間航海家汪大淵為何被稱(chēng)為“東方的馬可·波羅”？
- 水利部針對(duì)海南省啟動(dòng)洪水防御Ⅳ級(jí)應(yīng)急響應(yīng)
- 專(zhuān)家談神舟十九號(hào)飛船特點(diǎn)：裝載貨物體積最大、重量最重
- 神舟十九號(hào)航天員夜赴太空 三大“護(hù)身法寶”揭秘
- 海南三亞暴雨中失蹤學(xué)生已遇難 官方展開(kāi)全面調(diào)查
- 水利部針對(duì)海南省啟動(dòng)洪水防御Ⅳ級(jí)應(yīng)急響應(yīng)
- 國(guó)乒回應(yīng)近期比賽成績(jī)起伏：嚴(yán)肅對(duì)待問(wèn)題，及時(shí)認(rèn)真總結(jié)
- 商家關(guān)店之后，如何避免消費(fèi)者預(yù)付款“打水漂”？
- 海南三亞暴雨中失蹤學(xué)生已遇難 官方展開(kāi)全面調(diào)查
- 東西問(wèn)｜章麗：民間航海家汪大淵為何被稱(chēng)為“東方的馬可·波羅”？
- 學(xué)計(jì)算機(jī)的大學(xué)生接力5年“死磕”田間雜草
- 浮云遮日的意思怎么解釋?zhuān)坎晃犯≡普谕巯乱痪涫鞘裁矗?/a>
- 商務(wù)部就歐盟公布對(duì)華電動(dòng)汽車(chē)反補(bǔ)貼調(diào)查終裁結(jié)果答記者問(wèn)
- 商家關(guān)店之后，如何避免消費(fèi)者預(yù)付款“打水漂”？
- 商家關(guān)店之后，如何避免消費(fèi)者預(yù)付款“打水漂”？
- 今年前三季度廣西友誼關(guān)口岸進(jìn)出口規(guī)模創(chuàng)歷史同期新高
- 今年前三季度中國(guó)社會(huì)物流總額258.2萬(wàn)億元 同比增長(zhǎng)5.6%
- 城市房地產(chǎn)融資新機(jī)制持續(xù)發(fā)力
- 遼寧出臺(tái)措施激發(fā)創(chuàng)業(yè)投資發(fā)展活力
- 今年前三季度中國(guó)社會(huì)物流總額258.2萬(wàn)億元 同比增長(zhǎng)5.6%
- 自駕游市場(chǎng)蓬勃發(fā)展
- 對(duì)話(huà)付輝：中國(guó)車(chē)企扎堆泰國(guó)，競(jìng)爭(zhēng)激烈程度堪比國(guó)內(nèi)
- 澳一報(bào)告稱(chēng)：對(duì)華貿(mào)易讓澳大利亞家庭年獲290億澳元收入
- 渤海銀行（09668.HK）：獲標(biāo)普投資級(jí)主體信用評(píng)級(jí)評(píng)級(jí)展望調(diào)整為穩(wěn)定
- 教育創(chuàng)新腳步不停， 佛山獅山啟動(dòng)三個(gè)AI項(xiàng)目
- 澳一報(bào)告稱(chēng)：對(duì)華貿(mào)易讓澳大利亞家庭年獲290億澳元收入
- 今年前三季度廣西友誼關(guān)口岸進(jìn)出口規(guī)模創(chuàng)歷史同期新高
- 房地產(chǎn)政策組合拳打出樓市“銀十”成色
- 商務(wù)部就歐盟公布對(duì)華電動(dòng)汽車(chē)反補(bǔ)貼調(diào)查終裁結(jié)果答記者問(wèn)
- 年內(nèi)近兩千只理財(cái)產(chǎn)品提前“退場(chǎng)”
- 中國(guó)品牌出海，已各有偏好市場(chǎng)
- 代銷(xiāo)指數(shù)基金 銀行戰(zhàn)斗力“滿(mǎn)格”
- 一線(xiàn)城市樓市觀察：政策暖風(fēng)持續(xù)激發(fā)市場(chǎng)活力
- 政策“東風(fēng)”勁吹 科技創(chuàng)新驅(qū)動(dòng)綠色轉(zhuǎn)型“加速跑”
- 石榴花是幾月開(kāi)放的？軟籽石榴的籽可以吃下去嗎？
- 今年前三季度安徽各項(xiàng)存款增速居全國(guó)第一
- 福州193個(gè)重大項(xiàng)目開(kāi)工 總投資達(dá)1350億元
- 福州193個(gè)重大項(xiàng)目開(kāi)工 總投資達(dá)1350億元
- 助力維護(hù)全球產(chǎn)業(yè)鏈供應(yīng)鏈穩(wěn)定暢通
- 歐盟終裁對(duì)中國(guó)電動(dòng)汽車(chē)加征反補(bǔ)貼稅
- 樓市新政“滿(mǎn)月” 一線(xiàn)城市成交量如何？
- 俄羅斯學(xué)者：金磚國(guó)家將對(duì)全球經(jīng)濟(jì)產(chǎn)生深遠(yuǎn)影響
- 【中國(guó)那些事兒】持續(xù)推動(dòng)高質(zhì)量發(fā)展和高水平對(duì)外開(kāi)放 外資企業(yè)對(duì)中國(guó)經(jīng)濟(jì)充滿(mǎn)信心
- 【中國(guó)那些事兒】持續(xù)推動(dòng)高質(zhì)量發(fā)展和高水平對(duì)外開(kāi)放 外資企業(yè)對(duì)中國(guó)經(jīng)濟(jì)充滿(mǎn)信心
- 樓市新政“滿(mǎn)月” 一線(xiàn)城市成交量如何？
- 德國(guó)汽車(chē)工業(yè)協(xié)會(huì)：歐盟對(duì)華電動(dòng)汽車(chē)加征關(guān)稅是全球自由貿(mào)易的倒退
- 德國(guó)汽車(chē)工業(yè)協(xié)會(huì)：歐盟對(duì)華電動(dòng)汽車(chē)加征關(guān)稅是全球自由貿(mào)易的倒退
- 財(cái)政部在澳門(mén)發(fā)行50億元人民幣國(guó)債
- ?西平縣焦莊鄉(xiāng)對(duì)轄區(qū)內(nèi)超市開(kāi)展消防安全檢查
- 萬(wàn)名跑友齊聚 首屆北京海淀馬拉松激情開(kāi)跑
- 2024CFC國(guó)民體能賽城市選拔賽舉行
- 廣廈男籃勝天津男籃 孫銘徽升至CBA歷史助攻榜第七
- 2024CFC國(guó)民體能賽城市選拔賽舉行
- CBA常規(guī)賽：北京北汽止步6連勝 聯(lián)賽已無(wú)全勝球隊(duì)
- 第十五屆全國(guó)運(yùn)動(dòng)會(huì)市場(chǎng)開(kāi)發(fā)計(jì)劃發(fā)布暨啟動(dòng)儀式在穗舉行
- 塞爾維亞選手丹尼洛維奇奪得廣網(wǎng)女單冠軍
- 2024年世界U23摔跤錦標(biāo)賽 中國(guó)選手陸鋒摘銀
- 2024CFC國(guó)民體能賽城市選拔賽舉行
- 2024CFC國(guó)民體能賽城市選拔賽舉行
- 第十一屆平潭國(guó)際風(fēng)箏沖浪節(jié)中國(guó)風(fēng)箏板巡回賽落幕
- 威爾遜奪得2024斯諾克北愛(ài)爾蘭公開(kāi)賽冠軍
- 湖南省第二屆殘疾人云動(dòng)會(huì)在長(zhǎng)沙啟動(dòng)
- 湖南省第二屆殘疾人云動(dòng)會(huì)在長(zhǎng)沙啟動(dòng)
- 湖南省第二屆殘疾人云動(dòng)會(huì)在長(zhǎng)沙啟動(dòng)
- NBA生涯首秀得分！崔永熙賽后回應(yīng)：不緊張
- 歷史名城寫(xiě)體育新篇，2024北京體育產(chǎn)業(yè)招商推介會(huì)舉辦