最新一期《自然》雜志發表的一篇論文稱，谷歌深度思維團隊開發了一種能為大語言模型生成文本添加水印的工具，可提高對合成內容的鑒別和追溯能力。5wC28資訊網——每日最新資訊28at.com

　　大語言模型（LLM）是廣泛使用的人工智能（AI）工具，能為聊天機器人、文章寫作和其他目的生成文本。不過，人們很難識別并追溯AI生成文本的來源，使信息的可靠性受到質疑。水印被認為能解決這一問題，但生產系統對質量和計算效率的嚴格要求阻礙了其規模化應用。5wC28資訊網——每日最新資訊28at.com

　　深度思維團隊此次利用一種全新采樣算法，開發出一個給AI生成文本添加水印的系統——SynthID-Text。該工具通過采樣算法對LLM的詞匯選擇進行巧妙偏移，插入一個能被相關檢測軟件識別的簽名。這既可以通過一種“扭曲”路徑實現（能提高水印質量但會輕微影響輸出質量），也可以通過另一種能保留文本質量的“非扭曲”路徑實現。5wC28資訊網——每日最新資訊28at.com

　　深度思維已在多個公開模型上評估了這些水印的可檢測性，結果顯示，SynthID-Text的可檢測性優于當前其他方法。5wC28資訊網——每日最新資訊28at.com

　　他們還用Gemini LLM的近2000萬次在線對話，評估了這些文本的質量，最終認為非扭曲水印形式不會降低文本質量。此外，使用SynthID-Text對LLM運行所需算力的影響可忽略不計，從而減少了應用上的障礙。5wC28資訊網——每日最新資訊28at.com

　　該研究證明，為生成式文本添加水印是可行的，其可提高AI使用的責任和透明度。 （記者張夢然）5wC28資訊網——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-16-122012-0.html深度思維為AI生成文本“打水印”

聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： AEP100發動機配裝 全球最大無人運輸機

下一篇： 難以破解的AI“黑匣子”