日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁 > 科技  > 資訊

AI檢測AI:“矛”更利還是“盾”更堅(jiān)

來源: 責(zé)編: 時(shí)間:2024-08-16 08:35:35 160觀看
導(dǎo)讀  近年來,人工智能(AI)技術(shù)推動生產(chǎn)力快速發(fā)展,但同時(shí)也因技術(shù)濫用導(dǎo)致各種問題。  為監(jiān)督AI技術(shù)使用,如今市面上不乏各類用于檢測AI生成內(nèi)容(AIGC)的工具,如普林斯頓大學(xué)學(xué)生開發(fā)的GPTZero、斯坦福大學(xué)研究團(tuán)隊(duì)推出的Det

  近年來,人工智能(AI)技術(shù)推動生產(chǎn)力快速發(fā)展,但同時(shí)也因技術(shù)濫用導(dǎo)致各種問題。xD328資訊網(wǎng)——每日最新資訊28at.com

  為監(jiān)督AI技術(shù)使用,如今市面上不乏各類用于檢測AI生成內(nèi)容(AIGC)的工具,如普林斯頓大學(xué)學(xué)生開發(fā)的GPTZero、斯坦福大學(xué)研究團(tuán)隊(duì)推出的DetectGPT等。我國一些研究團(tuán)隊(duì)也陸續(xù)發(fā)布各類檢測工具,如西湖大學(xué)文本智能實(shí)驗(yàn)室研發(fā)的Fast-DetectGPT。xD328資訊網(wǎng)——每日最新資訊28at.com

  人類的創(chuàng)作與AIGC之間存在哪些差異?AI檢測工具如何根據(jù)差異進(jìn)行識別?AI檢測工具如何應(yīng)對越來越聰明的大模型?帶著這些問題,記者采訪了有關(guān)專家。xD328資訊網(wǎng)——每日最新資訊28at.com

xD328資訊網(wǎng)——每日最新資訊28at.com

2024世界人工智能大會暨人工智能全球治理高級別會議上,觀眾在參觀由人工智能生成的圖片xD328資訊網(wǎng)——每日最新資訊28at.com

  AI創(chuàng)作套路化明顯xD328資訊網(wǎng)——每日最新資訊28at.com

  “雖然大模型在不斷發(fā)展迭代,但到目前為止,AIGC與人類的創(chuàng)作在用詞用語、邏輯語法等方面依舊存在明顯區(qū)別。”Fast-DetectGPT研發(fā)者之一、西湖大學(xué)文本智能實(shí)驗(yàn)室博士生鮑光勝說。xD328資訊網(wǎng)——每日最新資訊28at.com

  在用詞用語上,AIGC有相對固定的偏好?!安浑y發(fā)現(xiàn),一些詞語會反復(fù)在語段中出現(xiàn)。”鮑光勝舉例說,有研究發(fā)現(xiàn),大模型應(yīng)用于英語學(xué)術(shù)論文寫作時(shí),“delve”(深入研究)一詞的使用頻率大大提高,這是因?yàn)榇竽P土?xí)慣用這個(gè)詞對語句進(jìn)行潤色修改。xD328資訊網(wǎng)——每日最新資訊28at.com

  在邏輯語法上,AIGC慣常使用的一些語法搭配方式,在人類創(chuàng)作中可能并不常見。“受模型建模的影響,AIGC有相對固定的行文邏輯和表述模式,且這些模式會不斷地被重復(fù)。人類在行文上則更為靈活,沒有固定套路。”鮑光勝說。xD328資訊網(wǎng)——每日最新資訊28at.com

  北京大學(xué)信息管理系師生比較了AI生成與學(xué)者撰寫的中文論文摘要。研究結(jié)果同樣顯示,AI生成的摘要具有較高同質(zhì)性和較強(qiáng)寫作邏輯性,并慣用歸納總結(jié)等學(xué)術(shù)話語體系;學(xué)者撰寫的摘要?jiǎng)t具有顯著個(gè)性化差異,使用凸顯實(shí)際含義的搭配較多,并常用與國家政策密切相關(guān)的詞語。xD328資訊網(wǎng)——每日最新資訊28at.com

  哈爾濱工業(yè)大學(xué)一名研究生向記者講述了他使用大模型的實(shí)際感受:“當(dāng)我給大模型提供一些材料讓它擴(kuò)寫,它每次都用相同的套路——把給定的材料拆解開,分為若干點(diǎn)論述??傮w來說感覺它寫得比較‘僵’?!?span style="display:none">xD328資訊網(wǎng)——每日最新資訊28at.com

  AIGC相對套路化的創(chuàng)作,可能會影響人類的用語習(xí)慣?!半S著越來越多人用AI創(chuàng)作或潤色文字,人類會受到潛移默化的影響,這或?qū)⒂绊懻麄€(gè)社會對語言的使用?!滨U光勝說。xD328資訊網(wǎng)——每日最新資訊28at.com

  三種路徑識別文本xD328資訊網(wǎng)——每日最新資訊28at.com

  如何準(zhǔn)確識別AI生成內(nèi)容?鮑光勝介紹,目前主要有三種技術(shù)路徑進(jìn)行檢測,分別是模型訓(xùn)練分類器法(也被稱為監(jiān)督分類器法)、零樣本分類器法、文本水印法。“三種檢測方法本質(zhì)上都是利用AI檢測AI,且各有優(yōu)劣。”鮑光勝說。xD328資訊網(wǎng)——每日最新資訊28at.com

  模型訓(xùn)練分類器法,首先要收集大量人類創(chuàng)作內(nèi)容與AIGC,然后以此為基礎(chǔ)訓(xùn)練一個(gè)能區(qū)分兩類內(nèi)容的分類器?!斑@是目前被廣泛使用的一種方法,但缺點(diǎn)較為明顯?!滨U光勝解釋,用于訓(xùn)練分類器的數(shù)據(jù)有限,很難覆蓋所有類型和語言的文本。分類器在訓(xùn)練數(shù)據(jù)覆蓋的文本領(lǐng)域或語言上檢測準(zhǔn)確率較高,反之準(zhǔn)確率則較低。而且,模型訓(xùn)練往往需要較高成本,數(shù)據(jù)規(guī)模越大,訓(xùn)練成本越高。xD328資訊網(wǎng)——每日最新資訊28at.com

  相比之下,零樣本分類器法不需要對機(jī)器進(jìn)行訓(xùn)練,也無需收集數(shù)據(jù)。它利用已訓(xùn)練好的大模型,抽取語言模型生成文本的特征,據(jù)此來區(qū)別人類與機(jī)器?!八迫缓瘮?shù)是零樣本檢測法中比較常用的基準(zhǔn)之一,它可以簡單理解為一段文本在某個(gè)模型的建模分布中出現(xiàn)的概率。概率是一種特征,不同的概率體現(xiàn)了人類創(chuàng)作內(nèi)容與AIGC的差異。”鮑光勝進(jìn)一步解釋,“零樣本分類通過綜合考慮多種函數(shù)特征來區(qū)分人類創(chuàng)作內(nèi)容與AIGC?!?span style="display:none">xD328資訊網(wǎng)——每日最新資訊28at.com

  如今,很多大語言模型幾乎覆蓋了互聯(lián)網(wǎng)上的全部數(shù)據(jù)。因此,相比于模型訓(xùn)練分類器,零樣本分類器在不同領(lǐng)域、不同語言的文本上表現(xiàn)較為一致。xD328資訊網(wǎng)——每日最新資訊28at.com

  不過,零樣本分類器也存在明顯缺點(diǎn)。一方面,現(xiàn)有零樣本分類器依賴生成文本的源語言模型進(jìn)行檢測,這意味著如果是未知源模型生成的文本,分類器就無法準(zhǔn)確檢測。另一方面,為提高檢測準(zhǔn)確率,零樣本分類器往往需要多次調(diào)用模型,這增加了模型的使用成本和計(jì)算時(shí)間。xD328資訊網(wǎng)——每日最新資訊28at.com

  “文本水印法則是一類‘主動方法’。區(qū)別于前兩類方法,它不是檢測已生成的文本,而是在AI生成文本時(shí)加入水印。人類雖然看不出這些水印,但卻能通過技術(shù)手段檢測出來?!滨U光勝說,文本水印法的準(zhǔn)確率較高,但缺點(diǎn)在于水印可能被人為弱化甚至移除。此外,對于無法訪問模型內(nèi)部結(jié)構(gòu)的大語言模型,技術(shù)人員可能無法在生成內(nèi)容時(shí)成功加入水印。xD328資訊網(wǎng)——每日最新資訊28at.com

  檢測技術(shù)需不斷改進(jìn)xD328資訊網(wǎng)——每日最新資訊28at.com

  “未來,我們要不斷更新、完善現(xiàn)有技術(shù),力爭實(shí)現(xiàn)快速、準(zhǔn)確、低成本檢測,在大模型這把‘矛’越來越鋒利的同時(shí),讓檢測技術(shù)這面‘盾’更為堅(jiān)固。”鮑光勝說。xD328資訊網(wǎng)——每日最新資訊28at.com

  記者了解到,為提升檢測準(zhǔn)確性,目前市面上的商用AI檢測軟件大多融合了多種技術(shù)手段。國內(nèi)外研究團(tuán)隊(duì)也在進(jìn)一步完善相關(guān)技術(shù)。xD328資訊網(wǎng)——每日最新資訊28at.com

  例如,西湖大學(xué)文本智能實(shí)驗(yàn)室團(tuán)隊(duì)在DetectGPT基礎(chǔ)上研發(fā)的Fast-DetectGPT模型,可提升AI檢測準(zhǔn)確性,縮短檢測時(shí)間?!癋ast-DetectGPT與其他零樣本分類器原理一致。其中一個(gè)創(chuàng)新點(diǎn)在于,我們提出通過條件概率曲率指標(biāo)進(jìn)行檢測?!滨U光勝說,“與DetectGPT相比,F(xiàn)ast-DetectGPT在速度上提升340倍,在檢測準(zhǔn)確率上相對提升約75%?!?span style="display:none">xD328資訊網(wǎng)——每日最新資訊28at.com

  對AI檢測AI的前景,有兩種截然不同的觀點(diǎn)。一種觀點(diǎn)認(rèn)為,未來AIGC將會與人類創(chuàng)作極為相似,以至于檢測工具無法判別。還有一種觀點(diǎn)認(rèn)為,隨著技術(shù)發(fā)展,檢測技術(shù)或?qū)②s超大模型技術(shù),實(shí)現(xiàn)對AIGC的有效識別。xD328資訊網(wǎng)——每日最新資訊28at.com

  “目前,無論是AI生成的文字、圖片還是視頻,都在技術(shù)可識別的范疇之內(nèi)。相較于文字,圖片和視頻甚至可以直接被專業(yè)人士肉眼識別。期待未來通過大模型技術(shù)的不斷進(jìn)步,推動檢測技術(shù)發(fā)展?!滨U光勝說。(記者 吳葉凡)xD328資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-16-108005-0.htmlAI檢測AI:“矛”更利還是“盾”更堅(jiān)

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com

上一篇: 第三屆世界元宇宙大會將在武漢舉行

下一篇: 新AI算法“望舌診病”成功率達(dá)98%

標(biāo)簽:
  • 熱門焦點(diǎn)
Top 日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不
国内精品视频久久| 国产精品久久久久高潮| 国内精品久久久| 亚洲男人的天堂在线aⅴ视频| 欧美成人精品一区二区| 黑人操亚洲美女惩罚| 午夜精品久久久久久| 欧美久久久久久久久久| 亚洲国产日韩欧美| 久久亚洲一区二区| 狠狠做深爱婷婷久久综合一区| 欧美一区二区女人| 国产片一区二区| 香蕉免费一区二区三区在线观看| 国产精品美女| 亚洲欧美国产精品桃花| 国产精品热久久久久夜色精品三区| 宅男精品视频| 欧美性jizz18性欧美| 亚洲天堂网在线观看| 国产精品二区在线| 亚洲免费在线看| 国产女主播视频一区二区| 校园春色国产精品| 国产亚洲欧美一区二区| 久久久久国内| 在线欧美视频| 欧美激情bt| 一本色道88久久加勒比精品 | 亚洲摸下面视频| 国产精品热久久久久夜色精品三区| 亚洲一区二区三区免费观看 | 欧美aa在线视频| 亚洲人午夜精品免费| 欧美激情一二三区| 在线中文字幕不卡| 国产精品网站在线| 久久成人精品电影| 怡红院精品视频| 欧美激情日韩| 亚洲一区二区3| 国产欧美日韩三级| 久久久久久国产精品mv| 亚洲高清电影| 欧美日韩999| 亚洲欧美韩国| 狠狠色噜噜狠狠色综合久| 美女视频一区免费观看| 日韩午夜激情| 国产精品亚洲第一区在线暖暖韩国| 久久精品动漫| 亚洲精品偷拍| 国产精品色在线| 久久一区二区三区国产精品| 亚洲人成77777在线观看网| 国产精品扒开腿爽爽爽视频| 欧美在线视频播放| 91久久夜色精品国产九色| 国产精品v欧美精品v日本精品动漫 | 国产精品入口66mio| 久久理论片午夜琪琪电影网| 91久久久久| 国产精品日日摸夜夜添夜夜av| 久久精品中文字幕一区二区三区 | 亚洲日本电影| 国产精品永久免费| 免费观看一区| 亚洲免费视频一区二区| 在线看一区二区| 欧美午夜欧美| 久久影院午夜论| 亚洲一区二区精品在线| 精品电影一区| 国产精品成人aaaaa网站| 久久久亚洲成人| 亚洲天堂av电影| …久久精品99久久香蕉国产| 国产精品观看| 欧美成人精品一区二区| 午夜一区二区三区在线观看| 亚洲欧洲精品一区二区三区 | 国产精品人人爽人人做我的可爱| 美日韩在线观看| 午夜精品99久久免费| 亚洲精品久久久久久久久久久久| 国产麻豆精品theporn| 欧美久久电影| 久久综合久久久久88| 亚洲一卡二卡三卡四卡五卡| 亚洲国产免费看| 国产欧美日韩综合一区在线观看| 欧美极品在线播放| 欧美一区二区三区视频免费播放| 日韩视频一区二区| 亚洲大胆人体在线| 国产免费成人| 欧美视频在线看| 欧美刺激午夜性久久久久久久| 欧美亚洲午夜视频在线观看| 一本色道久久88综合亚洲精品ⅰ | 精品av久久707| 国产九九精品视频| 欧美人成在线视频| 欧美 日韩 国产一区二区在线视频| 欧美一区二区高清在线观看| 国产精品99久久久久久久女警| 亚洲国产精品第一区二区三区 | 韩日午夜在线资源一区二区| 国产精品高清在线观看| 欧美日韩国产色综合一二三四| 老鸭窝毛片一区二区三区| 欧美一区二区三区久久精品| 亚洲欧美另类中文字幕| 中文国产亚洲喷潮| 亚洲免费高清| 亚洲精品久久久久中文字幕欢迎你 | 国产一区二区福利| 国产精品国产三级欧美二区 | 欧美日韩亚洲国产一区| 欧美高清视频www夜色资源网| 久久综合电影| 久久精品欧洲| 久久福利电影| 欧美一区二区在线看| 亚洲欧美三级伦理| 亚洲伊人色欲综合网| 亚洲午夜激情网页| 亚洲视屏在线播放| 中文国产成人精品| 中文在线一区| 中文在线一区| 亚洲午夜精品在线| 亚洲午夜女主播在线直播| 一区二区免费在线观看| 一本久道久久综合中文字幕| 一区二区电影免费观看| 一区二区三区四区五区精品视频 | 欧美精品高清视频| 欧美精品一区二区三区久久久竹菊 | 欧美激情视频给我| 欧美日韩国产精品专区| 欧美日韩国产色综合一二三四| 欧美精品一区在线| 欧美日韩视频免费播放| 欧美午夜电影网| 国产精品日日摸夜夜添夜夜av | 国产视频不卡| 激情国产一区| 亚洲国产日韩欧美| 亚洲免费大片| 亚洲视频一区二区| 香蕉久久一区二区不卡无毒影院| 欧美亚洲免费在线| 久久精品观看| 免费在线欧美黄色| 欧美精品在线一区二区| 欧美性视频网站| 国产精品手机在线| 合欧美一区二区三区| 亚洲国产精品999| 一本色道久久综合亚洲精品按摩 | 亚洲图色在线| 欧美一区二区黄色| 另类av一区二区| 欧美区视频在线观看| 国产精品欧美一区二区三区奶水| 国产一区二区三区精品久久久| 伊人久久大香线| 日韩一级欧洲| 欧美一区=区| 久久综合久色欧美综合狠狠| 欧美精品成人在线| 国产精品美女999| 精品99一区二区| 一二三区精品福利视频| 欧美亚洲视频| 欧美成年网站| 国产精品久久久91| 红桃视频一区| 亚洲精品婷婷| 欧美在线高清视频| 欧美国产日产韩国视频| 国产精品私房写真福利视频| 极品少妇一区二区三区精品视频| 亚洲美女免费精品视频在线观看| 亚洲欧美日本另类| 农村妇女精品| 国产精品久久久久一区二区| 激情文学综合丁香| 一区二区欧美在线观看| 久久国产黑丝| 欧美日韩国产在线看| 国产曰批免费观看久久久| 亚洲精品视频一区| 久久成人精品电影| 欧美日韩系列| 激情丁香综合| 亚洲欧美国产毛片在线| 欧美成人免费大片| 国产乱子伦一区二区三区国色天香| 91久久午夜| 久久精品盗摄| 国产精品国产三级欧美二区| 亚洲福利视频专区|