Newsguard最新研究指出,生成式人工智能工具在處理實時新聞事件時,傳播不實信息的比例出現顯著攀升。對比去年8月18%的虛假信息傳播率,今年同期這一數字已升至35%,增長幅度近乎翻倍。研究人員發現,這一變化與AI聊天機器人新增的實時網絡搜索功能密切相關——該功能雖使拒絕作答的情況從31%歸零,卻也導致系統直接抓取網絡中未經核實的海量信息。
在追蹤的十大主流AI工具中,各模型表現差異明顯。Inflection公司推出的模型以56.67%的虛假信息傳播率墊底,較去年同期數據惡化顯著。Perplexity模型的表現同樣堪憂,其出錯率從去年8月能100%識別虛假信息的水平,跌至今年近50%的誤傳率。ChatGPT與meta旗下模型以40%的錯誤率處于中游,Copilot和Mistral的傳播失誤率則為36.67%。表現相對優異的Claude和Gemini模型,錯誤率分別控制在10%和16.67%,成為樣本中可信度較高的選項。
值得關注的是,AI工具接入網絡搜索的初衷本是解決信息滯后問題。OpenAI技術人員坦言,當前語言模型通過預測"最可能出現的下一個詞"生成回答,這種機制決定了其難以確保內容的絕對真實性。盡管該公司正在開發"不確定性提示"技術,試圖讓模型對可疑信息作出標注,但業內人士指出,這種改進能否從根本上遏制虛假信息傳播,仍有待觀察。
據Newsguard統計,去年全球范圍內已發現966個模仿正規媒體的AI生成虛假新聞網站,這些平臺以16種語言發布不實內容,形成跨國界的虛假信息傳播網絡。研究人員警告,隨著AI工具對網絡信息的依賴度加深,如何建立有效的內容過濾機制,將成為決定技術發展方向的關鍵課題。
更多>同類資訊
?上海創智學院周年成果豐碩:AI“能動”創新、可解釋領跑、成本驟降引關注?09-15
Stable Audio 2.5正式發布:2秒生成3分鐘音頻,新增修補能力支持本地部署09-15
魏少軍直指算力命脈:ASIC能否為中國AI裝上“自主心臟”?09-15
人形機器人賽道添新軍,拓斯達攜拓星紀系列開啟工業場景新征程今年上半年,拓斯達先后完成了雙臂智能機器人、具身智能碼垛工作站等產品驗證和實地應用,為人形機器人的機械臂本體硬件、運動控制系統以及端到端大模型等算法做出充足的準備。 拓斯達在2017年開設了該板塊,主要是提供…09-15
Snap邁向2026關鍵年:AR眼鏡Specs領航,AI賦能與組織創新并進Specs不僅是Snap當前發展的核心重點,在斯皮格爾看來,AR眼鏡與人工智能的深度結合,更將從根本上改變人們工作、學習與娛樂的方式,開啟全新的生活與生產模式。 斯皮格爾表示,這些實體商品的功能未來可通過“…09-15
當AI深度介入親密關系:一場關于情感依賴與心理失控的警示09-15權益基金發行升溫:多只規模超10億,科技成長或成未來經濟新引擎09-15
當AI成為親密關系“替身”:我們如何在虛擬溫柔鄉里守住真實?09-15
?研究人員推出集成AI同行評審的預印本平臺,助力構建科研新生態與出版新范式?09-15
博士CEO領路探秘:上海創智學院里,優秀青年共筑AI創新夢09-15張朝陽橫渡海灣后談互聯網:視頻自媒體熱度不減,倡導長期主義與創新賽道09-15
“海馬emoji”究竟存不存在?ChatGPT等AI陷入集體認知“迷局”09-15
《服貿·2025》來襲!以游戲之姿探秘服貿會上的機器人“天團”今年服貿會迎來版本更新,將“數智領航,服貿煥新”作為年度主題。 本屆服貿會更加注重科技化、智能化應用,利用AI+會展模式突出科技辦展特點。記者帶你用游戲視角,解鎖服貿會上的機器人“天團”。 新華社音視頻部制…09-15
?2025世界機器人大賽山東省賽在濱城開賽 近300名青少年競技展風采?世界機器人大賽作為全球極具影響力的青少年科技競技平臺,本次高水平賽事的舉辦,讓青少年在競技技能比拼中,生動展現科技教育的發展,既是青少年創新實踐成果的集中展示,也是點燃科學夢想、培育未來英才的重要載體,更是濱…09-15
螞蟻開源外灘大會發布報告:AI編程工具崛起,中美開源生態路線分化明顯09-15點擊查看更多 +全站最新
方程豹鈦7棄自然吸氣選渦輪增壓:動力、混動優勢與適用人群深度剖析
8月電車銷量占比超34%,油車仍占45%,混動為何難敵純電?
八部門聯合出臺汽車穩增長方案 2025年新能源汽車銷量劍指1550萬輛
重慶高新區8英寸MEMS芯片產業基地通線投產 助力智能產業與智慧城市建設
十六載深耕結碩果:"長沙造"新能源閃耀世界 政企共繪星城智造新藍圖
奧迪E5 Sportback:德系機械美學邂逅中國智慧靈感的豪華純電杰作熱門內容
?上海創智學院周年成果豐碩:AI“能動”創新、可解釋領跑、成本驟降引關注?
Stable Audio 2.5正式發布:2秒生成3分鐘音頻,新增修補能力支持本地部署
魏少軍直指算力命脈:ASIC能否為中國AI裝上“自主心臟”?
人形機器人賽道添新軍,拓斯達攜拓星紀系列開啟工業場景新征程
Snap邁向2026關鍵年:AR眼鏡Specs領航,AI賦能與組織創新并進
當AI深度介入親密關系:一場關于情感依賴與心理失控的警示
本文鏈接:http://www.www897cc.com/showinfo-45-27532-0.html研究顯示:十大生成式AI工具傳播虛假信息概率攀升,網絡搜索功能成“雙刃劍”
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com