日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 元宇宙 > AI

研究揭示:人工智能系統迭代訓練可能導致"模型崩潰"

來源: 責編: 時間:2023-08-15 18:49:05 281觀看
導讀6月20日消息,人工智能領域的專家們預測,隨著人工智能生成的內容在網絡上的廣泛發布,未來接受這些數據訓練的人工智能系統可能會陷入混亂。英國和加拿大的科學家們在最近發表的一篇論文中,試圖研究經過多代人工智能相互訓

6月20日消息,人工智能領域的專家們預測,隨著人工智能生成的內容在網絡上的廣泛發布,未來接受這些數據訓練的人工智能系統可能會陷入混亂。ZSt28資訊網——每日最新資訊28at.com

英國和加拿大的科學家們在最近發表的一篇論文中,試圖研究經過多代人工智能相互訓練后會發生什么。他們提供了一個例子,通過九次迭代,人工智能系統從最初關于中世紀建筑的原始材料變成了不停地談論野兔的內容。ZSt28資訊網——每日最新資訊28at.com

研究論文的作者之一、劍橋大學教授羅斯·安德森在一篇博客文章中指出,數據顯示經過多次迭代后,人工智能生成的文本變得毫無意義,圖像也變得難以理解。盡管該研究尚未經過同行評審,但研究人員將這種現象稱為"模型崩潰"。ZSt28資訊網——每日最新資訊28at.com

ChatGPT這樣的聊天機器人背后的大型語言模型通常需要從互聯網上抓取大量人類生成的數據進行訓練。然而,隨著人們對這些工具的使用越來越多,人工智能生成的內容也大量涌現并被添加到在線數據集中,這些數據將成為未來語言模型的學習素材。ZSt28資訊網——每日最新資訊28at.com

科學家們擔心,通過使用人工智能生成的內容來迭代訓練人工智能系統,會導致錯誤和無意義的示例不斷增加,從而使后代人工智能無法區分真實和虛構的內容。他們擔憂地表示,人工智能可能會"通過強化自身的信念,開始曲解其所認為的真實之物"。ZSt28資訊網——每日最新資訊28at.com

羅斯·安德森以莫扎特和安東尼奧·薩列里的作品為例來解釋這個問題。他表示:"如果我們使用莫扎特的作品來訓練某個音樂模型,我們可以期望輸出的音樂風格有些類似莫扎特,但不會有太多亮點,我們可以稱之為'薩列里'。然后,再用'薩列里'來訓練下一代人工智能系統,如此循環下去,第五代或第六代模型會是怎樣的?"ZSt28資訊網——每日最新資訊28at.com

這項研究的第一作者、牛津大學教授伊利亞·舒馬伊洛夫表示,問題在于人工智能在接受早期人工智能生成內容的訓練后對概率的感知。不太可能發生的事件在它的輸出中越來越不可能出現,這就限制了下一代人工智能(根據這些輸出進行訓練)所能理解的可能性。ZSt28資訊網——每日最新資訊28at.com

據ITBEAR科技資訊了解,論文中舉了一個例子,將人類生成的關于中世紀建筑的文本輸入到人工智能語言模型中,然后使用該模型的輸出來訓練下一代人工智能。最初的文本巧妙地處理了相互競爭的建筑理論,并經過多次迭代。到了第九次迭代,這些文字就變成了毫無意義的胡言亂語,其中寫道:"建筑是世界上最大的黑長耳大野兔、白長耳大野兔、藍長耳大野兔、紅長耳大野兔、黃長耳大野兔的家園。"ZSt28資訊網——每日最新資訊28at.com

羅斯·安德森將這種"模型崩潰"現象類比為大規模污染,他寫道:"就像我們在海洋中充滿了塑料垃圾,在大氣中充滿了二氧化碳,我們即將讓互聯網充斥著胡言亂語。"ZSt28資訊網——每日最新資訊28at.com

越來越多的人工智能生成的內容在網絡上大量涌現。今年5月,在線虛假信息監管機構NewsGuard警告稱,他們發現有49個新聞網站似乎完全由人工智能撰寫內容。ZSt28資訊網——每日最新資訊28at.com

據報道,市場營銷和公關機構越來越多地將文案外包給聊天機器人,這導致人類創作者的工作受到搶奪。然而,根據舒馬伊洛夫和安德森的發現,人類創作者們希望不被人工智能擊敗的愿望可能還為時過早。ZSt28資訊網——每日最新資訊28at.com

舒馬伊洛夫表示,對于訓練人工智能來說,并不絕對需要人工生成的數據。盡管這些數據具有重要價值,因為它們展示了語言中大量的自然變化、錯誤和不可預測的結果,但"這表明在訓練人工智能時,并不需要過多依賴人類數據。"ZSt28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-1122-0.html研究揭示:人工智能系統迭代訓練可能導致"模型崩潰"

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 2024年招聘中人工智能應用預計達43%,提高效率簡化流程

下一篇: 學術界最快!SnapFusion技術讓AI圖像生成秒級完成

標簽:
  • 熱門焦點
  • 數字虛擬人23年最新變化!

    作者:小資來源:米塔之家自2021年元宇宙“爆炸”后,作為現實世界連接元宇宙的媒介之一,大批虛擬人跑步入場。到了2022年底,據天眼查數據顯示,我國目前企業名稱或經營范圍
  • 元宇宙步入暗夜

    撰文 | 文燁豪元宇宙的故事,似乎講不通了。 當下,刮起元宇宙熱潮的Roblox股價已跌去大半,帶頭大哥Meta也正因元宇宙虧損深陷泥潭。 再看國內,從字節“派對島&
  • 元宇宙是投資中國的第五次重大機遇

    作者為凱思博投資董事長導語:投資邏輯要來自于人性在社會發展過程中的普遍規律,由第一性原理出發找出重大的投資機會來。1978年的改革開放到今天,中國總共經歷了
  • 元宇宙風口下,視覺中國如何重估?

    要說橫跨2021年和2022年,到目前仍然很火的概念,元宇宙肯定要算一個。不僅互聯網巨頭們紛紛布局,上市公司們趨之若鶩,還被不少地方政府寫入了產業規劃,大有在2022年
  • 江西將探索成立元宇宙聯盟,韓國將加強對NFT和元宇宙的監管

    《元宇宙新鮮事》有:江西將探索成立元宇宙聯盟,支持南昌規劃建設元宇宙試驗區;韓國金融監督局將加強對NFT和元宇宙的監管;任天堂社長表示暫時不打算加入元宇宙。【
  • 8個最適合藝術家發行NFT的交易市場

    近年來,加密風靡全球。加密圈最令人興奮的方面之一是它能夠用于創建稱為NFT 的數字資產。從 CyberKitties 到 Cyber Galleries,NFT 已成為藝術家和藝術鑒賞家的
  • 國內涌現70余家數字藏品平臺:合規、流量與利潤在博弈

    作者:楊鄭君2月16日,迅雷鏈企業數字藏品服務平臺正式上線,繼阿里、騰訊、京東、百度、網易等之后,又一家互聯網企業正式加入到火熱的數字藏品平臺的競爭中。除互聯
  • Shiba Inu布局元宇宙 走出Meme局限

    以「狗狗幣殺手」成名的Shiba Inu(SHIB)在人們的印象中始終有著濃厚的Meme(模因惡搞)烙印,但它似乎一直在嘗試突破這種局限。建立起一個龐大的粉絲社區后,Shiba Inu
  • 音樂NFT平臺里的下一匹黑馬是誰?

    NFT 銷售額在 2021 年開始暴漲,從 2018 年的僅 4069 萬美元的交易量,到 2021 年,NFT 交易量飆升至 442 億美元以上,并不斷刷新記錄并達到新的高度。預測到2025 年N
Top 主站蜘蛛池模板: 旬邑县| 百色市| 宽城| 双牌县| 凌云县| 寿阳县| 祁连县| 东丰县| 贵定县| 珠海市| 南京市| 福建省| 托克逊县| 呼玛县| 长乐市| 石柱| 松滋市| 环江| 青铜峡市| 炎陵县| 民权县| 海安县| 民勤县| 建昌县| 安西县| 宝应县| 广宗县| 伊金霍洛旗| 吉水县| 安岳县| 水富县| 陇南市| 兴隆县| 太仆寺旗| 图木舒克市| 华阴市| 屏南县| 大足县| 德州市| 额济纳旗| 玛多县|