日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 元宇宙 > AI

微軟正努力治療 AI 幻覺,以技術手段實時屏蔽和重寫毫無根據的信息

來源: 責編: 時間:2024-06-24 17:11:34 163觀看
導讀 6 月 21 日消息,就在 GPT-4 因征服標準化測試而登上頭條時,微軟研究人員正在對其他 AI 模型進行一種非常另類的測試 —— 一種旨在讓模型捏造信息的測試。為了治好這種被稱為“AI 幻覺”的癥狀,他們設定了一個會

6 月 21 日消息,就在 GPT-4 因征服標準化測試而登上頭條時,微軟研究人員正在對其他 AI 模型進行一種非常另類的測試 —— 一種旨在讓模型捏造信息的測試。k4p28資訊網——每日最新資訊28at.com

為了治好這種被稱為“AI 幻覺”的癥狀,他們設定了一個會讓大多數人頭疼的文本檢索任務,然后跟蹤并改進模型響應,這也是微軟在測定、檢測和緩解 AI 幻覺方面的一個例子。k4p28資訊網——每日最新資訊28at.com

k4p28資訊網——每日最新資訊28at.com

微軟 AI 負責項目的首席產品官 Sarah Bird 表示,“微軟希望其所有 AI 系統都是值得信賴且可以有效使用的”。k4p28資訊網——每日最新資訊28at.com

我們可以向這個領域投入許多專家和資源,因此我們認為自己可以幫助闡明“應該如何負責任地使用新型 AI 技術”的方法,并使其他人也能夠做到這一點。k4p28資訊網——每日最新資訊28at.com

從技術角度來講,AI 幻覺是一種“缺乏事實依據”的內容,這意味著 AI 模型改變了它所給定的數據或添油加醋描述了原本不存在的信息。k4p28資訊網——每日最新資訊28at.com

當然,AI 幻覺這種東西也不是所有時候都毫無用處,例如當用戶希望 AI 幫自己寫一個科幻故事,或給出一種非傳統想法時,就屬于是有益的;但在大多數需要 AI 的場景,諸如醫學和教育等場景就顯得多余了,因為準確性大于一切。k4p28資訊網——每日最新資訊28at.com

因此,微軟也在努力根據其自有 AI 產品(例如 Copilot)來試圖攻克 AI 幻覺,研究一系列工具來幫助機器解決幻覺問題。k4p28資訊網——每日最新資訊28at.com

微軟表示,其工程師花了數月時間,通過檢索增強生成技術(一種無需重新訓練模型即可向模型添加額外知識的技術)將必應搜索數據作為 Copilot 的依據,通過必應的答案、索引和排名數據幫助 Copilot 提供更準確、更相關的回復,同時提供引用信息,讓用戶可以自行查找和驗證。k4p28資訊網——每日最新資訊28at.com

“該模型非常擅長推理信息,但我們不認為它應該成為答案的來源,”Bird 說,“我們認為數據應該是答案的來源,因此我們解決這個問題的第一步是向模型提供最新、高質量且準確的數據。”k4p28資訊網——每日最新資訊28at.com

除此之外,微軟還試圖通過各種工具幫助客戶做到這一點,例如 Azure OpenAI 服務中的“Your Data”功能可幫助企業組織用自己的數據來訓練生成式 AI。k4p28資訊網——每日最新資訊28at.com

值得一提的是,微軟還推出了一種實時工具,可以大規模檢測應用中依據企業數據的可靠程度。微軟表示,AzureAI Studio可以根據來源文檔評估響應的可靠程度。k4p28資訊網——每日最新資訊28at.com

據介紹,微軟還正在開發一種新的針對措施,可以實時屏蔽和糾正“毫無根據”的信息。當檢測到事實依據錯誤時,該功能將根據數據自動進行重寫。k4p28資訊網——每日最新資訊28at.com

微軟 AI負責項目的首席產品經理 Ken Archer 表示,“處于生成式 AI 的前沿意味著我們有責任和機會讓自己的產品更安全、更可靠,并讓客戶也能放心使用我們的工具”。k4p28資訊網——每日最新資訊28at.com

參考資料:k4p28資訊網——每日最新資訊28at.com

《Why AI sometimes gets it wrong — and big strides to address it》k4p28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-4746-0.html微軟正努力治療 AI 幻覺,以技術手段實時屏蔽和重寫毫無根據的信息

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: OpenAI 首席技術官:GPT-5 將在一年半后發布,部分領域智能達到“博士”級別

下一篇: 樂聚夸父人形機器人亮相 HDC 2024,搭載華為云盤古具身智能大模型

標簽:
  • 熱門焦點
  • ChatGPT訪問量增速下滑,AI真的是一場泡沫嗎?

    來源:首席商業評論2023年,最火的莫過于ChatGPT,席卷全球的同時也引發了生成式AI(人工智能)的投資熱潮。在美股,ChatGPT相關概念股飆漲,以AI算力龍頭英偉達為例,其股價年內一度累計上
  • 上、中、下游加深融合,搭建元宇宙產業全景

    元宇宙產業鏈涉及多種技術和多個領域。在上游,聚集著大量的技術廠商,提供元宇宙相關的硬件和軟件支持;在中游,內容運營與分發領域也吸引著越來越多的企業以VR內容
  • 元宇宙將會如何塑造未來的工作方式?

    科幻小說家尼爾·斯蒂芬森 (Neal Stephenson) 在1992年就創造了“元宇宙”一詞,但事實上,在Facebook將其更名為Meta以反映其將這一科幻愿景變為現實的戰略重點之
  • “元宇宙”里過大年,《迷你世界》在做一場怎樣的實驗?

    2021年是游戲行業不確定性急劇上升的一年。一方面游戲正風光無限,騰訊等大廠更加密集地投資動作,讓游戲創投市場異常火熱,"元宇宙"概念的大放異彩,更是吸引了Netfl
  • 「國產良心」NFT嘲諷了誰?

    2月23日,一個名為「國產良心」的NFT項目被許多活躍的加密用戶注意到。該項目的官網風格尤為「不正經」,它絲毫沒有避諱自己的小作坊出身,還將「中國人不騙中國人
  • 暴漲100倍的NFT worlds 會是未來元宇宙的雛形嗎?

    NFT Worlds 系列產品于 2021 年 10 月 5 日免費鑄造,該NFT系列是將傳統的中心化電子游戲minecraft 與去中心化資產相結合。傳統游戲Minecraft 對用戶定制非常開
  • 用戶可以把自己的醫療健康數據做成NFT出售給醫藥公司掙錢

    你可能聽說過不可偽造的代幣,或NFTs。NFTs是數字代幣,代表完全獨特的項目的所有權;存儲在區塊鏈中并可追蹤,它們不能被修改、替換或復制。作為NFT鑄造的資產在數字
  • 從4個方面解析2022年加密行業趨勢

    作者:去月球基礎設施瓶頸仍然存在盡管2021年公鏈基礎設施之間的競爭顯著升溫,但關鍵瓶頸仍需解決。例如,以太坊作為DApp開發的頂級公鏈,仍然遭受網絡擁塞和高額交
  • 全球十大元宇宙概念游戲

    A股市場中,不少游戲公司早早搭上了元宇宙概念。舉例,中青寶宣稱將發布一款元宇宙概念的模擬經營類游戲,盡管游戲尚在研發中,這一消息已經讓中青寶的股價在51個交易
Top 主站蜘蛛池模板: 韶山市| 达尔| 万安县| 中阳县| 白银市| 桂平市| 河池市| 秦皇岛市| 乌恰县| 衡阳市| 玉溪市| 广东省| 淮安市| 福贡县| 清水河县| 堆龙德庆县| 芜湖市| 邵阳市| 麻栗坡县| 新和县| 明星| 金坛市| 湄潭县| 深泽县| 杭锦后旗| 精河县| 津市市| 屯昌县| 米易县| 天峨县| 海城市| 太湖县| 弥渡县| 鹤岗市| 正宁县| 桂林市| 奈曼旗| 寻乌县| 柯坪县| 屏东县| 彭泽县|