日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 網絡

每10份音頻就有8份被胡編 OpenAI語音轉錄工具被曝存重大缺陷

來源: 責編: 時間:2024-10-29 08:07:32 99觀看
導讀 生成式人工智能領域的領軍者OpenAI,曾吹噓其人工智能轉錄工具Whisper具有接近 “人類水平的穩(wěn)定性和準確性”。然而,隨著該轉錄工具在各行各業(yè)被越來越多地普及使用,其問題似乎也正開始凸顯—&

生成式人工智能領域的領軍者OpenAI,曾吹噓其人工智能轉錄工具Whisper具有接近 “人類水平的穩(wěn)定性和準確性”。VTk28資訊網——每日最新資訊28at.com

然而,隨著該轉錄工具在各行各業(yè)被越來越多地普及使用,其問題似乎也正開始凸顯——根據(jù)業(yè)內媒體對十多位軟件工程師、開發(fā)人員和學術研究人員的采訪,如今Whisper所存在的一個重大缺陷已愈發(fā)不容忽視:它很容易會編造大段文字,甚至是整段句子。VTk28資訊網——每日最新資訊28at.com

這些業(yè)內專家表示,一些編造出的文字——在行業(yè)內被稱為“幻覺”,可能包括種族言論、暴力措辭,乃至完全杜撰出的醫(yī)療建議。VTk28資訊網——每日最新資訊28at.com

專家們越來越擔心這種“胡編亂造”可能造成嚴重后果,因為Whisper當前正被全球多個行業(yè)用于翻譯和轉錄采訪內容、生成文本以及為視頻制作字幕。VTk28資訊網——每日最新資訊28at.com

雖然OpenAI曾警告不應在“高風險領域”使用該工具,但目前一些美國醫(yī)療中心都正開始使用基于Whisper的工具,來記錄患者與醫(yī)生間的對話。VTk28資訊網——每日最新資訊28at.com

據(jù)經常使用Whisper的研究人員和工程師表示,他們在工作中經常會遇到該工具出現(xiàn)“幻覺”。例如,密歇根大學的一名研究人員在研究公共會議的轉錄準確率時發(fā)現(xiàn),他所審核的每十份音頻轉錄中,便有八份存在“幻覺”。VTk28資訊網——每日最新資訊28at.com

一位機器學習工程師則稱,在他分析的100多個小時的Whisper轉錄中,他初發(fā)現(xiàn)大約有一半存在“幻覺”。第三位開發(fā)人員指出,在他用Whisper創(chuàng)建的26000份記錄中,幾乎每一份都發(fā)現(xiàn)了胡編亂造的現(xiàn)象。VTk28資訊網——每日最新資訊28at.com

即使是在那些錄制良好的簡短音頻樣本里,問題也依然存在。在近的一項研究中,計算機科學家們在審查的超過13000個清晰音頻片段中發(fā)現(xiàn)有187個存在“幻覺”問題。VTk28資訊網——每日最新資訊28at.com

研究人員表示,這種趨勢將導致在數(shù)百萬段錄音中出現(xiàn)數(shù)以萬計的錯誤轉錄。VTk28資訊網——每日最新資訊28at.com

每10份音頻就有8份被胡編 OpenAI語音轉錄工具被曝存重大缺陷VTk28資訊網——每日最新資訊28at.com

后果嚴重VTk28資訊網——每日最新資訊28at.com

曾在拜登政府領導白宮科技政策辦公室工作的Alondra Nelson表示,這種錯誤可能會造成“非常嚴重的后果”,尤其是在醫(yī)院里。VTk28資訊網——每日最新資訊28at.com

目前,包括明尼蘇達州的曼卡托診所和洛杉磯兒童醫(yī)院在內的超過30000名臨床醫(yī)生和40個衛(wèi)生系統(tǒng),已開始使用法國AI診療公司Nabla基于Whisper打造的工具。VTk28資訊網——每日最新資訊28at.com

Nabla公司的首席技術官Martin Raison表示,該工具根據(jù)醫(yī)學語言進行了微調,以轉錄和總結醫(yī)生與病人間的互動。該工具轉錄的就診記錄目前已多達約700萬次。該公司官員還指出,他們知道Whisper會產生幻覺,并正在努力解決這個問題。VTk28資訊網——每日最新資訊28at.com

目前擔任普林斯頓高等研究院教授的Nelson表示,“沒有人希望出現(xiàn)誤診。(該領域)應該有更高的標準。”VTk28資訊網——每日最新資訊28at.com

目前,Whisper還被用于為聾人和聽力障礙者制作字幕——這是一個特別容易因出現(xiàn)錯誤轉錄而陷入困境的人群,因為聾人和聽力障礙者完全無法識別“隱藏在所有文本中”的編造內容。VTk28資訊網——每日最新資訊28at.com

這種幻覺在Whisper中的普遍存在,已促使眾多專家、倡導者和OpenAI前員工呼吁美國政府考慮制定人工智能法規(guī)。VTk28資訊網——每日最新資訊28at.com

他們指出,OpenAI至少需要解決這一缺陷。今年2月因擔心公司的發(fā)展方向而從OpenAI辭職的工程師William Saunders就表示,如果OpenAI愿意優(yōu)先解決這個問題,這個問題似乎是可以解決的。而如果你長期把它放在那里,而人們對它的功能過于自信,并把它集成到所有這些其他系統(tǒng)中,那就有麻煩了。VTk28資訊網——每日最新資訊28at.com

雖然大多數(shù)開發(fā)人員都認為轉錄工具不可避免會拼錯單詞或出現(xiàn)其他錯誤,但不少工程師和研究人員表示,他們從未見過其他人工智能轉錄工具像Whisper一樣容易產生幻覺。VTk28資訊網——每日最新資訊28at.com

目前,該工具已被集成到OpenAI旗艦聊天機器人ChatGPT的某些版本中,同時也是甲骨文和微軟云計算平臺的內置產品,為全球數(shù)千家公司提供服務。它還可用于將文本轉錄和翻譯成多種語言。VTk28資訊網——每日最新資訊28at.com

僅在上個月,開源人工智能平臺HuggingFace上的一個Whisper新版本就被下載了420多萬次。該平臺的機器學習工程師Sanchit Gandhi表示,Whisper是流行的開源語音識別模型,從呼叫中心到語音助手,都內置了Whisper。VTk28資訊網——每日最新資訊28at.com

康奈爾大學教授Allison Koenecke和弗吉尼亞大學教授Mona Sloane,目前已研究了他們從卡內基梅隆大學的研究資料庫TalkBank中獲得的數(shù)千個簡短音頻片段。他們發(fā)現(xiàn),近40%的幻聽是有害的或令人擔憂的,因為說話者的原意可能被曲解或歪曲。VTk28資訊網——每日最新資訊28at.com

研究人員并不確定Whisper和類似工具產生幻覺的原因,但軟件開發(fā)人員表示,這些胡編亂造往往發(fā)生在出現(xiàn)停頓、背景聲音或音樂播放時。OpenAI此前在網上披露的信息中曾建議,不要在決策情境中使用Whisper,因為準確性上的缺陷會導致結果上的明顯缺陷。VTk28資訊網——每日最新資訊28at.com

而針對新爆料,有OpenAI發(fā)言人回應稱,OpenAI會在接下來的模型更新中加入相應的反饋機制。VTk28資訊網——每日最新資訊28at.com

每10份音頻就有8份被胡編 OpenAI語音轉錄工具被曝存重大缺陷VTk28資訊網——每日最新資訊28at.com


文章出處:財聯(lián)社

本文鏈接:http://www.www897cc.com/showinfo-17-122484-0.html每10份音頻就有8份被胡編 OpenAI語音轉錄工具被曝存重大缺陷

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 特斯拉或被踢出科技七巨頭 華爾街正重新評估 奈飛成備選!

下一篇: 世紀大互通!京東物流接入天貓后 菜鳥全面接入京東平臺

標簽:
  • 熱門焦點
  • K60 Pro官方停產 第三方瞬間漲價

    雖然沒有官方宣布,但Redmi的一些高管也已經透露了,Redmi K60 Pro已經停產且不會補貨,這一切都是為了即將到來的K60 Ultra鋪路,屬于廠家的正常操作。但有意思的是該機在停產之后
  • 一加Ace2 Pro官宣:普及16G內存 引領24G

    一加官方今天繼續(xù)為本月發(fā)布的新機一加Ace2 Pro帶來預熱,公布了內存方面的信息?!疤蕴?8GB ,12GB 起步,16GB 普及,24GB 引領,還有呢?#一加Ace2Pro#,2023 年 8 月,敬請期待?!蓖瑫r
  • 印度登月最關鍵一步!月船三號今晚進入環(huán)月軌道

    8月5日消息,據(jù)印度官方消息,月船三號將于北京時間今晚21時30分左右開始近月制動進入環(huán)月軌道。這是該探測器能夠成功的最關鍵步驟之一,如果成功將開始圍
  • 如何使用JavaScript創(chuàng)建一只圖像放大鏡?

    譯者 | 布加迪審校 | 重樓如果您曾經瀏覽過購物網站,可能遇到過圖像放大功能。它可以讓您放大圖像的特定區(qū)域,以便瀏覽。結合這個小小的重要功能可以大大改善您網站的用戶體驗
  • JavaScript學習 -AES加密算法

    引言在當今數(shù)字化時代,前端應用程序扮演著重要角色,用戶的敏感數(shù)據(jù)經常在前端進行加密和解密操作。然而,這樣的操作在網絡傳輸和存儲中可能會受到惡意攻擊的威脅。為了確保數(shù)據(jù)
  • 三萬字盤點 Spring 九大核心基礎功能

    大家好,我是三友~~今天來跟大家聊一聊Spring的9大核心基礎功能。話不多說,先上目錄:圖片友情提示,本文過長,建議收藏,嘿嘿嘿!一、資源管理資源管理是Spring的一個核心的基礎功能,不
  • 7月4日見!iQOO 11S官宣:“雞血版”驍龍8 Gen2+200W快充加持

    上半年已接近尾聲,截至目前各大品牌旗下的頂級旗艦都已悉數(shù)亮相,而下半年即將推出的頂級旗艦已經成為了數(shù)碼圈爆料的主流,其中就包括全新的iQOO 11S系
  • 由于成本持續(xù)增加,筆記本產品價格預計將明顯上漲

    根據(jù)知情人士透露,由于材料、物流等成本持續(xù)增加,筆記本產品價格預計將在2021年下半年有明顯上漲。進入6月下旬以來,全球半導體芯片缺貨情況加劇,顯卡、處理器
  • 北京:科技教育體驗基地開始登記

      北京“科技館之城”科技教育體驗基地登記和認證工作日前啟動。首批北京科技教育體驗基地擬于2023年全國科普日期間掛牌,后續(xù)還將開展常態(tài)化登記。  北京科技教育體驗基
Top 主站蜘蛛池模板: 南投县| 英吉沙县| 南城县| 青浦区| 通渭县| 深圳市| 兰溪市| 西和县| 庆城县| 仪陇县| 天镇县| 修武县| 平塘县| 晋中市| 吉安县| 革吉县| 离岛区| 长治县| 临泉县| 新建县| 宾阳县| 武宣县| 格尔木市| 北流市| 班戈县| 天峨县| 仙居县| 喀喇沁旗| 洛川县| 柘荣县| 仁布县| 沛县| 女性| 舞阳县| 台湾省| 梁河县| 白城市| 莱芜市| 台中市| 新平| 兴城市|