AI界地震！美國對OpenAI展開調查！監管風暴來襲！
來源：清元宇宙還記得5月OpenAI在國會山聽證會上的自信、坦誠、游刃有余的問答嗎？那時的Sam Altman可謂意氣風發，在耐心、友好的國會議員面前，就AI立法、大模型安全性問題侃侃而
6 月 10 日消息，OpenAI 在幾個月內第二次就其文本轉語音工具進行解釋，并再次強調該工具目前并未大范圍開放，且未來也可能不會。
“無論我們最終是否會大規模部署這項技術，讓世界各地的人們理解這項技術的發展方向都非常重要，”OpenAI公司周五在其網站上發布的一份聲明中表示，“這就是為什么我們想要解釋模型的運作方式、我們如何將其用于研究和教育，以及我們如何圍繞該技術實施安全措施的原因。”
據了解，去年年底，OpenAI 與一小部分外部用戶分享了其“語音引擎”。該引擎利用文本輸入和 15 秒的人聲音頻剪輯，即可“生成聽起來自然的人聲，并與原始說話人非常相似”。該工具可以創建以假亂真的多語言人物聲音，當時該公司表示他們選擇預覽這項技術而非大規模發布，是為了“增強社會抵御能力”，以應對“越來越逼真的人工智能生成模型”帶來的威脅。
作為這些努力的一部分，OpenAI 表示他們正在積極淘汰使用語音識別進行銀行賬戶驗證的方式，探索保護個人聲音在人工智能中使用的政策，教育公眾有關人工智能的風險，并加快開發跟蹤視聽內容的技術，以便用戶識別他們是在與真人還是合成內容進行互動。
然而，盡管做出了上述努力，人們對這項技術的擔憂仍然存在。美國總統拜登的人工智能負責人布魯斯?里德 (Bruce Reed) 曾表示，聲音克隆技術是他夜不能寐的原因之一。美國聯邦貿易委員會 (Federal Trade Commission) 今年 3 月表示，詐騙分子正在利用人工智能技術來提高他們欺詐行為的可信度，他們使用聲音克隆工具，使得人們更難區分人工智能生成的聲音和人類的聲音。
OpenAI 在周五更新的聲明中試圖緩解這些擔憂，“我們繼續與來自政府、媒體、娛樂、教育、民間社會等領域的美國和國際合作伙伴接觸，以確保我們在構建過程中納入他們的反饋。”該公司還指出，一旦“語音引擎”配備了其最新模型 GPT-4o，它也將帶來新的威脅。該公司表示，他們內部正在積極地“對 GPT-4o 進行‘紅隊測試’，以識別和解決來自社會心理學、偏見和公平以及錯誤信息等領域的已知和未知風險。”
本文鏈接：http://www.www897cc.com/showinfo-45-4566-0.html語音克隆技術引發擔憂，OpenAI 再次解釋其文本轉語音工具
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號