OpenAI的新王炸GPT-4o還沒全面鋪開,就攤上事了!
抓馬的是,此次推出的“視頻通話”功能一度被稱為電影《Her》現實版,而怒斥OpenAI的剛好是給電影中AI配音的斯嘉麗·約翰遜(寡姐)。
寡姐控訴,OpenAI未經允許就在ChatGPT中使用了自己相似度極高的聲音,對此感到既震驚又憤怒。
OpenAI這邊則是予以否認,一邊表示自己并沒有模仿寡姐,但另一邊還是把受到爭議的聲音下架了。
控訴一出,就引發了網友們的熱議,本特利大學教授Noah Giansiracusa就表示,OpenAI使用和名人高度相似的聲音,這種做法哪怕沒違法,也是不道德的。
當然,這件事到現在還沒有被實錘,OpenAI也做出了辯解,網友們認為,如果聲音和名人真的只是相似的話,那就沒有被禁止的理由了。
所以,OpenAI的這個新瓜到底保不保熟,下面就一起來吃一吃。
寡姐:我拒絕過奧特曼
整件事情的導火索,是在GPT-4o發布后,“實時視頻通話”功能爆火,一度被稱為電影《Her》的現實版。
在該功能中,ChatGPT可以同時進行看、聽和說,也就是在語音對話的同時調用攝像頭分析環境信息,而且過程十分流暢,就像在和AI打視頻電話。
而且聲音、語調甚至氣息都和真人十分接近,可以選擇的音色一共有五種。
引發爭議的是,其中一個叫做Sky的聲音,被認為聽起來很像寡姐。
這個備受爭議的Sky,在GPT-4o團隊成員Rocky Smith的測試視頻中有過展現,大家可以感受下:
寡姐則表示,自己本人和親朋好友都覺得這個聲音簡直和自己如出一轍,和自己熟悉的一些媒體也這樣認為。
不光聲音很像,更關鍵的是寡姐的聲明中還透露,OpenAI的確有過使用自己聲音的想法。
事情要追溯到去年9月,寡姐受到了奧特曼的邀請,想要讓她給ChatGPT配音,但考慮許久后,她拒絕了。
甚至直到GPT-4o發布前兩天,奧特曼還聯系過寡姐的經紀人,要求她重新考慮一下,結果當然是沒有答應。
本以為事情就此結束,直到寡姐和周圍的人聽到了Sky,這個和自己高度相似的聲音,她對此表示震驚、憤怒,又難以置信。
在GPT-4o發布的那天,奧特曼還發了一條推文,內容只有一個“her”,寡姐認為奧特曼這是在暗示使用和自己相似的聲音就是故意的。
事后寡姐才回過味來,奧特曼在發布前兩天找到自己的時候,GPT-4o肯定早就做好了(原文:Before we could connect, the system was out there.)。
忍無可忍的寡姐聘請了法律顧問,給OpenAI發去了兩封信,要求對Sky一事做出解釋,詳細說明其創建過程。
按照寡姐一方的說法,OpenAI收到這兩封信之后,才“極不情愿”地把Sky下了架。
順便提一句,Sky雖然下架了但是按鈕還在,不過如果選擇了Sky的話,實際使用的聲音會被替換成Juniper。
當然,這些都是寡姐一方的說法,OpenAI則表示自己并沒有試圖模仿她。
OpenAI的解釋
收到寡姐的控訴后,OpenAI在官方推特中給出了這樣的回復:
我們收到了關于ChatGPT中聲音,特別是Sky的疑問,我們正在采取措施暫停Sky的使用,直到問題被厘清。
同時,OpenAI還附上了一則官網中的聲明,介紹了ChatGPT中聲音的選擇流程。
其中就表示,Sky并沒有用寡姐的聲音,而是另一名專業的演員,但出于隱私保護考慮不能透露其姓名。
甚至在早些時候,OpenAI的CTO Mira Murati還對The Verge表示,ChatGPT里的聲音和寡姐并不像,而且已經使用一段時間了。
至于具體的選角流程,OpenAI介紹說是與知名的選角導演和制片人合作進行招募。
2023年5月,招募正式開始,在不到一周的時間里就收到了400多份作品。
在試鏡時,演員們被要求錄制包含ChatGPT回復的腳本,內容涵蓋旅行規劃、日常聊天等。
經過試鏡之后,有14人被確定為初步人選,然后OpenAI與他們討論了對于人機AI語音交互和OpenAI的愿景。
同時,OpenAI還向候選人介紹了該技術的功能、局限性和所涉及的風險,以及OpenAI實施的保障措施,目的是讓每個演員在投入該項目之前都充分了解OpenAI的意圖。
終,OpenAI選擇了終選定了Breeze、Cove、Ember、Juniper和Sky這五個人的聲音,然后在6月和7月期間,讓演員們飛到舊金山進行錄制,并與OpenAI產品和研究團隊進行面對面的會議。
9月25日,這些聲音被發布到了ChatGPT。
而至于斯嘉麗提到的被奧特曼找到過,還在GPT-4o發布之前與自己聯系的事情,OpenAI并未做出回應;針對OpenAI介紹的選角流程,斯嘉麗這邊也還沒有評論。
不過今年3月,OpenAI在發布聲音合成引擎Voice Engine的時候,就有提到過采取了措施避免克隆公共人物的聲音。
而出于安全考慮,Voice Engine被雪藏了一年多之后才被正式發布。
所以,OpenAI也十分清楚,克隆名人的聲音就是一個雷區,但如果這次他們真的用了寡姐的聲音,事情就變得有意思了。
不過盡管有爭議,但研發的腳步還得繼續,OpenAI總裁Brockman仍在推特上發布著語音團隊的招聘信息。
推文中,Brockman寫到,OpenAI正在招募工程師擴大并安全推進多模態語音模型。
總之關于這件事,可能還要讓子彈再飛一會兒。在終結果出爐之前還是理性吃瓜,就像這位網友說的:
如果OpenAI所述為真,確實沒有用寡姐的聲音,那么即使她本人感到擔憂,也不能把這件事稱之為丑聞。
但其實,這已經不是寡姐第一次對AI企業提出控訴了。
One More Thing
去年十一月,寡姐對一款名為Lisa AI的AI繪圖工具采取了法律行動。
理由是Lisa未經同意使用了她的肖像和姓名拍攝了一段廣告片。
廣告的開頭是一段寡姐在漫威電影《黑寡婦》幕后的片段,然后屏幕轉變成人工智能生成的與演員相似的照片。
接著,一個模仿寡姐的假聲音開始說話,對Lisa AI進行了宣傳。
終這段廣告當然沒有逃過被下架的結局,但和OpenAI“打擦邊球”相比,Lisa AI的做法已經屬于貼臉開大了。
本文鏈接:http://www.www897cc.com/showinfo-17-89594-0.html寡姐怒斥ChatGPT盜用自己聲音 OpenAI:已下架 但真沒模仿她
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com