小心悄悄話被 AI 聽見!(噓)最近國(guó)外一款可以讀唇語的 AI 軟件火了!
具體效果如下:
紅毯上布萊克?萊弗利小聲說:“好緊張”,笑著說話時(shí)肉眼很難分辨唇語,但 AI 可以。
乍一看只能看見一排白牙(bushi)的侃爺,唇語也能被輕松破解。
看完后網(wǎng)友們開始紛紛評(píng)論,大開腦洞:
求“聯(lián)名”型網(wǎng)友:快把它和 Siri 結(jié)合一下吧!這樣我就不用像小傻子一樣對(duì)著電腦大喊了!
測(cè)評(píng)型網(wǎng)友:我想用它試試“座機(jī)畫質(zhì)”的視頻!
擔(dān)心安全型網(wǎng)友:我有點(diǎn)害怕,我想戴口罩了。(嗚嗚)
量子位整理了一些視頻,為大家親測(cè)了一下 Readtheirlips 的使用效果。
先試了一下阿爾特曼在斯坦福的訪談視頻,把生成的文本和原始對(duì)話對(duì)照了一下,內(nèi)容完美契合~
而面對(duì)小表情比較多的老馬,Readtheirlips 的發(fā)揮依舊穩(wěn)定。
不過以上兩個(gè)視頻都是人物全程正臉對(duì)著鏡頭的。
換成了說話時(shí)愛比劃的小扎,Readtheirlips 直接顯示錯(cuò)誤。(視頻中人物不是全程正臉)
而主角換成卡帕西之后,因?yàn)樗f話太快,生成的文本出現(xiàn)了識(shí)別錯(cuò)誤的情況。(左側(cè)為 Readtheirlips 生成,右側(cè)為文字處理軟件生成)
最后,我們嘗試著上傳了一個(gè) 16 分鐘的視頻,Readtheirlips 直接顯示錯(cuò)誤,無法識(shí)別內(nèi)容。
總結(jié)一下:
Readtheirlips 識(shí)別視頻的時(shí)間在一分鐘左右。
就像他們標(biāo)明的那樣如果人物的正臉不能正對(duì)鏡頭,那么模型就很難給出正確答案。
而面對(duì)語速過快的視頻內(nèi)容,Readtheirlips 只能識(shí)別出其中的一些內(nèi)容。
對(duì)此,團(tuán)隊(duì)成員回應(yīng)道:
是的,我們還沒有研究到這里,但是會(huì)很快解決這個(gè)問題!
而關(guān)于上傳視頻的時(shí)長(zhǎng)限制,他們這么說:
現(xiàn)在只支持 3 分鐘以內(nèi)的視頻,但是以后我們會(huì)一點(diǎn)一點(diǎn)往上提升的!
看完親測(cè)視頻,咱們也來嘮一下 Readtheirlips 的工作原理。
看看它是怎么讀取人類唇語的:
首先,研究團(tuán)隊(duì)用大量的標(biāo)注數(shù)據(jù)(已知的嘴唇運(yùn)動(dòng)動(dòng)作及其對(duì)應(yīng)的文本內(nèi)容)來對(duì)模型進(jìn)行訓(xùn)練。
在此基礎(chǔ)上,用戶要上傳一段視頻,這段視頻要包含說話者的面部特寫,尤其是嘴部動(dòng)作。
然后模型會(huì)對(duì)視頻進(jìn)行嘴部運(yùn)動(dòng)的分析:先是通過面部檢測(cè)識(shí)別嘴唇的位置,然后再提取嘴唇的幾何特征,(形狀、開合程度、運(yùn)動(dòng)軌跡等),最后分析嘴唇在說話過程中的動(dòng)態(tài)變化。(速度、方向和形狀變化)
之后,模型會(huì)將提取的嘴唇特征與訓(xùn)練數(shù)據(jù)中的特征進(jìn)行匹配,來識(shí)別出視頻中人物所說的內(nèi)容。
將識(shí)別出的單詞或短語組合成完整的句子,進(jìn)行一下上下文理解,確保語法和語義的正確性。
最終將識(shí)別出的內(nèi)容輸出為文本形式。
Readtheirlips 的開發(fā)團(tuán)隊(duì) Symphonic Labs 是一家初創(chuàng)公司。
領(lǐng)英上顯示它今年 4 月份才剛剛成立,截至目前,公司人數(shù)不到 10 人。
他們之前還研發(fā)過一款通過閱讀唇語即可完成實(shí)時(shí)文本轉(zhuǎn)錄的軟件 Symphonic
兩款軟件的試玩鏈接都已附上,感興趣的朋友們可以去嘗試一下~
Readtheirlips 試玩鏈接:
https://www.readtheirlips.com/
Symphonic 試玩鏈接:
https://symphoniclabs.com/
參考鏈接:
https://x.com/crsamra/status/1833494380357013879
本文來自微信公眾號(hào):微信公眾號(hào)(ID:QbitAI),作者:關(guān)注前沿科技
本文鏈接:http://www.www897cc.com/showinfo-45-7161-0.htmlAI 能「看懂」你的唇語,悄悄話不再安全
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 夸克發(fā)布全新 CueMe 智能對(duì)話助手,支持上千種體裁、2 萬字長(zhǎng)文
下一篇: Pixtral 12B 發(fā)布:Mistral 首款多模態(tài) AI 模型,120 億參數(shù)、24GB 大小