MIX Fold3包裝盒泄露 新機本月登場
小米的全新折疊屏旗艦MIX Fold3將于本月發布，近日該機的真機包裝盒在網上泄露。從圖上來看，新的MIX Fold3包裝盒在外觀設計方面延續了之前的方案，變化不大，這也是目前小米旗艦
隨著實時音視頻（RTC）技術在娛樂、教育、會議、游戲等領域的廣泛應用，用戶對音視頻通話的核心功能需求不斷提升，同時也衍生出許多擴展需求。這些擴展功能在業務場景扮演著越來越重要的作用，已經成為許多業務場景的核心路徑。例如：
這些擴展能力不僅能夠提升 RTC 的互動體驗，延伸 RTC 的通信邊界，還能夠促進業務創新，為業務創造新的收入來源。
為了支持上述這些功能，我們設計并實現了 RTC 實時媒體處理平臺，這套系統高效支撐了內外部業務的快速增長和功能迭代，但在系統落地和演進的過程中，我們也遇到了很多技術挑戰，可以總結為三大類。
系統需要支持的業務場景多樣，不同業務場景的復雜度和規模也有差異，依賴和交互的模塊眾多，因此「如何設計出高內聚低耦合的架構，保證系統的可維護性和可擴展性」，成為重點考慮的方向。其中系統設計的關鍵考量包括，如何對不同的業務場景施加統一的管理控制能力，如流量分發、業務配置、任務管理、資源調度、監控診斷等；如何支持業務混部，實現業務錯峰復用，提升資源利用率并降低成本；如何提升并發性能，支持百萬級任務的實時調度和穩定運行；如何建設系統的可觀測性，提升問題感知和診斷效率等。
RTC 媒體處理類的任務對實時性和可靠性的要求非常高。例如，用戶啟用RTC通話錄制，系統必須能夠迅速響應并立即啟動錄制任務。鑒于音視頻流的實時性，任何啟動延遲或失敗則導致不可逆的內容缺失，如果是審核任務還會導致內容漏審。同樣，旁路轉推任務的延遲可能導致直播切換時出現黑屏等體驗問題。
另外，RTC媒體處理類任務都是有狀態的服務，并且持續時間比較長，任務執行強依賴上下文信息的及時和準確。例如，合流任務必須實時感知房間內的音視頻流狀態，并可靠地接受用戶指令以設置正確的視頻布局。任何狀態信息的丟失或指令的延遲都可能引起合流過程的異常。「只有確保系統的高可用性和低延時，任務才能快速且正確地執行，從而為產品功能和用戶體驗提供基本保障。」
無論是轉推、錄制還是音視頻審核等功能，都采用到一些相同的技術，例如都需要對音視頻數據進行處理，會涉及到編解碼、格式轉換、音視頻編輯、音畫質增強等操作，另外也都涉及到 RTC 系統跟其他系統之間的通信，如訪問直播、CDN、云存儲、第三方服務等，跟這些服務的通信也會使用到一些相同的傳輸協議，如 RTMP，HTTP，WebSocket等。「如何將這些技術和能力提煉和抽象成具備通用性的原子能力，并且通過統一的接口和框架可以被高效的編排和組合」，成為提高技術復用和研發效率的關鍵問題。
下面針對上述三方面的技術挑戰，我們逐一進行深入探討。
系統建模主要圍繞 「“任務”」 這個核心概念，平臺支持的功能都以任務的形式提供服務，任務可以被看作是一個獨立的工作單元，它有明確的輸入、輸出和執行流程。所有的用戶請求都會關聯到具體的任務，系統按照任務粒度執行業務邏輯和資源分配，日志事件和監控診斷等也以任務維度做全鏈路關聯。
系統整體架構如上圖所示，主要分為三個部分。
在容器內部，業務邏輯的主要執行者是一個 worker 程序，worker 的實現采用了單體架構，它具備很強的通用性，支持平臺上所有的任務類型，通過不同的控制參數運行不同類型的任務。worker 程序是基于 pipeline 的框架結構，其中與音視頻處理相關的原子能力通過插件來實現，各任務類型通過創建 pipeline 和對插件進行合理編排實現各自的業務功能。worker 還集成了 RTC SDK，通過虛擬用戶加入 RTC 房間，實現與 RTC 網絡的互通，同時它也集成了其他的功能組件實現與其他服務之間的交互和協作。
RTC 業務的實時性屬性要求系統具備高可用設計和容災能力。當前系統從層級關系可以分為控制面和數據面，控制面負責任務管理和邏輯控制，數據面負責任務的具體執行，接下來我們討論一下在高可用設計中遇到的典型問題和解決思路。
為了保證用戶接入的穩定性和接入體驗，控制面服務做了全球多區域（Region）部署，區域內做了多可用區（AZ）設計，同 AZ 內的服務單元化部署，做到 AZ 內部調用鏈閉環。各 AZ 之間也不是完全隔離的，任務元信息等數據仍然需要在 AZ 之間做實時同步來提供容災能力。
具體實現路徑為，用戶請求通過公網動態加速網絡連接到 AZ，AZ 在接入層做一致性哈希將任務轉發到歸屬 AZ，確保同一個任務的請求在單一 AZ 完成。存儲層通過實時同步機制獲取其他 AZ 的任務信息，這樣每個 AZ 就擁有了全局的任務信息。在單個 AZ 不可用時，能夠保證其他 AZ 也能夠處理針對故障 AZ 的存量任務請求。
單可用區內部的高可用主要關注任務元信息的管理和存儲。由于存儲層訪問是請求處理的關鍵環節，其穩定性至關重要，我們采用「存儲分層和存儲互備」來增強存儲的可靠性，這些措施也有助于實現高并發處理和降低響應延遲。任務元信息的存儲會優先使用 Redis，Redis 不可用時降級到 ByteNDB（公司自研的分布式數據庫，兼容MySQL，同時具有高并發高吞吐，獨立擴縮容，存儲容量不受單機限制等優點），都不可用時會采用本地內存做兜底。任務元信息會通過消息隊列實時同步到其他 AZ，并達成在 DB 層的最終一致性和持久化。面對系統每天千萬級的新增任務量，我們采用了分片存儲技術以解決單一數據庫實例的性能和存儲容量方面的限制。
數據面主要指具體的任務執行邏輯。這部分的穩定性主要從以下幾個方面考慮：
任務在容器內運行時主要有 2 個部分，executor 和 worker，executor 承擔了本地代理的角色，負責接收控制面的任務指令，同時也會收集本地任務的運行狀態和數據指標等并上報給控制面。worker 負責業務邏輯的執行，包括推拉流、編解碼等計算。executor fork 出子進程運行 worker，在 worker 發生 crash 或者卡死等異常時會立即重啟 worker 進程，同時在監控到 worker 資源消耗超出配額時，則判斷是否是業務正常使用還是發生了異常，來決策是否要觸發業務降級降低資源消耗，或者實時增加該任務的資源配額。
容器實例異常退出時，調度服務會創建一個新的實例來恢復和繼續當前的任務，我們稱這種場景為重新調度，新任務實例會避開之前的機器節點和集群，減少二次失敗風險。在另外一些更嚴重的故障場景，如某個集群發生大面積故障時，我們支持對集群內的存量任務做主動遷移，通過將任務遷移到正常的集群來實現業務的更快速止損和恢復。
「提升故障感知和決策能力。」 高質量的決策依賴高質量的信息輸入，故障恢復策略的執行依賴故障信息判斷的可靠性和準確性。我們重點優化了兩類問題。
「信息傳輸鏈路的可靠性」。控制面服務和計算集群獨立部署，并不強綁定在同一機房。控制面部署在中心機房，而計算集群分布在中心機房、匯聚機房和邊緣機房。控制面跟計算集群之間通過內網專線、公網直連和公網加速等多種傳輸手段實現了多路徑傳輸，確保控制信令在專線故障和公網抖動等異常下仍然實時可達。
「故障信息的準確性」。最典型的問題就是任務失聯，即控制面接受不到任務實例的保活信息。失聯原因多種多樣，包括任務實例的網絡異常、任務機房的網絡問題，或是控制面實例自身的問題。在保活失敗時，我們不僅采用重連重試等基礎措施，還會觸發機房內和機房間對故障任務的主動問詢，來進一步診斷失聯的具體原因。如果是任務實例問題則會觸發任務重調度，如果是集群故障可能會對整個集群做熔斷等。在做主動問詢時，需要特別關注請求風暴問題，尤其是集群網絡故障可能會導致大量任務保活失敗，瞬間觸發大量的探測請求，對服務造成巨大沖擊，我們采用頻控和聚集性判斷等策略來減少冗余請求。
「精細化的調度策略。」 系統中任務種類繁多，每種任務對時延、音畫質量以及其承載的規模各不相同。因此，調度服務在為任務分配集群時，引入了評分機制，綜合考慮負載、成本、位置、業務偏好和 QoS 指標等多種因素，這個評分旨在衡量任務與集群之間的匹配度，同時考慮了任務需求和集群能力，而不是單方面評價集群。例如某個地區的推流節點故障導致轉推任務在某個集群異常，但這個集群的錄制任務是正常的，這時候轉推任務跟這個集群的匹配分低，但錄制任務跟這個集群的匹配是正常的，錄制任務還是可以繼續往這個集群調度。通過此類精細化的策略可以減少粗粒度的調度對集群資源和負載的沖擊，降低系統風險。
為了支持更多復雜的應用場景，提升系統的靈活性和可擴展性，媒體處理框架以模塊化和插件化為核心原則，將處理流程做了通用的抽象，整體上可以分為輸入、處理和輸出三個部分。
當前這套框架已經實現了豐富的模塊和插件能力，這些插件可以通過框架層進行組合和串聯，構成一個媒體應用，目前支持了 RTC 近十種業務。同時支持一些基礎功能進行二次組合，提供更高層的原子能力。如下圖所示，轉推直播與實時錄制的主要區別僅在于媒體流的最終去向，將轉推直播的輸出模塊替換為錄制存儲模塊，系統便可快速實現錄制功能。
用戶向云端發起錄制請求后，錄制任務通過 RTC SDK 加入房間，拉取需要錄制的音視頻流，然后以單流或合流的方式對音視頻流做編碼封裝，最后錄制文件存儲到用戶指定的存儲平臺，用戶在請求中可以指定訂閱用戶的媒體流類型、設置合圖布局樣式、設置錄制結果通知，設置編碼參數等。
針對用戶非常關心的「錄制文件的可靠性問題」，我們采取多種手段保障在斷電斷網等異常情況下文件不丟失。
在錄制文件的音視頻質量方面，我們利用公司在行業領先的編碼器能力，能夠做到同等畫質下生成的錄制文件的體積更小，節省了錄制存儲，為用戶節省成本。
字幕任務啟動后，會訂閱房間里所有發布者的音頻流，接下來會經過有效語音檢測、語音識別、內容翻譯、內容合規、字幕平滑等步驟，最終將語音識別的結果分發出去。系統支持火山引擎和第三方語音識別和內容翻譯服務。同時，在字幕內容分發上，有多種方式選擇：
前三種是基于 RTC 系統的分發方式，無論是端到端延時還是分發規模都能夠滿足主要場景的業務需求，也是我們更推薦的方式。
字幕功能已經被大規模應用在互娛社交、在線教學、視頻會議等 RTC 業務場景，其在抖音語聊房上線后，各項業務指標都表明能夠顯著提升用戶的互動沉浸感和在房間內的停留時長，業務收益顯著。
在視頻會議場景，基于 RTC 技術的云服務視頻會議已經成為主流，但企業對已經購買的傳統 SIP 終端利舊的需求也非常強烈，所以需要打通 RTC 終端和 SIP 會議硬件。與只有 RTC 終端參與通話的其他場景相比，SIP 會議網關在技術架構上引入了 2 個額外的模塊：「SIP access」 用來接受 SIP 終端注冊和 SIP 通話的呼入呼出，「SIP gateway」 負責 SIP 會話管理以及 SIP 和 RTC 之間的媒體協議轉換。SIP 會議網關服務支持以下能力：
SIP 網關服務當前已經在應用在飛書視頻會議，每天支撐數萬臺 SIP 設備的日常會議請求。
暫時無法在飛書文檔外展示此內容
我們對 SIP 網關服務進行了擴展，增加了 PSTN 呼叫功能，打通了 RTC 終端和電話終端，為呼叫中心等業務場景提供了云端呼叫能力。
該功能已經在飛書視頻會議和抖音客服等業務落地。抖音客服平臺采用了該方案后，將傳統的話機坐席替換成集成了 RTC 客戶端的軟件坐席，不僅提高了運營效率，還為用戶帶來了更好的通話體驗，用戶滿意度也顯著提升。
作為定位于支撐更多 RTC 業務場景的應用平臺，我們希望能夠針對 RTC 業務領域的特點，提供更多原子能力和場景化解決方案，支撐客戶更加便捷的接入和搭建自己的業務，持續提升業務質量，降低客戶使用成本。我們會在以下方面做更長期的投入。
本文鏈接：http://www.www897cc.com/showinfo-26-101701-0.html火山引擎 RTC 實時媒體處理平臺的技術實踐
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
上一篇： Python 十個高階函數
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號