揭秘2022冬奧黑科技,阿里雲視頻雲「Cloud ME」如何實現全息會面?

2022北京冬奧會本是一屆非凡的存在,這是有史以來第一次將奧運會所需的全部核心系統全面上雲,以數字化技術創造奧運的新紀元。

但綠色奧運不止如此,在面臨 Covid-19 限制和物理隔閡之下,千里之外,人與人的會面可以透過綠色科技之光而以全息形態實現,這便是阿里雲視頻雲基於AliRTC(音視頻通信技術)推出的雲上創新解決方案——阿里雲聚「Alibaba Cloud ME」,第一次在百年奧運史上跨越物理空間,創造了人與人之間的「雲聚」時刻。(以下簡稱Cloud ME)

雲聚現場的汩汩之溫—Cloud ME創造傳奇會面

「Cloud ME」本意出發,為物理空間限制下渴望探索真實會面感的人們,提供沉浸交互體驗,使他們能夠以真人3D形態見面,並享受彼此的實時對話與交互。

就在冬奧會剛剛開幕,身處北京閉環內的國際奧委會主席巴赫通過Cloud ME 「現身」2022北京新聞中心雲聚展區,與遠在上海的阿里巴巴集團董事會主席兼CEO張勇,隔空「雲聚」,以全息形態同台送出奧運寄語,又在「現場」隔空傳遞冬奧火炬,於眾多媒體記者的見證下,Cloud ME讓一切交談和交互猶如真人臨於現場,氣氛真實而有流動感,驚嘆元宇宙的提前到來,又深感科技湧出的汩汩之溫。

E44495BA-B6F2-4E6B-B5EE-D4181ABA9E7C.png
遠隔1300公里的巴赫與張勇先生,以全息形態現身北京新聞中心,同台雲拜年。

在奧運世紀見面之外,更有溫度的,是透過Cloud ME,讓因疫情分離別北京、上海兩地的醫護人員家庭得以在「雲上全家團聚」,孩子看到父母如臨眼前的歡喜之相,和一張穿越空間的全家福,濃濃暖意,足以瞬間融化這背後所有技術的艱辛演進。而這一刻,技術也揮着人文的熠熠之光。

截屏2022-02-22 上午10.42.23 (2).png
通過Cloud ME,一場特別的見面

整個會面過程通過Cloud ME,將會面者們的全身圖像投射到遠程全息艙中,以展示他們的3D形象,從而促成多人異地的遠程會面交互。

Cloud ME全息艙裝置簡單,除典型的演播室設備(如攝像機和計算機來捕捉鏡頭)之外,基於強大的雲計算能力,不需要任何額外的現場 IT 基礎設施或優化的互聯網帶寬來助力錄製和傳輸。正是Cloud ME易於落地的特性,讓虛擬現實會面可以在更無限的場域向更廣泛的受眾開放,創造更多樣、更有溫度的雲聚可能。

Screenshot_2022-02-18-11-50-49-905_com.sina.weibo.jpg
一張特殊而濃濃暖意的「全家福」

就此,無論多想見的人、多遙遠的客戶、多難相聚的團隊,都能透過阿里雲視頻雲的Cloud ME,以雲聚之力,咫尺相見。

Cloud ME的魔法顯現—髮絲級全息復刻 & 眨眼般超低延時

基於阿里巴巴在數字化和智能技術的支撐,Cloud ME製作的音視頻將在阿里雲上進行壓縮、傳輸、處理和渲染,在這過程中,經久打磨的RTC技術起到最為關鍵的作用,而阿里雲先進的計算能力和廣泛的全球網絡覆蓋也為RTC提供了堅實基礎。

實現多人異地全息會面,Cloud ME的操作落地簡單,但技術非同尋常。

冬奧黑科技Cloud ME的技術實現

傳奇過程,如下所現:

首先,在影像採集環節,攝影機採集的畫面是無法直接在播放端進行全息成像的,所有畫面需要通過先進的編碼器進行深度壓縮,並在實時傳輸協議和QoS(Quality of Service)抗丟包策略的保障下發送到阿里雲的音視頻通信(RTC)網絡,畫面最終上傳的格式和尺寸與普通4K電影無異。

隨之,當畫面到達雲端之後,需要藉助雲上強大的處理能力完成包括轉碼、渲染、場景重建、光影處理在內的複雜流程,完成從「平面」到「全息」的蛻變,以真人1:1等比虛擬化復刻,生成3D全息人物,以高清方式重建所有互動細節,包括人物的微面部表情和服裝紋理,達到「髮絲級」全息全尺寸復刻,塑造全真實交互的沉浸感,一切猶如身臨其境。

天下武功,唯快不破。在如此複雜和大跨度的技術鏈路上,為了實現順暢的會面效果,技術實現的關鍵也在於「速度」,而保障「速度」的關鍵則是阿里雲覆蓋全球的音視頻傳輸網絡GRTN(Global Realtime Transport Network),及其在視頻編解碼、網絡傳輸、超大規模音視頻處理和調度等方面的核心技術。

基於這些技術,影像畫面傳輸和處理的全過程,包括SDK編碼、實時傳輸,雲上處理和渲染,端側解碼和成像,僅需在眨眼間的200毫秒內即可完成,體感上與我們日常交流互動的綜合體感相同,毫無延時頓感,極度真實。

由此,Cloud ME髮絲級的全息全尺寸復刻、眨眼般的超低延時,和穩若磐石的網絡傳輸力,讓更多交互奇蹟由而發生。

AliRTC極致技術的普惠之光—「零處理」時代順勢而來

Cloud ME的技術實現,核心依託於阿里雲視頻雲曾提出的AliRTC「零處理」解決方案,即通過「雲處理+端渲染」技術,讓硬件端只進行簡單的採集,傳輸,播放,同時,所有的複雜工作全部集中在雲上完成,讓終端實現「零處理」。

這是百年奧運史上,第一次利用雲上全息RTC技術,實現跨場景遠程會面的技術應用,在疫情期徹底打破了物理空間隔閡。通過Cloud ME,可將運動員、賽事工作人員、志願者和媒體朋友們「瞬移」到指定地點,實時交互溝通。

湖南衛視《新聞大求真》欄目主持人在體驗Cloud ME的過程中,就將北京冬奧會現場的志願者」瞬移「到」節目現場「,進行「面對面」的超級採訪,實現了時空同步。來自清華大學的志願者許雯鈞說道:「這感覺就像我們面對面交流一樣!」。

芒果tv.png
湖南衛視《新聞大求真》欄目對Cloud ME進行現場體驗與節目採訪

阿里雲視頻雲的 「 Cloud ME」 既可以應用在奧運會場景下,也可以在奧運會之外,向更多參與者和球迷廣泛開放,讓他們在虛擬現實中體驗真實、沉浸、趣味的全息交互,真正開啟百年奧運的新內容與新交互。

不僅如此,基於阿里雲RTC的全球部署,還可實現「一地上線,多地同步互動呈現」的場景景象,擁有「分身不再乏術」的現象級能量。

事實證明,RTC音視頻通信是一項有助於世界有效連接的關鍵技術。藉助阿里雲的全球網絡和視頻雲的智能算法,阿里雲視頻雲旨在將音視頻通信能力帶入更廣泛的應用場景中,不僅在互動娛樂、智慧教育、視頻會議,還有更多更具價值的企業服務和更具想像力的沉浸交互場域。

從圖文到音視頻,社會的第一次交互變革發生於2014年,而RTC技術在2017年驅動了互動視頻技術和在線互動商業的顛覆性發展。隨着5G技術的發展還會帶來新一輪的交互演進,如VR遠程協作、虛擬現實互動等。

零處理.png

在雲廠商中,阿里雲視頻雲曾率先提出「雲處理+端渲染」技術,通過實時通信與雲上處理的技術結合,前瞻性地解決了新交互體驗因端側算力受限而無法實現的虛擬交互場景難題,推動終端「零處理」時代順勢而來,而Cloud ME即是阿里雲視頻雲在這一領域的創新實踐。

rtc.gif

未來,AliRTC會充分利用雲端一體的混合計算能力,助力更多創新場景的商業化落地,例如全息演唱會、虛擬演唱會、創新雲展會,全息交互娛樂等等,讓場景向更低延時、更沉浸交互的極致化體驗演進。

RTC是技術,科技是工具,而其所有的終點,是人文涵蘊的溫暖,那是打破爾疆我界的無形之力,是人與人、人與物、人與世界彼此存在的咫尺之間。

期待Cloud ME,期待AliRTC,期待未來。


「視頻雲技術」你最值得關注的音視頻技術公眾號,每周推送來自阿里雲一線的實踐技術文章,在這裡與音視頻領域一流工程師交流切磋。公眾號後台回復【技術】可加入阿里雲視頻雲產品技術交流群,和業內大咖一起探討音視頻技術,獲取更多行業最新信息。