來源:華泰證券
我們認為 VR/AR/腦機接口是集合了微顯示、傳感器、芯片和算法等多項技術在內的下一代 人機交互平臺。回顧整個人機交互發展歷程,我們看到人機交互的指令輸入形式和反饋輸 出形式都在朝著更低的操作門檻和更高的交互效率演變。當前我們正站在智能手機時代和 下一個交互形態的交界處,我們認為盡管 VR/AR 在輸入技術(傳感)和輸出技術(顯示) 方面均較上一代交互設備有顯著飛躍,但目前仍處于發展的早期階段。隨著元宇宙應用的 發展和內容生態的完善,元宇宙對硬件的需求逐步清晰,將推動 VR/AR/腦機接口設備的逐 步升級,最終有望出現可以和 PC、智能手機媲美的下一代硬件。
從人機交互發展史來看,當前我們處在什么階段?
低操作門檻與高交互帶寬是人機交互平臺核心發展方向
我們梳理了人機交互不同發展階段下輸入和輸出形式的特征和演變趨勢,認為兼具便捷操 作性和高交互帶寬的 AR/VR/腦機接口將有望引領下一代交互方式。人機交互主要是指人和 系統互相影響、互相作用的循環過程。具體而言,人類在接收并處理信息后通過行為輸出 指令,計算機接受指令后改變系統形態,再通過顯示輸出反饋信息并被人類感知,從而引 發人腦的信息處理和下一個人機交互過程。回顧人機交互發展歷程,過去的人機交互主要 經歷了卡帶式交互、問答式交互和音視覺交互這三個階段,輸入和輸出形式持續向貼近人 類本能進化。
從指令輸入形式的演變來看,在最早期的卡帶式交互階段,人們只能用穿孔卡向計算機單 向傳遞數字指令,指令單一且具有極高的使用門檻;隨著主機的出現,人類可通過鍵盤鍵 入命令語句來實現與計算機的問答(對應命令行界面),雖然較上一代輸入設備提高了鍵入 效率,但仍要求操作者記住大量命令語言;隨著個人 PC 時代全面到來(對圖形用戶界面 GUI),通過使用鼠標鍵盤組合,結合“點/敲擊、滾動、拖拽”等動作,操作者可輕易實現 快速切換和精準定位,顯著降低了操作門檻;而在手機時代,實體按鍵的消失及音頻輸入、 觸摸屏的陸續出現則進一步豐富了用戶輸入方式,簡化交互流程。我們看到人機交互的輸 入形式從用機器語言與機器交互,進化到了用自然語言與機器交互。
從反饋輸入形式的角度,人機交互經歷“命令行界面(CLI)-圖形用戶界面(GUI)-自然 用戶界面(NUI)”的更迭過程,對應視覺輸出內容從單調的一維語句到二維圖形,最終有 望以三維空間物體的形式呈現,同時輔以聲學設備強化聽覺輸出效果。此外輸出設備也從 大型主機、臺式屏顯,演變至筆記本電腦、手機甚至微型投影,逐步走向可移動化。
元宇宙來臨,有望帶動 VR/AR/腦機接口蓬勃發展
我們認為 VR/AR/腦機接口將是下一個交互時代的代表性操作平臺,主要因為其高度符合輸 入和輸出形式上的演變趨勢。輸入角度,VR/AR 消除以往的實體按鍵,主要結合了手勢輸 入、眼動追蹤、面部表情識別以及語音操控,而腦機接口則由肌電輸入進一步轉變為腦電 輸入;輸出角度,VR 將為用戶構建一個融合視覺、聽覺、觸覺等多維感官體驗的移動虛擬 空間,AR 則將其與現實空間疊加,充分實現虛實融合。
初期的 VR/AR 概念分別在上世紀 50-60 年代先后提出,之后 20 年內經歷了漫長的實驗室 開發和 B 端商用探索,波動上升中產品形態不斷向輕量化、小型化、深度沉浸迭代。2010 年以后,隨著互聯網和智能手機終端的逐步成熟和消費端持續滲透,ARVR 應用開始 C 端 落地的探索。進入 21 世紀的第二個十年,元宇宙被預言將成為互聯網的下一個形態,而 ARVR 也被寄希望成為元宇宙中全新的人機交互平臺。
Qculus quest 2 帶動 VR 出貨量首次達千萬。2020 年 9 月 Oculus quest 2 推出后迅速成 為爆款,持續銷售火熱。2021 年在這款 VR 產品的推動下,VR 銷售量近 1000 萬臺,達歷 史新高,其設計范式也為國內廠家競相模仿。未來,我們看到隨著應用生態的持續成熟, 相應的對 VR 硬件也提出了升級要求。我們認為下一代的顯示單元的清晰度或將從目前的 4K 提升到 8K,重量也將從近 500g 下降到 300g 左右,同時目鏡厚度將降至目前的 1/3, 也將搭載更多傳感器,實現眼動追蹤、手勢追蹤等更多的交互方式。
AR 技術路徑繁多,micro-LED+衍射光波導被寄予厚望,但短期難出現成熟產品。現階段 AR 仍處于探索期,從出貨量來看,2020 年至 2021 年均維持在 20-30 萬件之間(IDC 數據); 從產品形態來看,目前仍然以大廠為主導,以一體機產品為主流;從技術來看,目前路徑 繁多,但均存在性能、良率、體積等問題。micro-LED+衍射光波導被認為是最有望實現大 規模商用的 AR 光學系統,但由于 micro-LED 在巨量轉移等仍存在技術問題,短期或難以 實現大規模商用。
元宇宙應用場景依次落地,或將定義下一代 VR/AR/腦機接口升級方向
我們認為隨著元宇宙應用場景的清晰化,未來 VR/AR/腦機接口的發展方向逐漸明確。早期 的硬件設備受制于應用場景和內容單一化、用戶對硬件設備的體驗不完善等缺陷,初代 VR/AR 并未實現大規模增長。當前時點,我們看到游戲、電商、協同辦公、社交、健身、 醫療、視頻和模擬訓練(教育)等元宇宙應用場景正逐漸清晰,這對 VR/AR/腦機接口硬件 端提出了更高的需求,有望驅動包括微顯示技術、三維重建、生物傳感器、肌電/腦電處理、 全身追蹤、空間定位在內的多項底層技術不斷完善。
元宇宙時代的應用比移動互聯網時代更強調沉浸感和交互感,不同應用對兩種效果的側重 各有不同。其中,沉浸感可通過更豐富的音畫效果和更多維度的感官交互獲得,例如借助 場景渲染、沉浸聲場、溫度模擬、觸覺傳感等技術營造出逼真的虛擬場景,使大腦產生“身 臨其境”的感覺;交互感則需借助多樣化的輸入方式來降低人機交互的操作門檻,例如直 接通過識別語音或讀取手勢來傳達指令,無需打字或操作鍵鼠/按鈕,增強互動效率。 我們認為根據不同應用對沉浸感和交互感的要求高低,可以將其分為三個層次:
1) 漸成熟:視頻和模擬訓練(教育)。其中模擬訓練(教育)包括安全教育、公共安 全演練、思政教育等等,對沉浸感和交互感要求最低,目前已有商業化案例;而視 頻領域對沉浸感的要求相對更高,但由于流媒體平臺內容生態已經較為完善,隨著 VR 配套硬件向 C 端滲透,我們認為視頻將是率先成熟的領域之一。
郭明錤:中國是最適合發展頭戴 / 元宇宙的市場之一:6月26日消息,近日,知名蘋果產業鏈及信息技術產業分析師郭明錤下調了對 Meta(META,股價 170.16 美元,市值 4605 億美元)VR 出貨量的預測,引發 A股市場相關上市公司股價大幅下挫。
在郭明錤看來,其針對Meta的VR設備出貨量預測下調,更多是基于Meta為因應宏觀經濟下行與核心業務面臨衰退挑戰而作出的全面性調整之一。從全球(范圍)來看,中國絕對是最適合發展頭戴 / 元宇宙的市場之一,我一點都不認為,Meta如果有任何訂單下修,會對這個長期趨勢有任何影響。更何況,Meta下修訂單,是全面性的業務調整,非只針對VR。[2022/6/26 1:31:54]
2) 發展中:電商、社交、游戲、辦公、健身。其中電商與游戲更側重于追求沉浸感, 而社交和協同辦公對交互感的要求更高。
3) 萌芽期:醫療,具體包括疾病監測、輔助微創手術、信號讀取、刺激干涉和仿生等。 疾病監測隨著 ECG 心電圖、血糖、血氧等生物傳感技術的成熟有望加速落地,而 輔助手術、刺激干涉和仿生等領域對輸入和輸出的精確度要求極高,相關企業及醫 療機構仍在探索中。
游戲:強調“沉浸感”的元宇宙游戲需要多平臺/VRAR/云原生技術作為底層技術支撐
當前游戲已具備元宇宙所擁有的虛擬身份、朋友、經濟系統等特點,但未能給玩家完全帶 來“沉浸感”,硬件方面主要受制于近眼顯示和多維感官傳感技術不夠成熟。未來,元宇宙 游戲將朝著更強的沉浸感與更豐富的內容生態方向發展,需要借助成熟的場景渲染和沉浸聲 場技術增強聲畫效果,借助全身運動追蹤、傳感器、空間定位等技術增強臨場感。我們認為 優質的游戲內容創新將與 VR/AR 硬件升級互相形成正反饋效應,促進元宇宙游戲生態的發展, 并為高性能計算芯片、硅基 OLED、Micro LED 以及相關設備組裝企業帶來增量空間。
電商:虛實交融的沉浸式購物模式為近眼顯示、AI 芯片、傳感器帶來發展機遇
傳統電商平臺仍主要以圖片和視頻等平面化形式展示商品。盡管近年來電商直播、AR 試妝 等形式興起,一定程度上彌補了傳統電商在購物時較為單薄的觀感體驗,然而對于服飾等 SKU 豐富的非標品類商品,用戶仍然無法對其進行在線試品。在“在線即在場”的終極需 求驅動下,元宇宙時代的電商有望進一步突破物質世界屏障,通過 AR/VR/MR 等新一代人 機交互平臺實現視聽甚至觸覺等多感官交互的購物體驗,創造如 3D 虛擬商場、數字展館等 消費者購買場景。我們認為這一進程主要依賴于近眼顯示、三維重建、觸覺傳感乃至虛擬 人等技術的成熟,將為相關微顯示、傳感器、芯片企業帶來增長空間。
協同辦公/社交:借助手勢追蹤、語音識別、眼動追蹤、虛擬化身實現互動感
未來元宇宙辦公/社交有望突破物理空間的局限,將帶來最接近實地面對面的工作和交友體 驗,提升辦公生產、溝通、協作效率。當前移動互聯網階段的遠程辦公距離理想模式有一 定差距,工作效率與溝通效果仍存在局限性。而元宇宙辦公/社交則強調互動感,例如,用 戶可以全程通過手勢操作,即可滿足在 VR 虛擬空間中舉手、豎大拇指點贊等功能,顯著降 低人機交互平臺操作門檻,同時實現無距離感互動。這一場景的實現將主要借助手勢讀取、 眼動追蹤、語音識別、空間定位等 VR/AR 底層技術。
醫療與健康:VR/AR/腦機硬件將搭載先進生物監測以及腦電信號處理技術
在 VR/AR 方面,盡管目前已出現了拳擊、攀巖、球類運動等輔助健身的應用,欠佳的硬件 佩戴體驗卻限制了用戶使用時長。一方面,VR 設備的眩暈感仍未完全消除,運動健身應用 中高速變換的場景將進一步加劇不適感;另一方面,目前主流 VR 頭顯的重量大多在 300g 以上,VR 一體機甚至普遍超過 500g,大大增加了佩戴者運動時的負擔。因此,顯示技術 和輕薄化是硬件廠商重點攻克的方向,我們看好具有超輕薄、高清晰度、低功耗、低延遲 等特點的硅基 OLED(索尼、視涯等),以及具有無感佩戴且不妨礙正常視線優勢的入眼式 AR 設備(InWith 和 Mojo Vision 等)的發展機會。
在生物監測方面,當前隨著心率監測、血氧檢測技術的成熟,已有部分智能手環和手表產 品中引入了醫療級功能,我們認為向著更專業的醫療設備進化將是智能穿戴重要發展方向。 未來,智能穿戴產品有望大規模搭載 ECG 心電圖以及無創血糖檢測等新功能,針對老年群 體、慢病群體提供更專業的服務,這也對血糖、血氧等生物監測技術提出了更高的要求。 長期來看,人機交互硬件在醫療與健康領域有望拓展到服務神經系統和肌肉系統癱瘓的患 者(如腦、脊髓疾病、中風、外傷等),這一需求將為腦機接口技術創造可觀的發展前景。
視頻:VR/AR 技術帶來高沉浸感的流媒體觀賞體驗
傳統影視作品、長視頻與短視頻仍主要通過電視、影院、視頻平臺等媒介傳播,受制于平 面化的表現形式,內容的表現力仍有較大提升空間。元宇宙時代,觀眾有望使用先進 VR/AR 設備更沉浸地觀看電影、現場實況、音樂會等內容,娛樂性與體驗感將迎來質的飛躍。目 前包括 Netflix 和愛奇藝在內的長視頻平臺已對“元宇宙+視頻”的落地做出了積極探索,例 如 Netflix 為美劇《怪奇物語》推出 VR 體驗,愛奇藝推出主打觀影功能的手機盒子。借鑒 移動互聯網時代對短視頻生態的孵化歷程,元宇宙作為互聯網的下一站,也為視頻創作提 供了新的可能性,例如通過建模、動作捕捉、人工智能制作出的虛擬人物能夠參演影視劇 集,影視與視頻內容創作有望迎來新的高光期。
模擬訓練/教育:將實現虛擬空間中對實體環境的仿真映射
模擬訓練是指將現實中的場景復刻到虛擬世界中,應用于軍事訓練、工業設計、教學訓練、 安全應急演練等較為復雜或具有高危險系數的領域。工業領域中,制造業企業將在仿真虛 擬空間中充分利用各類數據,優化工業生產環節中的設備工藝和作業流程。軍事和安全應 急領域均有進行模擬演練的需求,未來有望在虛擬場景開展更大規模和更復雜的軍事和應 急訓練,實現節省訓練成本、提高安全性的目的,如曼恒科技研發出上海浦東機場的 VR 火 災應急演練系統,使用 VR 和 5G 云渲染技術模擬機場火災突發事件及機場消防員在危險場 景下如何開展消防應急救援,幫助提升機場系統整體應急能力。鑒于模擬訓練用途的特殊 性,其對沉浸感和交互感的要求相對而言較低,無需依賴高端硬件設備加成,目前已有曼 恒科技、壹傳誠等企業實現了商業化。
Radio Caca元宇宙中元獸王國已正式上線:據官方消息,Radio Caca元宇宙中2D元獸王國已正式上線,豐富了多種玩法,戰隊團戰系統等。據悉,Radio Caca官方將拿出2000萬美元建設2d元宇宙中的元獸王國,力求打造以元獸為核心的生態,系統將持續為元獸賦能,打造以元獸為核心的多元生態,元獸數量會從200萬通縮到60萬。[2022/4/3 14:02:21]
VR:Oculus quest 2 打造爆款范式,技術創新路徑清晰
VR 是 Virtual Reality(虛擬現實)的縮寫,指計算機圖形技術、計算機仿真技術、傳感器 技術、顯示技術等多種科學技術,在多維信息空間上創建一個虛擬信息環境,提供使用者 關于視覺、聽覺、觸覺等感官的模擬,能使用戶具有身臨其境的沉浸感,具有與環境完善 的交互作用能力的一種嶄新的人機交互手段。
目前常見的 VR 由頭戴式顯示設備和手柄組成。其中,頭戴式顯示設備集成了顯示、計算、 傳感器等設備,通過將人對外界視覺、聽覺的封閉,并由左右眼屏幕分別顯示左右眼的圖 像,引導用戶產生一種身在虛擬環境中的立體感。而手柄則負責輔助追蹤使用者手的位置、 提供交互使用的按鍵,以及簡單的觸覺震動反饋。
VR 頭顯經歷 VR 盒子、VR 頭盔、VR 一體機三階段,爆款產品持續主導硬件消費市場。?2Q21 全球 VR 產品出貨量達 212.6 萬臺,同比增長 136.4%,其中 Oculus Quest 2 出貨量 占 75%,持續主導市場。從 2014 年開始,行業銷量由爆款產品主導的特點仍然沒有變化 (2015-2017 年三星 VR 盒子、2016-2018 年 PS VR、2019 年至今 Oculus 一體機)。
1) 三星 Gear VR:VR 盒子時代的主流產品。三星與 Oculus 合作打造,推出時與 Galaxy 系列進行了捆綁營銷,2016 年年銷量達到最高,近 400 萬臺。使用方法是 將手機放在 VR 盒子前,使用專用 APP 進行觀影。但因發熱、暈眩等問題,事實 上體驗并不優秀。
2) PS VR:VR 頭盔時代銷量第一。事實上 VR 頭盔時代 HTC/Valve 等產品性能比 PS VR 更加優秀,但主要偏向商用,價格高昂,出貨量較低。而 PS VR 價格相對 較低,且與 PS 4 進行了捆綁營銷,年銷量在 100-200 萬臺之間。
3) Oculus quest 2:VR 一體機爆款。為一大批其他 VR 品牌打下產品樣板。
Oculus Quest 2 是一款充滿妥協藝術的產品,成本、硬件性能、消費者體驗等多方向平衡 下,實現 VR 產品基本功能設想。
與 VR 頭盔相比,我們認為 Quest 能夠成功的原因包括以下幾點:
1) 盡管會加大設備的重量(電池+芯片),但也省去了用戶花近 10000 元購買 PC 主 機的成本,降低了用戶的進入門檻。 2) 去除了與主機相連的連接線,提升了用戶的移動空間和使用場景,用戶不再需要一個 獨立的空間并且配備主機,而只需要在室內任意閑置空間即可使用。 3) 在追蹤方式上,摒棄了傳統的采用的 outside-in 方式,因而不需要外部立發射接收 器。轉而采取基于攝像頭的 inside-out 方式,實現 6DoF 頭、手追蹤。 4) 當遇到芯片算力不足的情況,Quest 2 同樣支持串流模式,可以作為 PCVR 使用, 也滿足了消費者對于高渲染 3A 大作的需求。
與 Quest 1 等前代一體機對比:
1) 與 Oculus quest 1 相比,第二代產品將 OLED 換為 Fast-LCD 屏幕,將外觀設計簡化, 縮減了成本。 2) 將芯片從驍龍 835 升級到 XR2,提升了處理器、顯示、影像和 AI 性能。改變后產品刷 新率顯著提高,分辨率有所改善,眩暈問題得到極大改善,基本實現一款入門級 VR 產 品的設想。
當前 VR 硬件組成與智能手機供應鏈高度重合:通過 Ifixit 的拆機我們看到 Oculus quest 2 頭顯主要零部件包括顯示、光學透鏡、傳感器、主板、電池產品:
1) 顯示模塊主要使用 Fast-LCD 顯示屏,接近 4K 分辨率,并具備 90-120Hz 刷新率; 2) 光學使用軟件預處理搭配菲涅爾透鏡提供寬視場、失真色差少的正確圖像; 3) 傳感器:包括四顆攝像頭,用于追蹤頭部、手部運動以及顯示灰白透視畫面; 4) 主板:包括高通的 SoC 芯片 XR2、電源管理芯片,DRAM(三星、鎂光、海力士)、 NAND(Sandisk)、WiFi 等芯片; 5) 電源:3640mAh。
2022 年 VR 將迎來一波創新技術潮流, MetaVR 產品迎來升級,蘋果推出高端產品。根據 digitimes,我們推測 Meta 下一代 VR 升級產品將于明年推出,將引入 pancake 光學模組和 更多傳感器,以實現產品輕量化,并升級手勢識別、眼動跟蹤等功能;而蘋果也將在 2022 年底推出一款高端 VR 方案,這款高端產品能夠會重新定義 VR 這個產品形態。我們預計這 款產品將配備 Micro-OLED 顯示屏,復合菲涅爾透鏡 pancake 方案,全彩影像透視、搭載 更多傳感器,為消費者帶來全新混合現實體驗。
Pancake 短焦光學是公認的下一代 VR 升級方向,使 VR 頭顯更加輕薄。在 Meta 較早的 pancake 技術專利中,我們可以看見一個顯示組件包括具有四分之一波片和部分反射表面 的第一透鏡、具有反射偏振器的第二透鏡和顯示器,實現頭顯的輕薄化。我們認為,蘋果 同樣在探索使用三個菲涅爾透鏡堆疊,形成輕薄透鏡組的方案。改進光學透鏡后的 VR 產品 將實現輕薄化,頭顯重量或由原來的 500g 降低至 200-300g。
Meta 攝像頭數量或提升,充分利用驍龍 XR2 芯片算力。我們認為 Meta 下一代 VR 產品與 蘋果 MR 產品將會增加傳感器,主要是攝像頭的種類與數量。高通在其官網上披露,高通 驍龍 XR2 芯片算力最多可支持 7 顆攝像頭(2 顆眼動追蹤,2 顆混合現實,2 顆頭部 6DoF 追蹤,1 顆其他),并可以此實現 MR 混合現實功能。我們認為 Meta 下一代或充分利用驍 龍 XR2 算力,為產品進行功能升級。
元宇宙概念持續走強,湖北廣電拉升封板:4月1日消息,行情顯示,元宇宙概念持續走強,湖北廣電拉升封板,三湘印象、宣亞國際、貴廣網絡、恒信東方等集體沖高。(金十)[2022/4/1 14:31:32]
顯示實現方法:Meta 或沿用 Fast-LCD 顯示屏幕,而蘋果或使用 Micro-OLED,提供升級 視覺體驗。我們認為 Meta 下一代或沿用 FastLCD 屏幕,與 quest 2 分辨率差別不大,但 具有像素級控制的先進背光,可以展示和 OLED 一樣的純黑底色;而蘋果或使用高分辨率、 高對比度、寬色域、快速響應的 Micro-OLED 顯示屏,隨之而來的或是高昂的售價,新一代蘋果 MR 產品售價可能達到 1500-3000 美元,高于當前 Oculus quest 2 的最低售價 299 美元。
AR:產品處于概念期,Micro-LED + 衍射光波導技術突破被寄予厚望
AR(Augmented Reality,增強現實)是促使真實世界信息和虛擬世界信息內容之間綜合在 一起的較新的技術內容,與 VR 不同的是,AR 能夠將真實環境和虛擬物體之間重疊之后, 在同一個畫面以及空間中同時存在。AR 中的關鍵技術包括跟蹤定位技術、虛擬與現實合并 技術、顯示技術與交互技術。
目前 AR 眼鏡也可以分為一體式和分體式,從出貨量看當前一體式為主流。分體式指計算 單元或電池等結構與頭顯分開,如 Nreal 頭顯支持通過 type-C 接口與智能手機、PC 連接, 允許將智能手機中、PC 的內容無縫傳輸到眼鏡中,用戶可以在其中查看內容。而一體式 AR 產品則將顯示器、傳感器、計算、人類理解、環境理解等系統集成在一個頭顯上,提供 更便捷體驗。
AR 銷量較小,增速波動明顯,仍處于概念期。根據 IDC,2020-2021 年 AR 年出貨(不含 Screenless viewer)在 20-30 萬之間,增速波動大。從品牌來看,除 Epson 和微軟外,其 他較多品牌并沒有實現 AR 的持續大規模銷售,常常在 1-2 個季度的爆發后銷聲匿跡,消費 端市場上沒能出現標桿性的品牌,我們認為 AR 作為一款消費電子產品仍然處于概念期階段。
長期看 AR 增量潛力更大,C 端市場仍在等待成熟技術方案。我們認為長期來看 AR 終端有 望替代手機,實現年出貨量超過 10 億臺(對比手機出貨量超過 13 億臺),但目前來看實現 這個目標時日尚早。從應用看,AR 產品仍未出現殺手級的應用場景。從技術角度看,雖然 OLED+Birdbath 方案已經比較成熟,但因透光性差等原因,形似墨鏡的設計不能支持全環 境的使用。而其他微顯示系統如 LBS/LCoS/DLP 等搭配光波導的方案仍在探索過程中。
從需求講起:一款合格 AR 眼鏡需要怎樣的配置
顯示:微顯示單元與光機模組決定亮度、對比度、刷新率、分辨率等指標。目前市場上 AR 眼鏡的近眼顯示系統即使用微顯示器作為圖像源器件,由其產生圖像后投射到自由曲面/光 波導等光學模組中,再進入人眼。由于 AR 像源產生的圖像將與太陽光一起進入人眼,戶外 若不加墨鏡,入眼亮度需超過 2,000nits,甚至達到 5,000nits,才能在各種天氣狀況下清楚的 顯示圖像。據我們估算,目前一款光波導眼鏡的光效率大約為 3-5%,即像源亮度至少要在 10 萬 nits 左右,才能滿足 AR 眼鏡的亮度需求。此外,75Hz 以上的刷新率、25°視場下 720P 的分辨率、支持局部刷新及低功耗狀態下靜態圖像的維持,是一款 AR 眼鏡的及格線。
人、機、環境的有效交互:SLAM+傳感器+AI 用于理解環境、理解使用者、實現虛擬信息 和現實世界的結合。為了實現虛擬信息和真實場景的疊加,需要實現使用者的空間定位追 蹤和虛擬物體在真實空間中定位。除此之外,為了將虛擬信息與輸入的現實場景無縫結合 在一起,增強 AR 使用者的體驗,還需要考慮虛擬事物與真實事物之間的遮擋關系以及實現 幾何一致、模型真實、光照一致和色調一致。從上世紀 80 年代發展到現在,SLAM 傳感器、 算法、技術框架等持續改進,是實現自我姿態評價以及虛擬圖像反饋,構建人與虛擬內容 的有效交互的主要手段。
其他:能耗、適應性、體積重量。一般來說,一款比較成熟的 AR 產品還需要滿足其他要求, 包括-40°~80°的溫度適應區間、5000 多小時的整體使用壽命,合適的配重,300g 左右的重量 等等要求,這些要求也會對微顯示系統、電池、光學模組等其他零部件的選擇提出約束。
微顯示技術: MicroLED 有望成為 AR 主流
當前已提出的微顯示技術包括 OLED(有機發光二極管)/ LCoS(硅基液晶)/ DLP(數字 光處理)/LBS(激光束掃描儀)等待,但這些技術均無法兼顧成熟性、性能、成本等指標。 MicroLED 是業內公認的 AR 顯示最佳解決方案,但存在技術尚不成熟、量產難度大等問題, 真正大面積商用可能要到 2025 年左右。
LCoS —— 限制較多,逐漸淡出
LCoS 作為微顯示技術存在比較明顯的限制,逐漸淡出微顯示領域。LCoS 的優勢在于技術 成熟,成本低廉,像素密度高且功耗低,在早期的 AR 設備中應用較多,如靈犀微光靈犀 AR(LCoS+幾何光波導),Magic Leap One (LCoS+衍射光波導)。但劣勢也相對明顯,如對 比度較低,特別是在大入射角情況下;由于必須和 PBS 配合使用而限制了整體光機的小型 化和輕量化進程(目前較小的 digilens 的 LCoS 光機體積為 2.5 立方厘米);低溫狀態下無 法工作,環境適應性較差等。因此,大量廠商都在積極尋求使用 LBS/DLP 等方案代替 LCoS, 2018 年以后搭載 LCoS 的新機型逐漸淡出。
硅基 OLED —— 亮度較低,目前難以應用于戶外 AR 場景
硅基 OLED 的缺點也比較明確,應用局限于 VR 及類似設備。目前市場上主流的硅基 OLED 產品亮度均小于 3000nits,與 10 萬 nits 的要求相去甚遠,難以應用于戶外 AR 場景。同時, 由于產品的生產工藝更加復雜,其價格比 LCoS 貴 50%以上,但使用壽命在高亮度模式下 將低于 3000 小時且極有可能出現燒屏的情況,整體性價比更低。因此,雖已有部分 AR 廠 商使用硅基 OLED 替代 LCoS,但其仍不是 AR 像源的最佳解決方案。
智能元宇宙項目Alethea AI的Discord被黑客攻擊:3月29日消息,智能元宇宙項目Alethea AI發推稱其Discord被黑客攻擊,目前正在評估情況。[2022/3/29 14:25:30]
LBS —— 激光二極管對溫度敏感、分辨率較差
與 LCoS 等其他顯示技術相比,LBS 技術優勢明顯。LBS 系統主要由激光、光學器件和 MEMS Mirror 組成由于 LBS 使用激光光源進行逐像素渲染,相較其他非激光、逐幀渲染方 案天然具有延遲低(激光納秒 vs 普通光源毫秒)、畫面滯留時間短、亮度高、能耗低、色 彩豐富的優勢。此外,為獲得更大的視場角和更高的解析度,其他技術必須增加微鏡的數 量并放大產品尺寸,而 LBS 方案僅通過改變 MEMS 微鏡的振動頻率和反轉角度即可實現, 因而更易實現光機的輕量和小型化。(目前 LBS 光機體積大致在 0.5-1.5 立方厘米)。
對 LBS 技術可能的限制來自于較低的分辨率和畫像質量。當前主流的 LBS 產品分辨率約 720P,提高分辨率可能需要較高的成本。AR 硬件/軟件企業 Rave 首席科學家 Karl Guttag 將搭載 LBS 光機的 HoloLens 2 代和搭載 LCoS 光機的 HoloLens 1 代進行對比測試后發現, 雖然 HoloLens 2 的垂直視場角較 1 代提升近一倍(30 度 vs 17.5 度),但其在分辨率、色 彩均勻性等方面的表現均更差。此外,HoloLens 2 實拍圖色彩飽和度更低,觀感模糊,霧 度也更大。
DLP —— 對溫度敏感,難以小型化
DLP 由于成本高、體積大等缺陷,在 AR 場景中的應用有一定限制。DLP(Digital Light Processing)系統的核心是 TI 專利的 DMD 芯片(Digital Micromirror Device),它由數百 萬個高反射的鋁制獨立微型鏡片組成,每個鏡片通過數量龐大的超小型數字光開關控制角 度。這些開關可以接受電子訊號代表的資料字節,然后產生光學字節輸出,將輸入 DMD 的 視頻或圖形信號轉換成高清晰度的、高灰度等級的圖像。DLP 由于以鏡片為基礎,提高了 光通效率,因此 DLP 投影系統比所有其他顯示系統具有更強的亮度。然而,由于其設計難 度大、結構復雜、生產成本高、體積大等劣勢,目前在 AR、HUD 等設備中應用并不普及。
MircoLED —— 仍處在早期階段,較多技術問題需要解決
MicroLED 產品性能絕佳,是業內公認的 AR 顯示最佳解決方案。Micro LED 即 LED 微縮 技術,通過將傳統 LED 陣列化、微縮化后定址巨量轉移到電路基板上形成超小間距 LED, 可將毫米級別的 LED 長度進一步縮小到微米級(50um 左右,原本 LED 的 1%)。相較其它 技術,MicroLED 產品性能在亮度、對比度、工作溫度范圍、刷新率、分辨率、色域、功耗、 延時、體積、壽命等多方面具備較大優勢,被期望為下一代主流顯示技術的重要路徑。
MicroLED 的發展瓶頸在于微米級的像素尺寸和間距給量產和全彩方案所帶來的巨大挑戰。?MicroLED 的生產包括芯片和背板制造、巨量轉移、接合、驅動和檢測維修等環節,由于其 晶粒尺寸在微米級,生產單個成品即需要處理數百萬甚至數千萬晶粒,對技術的效率和良 率提出了極為嚴苛的要求,現有技術水平還無法滿足其量產需求。而 MicroLED 晶粒的發 光效率、波長一致性和良率也尚未達到 MicroLED 彩色化顯示的要求。基于此,現有 MicroLED 屏幕價格高昂,單片售價即大于 1000 美金。2018 年三星演示的采用 microLED 技術的 The Wall 電視,146 寸版報價高于 10 萬美元。
光學模組:從幾何光學到納米光學
與 VR 的不同之處在于,AR 眼鏡需要透視(see-through),既要看到真實的外部世界,也 要看到虛擬信息,所以成像系統不能擋在實現前方,這就需要多加一個或一組光學組合, 通過層疊的方式,將虛擬信息和真實場景融為一體,設計包括自由曲面,光波導等。
生產方式從幾何光學到納米光學。傳統的光學透鏡加工方式為切割/注塑/涂層/拋光等等,但 隨著光波導等光學模組的復雜化,傳統加工工藝帶來了生產流程復雜、良率低等問題,國 內外包括 Digilens,WaveOptics,至格科技,瓏璟光電等廠家開始探索納米壓印、紫外光 加工等加工方案。
自由曲面解決方案:自由曲面棱鏡/反射鏡,BirdBath
三種方案微顯示器的光線來源都來自于眼睛上方:
1) BirdBath 方案:分光鏡同時反射和投射光線,使用戶在看清現實世界的物理景象時, 也可看到微顯示器生成的數字影像。位于分光鏡一側的凹面鏡用來反射光線,將光重 新導向眼睛。采用 Birdbath 結構的 AR 眼鏡通常體積較大,視場角中等(50°左右)。 由于分光鏡為半透半反鏡,光線經過分光鏡時被多次反射,每次反射都會產生 50%的 光損,因此能量損失嚴重。
2) 自由曲面反射鏡:僅使用一個曲面反射鏡收集來自于微顯示器和現實世界的光線。 采用自由曲面反射鏡結構的 AR 眼鏡也具有較大體積,可實現的視場角為 50°~100°, 但視場角大小取決于光源大小。由于光線僅被反射一次,自由曲面反射鏡結構的光損 明顯降低。
3) 自由曲面棱鏡:巧妙地將兩個折射面,一個全內反射面和一個部分反射面合并到一個 元件中,增加了結構的自由度。此種結構可以增大視場角,同時提高成像質量,但光 學元件的厚度較大,通常需要一個校正棱鏡來消除環境光從自由曲面棱鏡的折射。
光波導技術解決方案:幾何/陣列光波導,浮雕光柵光波導,布拉格光柵光波導
光波導技術是應 AR 需求而生的一個比較有特色的光學組件。因它的輕薄與外界光線的高穿 透特性而被認為是消費級 AR 眼鏡的必選光學方案。
AR 眼鏡中光的傳輸關鍵在于“全反射”。其實,波導技術并不是新發明,光纖就是波導的 一種,只不過傳輸的是我們看不見的紅外波段的光。光機完成成像過程后,波導將光耦合 進自己的玻璃基底中,通過“全反射”原理將光傳輸到眼睛前方再釋放出來,就完成了圖 像的傳輸。
對視場角的需求對玻璃基底材料提出要求。越是大的視場角,就需要越高折射率的玻璃基 底來實現。因此傳統玻璃制造商比如康寧(GLW US)和肖特(Schott,未上市),近年來都在 為近眼顯示市場研制專門的高折射率并且輕薄的玻璃基底,還在努力不斷增大晶元尺寸以 降低波導生產的單位成本。
蘋果CEO庫克:我不用元宇宙這個詞,我們稱它AR:9月20日消息,據《時代》雜志報道,蘋果 CEO 蒂姆·庫克 (Tim Cook) 在專訪中談及元宇宙時表示,比起元宇宙這類流行語,他更喜歡將其稱為 AR(增強現實),并稱這些新技術令他感到興奮。
據悉,庫克表示:我相信科技可以給世界帶來很多好處。當然,這取決于創造者,取決于他們是否全面考慮過新技術如何使用和誤用的方式。我對增強現實能帶來的東西感到非常興奮。這是虛擬世界與現實世界的疊加,而且不會分散你對現實世界和現實關系的注意力,而是加強彼此之間的關系和合作。[2021/9/20 23:38:35]
具體來看,當前光波導技術可以分為下面三種:
1) 幾何/列陣光波導。該概念和專利一直由以色列公司 Lumus 提出并持續優化迭代,基本 原理是耦合光進入波導的一般是一個反射面或者棱鏡。在多輪全反射后光到達眼鏡前 方時,會遇到一個“半透半反”鏡面陣列,將光耦合出波導。
幾何/列陣光波導目前大都只能實現一維擴瞳。這里的“半透半反”鏡面陣列相當于將 出瞳沿水平方向復制了多份,每一個出瞳都輸出相同的圖像,這樣眼睛在橫向移動時 都能看到圖像,這就是一維擴瞳技術(1D EPE)。
幾何/列陣光波導工藝流程復雜,良率提升難度極大。“半透半反”鏡面陣列的鍍膜工 藝中,由于光在傳播過程中會越來越少,陣列中這五六個鏡面的每一個都需要不同的 反射透射比(R/T),以保證整個動眼框范圍內的出光量是均勻的。并且由于幾何波導傳 播的光通常是偏振的,每個鏡面的鍍膜層數可能達到十幾甚至幾十層。
這些鏡面是鍍膜后層層摞在一起并用特殊的膠水粘合,然后按照一個角度切割出波導 的形狀,這個過程中鏡面之間的平行度和切割的角度都會影響到成像質量。因此,即 使每一步工藝都可以達到高良率,這幾十步結合起來的總良率卻是一個挑戰。每一步 工藝的失敗都可能導致成像出現瑕疵,常見的有背景黑色條紋、出光亮度不均勻、鬼 影等。
2) 浮雕光柵衍射光波導。傳統的光學結構被平面的衍射光柵取代,通過材料表面浮雕出 來的高峰和低谷,在材料中形成了一個折射率的周期性變化。通過設計光柵的參數(材 料折射率、光柵形狀、厚度、占空比等)可以將某一衍射級(即某一方向)的衍射效率優 化到最高,從而使大部分光在衍射后主要沿這一方向傳播。
用衍射光柵可以實現二維擴瞳,digilens 和 WaveOptics 分別具有兩種技術方案。?Hololens I, Vuzix Blade, Magic Leap One, Digilens 等使用的方法是,當入射光柵將光 耦合入波導后,會進入一個轉折光柵的區域,這個區域內的光柵溝壑方向與入射光柵 呈一定角度,那么它就像一個鏡子一樣將 X 方向打來的光反射一下變成沿 Y 方向傳播。 另外一種實現二維擴瞳的方式是直接使用二維光柵,即光柵在至少兩個方向上都有周 期,將單向“溝壑”變為柱狀陣列。WaveOptics 就是采用的這種結構,從入射光柵耦 合進波導的光直接進入一個具有二維柱狀陣列發區域,可以同時將光線在 X 和 Y 兩個 方向實現擴束,并且一邊傳播一邊將一部分光耦合出來進入人眼。
3) 布拉格光柵衍射光波導(也叫全息光柵光波導)。利用光全息術在記錄材料薄膜上記錄 點光源的干涉條紋,再經過處理制成光柵條紋結構的薄膜光學元件,具有光束準直、聚 焦、偏轉等功能。其對光的衍射符合布拉格定律,只有滿足布拉格條件的入射光才會 被衍射,不滿足布拉格條件的入射光不被衍射。目前在做全息體光柵(VHG)波導方案 的廠家比較少,包括十年前就為美國軍工做 AR 頭盔的 Digilens,曾經出過單色 AR 眼 鏡的 Sony,還有由于被蘋果收購的 Akonia。
優點顯著,探索持續進行。這種技術具有體積薄,重量輕,且可同時記錄多個全息圖 等優點,使它能夠替代許多傳統的光學元件,如棱鏡、立方體分束器和光柵等,進一 步減小 AR 頭戴式顯示器體積。由于體光柵由于受到可利用材料的限制,能夠實現的 折射率差有限,導致它目前在 FOV、光效率、清晰度等方面都還未達到與表面浮雕光 柵同等的水平。但是由于它在設計壁壘、工藝難度和制造成本上都有一定優勢,業內 對這個方向的探索從未停歇。
SLAM:理解環境與使用者,實現虛擬信息和現實世界的結合
SLAM(Simulataneous Localization and Mapping),同步定位與地圖構建,指在運動過程 中通過重復觀測到的環境特征定位自身位置和姿態,再根據自身位置構建周圍環境的增量 式地圖,從而達到同時定位和地圖構建的目的。
現代流行的 SLAM 系統大概可以分為前端和后端。前端通過傳感器實現數據關聯,研究幀 與幀之間變換關系,主要完成實時的位姿跟蹤,對輸入的圖像進行處理,計算姿態變化。 后端主要對前端的輸出結果進行優化,得到最優的位姿估計和地圖。
SLAM 傳感器、算法、技術框架等持續改進,實現自我姿態評價以及虛擬圖像反饋,構建 人與虛擬內容的有效交互。從上世紀 80 年代發展到顯現,配合 SLAM 算法的傳感器出現了 視覺(單目、雙目、RGBD、ToF 等各種相機),慣性/磁性(IMU 等傳感器),以及聲吶, 2D/3D 激光雷達等一系列解決方案。SLAM 算法也從開始的基于濾波器的方法(EKF、PF 等)向基于優化的方法轉變,技術框架也從開始的單一線程向多線程演進。
SLAM 在 ARVR 中有較多應用,AR 中主要是 1)現實物體與虛擬物體的有效交互,2)實 現語義理解,優化智能輔助功能:
實現虛擬世界和現實世界之間坐標疊加、實現幾何物理信息交互。與電腦、平板、手機的 3D 顯示不同,AR 更注重虛擬信息與真實信息的無縫融合,即圖像出現的平面位置與景深 準確、帶來沉浸感的良好體驗。這就需要利用 SLAM 算法,準確疊加虛擬坐標系和真實坐 標系。同時,真實環境中有高低起伏、有障礙物、有遮擋關系,AR 可以讓虛擬信息跟這些 真實環境中的物理信息進行交互。
實現語義理解,優化智能輔助功能。隨著機器學習和深度學習的發展,虛擬信息可以“理 解”真實世界,讓二者的融合更趨于自然。當前計算機已經可以已經可以認出圖片上的內 容,但沒有理解內容之間的關系,當前的一項研究方向是,應用 SLAM+AI 技術,通過特征 提取,實現機器的語義理解,優化 AR 系統的輔助功能。
傳感器:交互方式與應用場景升級推動傳感器升級
AR 中交互方式的升級,帶來更多樣信息需求。隨著人機交互由 2D 走向 3D,交互方式逐 漸多樣化,向人類本能發展,手勢交互、姿勢交互、眼動交互、語音交互,甚至結合生物 信號、周圍環境交互的方式不斷進化,這對更多種類的信息提出了要求,用戶運動類、生 物類信息,以及其他環境信息都將為人機交互提供底層支持。
大量信息需求為運動類、生物類、環境類各型傳感器提供增量機會。當前蘋果手機、手表 廣泛運用多種運動、生物型傳感器,與之對比,VR 爆款產品 Oculus quest 2 頭顯僅搭載了 4 顆黑白攝像頭,手柄配備了兩組陀螺儀加速度計傳感器。未來,為實現更深度沉浸和更便 捷交互,測距攝像頭、眼動追蹤攝像頭、精細化壓力傳感器,甚至生物型、環境型傳感器, 都將逐漸配備。
對于大多數人來說,最早接觸腦機接口概念是從科幻電影中。不管是《X-戰警》中博士的 意念控物,還是《黑客帝國》中錫安人通過接口與電腦相連,迅速學會各種各樣的知識和 技能,并進入 Matrix 的虛擬世界中,再或是《沙丘》中人們通過腦科學的探索,不斷開發 大腦潛能,通過訓練的領航員的大腦能夠媲美大型計算機,這些情節都讓人印象深刻,也 是科學家不斷探索的方向。
人腦的潛能:一臺超級計算機?
使用電子計算機對人腦進行模擬需要 172PFlops 計算量。人的大腦有接近 860 億個神經元, 每個神經元有 1 萬個連接點,掌管人類運動、聽覺、語言、嗅覺、記憶、思考、性格、情 緒等功能。根據我們估算,如果想要以計算機來模擬人腦的活動需要 172PFlops(對應神 威太湖之光 93PFlops,美國 Summit 超算 122.3PFlops)。人腦的潛能或能夠達到一臺超級 計算機的運算能力。
腦機接口或支持人腦潛力持續開發。馬斯克提出的一個經典論述是“人類不能被 AI 淘汰, 要與 AI 融合,在大腦和電腦之間創建一個接口”。隨著我們對腦科學的不斷認識和腦機接 口技術下對人類肢體限制的不斷突破,人腦的潛能或得到釋放。
腦機接口(Brain-Machine Interface):我們該如何定義?
腦機接口(Brain Computer Interface,BCI)1976 年由加州大學洛杉磯分校的雅克·維達 爾(Jacques J. Vidal)提出。一個完整的腦機接口過程包括信號采集、信息解碼處理、信號 輸出/執行、反饋四個步驟實現。
腦機接口可以通過電、磁、光、聲進行信號采集與反饋,而腦電技術是目前主流探索方向。?事實上采集中樞神經信號以監測大腦活動的方法有很多種,包括腦電、功能近紅外光譜 (functional near-infrared spectroscopy, fNIRS)、功能磁共振成像(functional magnetic resonance imaging, fMRI)等,反饋技術也同樣包括電、磁、聲、光多種。在這些監測技 術中,腦電因為時間分辨率高、設備價格低廉且便攜等優點,逐漸成為腦機接口研究最主流的探索方向。
1) 腦電采集:腦電采集是 BCI 的關鍵步驟,采集的效果、信號強弱、穩定性及帶寬大 小直接決定后續的處理及輸出。由于大腦的中樞神經元膜電位的變化會產生鋒電位 (spikes),或動作電位(action potentials),并且神經細胞突觸間傳遞的離子移動會 形成場電位(field potentials),通過在大腦皮質的運動神經位置外接或植入微型電極, 可以采集并放大這些神經生理信號。
2) 信號解碼處理:信號處理是將轉化為電信號的大腦活動,去除干擾電波以及其他信號, 并將目標分類并處理,轉化為可以執行輸出的對應信號。
3) 信號輸出及執行:信號輸出指將收集并處理后的腦電波信號傳輸至已連接的設備器材, 作為數據基礎加工內容,或反饋到終端機器以形成指令,甚至實現直接交互。
4) 反饋:在信號執行后,設備將產生動作或顯示內容,參與者將通過視覺、觸覺或聽覺 感受到第一步產生的腦電波已被執行,并觸發反饋信號。
根據腦電的采集方式,當前的腦機接口又可以分為侵入式、非侵入式
非侵入式更多用于消費端的腦電監測。非侵入式是在人/動物大腦外部佩戴腦機接口設備, 通過采集腦電、神經電獲取腦部信息,但信息精度及分辨率較低,可用于簡單的信號判斷 與反饋,但較難傳達復雜指令,如幫助肢體殘障人士通過意念操控機械骨骼,或用于 VR/AR 游戲應用的基礎手勢控制。非侵入式根據收集信息的不同可以分為 EEG(收集腦電)和 MEG(收集磁場)兩種。
1) EEG:通過導電凝膠將 Ag/AgCI 電極固定在頭皮上,以測量頭皮腦電信號,但一般只 能監測到 0-50Hz 相對較窄頻帶中的信息。
2) MEG:通過測量細胞內離子電流引起的小磁場獲得信號,但由于高昂的成本和操作方 法的繁瑣(電磁封鎖環境,保持絕對靜止),MEG 并不是一個理想的解決方案。
侵入式腦機接口主要應用于醫療康復領域。侵入式將設備直接植入到人/動物大腦灰質或顱 腔內,能夠獲取相對高頻、準確的神經信號,不僅能夠通過讀取腦電信號來控制外部設備, 還能夠通過精確的電流刺激讓大腦產生特定感覺。侵入式腦機接口可以分為 ECoG、LFP、 SUA 等類型。
1) ECoG:測量大腦皮層電位,與 EEG 技術相似,但能夠監測到更大帶寬的信息;
2) LFP、SUA:測量大腦皮層場電位與鋒電位,可以通過 Mircowire array,Michigan array, Utah array,Neurotrophic electrode 等多種傳感器實現。
侵入式采取電信號的方法,具有較高的空間分辨率、良好的信噪比和更寬的頻帶,但目前 仍然面臨著有創帶來的安全問題、難以獲得長期穩定的記錄、需要醫護人員長時間連續的 觀察等問題,目前應用仍局限于醫療康復領域。
侵入式工具也出現了全新不開顱植入方案。2021 年 8 月,來自美國加州伯克利大學的 Synchron 公司開發的微創腦機接口獲得美國食品藥品監督管理局(FDA)的人體臨床試驗批 文。其腦機裝置微小,可以安全地穿過血管,因此直接利用頸靜脈植入 BCI,使用導管手術 將設備輸送到大腦和脊柱中,在兩小時無需開顱手術內即可將設備植入了患者大腦內。
由于不需要開顱手術,因此這種傳感器可以靈活布置在大腦多個位置,從而捕捉各種類型 的信號。與傳感器相連的 BrainPort 接收裝置植入病人的胸口,它沒有內置電池,而是通過 無線的方式進行供電以及數據傳輸,進一步提升了安全性。通過 Synchron 研發的 BrainOS 操作系統,可以將傳感器讀取到的信號轉化為與外界交互的通用信號,從而實現用大腦與 外界交流溝通。
應用持續拓展支撐起近千億美元商用市場
醫療、消費市場應用的持續拓展或支撐起千億市場規模。隨著人們對大腦的認知、電極設 計、和人工智能算法的精進,腦機接口領域應用也持續拓展,并向更加精細化發展。腦機 接口相關的研發已經在仿生學、醫療診斷與干預、消費電子等多個領域進行持續探索,我 們認為相關產品可能將在未來 20-30 年內陸續商業化,支撐起近千億美元的市場規模。
二十世紀七十年代到九十年代末,腦機接口技術經歷了從概念期到科學論證期的發展。二 十世紀七十年代至八十年代,“腦機接口”專業術語出現,1977 年 Jacques J. Vidal 開發了 基于視覺事件相關電位的腦機接口系統,通過注視同一視覺刺激的不同位置實現了對 4 種 控制指令的選擇。1980 年德國學者提出了基于皮層慢電位的腦機接口系統。 二十世紀八十年代后,少數先驅研發了實時且可執行的腦機接口系統,并定義了至今仍在 使用的幾種范式:
1) 1988 年 L.A. Farewell 和 E.Donchin 提出了著名且廣泛使用的腦機接口范式 P300 拼寫 器,表明系統有望幫助嚴重癱瘓患者與環境進行通信和交互。不久后研究人員都開發 出基于感覺運動節律的腦機接口系統,該系統可以控制一維光標向使用者反饋運動節 律幅度,從而通過訓練實現通過想象控制小球向上或向下移動。
2) 1990 年左右 Gert Pfurtscheller 開發出另一種基于感覺運動節律的腦機接口,用戶必須 明確地想象左手或右手運動,并通過機器學習將其轉化為計算機命令,這定義了基于 運動想象的腦機接口。
3) 1992 年 Erich E. Sutter 提出了一種高效的基于視覺誘發電位的腦機接口系統,在該系 統中設計了 8x8 拼寫器,利用從視覺皮層采集的視覺誘發電位識別用戶眼睛注視方向 來確定他選擇拼寫器中的哪一個符號。肌萎縮側索硬化癥患者可以實現 10 個單詞/分 鐘的通信速度。
二十一世紀以來腦機接口技術高速成長,新范式、新算法、新設備層出不窮,早期范式性 能明顯提高。新型腦機接口實驗范式相繼涌現,如聽覺腦機接口、言語腦機接口、情感腦 機接口以及混合腦機接口。先進的腦電信號處理和機器學習算法被應用于腦機接口,如空 間模式算法、xDAWN 算法等,新型的腦信號獲取方法如功能核磁共振成像測量的血氧水平 依賴信號以及功能近紅外光譜測量的皮層組織血紅蛋白濃度等被用于構建非侵入式腦機接 口。除此之外,早期開發的基于 P300 和視覺誘發電位的腦機接口性能得到了明顯提高,并 在初步的臨床試驗中證明適用于肌萎縮側索硬化癥、腦卒中以及脊髓損傷患者。
近十年腦機接口研究范圍和規模持續擴大。規模上看,2018 年第七屆國際腦機接口會議聚 集了 221 個研究團隊。從技術普及方面看,消費級腦電傳感器和腦機接口系統問世并進入 市場,免費開源的腦機接口軟件也不斷更新,腦電信號處理算法的性能顯著提高,同時提 出了腦機接口人因工程,從用戶層面(即用戶體驗、心理狀態、用戶訓練)提高腦機接口 的滿意度和實用性。目前腦機接口應用已經超過臨床醫學領域,拓展應用到情緒識別、虛 擬現實和游戲等非醫學領域,被動腦機接口、協同腦機接口、互適應性腦機接口、認知腦 機接口、多人腦-腦接口等眾多范式涌顯。
應用場景#1:醫療健康領域是腦機接口當前最接近商業化的領域
腦機接口可以幫助實時監控和測量神經系統狀態,輔助臨床判讀。“監測”型腦機接口應用 方向十分多樣,包括評測陷入深度昏迷患者的意識等級,測量視/聽覺障礙患者神經通路狀 態協助醫生定位病因等等。除此之外,通過結合腦電、視頻等多元信息進行診療,能夠輔 助醫生判讀腦損傷、腦發育等多種臨床適應癥。
監測到的腦電信息可以用于加工、反饋,針對多動癥、中風、抑郁癥等做對應的恢復訓練。?例如,對于運動皮層相關部位受損的中風病人,腦機接口可以從受損的皮層區采集信號, 然后刺激失能肌肉或控制矯形器,改善手臂運動;運動想象類腦機接口可以用于孤獨癥兒 童的康復訓練,提升他們對于感覺運動皮層激活程度的自我控制能力,從而改善孤獨癥的 癥狀,也可以通過腦電信號的反饋,訓練使用者的專注力。
基于電、聲、光、磁刺激進行神經調控的腦機接口已經實現商業化。相關應用包括:通過 電刺激治療進行神經康復,主要針對腦卒中、 帕金森等中樞神經或周圍神經損傷所致的運 動功能障礙,如偏癱、肌萎縮、肌力低下、步行障礙、手功能障礙;通過顱磁刺激治療抑 郁癥,以及對腦卒中所致的言語功能障礙、吞咽障礙、認知功能障礙進行治療。經顱磁刺 激用于抑郁癥治療已在美國、 加拿大、新西蘭、以色列等國家明確獲批,與藥物治療相比, 經顱磁刺激具有副作用小、安全性高、無痛苦、不易成癮、不會影響認知功能等優勢。
非侵入式腦機接口智能義肢已經實現消費端使用。BrainCo 強腦科技在 2019 年推出世界上 第一款可以意識控制每一根手指的非侵入式智能仿生手后,在今年再次推出一款適合不同 傷殘等級的仿生腿產品。根據公司介紹,這款產品每秒可提取 2 萬個肌電神經電數據,因 此能快速、準確地識別用戶意圖,并根據環境、肌肉情況調整步態防止摔倒,實現高仿生 體驗,還能夠支持攀巖、涉水等多種復雜操作,為殘障人士創造高品質生活,拓展了腦機 接口技術在義肢方向的應用。
腦機接口也可以使喪失說話能力的人能夠恢復溝通能力。通過腦機接口輸出文字,或通過 語音合成器發生,幫助脊髓側索硬化癥患者、重癥肌無力患者、以及事故導致高位截癱患 者等重度運動障礙患者群體,通過腦機接口系統將自己腦中所想表達出來。
應用場景#2:消費電子與 AIoT 領域展開消費端應用
腦機接口技術可以與消費產品相結合,提供更直覺交互體驗。早在 2014 年,加難道公司 Thalmic Labs 就推出了一款臂帶式控制器 Myo,通過感知肌肉的生物電活動,可以讓使用 者只需要動動手指就可以無線控制身邊的計算機和其他數字產品。隨著技術的持續升級, 當前臂帶式控制器可以實現通過識別活動意念帶來的電流進行控制,意念打字、意念操作 玩具等已經不是幻想。
在腦機接口的支持下,游戲玩家可以用意念來控制 VR 界面的菜單導航和選項控制,獲得了 獨立于傳統游戲控制方式之外的新的操作體驗;同時人們也可以用意念控制開關等,甚至 控制家庭服務機器人,實現全新意義上的智能家居。
滲透率或隨 AR 及其他可穿戴產品普及持續提升。當前更加簡單形式的控制,比如眼動追 蹤攝像頭、觸摸控制等或限制腦機接口交互需求。我們認為未來隨著一系列可穿戴設備比 如 AR 眼鏡的普及,以及元宇宙的持續建設,基于腦機接口技術的消費電子產品滲透率將持 續提升。
今年以來,受到多國貨幣政策收緊和全球疫情反復的多重影響,加密市場轉入了劇烈的震蕩下行趨勢。根據CoinGecko的統計,6月14日加密市場的總市值跌破了1萬億美元關口,這是自2021年2月以來的.
1900/1/1 0:00:00作者:Bryan,Jiawei,IOSG VenturesdYdX離開Starkware的主要原因:Stark技術開發周期長、L2方案Node Operator網絡完全去中心化尚需時日、dYdX.
1900/1/1 0:00:00隨著加密領域和區塊鏈世界的不斷成熟,許多引人注目的用例正在接受考驗。今天我們看一下DAO。雖然DAO看起來有很多希望,但與其他通信和管理層次結構一樣,這種方法也有優點和缺點.
1900/1/1 0:00:002021年以來,全球NFT市場持續火爆,天價NFT作品屢見不鮮,各路名人大咖、企業機構紛紛入局。而數字藏品在國內也是“忽如一夜春風來”,呈現遍地開花之勢.
1900/1/1 0:00:00根據區塊鏈取證公司CipherTrace的數據,2021年和2022年第一季度的非法加密貨幣活動在整個加密貨幣活動中所占的比例已經下降了.
1900/1/1 0:00:00看歷史 NFT 圖表,從 8 月份開始一切都變了,NFT 市場再沒能達到去年 8-9 月份的銷量和用戶數。NFT 市場一整年都在努力回到原來的水平——即使已經很接近,但還沒有完全恢復.
1900/1/1 0:00:00