你是否曾渴望成為畫中人？或者是控制畫中物？增強現(xiàn)實（AR）作為新一代人機交互平臺，或許可以幫你實現(xiàn)這一愿望。

近日，卡爾加里大學、Adobe 研究中心和科羅拉多大學博爾德分校的研究人員創(chuàng)建了一個增強現(xiàn)實（AR）界面 RealitySketch，該界面可用于繪制交互式圖形和可視化、可響應的草圖。

相關研究以 “RealitySketch： Embedding Responsive Graphics and Visualizations in AR through Dynamic Sketching” 為題，發(fā)表在預印本平臺 arXiv 上。

該創(chuàng)新成果還在 ACM 用戶界面軟件和技術研討會（ACM Symposium on User Interface Software and Technology， UIST’20）上，獲得了最佳論文榮譽獎（Best Paper Honorable Mention）和最佳演示榮譽獎（Best Demo Honorable Mention）。

研究初衷：向學生解釋物理現(xiàn)象

近年來，交互式動態(tài)草圖一直是人機交互研究領域的核心主題之一，它通過對用戶進行交互式響應，使人們能夠通過一個動態(tài)的視覺媒介進行思考和交流。

盡管目前市場上基于 AR 的草繪界面不計其數(shù)，但迄今為止開發(fā)的大多數(shù)解決方案都專注于研究如何將靜態(tài)圖形嵌入到現(xiàn)實世界中。例如 Pronto、SybiosisSketch 和 PintAR，以及 Google 的 Just a Line 或 DoodleLens 等商業(yè)平臺。

如今，該研究團隊開發(fā)出了更加豐富的動態(tài)素描技術詞匯，可以動態(tài)地實時創(chuàng)建交互式的動畫內容。RealitySketch 平臺不僅允許用戶創(chuàng)建靜態(tài)草圖，還可以嵌入動態(tài)圖形和交互式圖形，這些圖形可以與用戶周圍的真實對象進行綁定，并對用戶的動作做出反應。

圖 ｜ RealitySketch 可以使用戶通過實時草圖繪制實現(xiàn)鐘擺運動等物理現(xiàn)象的可視化

想象一下，當我們在鐘擺上畫一條線，這條線隨著鐘擺的擺動而移動，這種交互式操作將鐘擺的運動進行可視化處理。就如上圖中右側曲線圖，形象地將鐘擺下方的位置進行了實時的繪制，這種抽象與現(xiàn)實的完美結合，幫助人們更好地理解物理現(xiàn)象。

該研究的作者之一 Ryo Suzuki 表示：“我們的項目初衷很簡單，就是通過 AR 交互式草圖繪制，使用戶能夠將現(xiàn)實世界進行可視化描繪。而這個想法最初來源于我們對物理課堂教育的觀察，在物理課堂中，老師指導的實驗課通常是物理學習的一個組成部分?！?/p>

向學生解釋物理現(xiàn)象有時是相當具有挑戰(zhàn)性的，因為要充分理解這些物理現(xiàn)象，需要學生們想象這些現(xiàn)象是如何發(fā)生的，以及它們是什么樣子的，而不是僅僅學習與之相關的理論知識。

而由 Suzuki 及其研究團隊共同創(chuàng)建的 AR 平臺 RealitySketch，允許用戶制作動態(tài)和響應式的圖形，這些圖形可以在黑板、墻壁或現(xiàn)實世界中的其他物體上進行可視化展現(xiàn)。

該平臺為學生們的物理學習提供了一個全新的窗口，可以幫助物理老師以動感十足的方式，讓學生直接觀察運動中的物理現(xiàn)象，從而可以幫助學生對課程所涵蓋的主題有更深的理解。

動態(tài)交互式可響應的圖形創(chuàng)建

RealitySketch 基于蘋果公司的 AR 開發(fā)平臺 Apple ARKit 研發(fā)，它可以將繪制的動態(tài)草圖嵌入到真實環(huán)境中。用戶首先通過手指或數(shù)碼筆在觸摸屏上繪圖，然后將他們繪制的草圖中的元素疊加到真實世界的攝影機視圖上。

Suzuki 說：“在過去，創(chuàng)建這樣的可視化場景會經歷很多耗時的環(huán)節(jié)，需要視頻編輯、后期制作等獨立的步驟。相比之下，我們想弄明白：當現(xiàn)實世界發(fā)生變化時，如果這些草圖元素能夠動態(tài)地做出反應，會怎么樣呢？＂

圖 ｜ 嵌入式和響應式草圖的潛在示例（綠色元素表示虛擬世界中的對象，黑色元素表示現(xiàn)實世界中的對象）

RealitySketch 最獨特的功能是：它利用交互技術，根據(jù)真實世界運動的草繪元素進行實時的動畫制作。

該方法可以保障用戶以用戶以實時和即興的方式，按照以下 4 個步驟來實現(xiàn)圖形的創(chuàng)建：

對象跟蹤：用戶首先要在真實世界的場景中，指定要跟蹤的視覺實體（例如，一個物理對象或一個骨骼關節(jié)）；參數(shù)化：然后，用戶通過繪制直線或弧線來定義感興趣的特定變量，從而對跟蹤的實體進行參數(shù)化；參數(shù)綁定：用戶將這些變量綁定到草圖元素的圖形屬性上（例如，長度、角度等），如此一來，當現(xiàn)實世界的變量發(fā)生變化時，就可以實時跟蹤其動態(tài)行為；可視化：用戶還可以通過幾種可視化效果來對現(xiàn)實世界的運動進行交互、分析和可視化處理。

Suzuki 解釋道：“RealitySketch 集成了物體追蹤和基于 AR 的可視化。首先，它利用計算機視覺技術來跟蹤物理對象。當用戶在 iPad 上點擊一個對象時，系統(tǒng)會根據(jù)物體的顏色來跟蹤該對象。所有的草繪元素都被綁定到了這些被追蹤的物體上，因此用戶對物體進行移動、拋出等操作時，草繪的元素也會根據(jù)預期表現(xiàn)出的運動進行動畫處理?！?/p>

AR 作為動態(tài)計算媒介，潛力巨大

為調查這一平臺的滿意度，研究人員招募卡爾加里大學的學生和老師參與評估調研，這些師生對 RealitySketch 非常滿意，并且似乎對其增強物理實驗的潛力感到特別興奮。

現(xiàn)在由于 COVID－19 在全球的大流行，很多學生都在網上上課，而 RealitySketch 界面的創(chuàng)建可能價值非凡。實際上，RealitySketch 可以使遠程教學更具吸引力，例如，它允許教師錄制動態(tài)的物理實驗視頻，并與學生進行分享，這樣他們就可以更好地理解老師在講課中描述的物理概念和現(xiàn)象。

除了在課堂環(huán)境中測試他們的平臺，研究人員還展示了 RealitySketch 在與教育無關的其他應用領域中的潛力。例如，他們展示了體育教練可以使用它來生成與健身有關的數(shù)據(jù)，并對其進行實時的可視化處理和分析。

圖 ｜ 為 RealitySketch 提議的應用場景的草圖

研究人員向籃球運動員展示了籃球的實時運動軌跡，通過對特定的身體姿勢制作可視化界面，使他們更加清晰的看到得分過程，也讓課堂更加引人入勝。

Suzuki 表示：“我們有興趣在將來進一步開發(fā)該項目，這是 Adobe Research（Rubaiat Habib Kazi，Wei－Yi，Stephen DiVerdi，Wilmot Li）與卡爾加里大學（我）、科羅拉多博爾德大學（我的博士博士生導師 Daniel Leithinger 教授）共同合作的成果。我們相信這項工作將激發(fā)更多支持沉浸式創(chuàng)意的研究和產品，并將充分實現(xiàn) AR 作為動態(tài)計算媒介的潛力?！?/p>

責任編輯：PSY