為什麼VR中需要『觸覺』和『力反饋』?如何讓VR中產生『觸覺』和『力反饋』?
無論虛擬現實的音視效呈現的多麼逼真,但模擬更直接的觸覺顯然更加困難。
虛擬現實如何複製觸覺?一位德國研究員想出了一個天才般的方法這篇文章中呈現了模擬觸覺的一種思路。試問,目前對觸覺的模擬有哪些研究?
觸覺力反饋當然是有的!
做過一段時間觸覺反饋的設計應用,我也來寫點乾貨吧。
首先為什麼需要觸覺反饋
為了真實( ????? )
而且在某些可預期的應用裡面,觸覺反饋將會是重要甚至必需的信息,比如精細遙控外科手術,精密仿生義肢,不可描述類娛樂遊戲等。
接下來是如何產生觸覺反饋
其實對於VR觸覺模擬的研究已經有很多了,這裡挑一些基礎的說一下。另外由於我比較懶所以文中出現的中文術語都是自己任性翻譯的,還有未經允許不要轉載謝謝。
上來先說下我們組裡自己弄得一些有意思的應用吧,基本上用的設備是Phantom Omni,Novint Falcon 3D Touch以及Oculus rift。

這是同組的女生做的一個小project,Phantom可以接自己手指或者電容筆,然後藉助手指或者筆在一塊電容屏上觸摸,可以感受VR中預先設定幾種材料的質感,紋理,硬度。

我這種宅男就做了個飛船遊戲,畫質就不用看了反正我又不是做遊戲開發的 - - 重點是操縱飛船中能感受到星際間各種作用力比如隕石的碰撞力,黑洞和大質量行星的引力以及降落過程中大氣層內的各種風力等等。
第一人稱視角,以後把Oculus部分做好之後玩起來應該還是比較帶感的。
圖上不是我啊,我看上去有那麼宅嗎哼。
操縱設備用的是Novint Falcon 3D Touch,正好被這哥們擋住了。。。
他自己做的是一個感應溫度和阻力的滑鼠,沒有拍照,反正就是3D列印了一個滑鼠,加了溫度和振動配件,然後利用電磁鐵模擬阻力大小...相當於全部DIY沒有用到現成的觸覺反饋設備,這個我服。
好了下面簡單說一下觸覺反饋這個題目,我就寫個小paper好了。
概述
首先稍微解釋下觸覺和力反饋的概念,相較於聽覺或視覺而言,觸覺反饋(Haptic Feedback)確實更加複雜,所以導致極其難以高保真的模擬。而觸覺本身以及其對應的人類觸覺感知系統就是多種不同元素的混合體,簡單來說觸覺可以分為:
1.動覺(Kinesthetic Perception),如對力和力矩的感受。(感知物體形狀,重量,硬度等)
2.觸覺(Tactile Perception), 如對振動,溫度,切向力等的感受。(感知物體紋理,粗糙度,冷熱等)
在生活中我們一個簡單的觸覺感知往往都同時包含了上述多種信息,想想你牽著女朋友的手是不是軟軟暖暖輕輕小小毛絨絨五味俱全啊,如果是第一次碰到還會加上微微觸電的感覺呢。
這個例子除了虐狗還有一點就是說明我們一般感知到的觸覺就是包括了動覺和觸覺的,人類自帶的幾種觸覺感受器(如觸覺小體Meissner corpuscle, 巴氏小體Pacinian corpuscle,Merkel cell和 Ruffini ending這些我也看不懂的詞)也是協同作用的,獨立感知某一種特定反饋的情況很少(人體在麻醉的時候可以失去觸覺僅剩動覺感知),由此可見在VR中想百分百模擬出人類日常感受到的觸覺是很難的,除非黑科技把模擬觸覺信號直接連入用戶大腦。
現有常用的觸覺反饋設備一般也是側重於對於動覺的反饋。
1觸覺反饋設備與系統1.1觸覺反饋設備
現在市場上的觸覺反饋設備有很多,這裡就不細講了,貼個圖:

Figure1.1
為了反饋出三維空間內力和力矩,至少要求3個自由度的位置反饋和3個自由度的力反饋,比如Novint Falcon 3D Touch,除了自身的操縱桿,也可以外接其它設備:

Source:Novint Falcon
所以說現在遊戲工業是第一生產力啊,當然插些別的做其它逼真的模擬也是可以的,自己想像吧。
1.2觸覺反饋系統總的來說一個觸覺反饋系統的核心主要是兩點:觸碰檢測(Collision Detection) 和反饋(力)計算(Feedback Computation), 這兩步我們放在一個Haptic Rendering裡面完成。另外由於觸覺反饋的實時性,Haptic Rendering的更新頻率要求是很高的,我們一般取1kHz。如果更新頻率太低,會導致系統不穩定比如在反饋端用戶感受到的是震動而不是正常的受力情況。
話說回來觸覺反饋的應用還是得搭配上視覺反饋,否則只能看不能摸或者只能摸不能看,用戶玩的也不開心對不對。所以呢加上一個相適應的Visual Rendering,視覺反饋要求的更新頻率就可以低多了,一般小於300Hz即可。本身人眼視覺信息也是一幀幀的圖片嘛,連續性差一點也感覺不出。
還是上個圖吧:

Figure1.2
上圖是本地觸覺反饋系統的基本結構,但是觸覺反饋還有一個很重要的應用是遠程操控,比如遠程外科手術之類的,這就要求設置remote communication 比如client和server。這裡由於時間關係我也不講了。
隊友還等著打守望呢。
2 觸碰檢測(Collision Detection)接下來詳細講下觸覺反饋的兩個核心內容,觸碰檢測和反饋計算。
觸碰檢測是觸覺反饋的前提,因為如果沒有碰到你就不會有觸覺反饋(廢話)。
如果是簡單剛體的話是比較簡單進行觸碰檢測的,比如說在虛擬空間的球體,我們只要知道球心,半徑和虛擬感知器的位置就可以知道是否發生了觸碰,但如果是結構和曲率稍微複雜一些的物體我們就必須先分解建模了。
2.1 建模:三角劃分(Triangular Primitives)
對於虛擬空間中的複雜物體,是否發生觸碰是非常難和耗費計算資源的,因此選擇合適的建模很重要,否則延遲到想哭。一般我們可以採取多邊形或者三角形來分割構建物體的表面,正好拔了四粒智齒,我就拿chai3D里的牙齒來舉個例子。

Figure2.1.1
比如說我們想感受這顆牙齒的質感和形狀,基本視覺效果是這個樣子的,但是為了進行觸碰檢測,我們需要對其表面建模:

Figure2.1.2
看不清楚嗎,讓我們近距離看一下這顆牙:

Figure2.1.3
通過將牙齒表面劃分成一個個三角形(尤其是溝槽處這種複雜的地方),我們可以檢測出虛擬儀器與牙齒的觸碰位置(對應三角形區域)以及觸碰程度(深度),可見三角形越小,劃分越細,模擬效果越好,耗費計算資源越大。另外,為了模擬牙齒的質感(粗糙度),我們還在每一塊三角形上加上其force normal vector:
(這樣水平方向的力也能考慮進去----滑過牙齒表面的阻力)

Figure2.1.4
這樣對一顆牙齒質感及形狀進行觸覺反饋的前期工作就完成了~
2.2建模:層次劃分法(Hierarchical Bounding Representation)適用於更複雜的物體結構。
好累啊。
先空著。
3 力反饋計算 Feedback Force Computation觸覺反饋中溫度和振動這樣的信息還是能比較直觀地模擬出來的,接下來介紹幾種現實中常見力的反饋模擬模型和演算法,基本上可以滿足虛擬空間中我們想要的物體的觸覺反饋的屬性了。
3.1形狀感知首先觸覺反饋的基本內容之一就是通過觸覺你能感受到虛擬空間中物體的形狀,比如說藉助設備你可以感受一個籃球的大小或者一個方塊的形狀,稜角等信息。
還有一個概念需要先說明一下就是HIP 和IHIP,前者是Haptic Interaction Point, 對應虛擬空間中觸覺感知設備的實際位置,而後者是Ideal Haptic Interaction Point,對應觸覺感知設備視覺上的位置。由此我們可以確定觸碰的深度(depth),這往往用於判定反饋力的大小和方向。
VR中最簡單的剛體模型就是球體了,假設在VR中我們用一個質點去感受球體,那麼不管你在球體表面的哪個點發生碰觸,反饋到的力的方向為球心到觸碰點的連線,我們只需簡單定義力的標量大小即可。

Figure3.1.1
如圖,IHIP始終停留在球表面,正如我們不應穿透一個剛體。實際位置HIP可以在球的內部,HIP與IHIP連線即為穿透深度。最簡單的情形下設置力的大小為剛體系數乘以穿透深度,如果係數比較大,觸覺上我們會感覺這是一個硬硬的球,如果係數較小則是一個軟蛋。
同樣地我們可以模擬一個有稜有角的方塊:

Figure3.1.2
3.2形狀感知改進:God-object based haptic rendering如果將上述簡單模型應用在更加複雜的物件或者諸如薄板這樣的特殊物體上,由於沒有儲存接觸歷史(contact history),模擬效果有可能出問題,比如發生移動HIP的時候發現感知力的方向有了突變,或者觸摸平板的時候發生了穿透的感覺,因此可以用God-Object或者Proxy演算法來對上述方法進行改進。
寫的好累啊。
感覺還有好多講不完了
先空著吧。
3.3引力,斥力及重力模擬這裡也先空著 往下都是空著的目錄別翻了
哎你點個贊再走啊朋友
3.4摩擦力模擬及摩擦圓錐 Friction / Friction Cone Algorithm空著
3.5漸變力 Force Shading空著
3.6 黏度模擬 Viscosity空著
3.7 感知及傳輸數據優化:死區原理 Deadband Principal還是空著
參考列表 Reference- Rahul Chaudhari. Computational Haptics Laboratory. Institute for Media Technology, Technishe Universit?t München.
- Diego C. Ruspini, Krasimir Kolarov and Oussama Khatib. The Haptic Display of Complex Graphical Environments. Interval Research Corporation. Stanford University.
- Sean Quinlan. Efficient Distance Computation between Non-Convex Objects. Robotics Laboratory. Stanford University
- W.S.Harwin and N.Melder. Improved Haptic Rendering for Multi-Finger Manipulation Using Friction Cone based God-Objects. Department of Cybernetics, University of Reading.
- Cagatay Basdogan and Mandayam A.Srinivasan. Haptic Rendering in Virtual Environments. Jet Propulsion Laboratory, California Institute of Technology.
- C.B.Zilles and J.K.Slisbury. A Constraint-based God-Object Method for Haptic Display. Artificial Intelligence Laboratory, Massachusetts Institute of Technology.
剛好我們最近在做這樣的設備,計劃在VR世界中實現力反饋,並且讓操作者通過力反饋來實現觸感。這裡我們就把我們團隊的一些討論和思考整理在這裡,希望能和大家進一步的討論。
為什麼需要力反饋和觸感?
VR和其他環境最大的不同是帶來了一個世界,使用者第一次完整進入了虛擬世界中。在這個世界中,使用者像在現實世界一樣觀察著虛擬世界。
就像蘋果手機的解鎖操作一樣,使用者自然而然的順應直觀操作就可以掌握。在VR世界中,當他們像看著真實世界時,他們就會像在真實世界一樣,用真實的動作去解決問題。
而在現實中,人的肢體動作都是通過環境的觸覺反饋來實現操作的,就想方面的朋友舉例的那些,無論是趴在桌子上、拿起物品、移動物品,我們都是通過觸覺來實現操作的實施過程。而視覺只負責物品定位即可,就是我們上萬年進化獲得的一種高效的肢體協作方式。
如果虛擬世界缺乏觸覺,那麼就意味著所有的操作都需要視覺反覆確認,這樣會讓效率變低,甚至會有很多無效操作,因為視覺不但容易被遮擋,而且還難以做到同時兼顧多處。
所以觸覺是一種在環境條件約束下實現高效操作的必要手段。而在虛擬世界下,要同樣讓使用者自然、高效起來,就同樣必須實現在約束條件下的觸覺。那麼在虛擬環境下的觸覺實現手段就是針對用戶行為得力反饋了。
為什麼「震動」不能很好地實現力反饋?
通常來說,震動擁有很好的提醒效果,例如手機的震動,可以很好的提醒用戶。
但是在一個虛擬世界中,使用者如果在進行相對複雜的操作,他的注意力大多是分散的,這個時候震動作為一種提醒就變得含糊不清了。如果用VR實現對火災處理的模擬,無論是手柄震動還是緊身衣的震動,用戶估計都需要反應一下,才能明白震動對應的觸感內容。
或者在VR抓取的時候,震動提醒不能對用戶的動作產生約束效果,所以很容易出現交互上的誤差。如果用戶在進行一種精度比較高的操作的時候,震動還有可能是一種干擾。
現實世界,當用戶在觸摸一個物體的時候,很容易通過觸覺了解到一個物體大致的形狀。就算是機器貓那樣的小圓手也可以做到。而在虛擬世界中,震動提醒要做到這一點就非常困難,這也是因為震動提醒缺乏對用戶的約束能力造成的。
所以震動提醒會是一種好的輔助提醒,而非好的力反饋提醒。
為什麼需要全身性的力反饋設備?
目前大多數面向力反饋的操作設備都是針對手部的,是因為手對觸感是最敏銳的。不過我們選擇是製作全身性的力反饋設備。
因為VR世界最吸引人的是帶來了一個逼真的世界,使用者需要能像真實世界一樣,真正的用身體和整個世界互動起來,才能帶來最真實的體驗。
同時,現在VR世界的大部分手部操作,都是通過手柄完成的。我們將軀幹力反饋設備和手柄結合,來實現對物品抓取和使用中的力反饋模擬。並且通過對肢體動作的約束,實現手柄和環境的力反饋碰撞。

這是一個上半身的設計模型,未來將建立全身性的交互設備
這樣,虛擬世界的環境、物品就可以被真實的觸碰和感知了。
並且可以通過對肢體運動的特定約束,來實現對大型設備的模擬和支持。結合萬象跑步機,就實現了一個完整的VR操作倉。當然這是一個比較遠期的目標了。
要實現到什麼精度級別的力反饋?
人的觸覺是非常靈敏的,每個人都可以摸出硬幣兩面的不同。同時人的觸覺有事有很強適應性的,可以快速的習慣物品大致操作方式來使用物品。
在虛擬世界現有的技術條件下,我們很難做到對用戶肢體觸覺高精度的模擬。所以我們考慮的是滿足在現有內容下,實現滿足一些力反饋需要的支持。

我們正在製作的第一版硬體demo,目前還很粗糙
例如:
實現兵器格鬥模擬中,武器的簡單碰撞。
實現在射擊遊戲中,結合遊戲手柄,滿足不同武器的使用姿態。比如步槍的抵肩射擊姿態的模擬。
實現對平面的模擬,讓虛擬世界的平面可以支撐用戶。實現虛擬世界的桌面,牆面等環境。
甚至滿足在虛擬社交環境下,用戶和用戶之間的觸碰,比如握手、擁抱。

通過肢體約束來實現觸摸碰撞。(sw的模型調整起來太頭疼,請不要吐槽這個奇怪的手掌姿態。)
全身性得力反饋設備要需要那些技術儲備?
目前我們主要在進行硬體設計和demo開發工作,從目前的軟體結合來看,一些流行的物理引擎是足以滿足需要的,但是對計算量有了顯著提高。
從需求來看,我們並不是完成對現實世界的擬真,而是在虛擬世界實現用戶肢體和其他物品碰撞,約束用戶運動範圍,來實現用戶同過肢體來自然的和虛擬世界交互的設備。所以主要實現的是滿足用戶直觀操作和虛擬世界的交互的對應。
如果要建立完成的全身性的交互力反饋設備,實際上需要實現的是一整套交互外骨骼設備。在這套設備中,還需要有良好的行走支撐設備,將用戶安置在一個安全的運動範圍內,同時還需要一個支撐,來滿足一些設備姿態的模擬。

正在調試中的設備原型
我們現在還在非常早期的設計開發階段,所以也歡迎有興趣的朋友隨時和我們交流討論。其他一些內容我放在了專欄中,對這種交互方式有興趣的朋友也歡迎繼續交流
我所知道的做法有幾種。
1. 人推。好處:人力資源便宜的情況下很低成本。壞處:不靠譜。

2. 超聲波力反饋。好處:什麼都不用穿戴。壞處:力反饋弱,無法處理遮擋。
在某屆siggraph上看到過一個設備。手伸進去就能感到超聲波聚焦產生的壓力,但很微弱。
3. 穿戴式設備。就像 @dizzarz 的答案 https://zhihu.com/question/37552388/answer/157011400
如何讓VR中產生『觸覺』和『力反饋』?目前主要處在視覺和聽覺兩塊內容,相信下一步開發商會轉移到『觸覺』和『力反饋』等方面。當然,如高票答主所說,我們還需要摩擦力、慣性、重量以及指尖對物體的摩擦,手指對物體的位置方向調整。當今的水平,不可能在短時間內解決,但毫無例外的是,某些「野心勃勃」的研究團隊正在苦心鑽研,我們先來了解一下:①Tesla Studio公的Teslasuit套裝




















個人認為觸覺和力反饋是相當重要的,你是想要玩vr遊戲,講究的就是你自身來到一個完全虛擬世界的。
比如以後出了一個"侏羅紀公園"的遊戲,你要使用弓箭去進行自衛,這時候你連弓箭的重量,弓弦的緊繃都感受不到的話,會不會一秒齣戲。現在我在玩steam vr遊戲時,有一個射箭的遊戲,當我拉直弓箭的時候,手柄是會抖動的,這給了我一種身臨其境的感覺。當然我認為這樣還是不夠的。
什麼時候我能在虛擬世界中,撿起一塊磚頭,還會覺得跟現實生活中一樣重。恐龍把嘴對著你,你能聞到口臭了!太酷了好嗎!觸覺和力反饋都是現實中很重要的信息,但是目前因為技術限制所以沒有,不過如果沒有力反饋,就會給我們的交互帶來一系列的問題:1.反作用力和摩擦力2.重量3.指尖對物體的摩擦,手指對物體的位置方向調整4.慣性—————————————————————————————————————如果沒有觸覺,那就缺少了實在的感覺,你感覺自己的手是『麻木的』。而觸摸會讓一個物體感覺很厚實。



















- 屁股坐在椅上
- 背靠椅背
- 腳踩地面
- 手放在桌上
而這四種力反饋就能在VR中找到對應關係,所以就很舒服。

之前聽朋友說起過,有一個體驗是把體驗者關在一個鐵籠子里,可以想像一下在虛擬世界裡看到自己在海底的一個籠子里,籠子摸上去是真有,然後大鯊魚遊了過來!
力反饋、虛擬手套
人機交互,觸覺是更自然的一種方式。
東南大學機器人感測與控制研究所的科研團隊最近有了新進展:http://www.jiqiren.tv/touch-vr-robot.html
首先感謝邀請,在我了解的虛擬現實運用中,最多的感受來自於視覺的衝擊給大腦帶來的反應,如模擬器類的遊戲機,其中跳傘、蹦極、駕駛等無不利用視覺來增加深陷其中的逼真程度。看了推薦文章,裡面提到的觸覺可以說是在實現虛擬現實的器材上做了一些更新,適度的震動、敲擊、血壓儀一般的收緊等小動作都可以配合虛擬現實的場景讓一切變得更逼真。就像我們看的電影,從2D到3D、4D,甚至現在的7D這些一點一點實現的進步都讓我們嘆為觀止,以前的我們一定不能想像電影中美食的氣味真的可以飄出來進入我們的鼻腔,但現在已經有國外的公司實現了這個功能。或許以前的想像在不久的將來都會得到實現的。
王晉康的七重外殼裡是穿一身緊身衣 裡面有各種電極釋放刺激
當然是依靠Haptic Rendering啊
gloveone好像不錯吧,不過最近好像沒什麼消息了http://youtu.be/RAZidk_mPc8
對觸覺,我最近沒有深入研究,我們網站之前的這兩篇文章,你可以看看。Haptics技術:在觸屏上實現物理按鈕效果,VR沉浸式體驗進階。
如果淘寶買衣服不僅能夠提供衣服設計圖、ar試穿效果,還能夠提供觸覺增強的質感體驗,我會對淘寶購物更安心
對於力觸覺重構,有的專註於研究設備的研製,有的專註於力觸覺建模方法,如高票回答。還有一個研究方向,如何針對現實物體重構高真實度的力觸覺感受,也就是尋找真實物體交互動力學的準確參數。這三點如果都能做到,應該就可以摸到網上衣物了吧。因為不這麼做人會覺得不真實、沒有浸入感,甚至暈。
個人認為,腦機介面開發出來以前解決不了。
我的博士研究中做過相關研究,力反饋比較難,觸覺反饋可用震動電機通過不同頻率振動來反饋不同的觸覺。先碼,後面慢慢答
dw?x
這個問題就好像我要攔截人類所有正常的觸覺信號,然後通過計算機輸入信號給大腦,同時我還要保證運動神經的控制信號能被計算機捕獲,進行處理後再發給目標肌肉。如果能做到以上,其實eva都成現實了。
推薦閱讀:
※如何評價微軟在2015年新出的 Productivity Future Vision 視頻?
※你想像中的magic Leap的交互方式是怎樣的?
※要製作一款應用,需要如何從零開始學習編程?
※為什麼手機客戶端的搜索入口或者搜索框大部分都在頂部,在大屏手機中明顯是難點擊到的?
