๐Tactile Genesis ๋ฆฌ๋ทฐ
์ ์: Trinity Chungโ , Kashu Yamazaki, Dhruv Patel, Alexis Duburcq, Yiling Qiao, Katerina Fragkiadaki, Aran Nayebi
Carnegie Mellon University ยท Genesis AI, arXiv preprint (cs.RO), 2026
- ๐ก ์ด๊ฐ ์ผ์๋ง๋ค ์ฌ์ค์ โ๋ค๋ฅธ ๋ก๋ดโ์ด ๋์ด ํ๋์จ์ด๋ก๋ ๊ณต์ ๋น๊ต๊ฐ ๋ถ๊ฐ๋ฅํ ๋ฌธ์ ๋ฅผ, GPU ๋ณ๋ ฌ ์ด๊ฐ ์ผ์ ์๋ฎฌ๋ ์ด์ ํ๋ซํผ Tactile Genesis๋ก ์ฎ๊ฒจ โ ์ ์ฑ ์ด ์ค์ ๋ก ์ด๋ค ์ด๊ฐ ์ถ์(abstraction)์ ํ์๋ก ํ๋๊ฐ, ๋ ํ๋ถํ ์ด๊ฐ์ฅ(field)์ด ํ๋์จ์ด ๋น์ฉ์ ์ ๋นํํ๋ ์์ ์ ์ธ์ ์ธ๊ฐ ๋ฅผ ํต์ ๋ ์คํ์ผ๋ก ๋ตํ๋ค.
- โ๏ธ ์ด์ง ์ ์ดยท์ ์ด ๊น์ดยทtaxel๋ณ ํ/ํ ํฌยท์๋ผ์คํ ๋จธ ๋ง์ปค ๋ณ์ยท๊ทผ์ (proximity)ยท๋ณต์ ์จ๋์ฅยท์ ์ด ์ค๋์ค๋ฅผ ํ๋์ ๊ณตํต ์ธํฐํ์ด์ค๋ก ๋ ธ์ถํ๊ณ (๋ฐฐ์นยทํด์๋ยทํ์ค์ ๋ ธ์ด์ฆ ๋ชจ๋ธ ๊ตฌ์ฑ ๊ฐ๋ฅ), Genesis World ๋ฌผ๋ฆฌ์์ง ์์์ ๋จ์ผ GPU๋ก 20,000+ ๋ณ๋ ฌ ํ๊ฒฝยท1,000+ taxel๊น์ง ํ์ฅ(๊ธฐ์กด ์ด๊ฐ ์๋ฎฌ ๋๋น ์ฒ๋ฆฌ๋ 3~20๋ฐฐ). ์ด ์์์ 3๊ฐ dexterous ํ์คํฌ์ ๋ํด ํน๊ถ(privileged) ๊ต์ฌโ์ด๊ฐ ํ์ ์ ์ฑ ์ distillํ๋ฉฐ ์ผ์ ์ข ๋ฅยท๋ฐฐ์นยทํด์๋ยท๋ ธ์ด์ฆ๋ฅผ ablationํ๊ณ ์ค๋ฌผ XHand1๋ก ์ ์ด๋ฅผ ๊ฒ์ฆํ๋ค.
- ๐ฏ (1) proprioception๋ง์ผ๋ก๋ ์ธ ํ์คํฌ ๋ชจ๋ ๋ถ์กฑ, (2) ์ผ์ ๋ฐฐ์น(placement)๊ฐ ์ผ์ ์ข ๋ฅ(type)๋ฅผ ์๋ โ ์ง๋ฌธ(fingertip)๋ง ๋ฎ์ผ๋ฉด ์ ์ (whole-hand) ์ปค๋ฒ๋ฆฌ์ง์ ํฌ๊ฒ ๋ค์ง๊ณ ์๋ฐ๋ฅ+๊ทผ์ ์ง๊ณจ์ ๋ํ๋ฉด ํน๊ถ ๊ต์ฌ์์ ๊ฒฉ์ฐจ ๋๋ถ๋ถ์ ๋ฉ์, (3) ํด์๋๋ ์ปค๋ฒ๋ฆฌ์ง๋ณด๋ค ํจ์ฌ ๋ ์ค์ โ ์ ์ ์ฒด์ 200 taxel์ด๋ฉด ์ถฉ๋ถ, (4) taxel๋ณ force/torque๊ฐ ๊ฐ์ฅ ์ผ๊ด๋๊ฒ ์ ์ฉํ ๊ธฐ๋ณธ ํํ.
๐ Ping Review
๐ Ping โ A light tap on the surface. Get the gist in seconds.
Dexterous manipulation์ ๋ณธ์ง์ ์ผ๋ก ์ ์ด์ด ํ๋ถํ(contact-rich) ์์ ์ด๋ค. ๋น์ ์ ์ ์ด ์ ์ ๋ฌผ์ฒด๋ฅผ ๊ตญ์ํํ๊ณ proprioception์ ๋ก๋ด ์์ ์ ์์ง์์ ์ถ์ ํ์ง๋ง, ์คํจ์ ์๋น์๋ ๋ ๋ชจ๋ฌ๋ฆฌํฐ๊ฐ ๊ด์ธกํ์ง ๋ชปํ๋ ๊ตญ์ ํ์ โ ๋ฏธ๋๋ฌ์ง(slip), ํ ํ์(force closure)์ ์์ค ์กฐ์ง, ๋ฌผ์ฒดโ์ ์ด๋์ ํ๋์กฐ, ๋ฏธ์ธํ ์ ์ด ํ์ด๋ฐ ์ค์ฐจ, ์ด์ง๋ฌ์ง ๋ฌผ์ฒด๋ค ์์ ์จ์ ์ ์ด โ ์์ ์ผ์ด๋๋ค. ๋ฐ๋ผ์ ๋ก๋ด ํ์ต์์์ ์ง๋ฌธ์ โ์ด๊ฐ์ด ๋์์ด ๋๋๊ฐ?โ๊ฐ ์๋๋ผ โ์ ์ฑ ์ด ์ด๋ค ์ข ๋ฅ์ ์ด๊ฐ ์ ๋ณด๋ฅผ ํ์๋ก ํ๋๊ฐ?โ ์ด๋ค.
์ด ์ง๋ฌธ์ ํ๋์จ์ด๋ก ๋ตํ๊ธฐ๋ ์ง๋ ํ ์ด๋ ต๋ค. ๊ฐ ์ผ์๊ฐ ์ฌ์ค์ ์๋ก์ด ๋ก๋ด์ ์ ์ํ๊ธฐ ๋๋ฌธ์ด๋ค(ํด์๋ยท๋์ญํญยท๋น์ฉยท๋ด๊ตฌ์ฑยท๋ฐฐ์ ยท์บ๋ฆฌ๋ธ๋ ์ด์ ยท์ง๋ฌธ vs ์ ์ ์ปค๋ฒ๋ฆฌ์ง๊ฐ ์ ๊ฐ๊ฐ). ํ ์ฐ๊ตฌ์ค์ด ์ผ์ํ๋ ์์ ์ฌ์/๋ง๋ค์ด๋ ๊ทธ ์์์ ๊ฐ์ dexterous ํ์ต ์คํ์ ๋ชจ๋ ๋์์ ๋ํด ๋ฐ๋ณตํ ์๋ ์๋ค. ์ ์๋ค์ ์ด ํต์ ๋ ๋น๊ต๋ฅผ ์๋ฎฌ๋ ์ด์ ์ผ๋ก ์ฎ๊ธด๋ค. ๋จ, ์๋ฎฌ ์ด๊ฐ์ด (a) ํ๋์จ์ด๋ก ์ ์ด๋ ๋งํผ ํ์ค์ ์ด๊ณ (b) ๋๊ท๋ชจ ์ ์ฑ ํ์ต์ ๊ฐ๋นํ ๋งํผ ๋นจ๋ผ์ผ ํ๋ค๋ ๋ ์กฐ๊ฑด ํ์์๋ค.

Tactile Genesis ๊ฐ์(Fig. 1). (a) ์ ์ด ๊น์ด ํ๋ก๋ธยทkinematic(6์ถ ํ/ํ ํฌ)ยท์๋ผ์คํ ๋จธยท๊ทผ์ ๋ฑ ์ผ์ ๋ฌผ๋ฆฌ๋ฅผ ์ค์ ์๋ ๋ก๊ทธ์ ๋ง์ถฐ ๊ตฌ์ฑ. (b) ์๋ฎฌ XHand1์ taxel๋ณ ์ด๊ฐ ํ ํ๋ ๊ณผ ์ค์ XHand1์ ์๊ฐ ๋น๊ต. (c) ๋๊ท๋ชจ ๋ณ๋ ฌํ, (d) ์์์ ๋ก๋ด ์(AllegroยทXHand1ยทInspireยทFrankaยทShadowโฆ), (e) ์์ ๋ฐฐ์น, (f) ์จ๋ยท์ค๋์ค ์ผ์๊น์ง ์ง์.
ํต์ฌ ๋ฐฉ๋ฒ๋ก :
Tactile Genesis๋ ์คํ์์ค Genesis World ๋ฌผ๋ฆฌ์์ง ์์ ์ด๊ฐ ์ผ์๋ฅผ ํตํฉํด, Table 1์ ์ผ์ ์ถ์๋ค์ ๊ณตํต ์ธํฐํ์ด์ค๋ก ๋ ธ์ถํ๋ค. ๋ชจ๋ ์ผ์๋ ๊ณตํต pose-and-radius ๊ธฐํ๋ฅผ ๊ณต์ ํ๊ณ ์์ ๋ก๋ด ํ๋ฉด์ ๋ถ์ฐฉ ๊ฐ๋ฅํ๋ฉฐ, clean/noisy ๋ ํ๋ ์ ๋ธ๋ค(๋ ธ์ด์ฆ ๋ชจ๋ธ: drift, hysteresis, dead taxel, crosstalk). ๋ํ์ ์ผ์(taxel ์ N):
- Contact Probe (N) โ ๊น์ด ์๊ณ๊ฐ+hysteresis๋ก ์ด์งํํ ์ ์ด
- Contact Depth Probe (N) โ SDF ๋๋ raycasting/sphere-triangle ๊ต์ฐจ๋ก ์ป์ ์์ ์ด ๊น์ด ์ค์นผ๋ผ
- Kinematic Taxel (N,6) โ SDF ๊น์ดยท์ ์ด ๋ฒ์ ยท๋ฌผ์ฒด์ ์ /๊ฐ์๋๋ก๋ถํฐ taxel๋ณ ํ/ํ ํฌ ์ถ์
- Proximity Taxel (N,6) โ ๊ฐ์ง ๊ฑฐ๋ฆฌ ๋ด ๋ฌผ์ฒด ํ๋ฉด ์ง๋์ point cloud๋ก ์ธก์ ํด ์ ํธ ๊ฐ๋, ๋ฌผ์ฒด ์๋๋ก ํ/ํ ํฌ ๊ณ์ฐ
- Elastomer Taxel (N,3) โ ๊ฐ์ง ํ๋ฉด์ ์๋ผ์คํ ๋จธ๋ก ๋ชจ๋ธ๋งํ XYZ ๋ง์ปค ๋ณ์
- Temperature Grid (N) โ ๋ณต์ ํ๋ ๋งํฌ ์ ์จ๋(ยฐC) โ ๋ก๋ด ํ์ต ๋ฌผ๋ฆฌ ์๋ฎฌ ์ต์ด
- Contact Audio (N,K) โ ์ฌ์ง ์์ฑ ๊ธฐ๋ฐ์ผ๋ก ํฉ์ฑ๋ ์คํ ๋น K๊ฐ ์ง๋ ์ํ
์ด ์์์ ๊ต์ฌโํ์(teacherโstudent) ํ์ต์ ๋๋ฆฐ๋ค. ํน๊ถ ๊ต์ฌ๋ ์ ์ฒด ๋ฌผ์ฒด ์ํ(privileged state)๋ก PPO(+RND ํํ ์์ค)๋ก ํ์ตํ๊ณ , ์ด๊ฐ ํ์์ ๊ทธ ํน๊ถ ์ํ๋ฅผ ์ด๊ฐ ๊ด์ธก ํ์ ํ๋๋ก ๋์ฒดํด ๊ต์ฌ ํ๋์ ๋ํ behavioral cloning(DAgger์ BC)์ผ๋ก distillํ๋ค. ์ฌ๊ธฐ์ ์ ์ฑ ์๋ ํํ์์ ํน๊ถ ๋ฌผ์ฒด ์ํ๋ฅผ ๋ณต์ํ๋ auxiliary decoder ์์ค์ ๋ํด ์ด๊ฐ ์ธ์ฝ๋๋ฅผ ์ ๊ทํํ๋ค(decoder๋ ๋ฐฐํฌ ์ ๋ฏธ์ฌ์ฉ):
\mathcal{L}_{\text{teacher}}=\mathcal{L}_{\text{PPO}}+\mathcal{L}_{\text{RND}},\qquad \mathcal{L}_{\text{student}}=\mathcal{L}_{\text{BC}}+\mathcal{L}_{\text{aux}}.
Table 2์ 8๊ฐ ์ด๊ฐ ๊ด์ธก ํ์
(+none proprioception-only ๋ฒ ์ด์ค๋ผ์ธ)์ ์ ์ฑ
๊ตฌ์กฐยทํ์คํฌยท์์ ๊ณ ์ ํ ์ฑ ์๋ก ๋ฐ๊ฟ๊ฐ๋ฉฐ ๋น๊ตํ๋ค: bool/agg_bool(์ด์ง ์ ์ด, per-taxel/per-link), depth/agg_force(์ ์ด ๊น์ดยท์ง๊ณ ํ), force/force_torque(kinematic taxel), elastomer(๋ง์ปค ๋ณ์), proximity(๊ทผ์ ํ/ํ ํฌ). agg_*๋ taxel ์ ํธ๋ฅผ ๋งํฌ๋น ๋จ์ผ ๊ฐ์ผ๋ก ์ง๊ณํด ์ค์ XHand1 ์ง๋ฌธ ํ์ผ์ ๊ดํ์ ๋ง์ถ ๊ฒ์ด๋ค.
์ฃผ์ ๊ฒฐ๊ณผ:
- ์ฒ๋ฆฌ๋(Fig. 3): ๋จ์ผ NVIDIA RTX A6000์์ 16,384 ํ๊ฒฝ์ ๋์ด ๋ณ๋ ฌํ, ์ด 150,000 environment steps/second(FPS) ๋ฌ์ฑ. ๊ธฐ์กด ์ด๊ฐ ์๋ฎฌ ๋๋น ์ฒ๋ฆฌ๋ 3~20๋ฐฐ, ํ๊ฒฝ๋น GPU ๋ฉ๋ชจ๋ฆฌ ์ฝ 5๋ฐฐ ์ ๊ฐ(Fig. 4).
- ์ ํ์ฐ๊ตฌ ๋๋น(Fig. 4): 5๊ฐ ContactDepthProbe๋ก 10,000 taxel์ผ ๋ FPS๋ Tacmap์ 20๋ฐฐ, ํ๊ฒฝ๋น GPU ๋ฉ๋ชจ๋ฆฌ 7๋ฐฐ ์ ์. ํ์ต๋ ๋ก๋ด์ ์ ์ฑ (5ร4=100 taxel ์๋ผ์คํ ๋จธ 5๊ฐ)์ ๋กค์์ํ ๋ ๋ณ๋ ฌ ํ๊ฒฝ์ด ๋์๋ก HydroShear๋ณด๋ค ๋์ FPS(1024 ํ๊ฒฝ์์ 1.6๋ฐฐ). TacSL ๋๋น ์ฝ 3๋ฐฐ ์ฒ๋ฆฌ๋์ด๋ฉฐ 16k ํ๊ฒฝ์์ OOM ์์ด ๊ตฌ๋.
- ์๋ผ์คํ ๋จธ ์ถฉ์ค๋(Fig. 2): ์ ์์
ElastomerTaxel์ HydroShear์ ์์ถ์ฑ ํญ๊ณผ clamped ๊ฒฝ๊ณ์กฐ๊ฑด์ ๋ํด ์ค์ GelSight ๋๋น ๋ง์ปค ๋ณ์ ์๋ RMSE๋ฅผ ๋ฎ์ถค โ dilate 0.514(FOTS)/0.403(HydroShear)/0.329(Ours), shear 0.210/0.217/0.174(Ours). - ์ด๊ฐ ํ์ ablation(Fig. 7):
none์ ์ธ ํ์คํฌ ๋ชจ๋ ๊ฐ์ฅ ๊ฐ์ผ ์ด์ง ์ ์ด ํ์์๊ฒ๋ ๋ค์ง. ์ง๋ฌธ๋ง โ ์ ์ ์ปค๋ฒ๋ฆฌ์ง๋ก ๊ฐ ๋ ๊ฒฉ์ฐจ๊ฐ ํฌ๊ฒ ์ขํ์ง๊ณ , ์๋ฐ๋ฅ+๊ทผ์ ์ง๊ณจ์ ๋ํ๋ฉด ํน๊ถ ๊ต์ฌ์์ ๊ฒฉ์ฐจ ๋๋ถ๋ถ์ ๋ฉ์. ํด์๋๋ ์ปค๋ฒ๋ฆฌ์ง๋ณด๋ค ํจ์ฌ ๋ ์ค์(์ ์ ์ฒด 200 taxel์ด๋ฉด ์ถฉ๋ถ). ํ์คํฌ ์ง๊ณ ์ per-taxelforce_torque๊ฐ ๋ชจ๋ ํ์ ์ ๋งค์นญ/๋ฅ๊ฐ. - ์จ๋ ํ์คํฌ(Fig. 6): proprioception+์จ๋๋ง์ผ๋ก 8๊ฐ ๊ณต ์ค ๋จ๊ฑฐ์ด ๊ณต ์ฐพ๊ธฐ โ ์ด์ ๋์จ 150(์๋ฃจ๋ฏธ๋)ยทemissivity 0.5(๊ฐ์ฒ )์์๋ง ์ฑ๊ณต. ํ์ฌ ์ค์ ์จ๋ ์ผ์์ ์ฌ์ง ํน์ฑ์ผ๋ก๋ ์คํจ.
- Sim-to-real:
in_palm_rotate์ ์ฑ ์ ์ค๋ฌผ XHand1(์ง๋ฌธ ์ง๊ณ ํ๋ง ๊ฐ์ง)์ ๋ฐฐํฌ โ ์ฑ๊ณต 1~2ํ๋ก, ์๋ฎฌ์ ์ง๋ฌธagg_boolํ์ ์ฑ๊ณต๋ฅ ๊ณผ ์ผ์น. ์๋ฎฌ ์ง๋ฌธ ์ถ์์ด ์ค์ผ์์ ์ถฉ์คํ ๋๋ฆฌ์์ ํ์ธ.
๊ฒฐ๋ก : Tactile Genesis๋ ๋ค์ํ ์ด๊ฐ ์ถ์์ ํ๋์ ๊ตฌ์ฑ ๊ฐ๋ฅํ ์ธํฐํ์ด์ค๋ก ํตํฉํ๊ณ ๋๊ท๋ชจ ๋ณ๋ ฌ๋ก ํ์ต ๊ฐ๋ฅํ๊ฒ ํ์ฌ, โ์ด๋ค ์ด๊ฐ ์ ๋ณด๊ฐ ์ด๋ค ํ์คํฌ์ ์ถฉ๋ถํ๊ฐโ๋ผ๋ ์ค๋ ์ด๋ฆฐ ์ง๋ฌธ์ ๋ํด ํต์ ๋ ์ ๋ ๋ต์ ์ ์ํ๋ค. ์ค๋ฌด ์ง์นจ์ ๋ช ํํ๋ค โ ๊ณ ๊ธ ์ง๋ฌธ ์ผ์์ ๋์ ์ฐ๊ธฐ ์ ์ ์๋ฐ๋ฅยท๊ทผ์ ์ง๊ณจ์ ๋ฎ์ด๋ผ, ๊ธฐ๋ณธ ํํ์ taxel๋ณ force/torque, ๋ค๊ฐ์ค๋ ๋ฌผ์ฒด๋ฅผ ๋ถ์ก๋ ํ์คํฌ๋ผ๋ฉด proximity ์ฑ๋์ ๊ณ ๋ คํ๋ผ. ์์ ๋์ ์ค๋๋ ์์ฉ ์ด๊ฐ ์ง๋ฌธ(์์ ํจ๋์ ํด์๋๋ฅผ ์ง์ค)์ ๊ดํ๊ณผ ์ ๋ฉด์ผ๋ก ๋ฐฐ์น๋๋ค.
๐ Ring Review
๐ Ring โ An idea that echoes. Grasp the core and its value.
ํ ์ค๋ก ์์ํ๋ฉด
โ์ด๋ค ์ด๊ฐ์ ์ด ๊ฒ์ธ๊ฐโ๋ฅผ ํ๋์จ์ด๊ฐ ์๋๋ผ ์๋ฎฌ๋ ์ด์ ์์ ํต์ ์คํ์ผ๋ก ๋ตํ๊ธฐ ์ํ GPU ๋ณ๋ ฌ ์ด๊ฐ ์ผ์ ํ๋ซํผ โ ์ผ์ ์ข ๋ฅยท๋ฐฐ์นยทํด์๋ยท๋ ธ์ด์ฆ๋ฅผ ์ยทํ์คํฌยท์ ์ฑ ๊ตฌ์กฐ๋ฅผ ๊ณ ์ ํ ์ฑ ํ๋์ฉ ๋ฐ๊ฟ๊ฐ๋ฉฐ, ๋ฐฐ์น๊ฐ ์ข ๋ฅ๋ฅผ ์๋ํ๊ณ force/torque๊ฐ ๊ฐํ ๊ธฐ๋ณธ๊ฐ์์ ๋ฐํ๋ค.
๋ฐฐ๊ฒฝ: ์ ์ด๊ฐ ๋น๊ต๊ฐ ์ด๋ ค์ด๊ฐ
์ด๊ฐ ํ๋์จ์ด๋ ์ ๋ฌ ์๋ฆฌ(transduction principle)๋ง๋ค ํด์๋ยท๋์ญํญยทํํ๋ฆฐํธยท๋น์ฉ์ด ์ ํ ๋ค๋ฅธ ์ด์ง์ ์งํฉ์ด๋ค. ์ฉ๋์ฑ ๋ฐฐ์ด(capacitive array)๊ณผ strain-gauge ์ง๋ฌธ์ ์ง์ ํ์ ์ฝ์ง๋ง ๋๊ฐ ์ง๋ฌธ์ ๊ตญํ๋๋ค. ReSkin ๊ฐ์ ์๊ธฐ(magnetic) ์คํจ์ magnetometer ๋ณ์๋ก ๋ณํ์ ๊ฐ์ ์ถ์ ํ๋ฉฐ ๋ฎ์ ํด์๋๋ก ๋์ ๋ฉด์ ์ ๋ฎ๋๋ค. GelSight๋ฅ vision-based ์๋ผ์คํ ๋จธ ์ผ์๋ ๋ฏธ์ธํ ํ๋ฉด ๋ณํ์ ์ ์ก์ง๋ง ๋ถํผ๊ฐ ํฌ๊ณ ํํํ ํจ๋์ ๊ตญํ๋๋ค. ๋ฉํฐ๋ชจ๋ฌ ์ง๋ฌธ์ ์ฌ๋ฌ ์ฑ๋์ ํฉ์น์ง๋ง ๋ฐฐ์ ยท์บ๋ฆฌ๋ธ๋ ์ด์ ๋น์ฉ์ด ํฌ๋ค. ๊ฒฐ๊ณผ์ ์ผ๋ก ๊ฐ์ ์ยท๊ฐ์ ํ์คํฌ์์ ์ผ์๋ฅผ apples-to-apples๋ก ๋น๊ตํ๋ ๊ฒ์ ํ๋์จ์ด๋ก๋ ๊ฑฐ์ ๋ถ๊ฐ๋ฅํ๋ค โ ๊ฐ ์ผ์๊ฐ ๋ค๋ฅธ ์์ ์ ์ํ๊ธฐ ๋๋ฌธ์ด๋ค.
์๋ฎฌ๋ ์ด์ ์ ์ด ์์ด๋ฒ๋ฆฐ ํต์ ๋น๊ต๋ฅผ ๋๋๋ ค์ฃผ์ง๋ง, ๋ ์กฐ๊ฑด์ ๋ง์กฑํด์ผ ํ๋ค. (1) ์ ์ด ๊ฐ๋ฅํ ๋งํผ ํ์ค์ ์ด๊ณ (2) ๋๊ท๋ชจ ์ ์ฑ ํ์ต์ ๊ฐ๋นํ ๋งํผ ๋นจ๋ผ์ผ ํ๋ค. ์ ํ ์ฐ๊ตฌ๋ ์ ์บ๋ฆฌ๋ธ๋ ์ด์ ๋ ์ด๊ฐ ์๋ฎฌ์ด visuotactile ์ผ์์ sim-to-real์ ์ง์ํ ์ ์์์ ๋ณด์๋ค. ์ด ๋ ผ๋ฌธ์ ์ฌ๊ธฐ์ ์๋ณด์ ์ธ ์ค๊ณ ์ง๋ฌธ์ ๋์ง๋ค: ์ฌ๋ฌ ์ด๊ฐ ์ถ์์ ๋๊ท๋ชจ๋ก ์๋ฎฌํ ์ ์๋ค๋ฉด, ์ด๋ค ์ด๊ฐ ํํ์ด ๋ฒ์ฉ dexterous ์กฐ์์ ํ์ตํ๊ธฐ์ ์ถฉ๋ถํ๊ฐ?
๋ฐฉ๋ฒ 1 โ ์ด๊ฐ ์ผ์ ์๋ฎฌ๋ ์ด์ (ยง3.1)
Tactile Genesis๋ ์คํ์์ค Genesis World ๋ฌผ๋ฆฌ์์ง ์์ ํตํฉ๋์ด, Table 1์ ์ผ์ ์ถ์๋ค์ ๋ ธ์ถํ๋ค. ์ด๊ฐ ์๋ฎฌ์ ํฌ๊ฒ ๋ ๊ณ์ด์ด๋ค โ FEM ๊ธฐ๋ฐ ์์ ๋ณํ ๋ฌผ๋ฆฌ(๋๋ฆผ)์, rigid-body ์๋ฎฌ + soft-contact ํ์ฒ๋ฆฌ(๋น ๋ฆ). ์ด ๋ ผ๋ฌธ์ ํ์(rigid-body ๊ณ์ด)์ ์ํ๋, ๊ธฐ์กด ์๋ฎฌ๋ค์ด ๊ฐ๊ฐ ๋จ์ผ ์ผ์ ํ์ ์ ์ปค๋ฐํ ๊ฒ๊ณผ ๋ฌ๋ฆฌ ์ด์ง ์ ์ดยท๊น์ดยทkinematic force/torqueยท์๋ผ์คํ ๋จธ ๋ณ์ยทproximity ๋ค์ฏ ์ถ์์ ํ๋์ ๊ณตํต ์ธํฐํ์ด์ค๋ก ๋ฌถ๊ณ , ์ฌ๊ธฐ์ ์จ๋ยท์ค๋์ค๊น์ง ๋ํ๋ค(์ ์ ์ฃผ์ฅ: ์ด ๋ค์ฏ ์ถ์์ ๊ณตํต ์ธํฐํ์ด์ค๋ก ์ ๊ณตํ๊ณ ์จ๋ ์ผ์๋ฅผ ๊ฐ์ง ์ ํ ์๋ฎฌ์ ์์ โ ๊ทธ๋์ ์ด ๋ ผ๋ฌธ์ ํํ ablation์ด ๊ฐ๋ฅํด์ง๋ค).
์๋ผ์คํ ๋จธ ์ผ์์ ์ถฉ์ค๋. ElastomerTaxel์ HydroShear๋ฅผ ๊ธฐ๋ฐ์ผ๋ก, ์๋ผ์คํ ๋จธ ์์ถ์ฑ ํญ๊ณผ clamped ๊ฒฝ๊ณ์กฐ๊ฑด์ ์ถ๊ฐํ๋ค. ์ด ๋ ํญ์ด ์ค์ GelSight ๋๋น ๋ง์ปค ๋ณ์ ์ค์ฐจ๋ฅผ dilationยทshear ๋ชจ๋์์ ๋ฎ์ถ๋ค.

์๋ผ์คํ ๋จธ ๋ง์ปค ์ด๋ ๋น๊ต(Fig. 2). ์ค์ GelSight vs FOTSยทHydroShearยท์ ์์ ElastomerTaxel์ dilation(๋ฒ์ ์์ )ยทshear(์ ์ ๋๋๊ทธ) ๋ง์ปค ๋ณ์์ฅ. ์ค๋ฅธ์ชฝ ํ(์๋ RMSEโ): dilate 0.329, shear 0.174๋ก ์ ์ ๋ฐฉ๋ฒ์ด ์ต์ (FOTSยทHydroShear ๋๋น).
์๋(Fig. 3, 4). ์ ํ ๋๋น ์ต๋ 20๋ฐฐ ์ฒ๋ฆฌ๋, ํ๊ฒฝ๋น GPU ๋ฉ๋ชจ๋ฆฌ ์ฝ 5๋ฐฐ ์ ๊ฐ์ ์ธ ๊ตฌํ ์ ํ์ผ๋ก ์ป๋๋ค:
- per-probe ์ปค๋์ probe์ ํ๊ฒฝ ๋ชจ๋์ ๋ํด ๋ฒกํฐํ โ ํ ๋ฒ์ launch๊ฐ ๋ฐฐ์น ์ ์ฒด๋ฅผ ์ปค๋ฒ(์ผ์๋ง๋ค ๋ฐ๋ณตํ์ง ์์).
- point-cloud ์ง์(SDF lookup, sphere-triangle ๊ต์ฐจ, proximity ์ด์ ํ์)๋ฅผ tracked ๊ธฐํ ์์ BVH(Bounding Volume Hierarchy)๋ก ๊ฐ์ โ ์ ์์ ๋ํด sublinear.
- ์๋ผ์คํ ๋จธ์ dilation ์ปค๋๊ณผ ๊ณต๊ฐ์ crosstalk ๋ชจ๋ธ์ ๊ท์น์ ํ๋ฉด taxel ๊ฒฉ์๋ฅผ ํ์ฉํด dense convolution์ ๋ถ๋ฆฌ ๊ฐ๋ฅ(separable) ์ปค๋์ 2D FFT๋ก ๋์ฒด.
์ด ์ธ ๊ฐ์ง๋ก 16,384 ๋ณ๋ ฌ ํ๊ฒฝ๊ณผ ์๋น 10,000+ taxel๊น์ง ํ์ฅ โ student-policy ํ์ต์ ํ์ํ ์์ญ์ด๋ค.

์ผ์ ํ์ ๋ณ ์ฑ๋ฅ ๋ฒค์น๋งํฌ(Fig. 3). NVIDIA RTX A6000์์ 512~16,384 ํ๊ฒฝ๊น์ง, ์ผ์ ํ์ (No SensorยทSurface DistanceยทContact DepthยทKinematicยทProximityยทElastomer)๊ณผ 1๊ฐ/5๊ฐ/๋ ธ์ด์ฆ ์ต์ ๋ณ FPS(์๋จ)ยทGPU ๋ฉ๋ชจ๋ฆฌ(ํ๋จ). 16k ํ๊ฒฝ ์ด๊ณผ์์ ์ด 150,000 FPS. ๋ ธ์ด์ฆยท์ผ์ ์ถ๊ฐ๋ ๋๋ถ๋ถ -10% FPS์ ์์ ์ค๋ฒํค๋, ์๋ผ์คํ ๋จธ๋ง ๊ตญ์ ๋ณ์๋ฅผ ์ผ์๋ง๋ค ๊ณ์ฐํด -22%.
๋ฐฉ๋ฒ 2 โ Dexterous ํ์คํฌ ํ์ต (ยง3.2)
๋ชฉํ๋ ํน์ ํ๋์จ์ด๊ฐ ์๋๋ผ ์ด๊ฐ ๊ด์ธก ํ์
์์ฒด๋ฅผ ๋น๊ตํ๋ ๊ฒ์ด๋ค. ์๋ฎฌ๋ ์ดํฐ ์์ค ์ผ์ ํด๋์ค๋ง๋ค downstream ํ์ฒ๋ฆฌ ์คํ
์ ๋ถ์ฌ 8๊ฐ ์ด๊ฐ ๊ด์ธก ํ์
+ none ๋ฒ ์ด์ค๋ผ์ธ(Table 2)์ ๋ง๋ ๋ค. agg_* ๋ณํ์ taxel ์ ํธ๋ฅผ ๋งํฌ๋น ๋จ์ผ ๊ฐ์ผ๋ก ์ง๊ณํด ์ค์ XHand1 ์ง๋ฌธ ํ์ผ์ ๊ดํ์ ์ฌํํ๊ณ , per-taxel ๋ณํ์ ์ ์ฒด ์ด๊ฐ์ฅ์ ์ ์ฑ
์ ๋
ธ์ถํ๋ค. ๋ฐฐ์นยทํด์๋ยท์ ์ฑ
๊ตฌ์กฐ๋ฅผ ๊ณ ์ ํ๋ฉด ์ถ์ ์์ฒด์ ํจ๊ณผ๋ง ๋ถ๋ฆฌ๋๋ค.
๊ต์ฌโํ์ ์ ์ (Fig. 5). ๊ฐ (ํ์คํฌ, ์) ์๋ง๋ค (1) ์ ์ฒด ๋ฌผ์ฒด ์ํ๋ฅผ ์ฐ๋ ํน๊ถ ๊ต์ฌ๋ฅผ PPO + MLP actor-critic์ผ๋ก ํ์ตํ๋ RND(Random Network Distillation) ์์ค๋ก ์ํ ํํ์ ๊ฐ์ํ๊ณ , (2) ํน๊ถ ์ํ ๊ทธ๋ฃน์ Table 2์ ์ด๊ฐ ๊ด์ธก ํ์ ํ๋๋ก ๋์ฒดํ ์ด๊ฐ ํ์์ distillํ๋ค. ํ์์ DAgger์ BC๋ก ๊ต์ฌ ํ๋์ ๋ชจ์ฌํ๊ณ , ์ถ๊ฐ๋ก ์ ์ฑ ์๋ ํํ์์ ๋ฌผ์ฒด ์ํ๋ฅผ ๋ณต์ํ๋ auxiliary head๋ฅผ ์ ๊ทํ๋ก ๋๋ค(๋ฐฐํฌ ์ ๋ฏธ์ฌ์ฉ). ๊ฐ ์ด๊ฐ ๊ด์ธก ๊ทธ๋ฃน์ ์์ฒด ์ํ MLP ์ธ์ฝ๋๋ฅผ ๊ฑฐ์ณ proprioception ํน์ง๊ณผ concat๋์ด ์ ์ฑ head๋ก ๋ค์ด๊ฐ๋ค.

๊ต์ฌโํ์ ํ์ต ์ ์ (Fig. 5). ์ผ์ชฝ: ํน๊ถ ๊ต์ฌ(GoalยทObject StateยทProprioception โ ฯ_T, Critic, \mathcal{L}_{PPO}+\mathcal{L}_{RND}). ์ค๋ฅธ์ชฝ: ์ด๊ฐ ํ์(Object State๋ฅผ Tactile Signals๋ก ๋์ฒด โ ฯ_S, \mathcal{L}_{BC}+\mathcal{L}_{aux}).
์ธ ํ์คํฌ(์๋ณด์ ์ ์ด ๋ ์ง).
in_palm_rotateโ ์๋ฐ๋ฅ ์ ๋ฌผ์ฒด๋ฅผ ์์ง๊ฐ ์ธ์ด ๋ด์ ์ฌ์ ํฅ. ์ ์ด ์ ์ ๋ฌผ์ฒด๋ฅผ ๊ตญ์ํํ๋ ๊ฒ์ด ์ ์ฉ(โ proximity๊ฐ ์ ๋ฆฌํ ์ฌ์ง).in_hand_reposeโ ์ฌ๋ฌ ์๊ฐ๋ฝ๊ณผ ๊ฑฐ์ ์ฐ์ ์ ์ดํ๋ฉฐ ๋ชฉํ ํฌ์ฆ๋ก ์ฌ๋ฐฐ์น. slip๊ณผ grip-strength ์ ํธ๊ฐ ์ง๋ฐฐ(โ force/torque๊ฐ ์ ๋ฆฌํ ์ฌ์ง).screwdriverโ ๋น ๋ฅธ ์๊ฐ๋ฝ gait๋ก ์คํฌ๋ฃจ๋๋ผ์ด๋ฒ๋ฅผ ๊ณ์ ๋๋ฆผ. ์ ์ด์ด ์งง๊ณ ๋น ๋ฅด๊ฒ ๋ณํจ.
๋ฐฐ์น 3์ข
(tips/fingers/hand) ร ํด์๋ 3๋จ๊ณ ร clean/noisy๋ฅผ sweepํ๋ค(์ ์ฒด ๋งคํธ๋ฆญ์ค๋ Appendix Table 10โ12).
๋ฐฉ๋ฒ 3 โ ์จ๋ ๊ฐ์ง๋ก ๋ฌผ์ฒด ๊ตฌ๋ณ (ยง3.3)
์จ๋๋ ๋ฌผ์ฒด๋ฅผ ๊ตฌ๋ณํ๋ ์ ์ฉํ ๋จ์์ผ ์ ์์ผ๋ ํ์ฌ ๋ก๋ด์ ์จ๋ ์ผ์๋ ์ฃผ๋ก ํ๋์จ์ด ๊ฑด๊ฐ ๋ชจ๋ํฐ๋ง์ฉ์ด๋ค(์ก์ถ์์ดํฐ ๋ฐ์ด). ์ ์๋ ์๋ฎฌ ์จ๋ ์ผ์๋ก โ๋ฌผ์ฒด๋ฅผ ๊ตฌ๋ณํ๋ ค๋ฉด ์ด๋ ์ ๋ ์จ๋ ๋ฏผ๊ฐ๋๊ฐ ํ์ํ๊ฐโ๋ฅผ ํ๊ตฌํ๋ค โ proprioception+์จ๋๋ง์ผ๋ก 8๊ฐ ๊ณต ์ค ๋จ๊ฑฐ์ด ๊ณต์ ์ฐพ๋ ํ์คํฌ. ์ด์ ๋์จ๊ณผ emissivity(๋ฐฉ์ฌ์จ)ยทheat generation์ ablationํ๋ค.
์ง๊ด: ์ ๋ฐฐ์น๊ฐ ์ข ๋ฅ๋ฅผ ์ด๊ธฐ๋๊ฐ
ํต์ฌ ์ง๊ด์ โ์ ์ฉํ ์ด๊ฐ ์ ๋ณด์ ์ง๋ฐฐ์ ์์ฒ์ ์ ์ด์ ๊ฑฐ์น ๊ณต๊ฐ ๋ถํฌ์ด์ง ๊ธฐ์ฌ(substrate)์ ๋ฏธ์ธ ์ญํ์ด ์๋๋คโ๋ผ๋ ๋ฐ๊ฒฌ์ด๋ค. ์ ์ ์ฒด ์ด๋๊ฐ ๋ฌผ์ฒด์ ๋ฟ์๋๊ฐ(coverage)๊ฐ, ๊ฐ ์ ์ด์ ์์ ํ์ ์ผ๋ง๋ ์ ๋ฐํ๊ฒ ์ฝ๋๋(resolutionยท๊ณ ๊ธ ์ผ์)๋ณด๋ค ํ์คํฌ ์ฑ๊ณต์ ๋ ๊ฒฐ์ ์ ์ด๋ค. ์ง๋ฌธ๋ง ์ผ์ํํ๋ฉด ์๋ฐ๋ฅยท๊ทผ์ ์ง๊ณจ์์ ์ผ์ด๋๋ ์ ์ด์ ์์ ๋ณด์ง ๋ชปํ๋ฏ๋ก ์ ๋ณด๊ฐ ๊ตฌ์กฐ์ ์ผ๋ก ๊ฒฐ์๋๋ค โ ๋ฐ๋ฉด ๊ฐ์ผ ์ด์ง ์ ์ด์ด๋ผ๋ ์ ์ ์ ๊น๋ฉด โ์ด๋๊ฐ ๋ฟ์๋๊ฐโ์ ์ง๋๋ฅผ ๋ณต์ํ๋ค. ์ด๋ rigid-body ์ด๊ฐ ์๋ฎฌ์ ๊ณ ๋ฌด์ ์ด๋ค: ๊ฐ์ฅ ๋น์ธ๊ฒ ์ถฉ์คํ ๋ชจ๋ธํด์ผ ํ substrate ๋ฌผ๋ฆฌ๊ฐ ์ ์ ํ์คํฌ ์ฑ๊ณต์๋ ๋ ์ค์ํ๊ธฐ ๋๋ฌธ์ด๋ค.
์คํ

์ด๊ฐ ํ์ ablation(Fig. 7). 3ํ์คํฌ(in_palm_rotateยทin_hand_reposeยทscrewdriver)์์ ์ด๊ฐ ๋ฐ์ดํฐ ํ์ (์๋จ, by Sensor Type: teacherยทnoneยทboolยทagg_boolยทforce_torqueยทforceยทdepthยทagg_forceยทproximityยทelastomer)๊ณผ ํด์๋ยท๋ ธ์ด์ฆ(ํ๋จ)๋ณ consecutive successes ํ์ต๊ณก์ . in_palm_rotate๋ ์ง๋ฌธ๋ง vs ์ ์ ์ฒด๋ฅผ ๋น๊ต.
Proprioception๋ง์ผ๋ก๋ ๋ถ์กฑํ๋ค. none ๋ฒ ์ด์ค๋ผ์ธ์ ์ธ ํ์คํฌ ๋ชจ๋ ๊ฐ์ฅ ๊ฐ์ผ ์ด์ง ์ ์ด ํ์์๊ฒ๋ ๋ค์ง๋ค. auxiliary state decoder๋ง์ผ๋ก๋ proprioception์์ ํ์คํฌ ๊ด๋ จ ๋ฌผ์ฒด ์ํ๋ฅผ ๋ณต์ํ์ง ๋ชปํ๋ฉฐ, ์๋ฏธ ์๋ ์ฑ๋ฅ์๋ ์ด๊ฐ ๊ทธ๋ฃน์ด ํ์ํ๋ค.
๋ฐฐ์น๊ฐ ์ข
๋ฅ๋ฅผ ์๋ํ๋ค. in_palm_rotate์์ ์ง๋ฌธ ํ์ (์ค๋๋ ์์ฉ ํ๋์จ์ด ๋๋ถ๋ถ์ด ์ง์ํ๋ ๋ฐฐ์น)์ ์ ์ ์ปค๋ฒ๋ฆฌ์ง์ ํฌ๊ฒ ๋ค์ง๋ค. ์๋ฐ๋ฅยท์ค์ง๊ณจ ํ๋ฉด์ ๋ํ๋ฉด ๊ฐ๋ณ์ ์ผ๋ก ์ ๋ณด๊ฐ ์ ์ ์ผ์ ํ์
์กฐ์ฐจ ํน๊ถ ๊ต์ฌ์์ ๊ฒฉ์ฐจ ๋๋ถ๋ถ์ ๋ฉ์ด๋ค. ์๋ฐ๋ฅยท๊ทผ์ ์ง๊ณจ์ taxel์ ์ถ๊ฐํ๋ ๊ฒ์ด, ๋ง์ง์์, ์ง๋ฌธ ์ผ์๋ฅผ ์
๊ทธ๋ ์ด๋ํ๋ ๊ฒ๋ณด๋ค ์ ์ฉํ๋ค.
์ต์ ์ ์ผ์ ํ์
์ ํ์คํฌ ์์กด์ , force/torque๊ฐ ๊ฐ๊ฑดํ ๊ธฐ๋ณธ๊ฐ. in_hand_repose(์ง๋ฐฐ์ ์คํจ = ์ด๊ธฐ ๋ฏธ๋๋ฌ์ง, incipient slip)์์๋ force_torque ํ์์ด ์ต๊ณ ์ด๋ฉฐ ์ด์งยท๊น์ด ๋ณํ๊ณผ ๋ช
ํํ ๋ถ๋ฆฌ๋๋ค. in_palm_rotate์์๋ proximity๊ฐ ์ ์ด-only๋ฅผ ์์ ๋ค โ ๊ฐ์ง ๋ฐ๊ฒฝ์ด ๋ค๊ฐ์ค๋ ๋ฌผ์ฒด๋ฅผ ์ง์ ์ ์ด ์ ์ ๋ฑ๋กํด ์์ง๊ฐ ํ์ ๋์ pre-shapeํ๊ฒ ํ๊ธฐ ๋๋ฌธ. screwdriver์์๋ ์ ์ด์ด ์งง๊ณ gait๊ฐ ๋นจ๋ผ ๋ชจ๋ ์ด๊ฐ ์ ํธ๊ฐ ๋น์ทํ๊ฒ ์๋ํ๊ณ ์ด๋ ๊ฒ๋ ๊ต์ฌ๋ฅผ saturateํ์ง ๋ชปํ๋ค(์ ์ ์ถ์ธก: ์ฌ๊ธฐ์ ๊ฒฐ์ ์ฑ๋์ ๋ค๋ฅธ ์ ์ด ์ถ์์ด ์๋๋ผ ์๊ฐ ์ ๋ถ ๋๋ ์๊ฐ ํผ๋๋ฐฑ). ํ์คํฌ ์ง๊ณ ์ per-taxel force_torque๊ฐ ๋ค๋ฅธ ๋ชจ๋ ํ์
์ ๋งค์นญ/๋ฅ๊ฐ โ ๊ถ์ฅ ๊ธฐ๋ณธ๊ฐ.
ํด์๋๋ ์ปค๋ฒ๋ฆฌ์ง๋ณด๋ค ํจ์ฌ ๋ ์ค์. ์ ์ ์ฒด์ 200 taxel์ด๋ฉด ํ์คํฌ ์ ๋ฐ์ ์ถฉ๋ถํ๋ค.
์๋ผ์คํ ๋จธ ๋ณ์๋ per-taxel ๊ตญ์์ฑ์ด ์ค์ํ ๋ ์ ์กฐ. elastomer ํ์์ in_palm_rotateยทin_hand_repose ๋ชจ๋์์ force_torque์ ๋ค์ง๋ค. ์ด์ ๋ ๊ธฐ์ฌ์ ๋ฌผ๋ฆฌ์ ์ฑ์ง์ ์๋ค โ ํ taxel์ ๋ง์ปค ๋ณ์๋ ๊ทธ ์ง์ ์ ์์
๋ฟ ์๋๋ผ ์ด์ taxel์ shear์ ํจ์๋ผ์, x ๋ฐฉํฅ ๋ณ์๊ฐ ์ธ์ dilation์ผ๋ก๋ ๊ตญ์ shear๋ก๋ ์๊ธธ ์ ์๋ค. ๊ฒฐ๊ณผ ์ ํธ๋ ๋ฌผ์ฒด ํ์ ํจ์น๋ฅผ ์ถ๋ก ํ๋ ๋ฐ(GelSight์ ์๋ ์ฉ๋) ์ ํฉํ์ง๋ง, in-hand ํ์คํฌ๊ฐ ํ์๋ก ํ๋ ๊ตญ์ ํ ๋ฒกํฐ๋ฅผ ์ฝ๋ ๋ฐ๋ ๋ ์ ํฉํ๋ค.

์จ๋ ์์ฑ ablation(Fig. 6). 8๊ฐ ๊ณต ์ค ๋จ๊ฑฐ์ด ๊ณต ์ฐพ๊ธฐ. ์ฒดํฌ๋ ์์ด ๋จ๊ฑฐ์ด ๊ณต๊ณผ ์ ์ด์ ์ ์งํ ๊ฒฝ์ฐ. emissivity 0.5(๊ฐ์ฒ )ยท0.85(๊ณ ๋ฌด), ์ด์ ๋์จ 1(์ ๋ฆฌ)ยท10(๊ฐ์ฒ )ยท100ยท150(์๋ฃจ๋ฏธ๋). ์ค์ง ์ด์ ๋์จ 150 + emissivity 0.5์์๋ง ์ฑ๊ณต โ ํ์ฌ ์ค์ ์จ๋ ์ผ์์ ์ฌ์ง ํน์ฑ์ผ๋ก๋ ์คํจ. ์ฐธ๊ณ ๋ก ์ธ์ฒด ํผ๋ถ๋ ์์ ์ ~60 W/mยฒ, ์ด๋ ์ 100โ600 W/mยฒ๋ฅผ ๋ฐฉ์ถํ๊ณ , ์ํ ์ก์ถ์์ดํฐ๋ ๊ณ ๋ถํ์์ 1,000โ5,000 W/mยฒ์ ์ด๋ฅธ๋ค.
์จ๋(Fig. 6). ๊ณ ๋ฏผ๊ฐ๋๊ฐ ๊ฒฐ์ ์ ์ด๋ฉฐ, ํ์ฌ ๋ก๋ด ์์ ์ค์ ์จ๋ ์ผ์ ์ฌ์ง ํน์ฑ์ผ๋ก๋ ์ด ํ์คํฌ์ ์คํจํ๋ค. ์ฆ ์จ๋๋ฅผ ์ ํจ ๊ฐ๊ฐ ์ฑ๋๋ก ์ฐ๋ ค๋ฉด ํ๋์จ์ด ์ด ํน์ฑ ์์ฒด๊ฐ ํฌ๊ฒ ๊ฐ์ ๋์ด์ผ ํ๋ค.
Sim-to-real ๊ฒ์ฆ. in_palm_rotate ์ ์ฑ
์ ์ค๋ฌผ XHand1(์ด๊ฐ์ ์ง๋ฌธ ์ง๊ณ ํ๋ฟ)์ ๋ฐฐํฌํ๋ฉด 2ํ ์ค ์ฝ 1ํ ์ฑ๊ณตํ๋ฉฐ, ์ด๋ ์ค์ง๋ฌธ ํ๋
์ ๊ฐ์ฅ ๊ทผ์ ํ๊ฒ ๋ฐ์ํ๋ ์๋ฎฌ ์ง๋ฌธ agg_bool ํ์์ ์ฑ๊ณต๋ฅ ๊ณผ ์ผ์นํ๋ค. Tactile Genesis์์ ํ์ตํ ์ ์ฑ
์ด ํ๋์จ์ด๋ก ์ ์ด๋๊ณ , ์๋ฎฌ ์ง๋ฌธ ์ถ์์ด ์ค์ผ์ ์ฑ๋ฅ์ ์์ธกํ๋ ์ถฉ์คํ ๋๋ฆฌ์์ ํ์ธํ๋ค.
๋นํ์ ์ผ๋ก ๋ณด๋ฉด
๊ฐ์
- ๋ฌธ์ ํ๋ ์ด๋ฐ์ด ์ ํํ๋ค. โ์ด๊ฐ์ด ๋์์ด ๋๋๊ฐโ๊ฐ ์๋๋ผ โ์ด๋ค ์ด๊ฐ์ด ์ด๋ค ํ์คํฌ์ ์ถฉ๋ถํ๊ฐโ๋ก ์ง๋ฌธ์ ์ขํ๊ณ , ํ๋์จ์ด๋ก๋ ๋ถ๊ฐ๋ฅํ ํต์ ๋น๊ต๋ฅผ ์๋ฎฌ๋ก ์ฎ๊ธด ์ค๊ณ ๋ ผ๋ฆฌ๊ฐ ๋ช ๋ฃํ๋ค. ์ยทํ์คํฌยท์ ์ฑ ์ ๊ณ ์ ํ๊ณ ์ด๊ฐ ์ถ์๋ง ๋ฐ๊พธ๋ ์คํ ์ค๊ณ๊ฐ ๊ฒฐ๋ก ์ ์ธ๊ณผ์ ํ์ ์ค๋ค.
- ์ค๋ฌด ์ง์นจ์ด ๋ฐ์ง๊ด์ ์ด๊ณ ๊ตฌ์ฒด์ ์ด๋ค. โ๊ณ ๊ธ ์ง๋ฌธ๋ณด๋ค ์๋ฐ๋ฅยท๊ทผ์ ์ง๊ณจ ์ปค๋ฒ๋ฆฌ์ง๊ฐ ๋จผ์ โ, โforce/torque๊ฐ ๊ธฐ๋ณธ๊ฐโ, โ200 taxel์ด๋ฉด ์ถฉ๋ถโ ๊ฐ์ ๊ฒฐ๋ก ์ ์์ฉ ์ด๊ฐ ์ง๋ฌธ์ de facto ๊ดํ(์์ ํจ๋ ํด์๋ ์ง์ค)๊ณผ ์ ๋ฉด์ผ๋ก ๋ถ๋ชํ๋ฉฐ, ํ๋์จ์ด ์ค๊ณ์์ ์ ์ฑ ๊ด์ธก ์ ํ ์์ชฝ์ ๋ฐ๋ก ์ ์ฉ ๊ฐ๋ฅํ ์ง์นจ์ด๋ค.
- ์์ง๋์ด๋ง ๊ธฐ์ฌ๊ฐ ๊ฒฌ๊ณ ํ๋ค. BVHยท2D FFTยทprobe/env ์ด์ค ๋ฒกํฐํ๋ก ์ป์ 3~20๋ฐฐ ์ฒ๋ฆฌ๋๊ณผ 5๋ฐฐ ๋ฉ๋ชจ๋ฆฌ ์ ๊ฐ์ TacmapยทHydroShearยทTacSL ๋๋น ์ ๋ ๋ฒค์น๋งํฌ(Fig. 4)๋ก ๋ท๋ฐ์นจ๋๋ค. ์๋ผ์คํ ๋จธ ์ถฉ์ค๋(Fig. 2)๋ ์ค GelSight ๋๋น RMSE๋ก ๊ฒ์ฆ.
- ์จ๋ ์ผ์๋ฅผ ๋ก๋ด ํ์ต ๋ฌผ๋ฆฌ ์๋ฎฌ์ ์ฒ์ ๋ฃ์ด โ๊ฐ๊ฐ์ผ๋ก์์ ์จ๋โ์ ํ๋์จ์ด ์๊ตฌ์กฐ๊ฑด์ ์ ๋ํํ ์ ์ ์ ์ ํ๋ค(ํ ํ๋์จ์ด๋ก๋ ๋ถ๊ฐํ๋ค๋ ๋ถ์ ๊ฒฐ๊ณผ ์์ฒด๊ฐ ์ ์ฉ).
์ฝ์ ยทํ๊ณ
- ํ์์ด ํน๊ถ ๊ต์ฌ์ ์ํ(bound)๋๋ค. ์ ์๊ฐ ๋ช
์ํ๋ฏ, ์ด๊ฐ ํ์์ ํน๊ถ ๊ต์ฌ๋ฅผ distillํ๋ฏ๋ก ๊ต์ฌ์ ์ ๋ต์ ๋ฌผ๋ ค๋ฐ๊ณ ๊ทธ๊ฒ์ ๊ฐํ๋ค. ์ฆ ๊ด์ธก๋ ์ฑ๋ฅ ์์๋ โ์ด๊ฐ์ด ๋ณธ์ง์ ์ผ๋ก ๋ฌด์์ ํ ์ ์๋๊ฐโ๊ฐ ์๋๋ผ โ๊ต์ฌ ์ ๋ต์ ์ด๊ฐ์ผ๋ก ์ผ๋ง๋ ๋ง์ถ ์ ์๋๊ฐ(match)โ๋ฅผ ์ธก์ ํ๋ค.
screwdriver์์ ์ด๋ค ์ด๊ฐ๋ ๊ต์ฌ๋ฅผ saturateํ์ง ๋ชปํ ๊ฒ์ด ๊ทธ ํ๊ณ์ ์งํ๋ค. - ํ์คํฌยท์ ํ๋ณธ์ด ์๋ค. 3๊ฐ ํ์คํฌ, ์ฌ์ค์ XHand1 ์ค์ฌ์ ๊ฒ์ฆ. โforce/torque๊ฐ ๊ธฐ๋ณธ๊ฐโ, โ200 taxel์ด๋ฉด ์ถฉ๋ถโ ๊ฐ์ ์ผ๋ฐํ ์ฃผ์ฅ์ด ์ด ์ข์ ํ๋ณธ์์ ์ผ๋ง๋ ๊ฒฌ๊ณ ํ์ง๋ ๋ ๋์ sweep์ด ํ์ํ๋ค(์ ์๋ future work๋ก ์ธ์ ).
- sim-to-real ๊ฒ์ฆ์ด ์๋ค. ์ค๋ฌผ ์ ์ด๋
in_palm_rotateํ ํ์คํฌยท์ง๋ฌธ ๋ฐฐ์น ํ ์กฐ๊ฑด์์ โ2ํ ์ค 1ํ ์ฑ๊ณตโ์ผ๋ก ์๋ฎฌ ์ง๋ฌธ ํ์๊ณผ ์ฑ๊ณต๋ฅ ์ด ์ผ์นํ๋ค๋ ์ ์ฑ์ ํ์ธ์ ๊ฐ๊น๋ค. ๋ ผ๋ฌธ์ ๊ฐ์ฅ ๋๋ฐ์ ์ฃผ์ฅ(์ ์ ์ปค๋ฒ๋ฆฌ์งยทforce/torque ์ฐ์)์ ์ ์ ์๋ฎฌ์์๋ง ์ ์ฆ๋๊ณ ์ค๋ฌผ ์ ์ ์ผ์๋ก๋ ๊ฒ์ฆ๋์ง ์์๋ค โ ์ค์ ์ ์ ์ด๊ฐ ํ๋์จ์ด๊ฐ ๋๋ฌผ๋ค๋ ํ์ค์ ์ ์ฝ ๋๋ฌธ์ด์ง๋ง, ๊ฒฐ๋ก ์ ํ๋์จ์ด ์ง์นจ์ผ๋ก์์ ๋ฌด๊ฒ๋ฅผ ๋ค์ ๋์ด๋ธ๋ค. - rigid-body + ํ์ฒ๋ฆฌ ๊ทผ์ฌ์ ๊ฒฝ๊ณ. โsubstrate ๋ฏธ์ธ์ญํ์ ๋ ์ค์ํ๋คโ๋ ๊ฒฐ๋ก ์ ํธ๋ฆฌํ๊ฒ๋ ์ด ์๋ฎฌ์ด ์ํ๋ ์์ญ๊ณผ ์ผ์นํ๋ค. FEM ์์ค์ ๋ณํ์ด ์ค์ ๋ก ์ค์ํ ํ์คํฌ(์: ๋ฏธ์ธ ์ง๊ฐ ํ๋ณ, ๋ถ๋๋ฌ์ด ๋ฌผ์ฒด์ ๋๋ณํ)์์๋ ์ด ๊ฒฐ๋ก ์ด ๋ค์งํ ์ ์์ผ๋ฉฐ, ์ด๋ ์๋ฎฌ ์ ํ๊ณผ ๊ฒฐ๋ก ์ด ์๋ก๋ฅผ ๊ฐํํ๋ ๊ตฌ์กฐ์ ํธํฅ์ผ ์ ์๋ค.
๊ด๋ จ ์ฐ๊ตฌ์์ ์๋ฆฌ ๋งค๊น
Tactile Genesis๋ rigid-body ์ด๊ฐ ์๋ฎฌ ๊ณ์ด์ ์ํ๋ฉฐ ์ฌ๋ฌ ์ ํ ์๋ฎฌ์ ํ๋์ ์ธํฐํ์ด์ค๋ก ํก์ยทํ์ฅํ๋ค. Tacmap ๋ฆฌ๋ทฐ(geometry-consistent penetration depth๋ก sim-to-real ๊ฒฉ์ฐจ๋ฅผ ์ขํ๋ ์ ์ด ๊น์ด ์๋ฎฌ)๋ ์ด ๋
ผ๋ฌธ์ด ์ง์ ๋ฒค์น๋งํฌ ๋์(Fig. 4d, ContactDepthProbe๊ฐ 20๋ฐฐ FPS)์ผ๋ก ์ผ์ ์ ํ์ด๊ณ , HydroShear(hydroelastic shear)๋ ์ ์ ElastomerTaxel์ ๊ธฐ๋ฐ์ด๋ค โ GPU ๋ณ๋ ฌ ์ ์ด ์๋ฎฌ ๊ด์ ์์๋ GPU-Accelerated Hydroelastic Contact ๋ฆฌ๋ทฐ์ ๋ฌธ์ ์์์ ๊ณต์ ํ๋ค. ์ด๊ฐ ์๋ฎฌ๋ ์ดํฐ ๊ณ๋ณด ๊ด์ ์์๋ TACTO ๋ฆฌ๋ทฐ(vision-based ์ด๊ฐ ๋ ๋๋ง ์๋ฎฌ)์ ๋๋น๋๋ฉฐ, ์ด ๋
ผ๋ฌธ์ RGB ์ด๊ฐ ์ด๋ฏธ์ง๋ฅผ ์ง์ ๋ ๋ํ์ง ์๊ณ ContactDepthProbe ๊น์ด์์ ์ ๋ํ ์ ์๋ค๊ณ ๋ณธ๋ค. ๋ค์ด์คํธ๋ฆผ ํ์คํฌ ์ธก๋ฉด์์๋ ์ด๊ฐ ๊ธฐ๋ฐ in-hand ์ฌ์ ํฅ์ ๊ต์ฌโํ์ RL๋ก sim-to-realํ RotateIt ๋ฆฌ๋ทฐ์ ๊ฐ์ ํ๋ฆ์ ์์, โ์ ์ฑ
์ด ํ์๋ก ํ๋ ์ด๊ฐ ํํโ์ ํํ ablation์ผ๋ก ํ๊ณ ๋ ๋ค๋ ์ ์ด ์ฐจ๋ณ์ ์ด๋ค.
์์ฝ
Tactile Genesis๋ ์ด๊ฐ ํ๋์จ์ด ์ ํ ๋ฌธ์ ๋ฅผ ์๋ฎฌ๋ ์ด์ ์ ํต์ ์คํ์ผ๋ก ์ฎ๊ธด ํ๋ซํผ์ด์ ์ค์ฆ ์ฐ๊ตฌ๋ค. ์ด์ง ์ ์ดยท๊น์ดยทforce/torqueยท์๋ผ์คํ ๋จธยทproximityยท์จ๋ยท์ค๋์ค๋ฅผ ๊ณตํต ์ธํฐํ์ด์ค๋ก ํตํฉํ๊ณ , BVHยท2D FFTยท์ด์ค ๋ฒกํฐํ๋ก ๋จ์ผ GPU์์ 20,000+ ํ๊ฒฝยท10,000+ taxel๊น์ง ํ์ฅ(์ ํ ๋๋น 3~20๋ฐฐ). ๊ต์ฌโํ์ distillation์ผ๋ก 3๊ฐ dexterous ํ์คํฌ์์ ์ผ์ ์ข ๋ฅยท๋ฐฐ์นยทํด์๋ยท๋ ธ์ด์ฆ๋ฅผ ablationํ ๊ฒฐ๊ณผ, ๋ฐฐ์น๊ฐ ์ข ๋ฅ๋ฅผ ์๋ํ๊ณ (์ง๋ฌธ<์ ์ ), ํด์๋๋ ๋ ์ค์ํ๋ฉฐ(200 taxel ์ถฉ๋ถ), per-taxel force/torque๊ฐ ๊ฐ๊ฑดํ ๊ธฐ๋ณธ๊ฐ์์ ๋ณด์ธ๋ค. ์ค๋ฌด ์ง์นจ โ ์ง๋ฌธ ์ ๊ทธ๋ ์ด๋๋ณด๋ค ์๋ฐ๋ฅยท๊ทผ์ ์ง๊ณจ ์ปค๋ฒ๋ฆฌ์ง ์ฐ์ โ ์ ์์ฉ ์ด๊ฐ ๊ดํ๊ณผ ๋ฐฐ์น๋๋ฉฐ ํ๋์จ์ด ์ค๊ณ์ ์ ์ฑ ๊ด์ธก ์ ํ ์์ชฝ์ ์์ฌ์ ์ ์ค๋ค. ๋ค๋ง ํ์์ด ํน๊ถ ๊ต์ฌ์ ์ํ๋๊ณ ์ค๋ฌผ ๊ฒ์ฆ์ด ์๋ค๋ ์ ์์, โ์ด๊ฐ์ด ๋ณธ์ง์ ์ผ๋ก ๋ฌด์์ ํ ์ ์๋๊ฐโ์ ๋ต์ด๋ผ๊ธฐ๋ณด๋ค๋ โ๊ต์ฌ ์ ๋ต์ ์ด๊ฐ์ผ๋ก ์ผ๋ง๋ ์ ๋์ฒดํ ์ ์๋๊ฐโ์ ์ ๊ตํ ์ง๋(map)๋ก ์ฝ๋ ๊ฒ์ด ์ ํํ๋ค.