๐Which Taxels ๋ฆฌ๋ทฐ
Taeyun Kim*, Jinsoo Shin, Taehwa Kim, Taeyoon Kim, Jinyoung Choi (*๊ต์ ์ ์)
NAVER LABS, arXiv preprint (cs.RO), 2026
- ๐ก ์๋ฎฌ๋ ์ด์ ์ด๊ฐ policy ์ฐ๊ตฌ๋ taxel์ ์ ํ๋ฉด์ uniformํ๊ฒ ๊น๋ ๊ฒ์ ๊ฒ์ฆ ์์ด ๊ธฐ๋ณธ๊ฐ์ผ๋ก ์จ ์๋ค. ์ด ๋ ผ๋ฌธ์ teacherยทํ์ต ์ ์ฐจยทํ๋ณด taxel 2000๊ฐ๋ฅผ ๋ชจ๋ ๊ณ ์ ํ๊ณ taxel์ ๊ณ ๋ฅด๋ ๊ท์น๊ณผ ์ ๋ ฅ ํํ๋ง ๋ฐ๊ฟ, ๊ทธ ๊ธฐ๋ณธ๊ฐ์ด ๋ฌด์์ ์จ๊ธฐ๊ณ ์๋์ง ์ฐ๋ค.
- โ๏ธ ์ด๊ฐ์ ๋ณด์ง ์๋ PPO teacher์ rollout์์ taxel๋ณ ์ ์ด ํต๊ณ๋ฅผ ๋ชจ์ผ๊ณ , ๊ทธ ํต๊ณ๋ก taxel B๊ฐ(10~300)๋ฅผ ๊ณ ๋ฅธ ๋ค(Top-contactยทContact-coverยทLink-proportional, ๋์กฐ๊ตฐ Least-contact) uniform๊ณผ ๋น๊ตํ๋ค. ํ์ policy๋ DAgger๋ก ๊ฐ์ teacher์์ distillํ๋ฉฐ, ํํ ์คํ์์๋ 2000๊ฐ ์ ๋ถ๋ฅผ ์ด ์ฑ tensor layout(RandomยทBandยทGrid)๊ณผ encoder(CNNยทLSTMยทLink-wise MLP)๋ง ๋ฐ๊พผ๋ค.
- ๐ฏ XHand1 In-Palm Rotation(LSTM, 3 seeds)์์ ์ ์ด ํต๊ณ๋ก ๊ณ ๋ฅธ 25๊ฐ(Top-contact 50.5%)๊ฐ uniform 100๊ฐ(51.4%)์ ๊ฐ์ ์ฑ๊ณต๋ฅ ์ ๋ด๊ณ , uniform 10ยท15๊ฐ์ Least-contact๋ ์ด๊ฐ ์๋ ํ์๊ณผ ๊ฐ์ 0.0%๋ค. 2000๊ฐ๋ฅผ ๋ค ์ฐ๋ฉด layout์ CNN์์๋ ์ฑ๋ฅ์ ๋ฐ๊พธ์ง ์๋๋ค(61.3~64.3%). ๋ค๋ง Grasp-and-Lift(SharpaยทAllegro)์์๋ ๊ฒฝํฅ์ด ๋ฌ๋ผ์ ธ Top-contact๊ฐ uniform์ ์ด๊ธฐ์ง ๋ชปํ๋ค.
๐ Ping Review
๐ Ping โ A light tap on the surface. Get the gist in seconds.
์ด๊ฐ policy๋ฅผ ํ์ตํ๊ธฐ ์ ์ ์ด๋ฏธ ์ ํด์ง๋ ๊ฒ๋ค์ด ์๋ค. ์ด๋ค ์ผ์๋ฅผ ๊ด์ธก์ ๋ฃ์์ง, ๊ทธ ์ผ์๋ฅผ ์์ ์ด๋์ ๋์ง, ๊ทธ ๊ฐ์ encoder๊ฐ ์ฝ์ tensor์ ์ด๋ค ์์๋ก ๋ฃ์์ง๋ค. ์๋ฎฌ๋ ์ด์ ์ฐ๊ตฌ๋ โ์ ์ฑ ์ด ์ด๋๋ฅผ ๋ง์ง์ง ๋ชจ๋ฅธ๋คโ๋ ์ด์ ๋ก taxel์ ์ ์ ์ฒด์ uniformํ๊ฒ ๊น์ ์๊ณ , ์ด ๊ดํ์ด ๊ฒ์ฆ ์์ด ๊ธฐ๋ณธ๊ฐ์ด ๋๋ค. ์ ์๋ค์ ์ด ๊ธฐ๋ณธ๊ฐ์ ํ๋์ ํต์ ๋ ํ๋กํ ์ฝ ์์์ ์ํํ๋ค. teacher, ํ์ต ์ ์ฐจ, ํ๋ณด taxel ์งํฉ(๋งํฌ ํ๋ฉด์ Poisson-disk sampling์ผ๋ก ๋ฟ๋ฆฐ N=2000๊ฐ)์ ๋ชจ๋ ๊ณ ์ ํ๊ณ , taxel์ ๊ณ ๋ฅด๋ ๊ท์น๊ณผ ๊ฐ์, ๊ทธ๋ฆฌ๊ณ ํํ๋ง ๋ฐ๊พผ๋ค.
๊ธฐ์กด ๋น๊ต์ ๊ฒฐ์ ์ ์ผ๋ก ๋ค๋ฅธ ์ ์ ๋น๊ต ๋จ์๋ค. Tactile Genesis๋ fingertip ๋ฐฐ์น์ ์ ์ ์ฒด ๋ฐฐ์น๋ฅผ ๋น๊ตํ์ง๋ง ๋ ์กฐ๊ฑด์ taxel ์๋ถํฐ ๋ฌ๋๋ค. ์ด ๋ ผ๋ฌธ์ ํ๋ณด ์งํฉ๊ณผ taxel ์ B๋ฅผ ๊ฐ๊ฒ ๋๊ณ ์ ํ ๊ท์น๋ง ๋ค๋ฅด๊ฒ ํ๋ค. ๊ทธ๋์ โ๋ช ๊ฐ๋โ์ โ์ด๋ ๊ฒ์ด๋โ๊ฐ ์ฒ์์ผ๋ก ๋ถ๋ฆฌ๋๋ค.

Fig. 2. XHand1 In-Palm Rotation์ taxel placement. ์ผ์ชฝ์ teacher ฯ_T๊ฐ ๊ฐ ํ๋ณด taxel์์ ์ ์ดํ ๋น๋(์์ด ์งํ ์๋ก ์์ฃผ ์ ์ด, ํ์์ 10โปโด ๋ฏธ๋ง), ์ค๋ฅธ์ชฝ์ B=100์ผ ๋ ๋ค ๊ฐ์ง ๊ท์น์ด ๊ณ ๋ฅธ taxel์ด๋ค. ์ด ๊ณผ์ ์์๋ ์์งยท์ค์งยท์๋ฐ๋ฅ๋ง ์ฐ๊ณ , ํ๋ฆฌ๊ฒ ๊ทธ๋ฆฐ ์๊ฐ๋ฝ์ ์ฐ์ง ์๋๋ค.
ํต์ฌ ๋ฐฉ๋ฒ๋ก :
๊ฐ ๊ณผ์ ๋ POMDP๋ก ๋๊ณ ๋ ๋จ๊ณ๋ก ํ์ตํ๋ค. ๋จผ์ ๊ด์ธกํ ์ ์๋ ๋ฌผ์ฒด ์์ฑ(privileged)์ ๋ฐ๋ teacher \pi_T๋ฅผ PPO๋ก ํ์ตํ๋ค. teacher๋ ์ด๊ฐ์ ๋ฐ์ง ์์ผ๋ฏ๋ก ๊ทธ ์ ์ด ์์น๋ taxel placement์ ๋ฌด๊ดํ๋ค. ๋ค์์ผ๋ก ๋ฐฐํฌ ๋ ์ธ ์ ์๋ ๊ด์ธก(๊ด์ ์ํ ์ด๋ ฅ, ๋ชฉํ, ์ด๊ฐ o^{\mathrm{tac}}_t)๋ง ๋ฐ๋ ํ์ \pi_S๋ฅผ DAgger๋ก distillํ๋ค.
\min_{\pi_S}\; \mathbb{E}\left[\left\lVert \pi_S(o_{1:t}) - \pi_T(s_t) \right\rVert_2^2\right]
๊ธฐ๋๊ฐ์ \pi_S๊ฐ ๋ฐฉ๋ฌธํ ์ํ์ ๋ํด ์ก๋๋ค. ๋ชจ๋ ํ์์ ๊ฐ์ \pi_T์์ distill๋๊ณ ์ด๊ฐ ๊ด์ธก๊ณผ ๊ทธ encoder๋ง ๋ค๋ฅด๋ค.
taxel i๋ ์๊ธฐ ๋งํฌ ์ขํ๊ณ์ ํยทํ ํฌ x_{i,t}\in\mathbb{R}^6๋ฅผ ์ฐ๋ค. \mathcal{E}_i๋ฅผ teacher rollout์์ taxel i๊ฐ 0์ด ์๋ ๊ฐ์ ๋ธ timestep ์งํฉ์ด๋ผ ํ๋ฉด, ์ ํ ๊ท์น์ ์ด ํต๊ณ๋ฅผ ์ด๋ป๊ฒ ์ฐ๋๋๋ก ๊ฐ๋ฆฐ๋ค. Top-contact๋ |\mathcal{E}_i|๊ฐ ํฐ ์์๋ก B๊ฐ, Contact-cover๋ ๊ฐ์ ๋งํฌ์์ ์์ง ์กํ์ง ์์ ์ ์ด ์ด๋ฒคํธ๋ฅผ ๊ฐ์ฅ ๋ง์ด ์ก๋ taxel์ greedyํ๊ฒ, Link-proportional์ ๋งํฌ๋ณ ์ ์ด ๋น์ค๋๋ก ๊ฐ์๋ฅผ ๋๋๋ค. Uniform์ ๊ณผ์ ์ ๋ณด ์์ด ๋งํฌ๋ณ ํ๋ณด ์์ ๋น๋กํด ๋๋๊ณ , Least-contact๋ ์ ์ด์ ๋์ง๋ง |\mathcal{E}_i|๊ฐ ๊ฐ์ฅ ์์ taxel์ ๊ณ ๋ฅด๋ ๋์กฐ๊ตฐ์ด๋ค.
์ฃผ์ ๊ฒฐ๊ณผ:
- In-Palm Rotation, XHand1, LSTM, 3 seeds (Table 1): Top-contact B=10์ด 41.4%์ธ๋ฐ Uniform์ B=10ยท15์์ 0.0%, B=100์์์ผ 51.4%๋ค. Top-contact B=25(50.5%)๊ฐ Uniform B=100๊ณผ ๊ฐ๊ณ , Top-contact B=75(59.5%)๋ Uniform B=300(56.2%)์ ๋ค์ง์ง ์๋๋ค. 2000๊ฐ ์ ๋ถ๋ 61.5%, teacher๋ 93.8%๋ค.
- ์ด๊ฐ์ด ์๋ ๊ฒ๊ณผ ๊ฐ์ taxel: Least-contact(B=50ยท100)๋ 0.0%๋ก, ์ด๊ฐ ์๋ ํ์(0.0%)๊ณผ ๊ฐ๋ค. ๊ณต๊ฐ ํด์๋ ์๋ Per-link force๋ 4.4%๋ค.
- Grasp-and-Lift, SharpaยทAllegro (Table 2): ๊ฒฝํฅ์ด ๋ฐ๋๋ค. ๋ฎ์ B์์๋ ๋ฐฉ๋ฒ๋ผ๋ฆฌ ์ฐจ์ด๊ฐ ์๊ณ ๊ฐ์ฅ ํฐ B=300์์ ๊ฐ๋ฆฐ๋ค. Contact-cover๊ฐ ๋ ์ ๋ชจ๋์์ Uniform๋ณด๋ค ๋๊ณ (Sharpa 57.0 vs 42.6, Allegro 72.2 vs 57.0), Top-contact๋ Sharpa B=300์์ 27.0%๋ก Uniform๋ณด๋ค ํฌ๊ฒ ๋ฎ์ผ๋ฉฐ Allegro B=25์์๋ ์ด๊ฐ ์๋ ํ์๊ณผ ๊ฐ๋ค(22.8 vs 22.9).
- ํํ (Table 3): 2000๊ฐ๋ฅผ ๋ค ์ฐ๋ฉด CNN์ Random 61.4 / Band 64.3 / Grid 61.3, LSTM์ 60.8 / 58.0 / 61.5๋ก layout ์ฐจ์ด๊ฐ ์๋ค. taxel์ ์ ์ฒด์ฑ(identity)์ ์ง์ฐ๋ Link-wise MLP๋ง 18.6~33.2%๋ก ํฌ๊ฒ ๋จ์ด์ง๋ค.
- ๋น์ฉ (Table 4, H100, 2048 env): ์ฑ๊ณต๋ฅ ์ด ํฌํํ๋ B=100๋ง ์๋ฎฌ๋ ์ด์ ํ๋ฉด 29,503 env-steps/s๋ก, ์ด ๋ ผ๋ฌธ์ด ์ค์ ๋ก ํ์ต์ ์ด full observation(5,610)๋ณด๋ค 5.3๋ฐฐ ๋น ๋ฅด๋ค.
๊ฒฐ๋ก :
์ด ๋ ผ๋ฌธ์ ๋ฉ์์ง๋ โ์ด๊ฐ ์ ํธ๋ ์ ์ด์ด ์ผ์ด๋๋ ๊ณณ์์๋ง ์ ๋ณด๋ฅผ ์ค๋คโ๋ ํ ๋ฌธ์ฅ์ผ๋ก ๋ชจ์ธ๋ค. uniform placement๋ ์ด ์ฑ์ง์ ๋ฌด์ํ๋ฏ๋ก, ๋๋ถ๋ถ์ taxel์ด 0์ ๋ด๋ ๋์ taxel ์๋ง ๋๋ ค ๊ณผ์ ๊ฐ ์ค์ ๋ก ์๊ตฌํ๋ ์๋ฅผ ๊ณผ๋ํ๊ฐํ๋ค. ๊ทธ ์ฆ๊ฑฐ๋ XHand1 In-Palm Rotation ํ ๊ณผ์ ยทํ ์์์ ๊ฐ์ฅ ๊นจ๋ํ๊ณ , ์ ์ ์ค์ค๋ก โ์ ์ด์ด ๋ช ๊ฐ ๋งํฌ์ ๋ชฐ๋ฆฌ๋ ํ ์ยทํ ๊ณผ์ ์์ ๋์จ ๊ตํโ์ด๋ผ๊ณ ๋ฒ์๋ฅผ ๊ธ๋๋ค. Grasp-and-Lift์์๋ Top-contact๊ฐ ์คํจํ๊ณ โ์ ์ดํ ๋งํฌ๋ฅผ ๋น ์ง์์ด ๋ฎ๋ ๊ฒโ์ด ๋ ์ค์ํด์ง๋ค. ๊ทธ๋์ ์ค๋ฌด ๋ฉ์์ง๋ โ์์ฃผ ๋ฟ๋ ๊ณณ์ ๋ชฐ์๋ผโ๊ฐ ์๋๋ผ โteacher ์ ์ด ํต๊ณ๋ฅผ ๋จผ์ ๋ณด๊ณ , ๋ฟ๋ ๋งํฌ๋ฅผ ๋ฎ๋๋ก ๊ณจ๋ผ๋ผโ์ ๊ฐ๊น๋ค. ๋ถ๋ก์๋ ์ด๊ฐ policy ์ฐ๊ตฌ๊ฐ ๋ณด๊ณ ํด์ผ ํ ์ค๊ณ ์ ํ์ checklist(Table 5)๊ฐ ๋ถ์ด ์๋ค.
๐ Ring Review
๐ Ring โ An idea that echoes. Grasp the core and its value.
ํ ์ค๋ก ์์ํ๋ฉด
๊ฐ์ teacher, ๊ฐ์ ํ์ต ์ ์ฐจ, ๊ฐ์ ํ๋ณด taxel 2000๊ฐ๋ฅผ ๋๊ณ โ์ด๋ค B๊ฐ๋ฅผ ๊ณ ๋ฅด๋๋โ๋ง ๋ฐ๊ฟจ๋๋, uniform์ผ๋ก 100๊ฐ๋ฅผ ๊น์์ผ ์ป๋ ์ฑ๊ณต๋ฅ ์ ์ ์ด ํต๊ณ๋ก ๊ณ ๋ฅธ 25๊ฐ๊ฐ ๋๋ค. ๊ทธ ์ฐจ์ด๋ ์ ๋ณด๋์ด ์๋๋ผ 0์ ์์์ ์จ๋ค. uniform์ผ๋ก ๊ณ ๋ฅธ taxel ๋๋ถ๋ถ์ teacher๊ฐ ํ ๋ฒ๋ ๋ฟ์ง ์๋ ๊ณณ์ ์์ด 0๋ง ๋ด๊ณ , ๊ทธ๋์ uniform์ โ๋ง์ด ํ์ํ ๊ฒ์ฒ๋ผโ ๋ณด์ธ๋ค. ์ด ๋ฆฌ๋ทฐ๋ ๊ทธ ์ฃผ์ฅ์ ์ธ์ ํ๋, ๊ทธ๊ฒ์ด ์ด๋ ์กฐ๊ฑด(XHand1ยทIn-Palm RotationยทLSTMยท3 seeds)์์ ๊นจ๋ํ๊ฒ ์ฑ๋ฆฝํ๊ณ ์ด๋ ์กฐ๊ฑด(Grasp-and-Lift)์์ ํ๋ ค์ง๋์ง, ๊ทธ๋ฆฌ๊ณ ๋น๊ต ์ค๊ณ์ ์จ์ ๋น๋์นญ์ด ๊ฒฐ๋ก ์ ์ผ๋ง๋ ํ๋๋์ง๋ฅผ ๋ ผ๋ฌธ์ ํ๋ก ๋ฐ์ ธ ๋ณธ๋ค.
๋ฐฐ๊ฒฝ: placement๋ ์ ์จ์ ๊ธฐ๋ณธ๊ฐ์ด ๋๋ (ยง1ยทยง2)
์ ์๋ค์ ์ด๊ฐ ์ ํธ๊ฐ ์๊ฐยทproprioception๊ณผ ์ฑ์ง์ด ๋ค๋ฅด๋ค๋ ๋ฐ์ ์ถ๋ฐํ๋ค.
- sparseํ๊ณ non-smoothํ๋ค. ์ ์ด์ด ์์ ๋๋ง ๊ฐ์ด ์๊ธด๋ค. ์ด๊ฒ์ด ๋ถ๊ท ํํ ํ์ต ๋ฐ์ดํฐ์ ๋ถ์์ ํ ํ์ต์ผ๋ก ์ด์ด์ง ์ ์๋ค(Miller et al., 2025 ์ธ์ฉ).
- ๊ณต๊ฐ์ ์ผ๋ก ๋ถ๊ท์นํ๋ค. ์์ ๊ด์ ๊ตฌ์กฐ ๋๋ฌธ์ ์ ์ด์ ์์ญ๋ง๋ค ๊ณ ๋ฅด์ง ์๊ฒ ๋ถํฌํ๊ณ , taxel์ ๊ท์น์ ์ธ ๊ฒฉ์๊ฐ ์๋๋ผ ๊ณก๋ฉด ์์ ๋์ธ๋ค.
- ํ์ํ ๊ณต๊ฐ ํด์๋๊ฐ ๊ณผ์ ๋ง๋ค ๋ค๋ฅด๋ค. antipodal grasping์์๋ ๊ณต๊ฐ ๋ถํด๋ ์ด๊ฐ์ด ์๊ฐ๋ฝ๋ณ net force ์ด์์ ์ฃผ์ง ๋ชปํ๊ณ (Zhang et al., 2025), in-hand rotation์์๋ ์ ์ด ์์น๊ฐ ์ฑ๋ฅ์ ํฌ๊ฒ ์ฌ๋ฆฐ๋ค(RotateIt, Qi et al., 2023).
์ ์ฑ ์ด ์ด๋๋ฅผ ๋ง์ง์ง๋ ํ์ต ์ ์ ์ ์ ์์ผ๋ฏ๋ก ์๋ฎฌ๋ ์ด์ ์ฐ๊ตฌ๋ taxel์ uniformํ๊ฒ ๊น๊ณ , ์ด ๋ ผ๋ฌธ์ ํ๋ณด ์งํฉ๋ ๊ฐ์ ๊ดํ์ ๋ฐ๋ฅธ๋ค. ์ ์๋ค์ ์ด๋ฅผ โ์ธก์ ๋ ์๊ตฌ์กฐ๊ฑด์ด ์๋๋ผ ๊ฐ์ โ์ด๋ผ๊ณ ๋ถ๋ฅธ๋ค. ํ ๋ฒ๋ ๋ฟ์ง ์๋ taxel์ 0๋ง ๋ด์ง๋ง ๊ด์ธก ์ฐจ์๊ณผ ์๋ฎฌ๋ ์ด์ ์๊ฐ์ ์ฐ๊ณ , ์ค์ ์์์๋ ๋ฐฐ์ ๊ณผ readout ๋์ญํญ์ ์ด๋ค.
๊ด๋ จ ์ฐ๊ตฌ ์ (ยง2)์ ๋ ๊ฐ๋๋ค.
- ํํ(ยง2.1). sequence model์ ์์ ์๋ token์, CNN์ ๊ท์น์ ์ธ pixel ๊ฒฉ์๋ฅผ ๊ฐ์ ํ์ง๋ง, ๊ด์ ๋งํฌ์ ๊ณก๋ฉด ์ taxel์ ๋ ๋ค ๋ง์กฑํ์ง ์๋๋ค. ๊ธฐ์กด dexterous policy๋ ๊ฒฉ์ ์ ๋ ฅ์ CNN์, ๊ฒฉ์ ์๋ ์ ๋ ฅ์ MLP๋ LSTM์ ๋ถ์ฌ ์๊ณ GNN๋ ์ฐ์๋ค(TacGNN). Tactile Genesis๋ tensor layout์ ๊ณ ์ ํ๊ณ ๊ด์ธก ์ข ๋ฅ๋ฅผ ๋น๊ตํด per-taxel force/torque๊ฐ ๊ฐ์ฅ ์ผ๊ด๋๊ฒ ์ ์ฉํ๋ค๊ณ ํ๋ค. ์ด ๋ ผ๋ฌธ์ ๋ฐ๋๋ก ๊ทธ ์ ํธ๋ฅผ ๊ณ ์ ํ๊ณ layout๊ณผ encoder๋ฅผ ๋ถ๋ฆฌํ๋ค.
- ์ผ์ ๊ตฌ์ฑ(ยง2.2). ํด์๋๊ฐ ํ์ต ํจ์จ์ ์ฃผ๋ ์ํฅ(Melnik et al., 2021), ์ฑ๋ฅ์ ์ ์งํ๋ฉฐ ์ผ์ ์๋ฅผ ์ค์ด๊ธฐ(Guo et al., 2024), ์๋ฐ๋ฅยท์๊ฐ๋ฝ ์์ญ๋ณ ๊ธฐ์ฌ(RoleOfTouch, Almeida et al., 2025), ๊ฐ์ ์ผ์ ์์์๋ placement๊ฐ ๊ฒฐ๊ณผ๋ฅผ ๋ฐ๊พธ๊ณ ๊ทธ ํจ๊ณผ๊ฐ ์ ๋ชจ๋ธยทํ์ต ์๊ณ ๋ฆฌ์ฆ์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋ค๋ ๋ณด๊ณ (Birtalan & Koller, 2026)๊ฐ ์๋ค. Tactile Genesis์ โ์ ์ ์ฒด๊ฐ fingertip๋ณด๋ค ๋ซ๋คโ๋ ๊ฒฐ๊ณผ๋ ๋ ์กฐ๊ฑด์ ์ผ์ ์๊ฐ ๋ค๋ฅด๊ณ taxel๋ uniformํ๊ฒ ๋ฝ์๋ค๋ ์ ์์, ์ด ๋ ผ๋ฌธ์ด ๋ฉ์ฐ๋ ค๋ ๋น์นธ์ ์ ํํ ๋ณด์ฌ ์ค๋ค.
์ฐ๊ตฌ ์ง๋ฌธ (ยง3.1)
- RQ1 (Sensor configuration): taxel์ ๊ฐ์์ placement๊ฐ policy ์ฑ๋ฅ์ ์ด๋ป๊ฒ ์ํฅ์ ์ฃผ๋๊ฐ, ๊ทธ๋ฆฌ๊ณ placement์ ํจ๊ณผ๋ taxel budget์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋๊ฐ.
- RQ2 (Representation): ๊ฐ์ taxel ์ ํธ๊ฐ ์ฃผ์ด์ง ๋ tensor layout๊ณผ encoder๋ ์ฑ๋ฅ์ ์ด๋ป๊ฒ ์ํฅ์ ์ฃผ๋๊ฐ.
๊ณผ์ ์ embodiment (ยง3.2, ๋ถ๋ก .2)

Fig. 1. ๊ฐ์ ์ถ์ฒ์ผ๋ก ๊ทธ๋ฆฐ ์ธ ์. XHand1(12 DoF), Sharpa(22 DoF), Allegro(16 DoF)์ ์ ๋ฉดยท์ธก๋ฉด.
๋ชจ๋ ๊ณผ์ ๋ Genesis(genesis-world)์์ ์๋ฎฌ๋ ์ด์ ํ๋ค.
- In-Palm Rotation (XHand1). ์๋ฐ๋ฅ ์์ ๋ฌผ์ฒด๋ฅผ ์ ์งํ๋ฉด์ ๊ณ ์ ๋ ์ํ์ถ์ ์ค์ฌ์ผ๋ก ํ ๋ฐฉํฅ์ผ๋ก 90๋์ฉ ์ฐ์ ํ์ ์ํจ๋ค. ์์งยท์ค์งยท์๋ฐ๋ฅ๋ง ์ด๋ค. ๊ณผ์ ์ ์๋ Tactile Genesis๋ฅผ ๋ฐ๋ฅธ๋ค.
- Grasp-and-Lift (Sharpa, Allegro). ํ ์ด๋ธ ์ ๋ฌผ์ฒด๋ฅผ ์ก์ ๋ค์ด ์ฌ๋ ค ํ ์ด๋ธ ์ ๋ชฉํ ์์น๋ก ์ฎ๊ธด๋ค. ๊ณต์ค์ ์๋ ๋์ ์ธ๋์ ๊ฐํ๊ณ policy๋ ํ์ง๋ฅผ ์ ์งํด์ผ ํ๋ค.
์ธ ์์ ํ๋์ ๋ฌผ์ฒด ์งํฉ(์์ 15๊ฐ, ์๊ธฐ๋ฅ 2๊ฐ)์ ์ ํฌ๊ธฐ์ ๋ง์ถฐ ์ถ์ฒํด ๊ณต์ ํ๋ค. ๋ณ๋ ฌ ํ๊ฒฝ๋ง๋ค ๋ฌผ์ฒด ํ๋๋ฅผ ์ฅ๋ฉด ์์ฑ ๋ ๋ฐฐ์ ํด ์ํผ์๋ ๋ด๋ด ๊ณ ์ ํ๊ณ , ๋ฌผ์ฒด๋ง๋ค ํ๊ฒฝ ์๋ฅผ ๊ฐ๊ฒ ๋๋๋ค. ๋ฌผ์ฒด ์ง๋ยท๋ง์ฐฐ, ์ด๊ธฐ ์์ธ, actuator ํ๋ผ๋ฏธํฐ๋ ๋งค reset๋ง๋ค randomizeํ๊ณ ํ์๋ teacher์ ๊ฐ์ randomization์ ์ด๋ค. In-Palm Rotation์ ๋ฌผ์ฒด๊ฐ ์์์ ๋จ์ด์ง๋ฉด, Grasp-and-Lift๋ ๋ฌผ์ฒด๊ฐ ํ ์ด๋ธ ์๋๋ก ๋จ์ด์ง๋ฉด ์ํผ์๋๊ฐ ๋๋๋ค.

Fig. 4. ๋ ๊ณผ์ ์ ๋ฌผ์ฒด(์์ 15๊ฐ, ์๊ธฐ๋ฅ 2๊ฐ ์ค 5๊ฐ๋ฅผ Allegro ์ถ์ฒ์ผ๋ก ํ์, ๋จ์ mm).

Fig. 5. ์ธ ์์ teacher rollout. ๊ฐ ํ์ ฯ_T ํ ์ํผ์๋์์ 2์ด ๊ฐ๊ฒฉ์ผ๋ก ๋ฝ์ ํ๋ ์์ด๋ค. ์ ๋ ํ์ AllegroยทSharpa์ Grasp-and-Lift, ์๋ ํ์ XHand1์ In-Palm Rotation.
๋ฐฉ๋ฒ ์์ธ 1: teacherโstudent distillation (ยง3.3, ๋ถ๋ก .3)
teacher \pi_T:\mathcal{S}\to\mathcal{A}๋ ๊ด์ธกํ ์ ์๋ ๋ฌผ์ฒด ์์ฑ์ ๋ฐ์ PPO๋ก ํ์ตํ๊ณ ๊ทธ ๋ค ๊ณ ์ ํ๋ค. ์ด ์ค๊ณ์ ํต์ฌ์ teacher๊ฐ ์ด๊ฐ์ ๋ฐ์ง ์๋๋ค๋ ์ ์ด๋ค. ๊ทธ๋์ teacher์ ์ ์ด ์์น๋ placement์ ๋ฌด๊ดํ๊ณ , placement ๊ท์น๋ค์ด ๊ฐ์ ์ ์ด ํต๊ณ๋ฅผ ๊ณต์ ํ ์ ์๋ค. ํ์ \pi_S๋ ๊ด์ ์ํ ์ด๋ ฅ, ๋ชฉํ, ์ด๊ฐ ๊ด์ธก๋ง ๋ฐ๊ณ DAgger(\beta=0)๋ก executed-action MSE๋ฅผ ์ต์ํํ๋ค(Eq. 1).
๋ณด์์ ๊ณผ์ ๋ณด์๊ณผ ์ ๊ทํ ๋ณด์์ ํฉ \mathcal{R}=\mathcal{R}_{\text{task}}+\mathcal{R}_{\text{reg}}์ด๊ณ , ๊ฐ๊ฐ ํญ๋ชฉ์ ๊ฐ์คํฉ์ด๋ค. ๋ณด์์ teacher ํ์ต๊ณผ ํ์ ํ์ต์ ๋ชจ๋ํฐ๋ง์๋ง ์ด๋ค.
| ํญ๋ชฉ | In-Palm Rotation (Table 6) | ๊ฐ์ค์น |
|---|---|---|
| Goal Reached | \mathbb{1}_{\theta_t<0.1} | 150 |
| Rotation Progress | \min(\Delta\theta_t, 6) | 2 |
| Fingertip Proximity | \exp(-d_{\min,t}^2/0.04^2) | 0.1 |
| Drop | \mathbb{1}_{\text{dropped}} | โ100 |
| Off-Axis Orientation | \theta^{\perp}_t | โ1 |
| Object Displacement | [\lVert p_t-p^*\rVert_2-0.02]_+ | โ100 |
| Contact Force | \min([\lVert f_t\rVert_2-1]_+, 20) | โ5 |
| Action Rate | \lVert a_t-a_{t-1}\rVert_2^2 | -5\times10^{-4} |
| Joint Limits | ๊ด์ ํ๊ณ ์ด๊ณผ๋์ ํฉ | โ40 |
| Work | \sum_j \lvert\tau_{j,t}\dot q_{j,t}\rvert | -5\times10^{-3} |
| ํญ๋ชฉ | Grasp-and-Lift (Table 7, SharpaยทAllegro ๊ณตํต) | ๊ฐ์ค์น |
|---|---|---|
| Sustained Lift | h_t + 10\,\mathbb{1}_{h_t>0.05} | 5 |
| Goal Tracking | \exp(-\lVert p_t-p^{\text{goal}}\rVert_2^2/0.25^2) | 1 |
| Drop | \mathbb{1}_{\text{dropped}} | โ30 |
| Fingertip Proximity | fingertip-๋ฌผ์ฒด ๊ฑฐ๋ฆฌ์ \exp(-d^2/0.03^2) ํ๊ท | 1 |
| Palm Orientation | [-\hat n_t\cdot\hat z]_+ (์๋ฐ๋ฅ์ด ์๋๋ฅผ ํฅํ๋ฉด ๋ฒ์ ) | โ0.5 |
| Action Rate | \lVert a_t-a_{t-1}\rVert_2^2 | -10^{-3} |
ํ์ต ์ค์ (Table 8, ๊ฐ์ด ๋์ด๋ฉด In-Palm Rotation / Grasp-and-Lift):
| ๊ตฌ๋ถ | ์ค์ | ๊ฐ |
|---|---|---|
| Simulation | physics / control step | 5 ms / 25 ms |
| episode length | 10 s / 20 s | |
| Teacher (PPO) | parallel envs | 8192 / 4096 |
| steps per env, iterations | 24, 20000 / 5000 | |
| epochs, mini-batches | 5, 4 | |
| learning rate | 10^{-3}, adaptive (target KL 0.01) | |
| \gamma, \lambda, clip | 0.998, 0.95, 0.2 | |
| entropy coef., grad clip | 0.002 / 0.001, 1.0 | |
| actor, critic | MLP 512-256-128, ELU | |
| Student (DAgger) | scheme, loss | DAgger \beta=0, clipped action MSE |
| parallel envs, steps per env, iterations | 2048, 24, 3000 | |
| auxiliary losses | object size, goal angle (MSE, weight 1.0) / none | |
| optimizer | Adam 10^{-4}, 5 epochs | |
| policy head | MLP 512-256-128, ELU, fixed std 1.0 |
In-Palm Rotation ํ์์๋ง ๋ฌผ์ฒด ํฌ๊ธฐยท๋ชฉํ ๊ฐ๋๋ฅผ ์์ธกํ๋ auxiliary loss๊ฐ ๋ถ๋๋ค๋ ์ ์ ๊ธฐ์ตํด ๋ ๋งํ๋ค. ํ์์ ๋ฌผ์ฒด pose๋ฅผ ๊ด์ธกํ์ง ์์ผ๋ฏ๋ก, ์ด ๊ณผ์ ์ ์ด๊ฐ์ โ๋ฌผ์ฒด๊ฐ ์ง๊ธ ์ด๋ป๊ฒ ๋์ฌ ์๋๊ฐโ๋ฅผ ๋์ ์ถ๋ก ํ๋ ๊ฑฐ์ ์ ์ผํ ๊ฒฝ๋ก๋ค.
๋ฐฉ๋ฒ ์์ธ 2: taxel ํ๋ณด์ placement ๊ท์น (ยง3.4, ๋ถ๋ก .5)
Tactile Genesis๋ฅผ ๋ฐ๋ผ ๊ณผ์ ์์ ์ฐ๋ ๋งํฌ ํ๋ฉด์ Poisson-disk sampling์ผ๋ก ํ๋ณด N=2000๊ฐ๋ฅผ uniformํ๊ฒ ๋ฟ๋ฆฐ๋ค. ๊ฐ taxel์ ๋งํฌ ์ขํ๊ณ์ 6์ฐจ์ ํยทํ ํฌ x_{i,t}๋ฅผ ๋ด๊ณ , placement ๊ท์น์ ๊ทธ์ค B๊ฐ(10~300)๋ฅผ ๊ณ ๋ฅธ๋ค. ์ค๊ณ์์ ๋์ฌ๊ฒจ๋ณผ ํต์ ์ฅ์น๊ฐ ์ธ ๊ฐ์ง๋ค.
- nested ์ ํ. ๊ฐ์ ๊ท์น ์์์ budget์ด ์ปค์ง๋ฉด taxel์ ๋ํ๊ธฐ๋ง ํ๋ค. B์ ๋ฐ๋ฅธ ์ฐจ์ด๊ฐ ๋ค๋ฅธ taxel ์งํฉ ๋๋ฌธ์ด ์๋์ ๋ณด์ฅํ๋ค.
- zero-padding. In-Palm Rotation์์๋ ๋ฝํ์ง ์์ taxel ์๋ฆฌ๋ฅผ 0์ผ๋ก ์ฑ์ ์ ๋ ฅ ์ฐจ์์ ๋ชจ๋ budgetยท๊ท์น์์ ๊ฐ๊ฒ ๋๋ค.
- ๊ฐ์ ์ ์ด ํต๊ณ. ๊ณผ์ ์ ๋ณด๋ฅผ ์ฐ๋ ๊ท์น์ ๋ชจ๋ ๊ฐ์ teacher rollout ํต๊ณ๋ฅผ ์ฐ๊ณ , ์ฐจ์ด๋ ์ ํ ๊ธฐ์ค๋ฟ์ด๋ค.
| ๊ท์น | ์ข ๋ฅ | ๊ธฐ์ค | ๋งํฌ ๊ฐ ๋ถํฌ |
|---|---|---|---|
| Uniform | task-agnostic | ๋งํฌ๋ณ ํ๋ณด ์์ ๋น๋กํด ๋ฐฐ๋ถ, ๋งํฌ ์์ farthest point sampling | ํ๋ฉด์ ๋น๋ก |
| Top-contact | task-informed | \lvert\mathcal{E}_i\rvert ์์ B๊ฐ | ์์ฃผ ๋ฟ๋ ์ง์ ์ ์ง์ค |
| Contact-cover | task-informed | ๊ฐ์ ๋งํฌ์์ ์์ง ์ ์กํ ์ ์ด ์ด๋ฒคํธ๋ฅผ ๊ฐ์ฅ ๋ง์ด ์ก๋ taxel์ greedy ์ถ๊ฐ | ๋งํฌ์ ๊ณ ๋ฅด๊ฒ ํผ์ง |
| Link-proportional | task-informed | ๋งํฌ๋ณ ์ ์ด ๋น์ค๋๋ก ๋ฐฐ๋ถ, ๋งํฌ ์์ farthest point sampling | ๋งํฌ์ ํผ์ง |
| Least-contact | ๋์กฐ๊ตฐ | ์ ์ด๋ taxel ์ค \lvert\mathcal{E}_i\rvert ํ์ B๊ฐ | ๋๋ฌผ๊ฒ ๋ฟ๋ ์ง์ |
| Per-link force | ์ฐธ์กฐ | taxel ๋์ ๋งํฌ๋ณ net contact force | ๊ณต๊ฐ ํด์๋ ์์ |
์ฌ๊ธฐ์ โ์ ์ด ์ด๋ฒคํธ(contact event)โ๋ ์ด๋ค ๋งํฌ๊ฐ ์ ์ด ์ค์ธ timestep์ด๋ค. Contact-cover๋ฅผ ์์ผ๋ก ๋ค์ ์ฐ๋ฉด, ์ ํ๋ ์งํฉ S์ ๋ํด taxel i(๋งํฌ \ell(i))์ ์ด๋์ โ๋งํฌ \ell(i)์ ์ ์ด ์ด๋ฒคํธ ์ค i๋ ์ก์ง๋ง S ์์ ๊ฐ์ ๋งํฌ taxel์ ์๋ฌด๋ ๋ชป ์ก์ ์ด๋ฒคํธ ์โ์ด๊ณ , ์ด๋ฅผ ์ต๋ํํ๋ i๋ฅผ ํ๋์ฉ ๋ํ๋ค(ํ์ ํ๊ธฐ). ์ค์ ๊ณ์ฐ์ lazy greedy๋ก ํ๋ค(๋ถ๋ก .5). coverage ํจ์๋ taxel์ด ๋์๋ก ์ถ๊ฐ ์ด๋์ด ์ค์ด๋ค๋ฏ๋ก lazy greedy๊ฐ ์ผ๋ฐ greedy์ ๊ฐ์ ์ ํ์ ๋ธ๋ค(ํ์ ์ค๋ช ).
๋ถ๋ก .5์ ์ธ๋ถ ๊ท์น์ ๊ฒฐ๊ณผ๋ฅผ ์ฝ์ ๋ ์ค์ํ๋ค.
- In-Palm Rotation์์๋ง Top-contactยทContact-coverยทLeast-contact๊ฐ ๊ณผ์ ์ ์ฐ๋ ๋ชจ๋ ๋งํฌ์ ์ต์ 1๊ฐ์ฉ taxel์ ๋ฐฐ์ ํ๋ค.
- ์ ์ด ์ด๋ฒคํธ๋ 4 timestep๋ง๋ค ํ๊ฐํ๋ค.
- Least-contact๋ \lvert\mathcal{E}_i\rvert=0์ธ ํ๋ณด 879๊ฐ๋ฅผ ๋บ๋ค. ์ฆ XHand1 In-Palm Rotation์์๋ ํ๋ณด์ ์ฝ 44%(879/2000)๊ฐ teacher rollout์์ ํ ๋ฒ๋ ๋ฟ์ง ์๋๋ค(ํ์ ๊ณ์ฐ).
- \lvert\mathcal{E}_i\rvert๊ฐ ๊ฐ์ผ๋ฉด index ์์ผ๋ก ๊ณ ๋ฅด๋๋ฐ, B=50์์๋ ์ด ์์๊ฐ 50๊ฐ ์ค 23๊ฐ๋ฅผ ์ ํ๋ค.
- Per-link force์ ํฌ๊ธฐ๋ 10^{-4} N๊ณผ 10 N ์ฌ์ด๋ก ์๋ฅด๊ณ ํ์คํธ์ฐจ 0.08 N์ Gaussian noise๋ฅผ ๋ํ๋ค. ๊ฒฐ๊ณผ ๊ด์ธก์ \mathbb{R}^{18}์ด๋ค.
๋ฐฉ๋ฒ ์์ธ 3: tensor layout๊ณผ encoder (ยง3.5, ๋ถ๋ก .4)

Fig. 3. ์ ํ๋ taxel์ tensor layout. ์๋ฐ๋ฅ์ ์ธ๋ ฅ F_ext๊ฐ ๊ฐํด์ง ์ ์ด์ด ๊ฐ layout์์ tensor์ ์ด๋ ์นธ์ ๋ค์ด๊ฐ๋์ง ๋ณด์ฌ ์ค๋ค. Random์ ์ด์ ๊ด๊ณ๊ฐ ํฉ์ด์ง๊ณ , Band๋ ๋งํฌ๋ฅผ ๋ฐ๋ผ ๋ฑ ๋ชจ์ ์์๋ก ์ฑ์ ์ผ๋ถ ์ด์์ด ๋ณด์กด๋๋ฉฐ, Grid๋ ํ๋ฉด ์์น์์ ๊ฐ์ฅ ๊ฐ๊น์ด ์นธ์ ๋ฃ์ด ์ ์ด ๋ชจ์์ด ์ ์ง๋๋ค.
CNN์ ์ธ์ ํ ์ ๋ ฅ ์นธ์ด ์ด์ํ ์ธก์ ๊ฐ์ด๋ผ๊ณ ๊ฐ์ ํ๋ค. ์ด๋ฏธ์ง pixel์ ์์ผ๋ฉด CNN์ ๋ง๊ฐ์ง๊ณ ViT๋ ์ํฅ์ ๋ฐ์ง ์๋๋ค(Jelassi et al., 2022). taxel์ ์ ํด์ง ๊ฒฉ์๊ฐ ์๋๋ฐ๋ ๊ธฐ์กด ์ด๊ฐ policy๋ ๊ฒฉ์ ์ ๋ ฅ์ CNN์ ์จ ์๋ค. ๊ทธ๋์ layout์ ํจ๊ณผ๋ encoder์ ๋ฐ๋ผ ๋ฌ๋ผ์ง ์ ์๋ค. ์ ์๋ค์ placement๊ฐ ๋ผ์ด๋ค์ง ์๋๋ก 2000๊ฐ ์ ๋ถ๋ฅผ ์ด ์ํ์์ layout๊ณผ encoder๋ง ๋ฐ๊พผ๋ค. ๊ฐ ๋งํฌ๋ ๊ณ ์ ๋ ์นธ ๋ธ๋ก์ ์ฐจ์งํ๊ณ , ์ธ layout์ ์ด๋ taxel์ ์ด๋ ์นธ์ ๋ฃ๋๋๋ง ๋ค๋ฅด๋ค.
| encoder | spatial module (๋งํฌ ๋ธ๋ก๋ณ) | temporal | taxel์ ๋ค๋ฃจ๋ ๋ฐฉ์ |
|---|---|---|---|
| LSTM | ์์ (๋ชจ๋ ๋ธ๋ก์ ํ ๋ฒกํฐ๋ก flatten) | LSTM(64) | ์นธ๋ง๋ค ๊ณ ์ ์ ๋ ฅ ๊ฐ์ค์น, ์ธ์ ์ฑ ๊ฐ์ ์์ |
| CNN | Conv3ร3(16)โLNโConv3ร3(32)โLN, ๋ธ๋ก๋ณ flatten โ ๋งํฌ๋ณ linear โ 32-D | GRU(64) | ์นธ์ ์์น์ ์ธ์ ์ฑ์ ์์กด |
| Link-wise MLP | FC(64)โFC(64) ๊ณต์ , ELU, ๋ธ๋ก ์ ํ๊ท โ ๋งํฌ ๊ฐ ํ๊ท | GRU(64) | ์นธ ๋ฐฐ์ ์ ๋ถ๋ณ, taxel ์ ์ฒด์ฑ์ ์ง์ |
| ๊ณต์ ๋ชจ๋ | proprioceptive encoder LSTM(128)โFC(64), policy head FC(512)โFC(256)โFC(128) |
๊ฐ ์นธ์ x_{i,t}์ 6์ฑ๋์ ๋ด๊ณ , ์ธ tactile encoder๋ ๋ชจ๋ FC(32)๋ก ๋๋ 64-D proprioceptive feature์ ํจ๊ป policy head๋ก ๋ค์ด๊ฐ๋ค(Table 9). Link-wise MLP๋ ํ๊ท ์ด ์นธ ๋ฐฐ์ ์ ๋ถ๋ณ์ด๋ฏ๋ก ์ธ layout์ด ์ด encoder์๊ฒ๋ ๋๊ฐ์ ์ ๋ ฅ์ด๋ค. ์ ์๋ค์ Table 3์์ ์ด encoder์ ์ธ ์นธ ์ฌ์ด ์ฐจ์ด๊ฐ seed ๋ถ์ฐ์ ๋ฐ์ํ๋ค๊ณ ์ง์ ๋ฐํ๋ค. ์ด ๋ฌธ์ฅ์ ๋ค์์ ์ด ๋ ผ๋ฌธ์ ์ก์ ์์ค์ ๊ฐ๋ ํ๋ ์ค์ํ ๊ธฐ์ค์ ์ด ๋๋ค.
์ง๊ด: 0์ ์ ๋ณด๊ฐ ์๋๋ค
์ด ๋ ผ๋ฌธ์ ์ค๋ช ์ ๋จ์ํ๋ค. ์ด๊ฐ ์ ํธ๋ ์ ์ด์ด ์๋ ๊ณณ์์๋ง ์ ๋ณด๋ฅผ ๋ธ๋ค. ํ๋ณด์ 44%๊ฐ teacher rollout์์ ํ ๋ฒ๋ ๋ฟ์ง ์๋ ์์ด๋ผ๋ฉด, ํ๋ฉด์ ์ ๋น๋กํด ๋ฝ์ taxel์ ์๋น์๋ ์ฒ์๋ถํฐ 0๋ง ๋ผ ์ด๋ช ์ด๋ค. uniform์ผ๋ก B๋ฅผ ๋๋ฆฌ๋ ๊ฒ์ โ์ ๋ณด๋ฅผ ๋๋ฆฌ๋ ๊ฒโ์ด ์๋๋ผ โ0์ด ์๋ taxel์ด ์์ฌ ๋ค์ด์ฌ ํ๋ฅ ์ ๋๋ฆฌ๋ ๊ฒโ์ ๊ฐ๊น๋ค. Table 10์ Contact Events ์ด์ด ์ด๋ฅผ ๊ทธ๋๋ก ๋ณด์ฌ ์ค๋ค. ๊ณผ์ ์ ๋ณด๋ฅผ ์ฐ๋ ๊ท์น์ B=10์์ ์ด๋ฏธ ์ ์ด ์ด๋ฒคํธ์ 84~89%๋ฅผ ์ก๋๋ฐ, Uniform์ B=10์์ 0.1%, B=100์์๋ 72.3%๋ค.
๋ฐ๋ ๋ฐฉํฅ์ ์ง๊ด๋ ์๋ค. uniform์ด B๋ฅผ ๋๋ฆฌ๋ฉด ๊ฒฐ๊ตญ ๋ฐ๋ผ์ก๋ ์ด์ ๋ ์๋ก ๋ค์ด์จ taxel์ด ์๋ก ๊ฐ๊น์์ง๊ธฐ ๋๋ฌธ์ด๋ค. Uniform์ redundancy(๊ฐ์ฅ ๊ฐ๊น์ด ์ ํ ์ด์๋ ๊ฐ์ ์ ์ด์ ์ก๋ ๋น์จ)๋ B=25์์ 8.4%, 100์์ 25.2%, 300์์ 35.0%๋ก ์ค๋ฅธ๋ค. ๋ง์ด ๊น๋ฉด ๊ฒฐ๊ตญ ์์ฃผ ๋ฟ๋ ๊ณณ์๋ taxel์ด ๋ค์ด๊ฐ๊ณ , ๊ทธ ๋ค๋ก๋ ์ถ๊ฐ taxel์ ์ ๋ณด ์ด๋์ด ์ค์ด๋ ๋ค. ์ด๊ฒ์ด Tactile Genesis์ โcoverage๊ฐ resolution๋ณด๋ค ์ค์ํ๋คโ์ ๊ฐ์ ๋ฐฉํฅ์ด๋ผ๋ ๊ฒ์ด ์ ์๋ค์ ํด์์ด๋ค.
ํํ ์ชฝ์ ์ง๊ด์ โ์์น๊ฐ ์๋๋ผ ์ ์ฒด์ฑโ์ด๋ค. LSTM์ ์นธ๋ง๋ค ๊ณ ์ ํ ์ ๋ ฅ ๊ฐ์ค์น๋ก ์ฝ์ผ๋ฏ๋ก ๊ณ ์ ๋ permutation์ ํ์ต์ผ๋ก ํก์๋๋ค. ๊ฐ์ ์ ์ด์ด ๋ ๊ฐ์ ์นธ์ ๋ค์ด์ค๊ธฐ๋ง ํ๋ฉด ๊ทธ ์นธ์ด tensor์ ์ด๋์ ์๋ ์๊ด์๋ค. ๋ฐ๋ฉด Link-wise MLP๋ ํ๊ท ์ ๋ด๋ฉด์ โ์ด๋ taxel์ด ์ ์ด์ ๋ณด๊ณ ํ๋๊ฐโ๋ฅผ ์ง์ด๋ค.
์คํ: ํ๊ฐ ํ๋กํ ์ฝ (ยง4.1, ๋ถ๋ก .6)
- ๊ฐ policy๋ 1024 ์ํผ์๋๋ก ํ๊ฐํ๊ณ , ๊ฒฐ๊ณผ๋ seed 3๊ฐ์ ํ๊ท ยฑ ํ์คํธ์ฐจ๋ค.
- ํ์ต์ ์ด๋์ ๋ฉ์ถ๋๋์ ๋ฐ๋ผ ๊ฒฐ๊ณผ๊ฐ ๋ฌ๋ผ์ง ์ ์์ผ๋ฏ๋ก(Mandlekar et al., 2021) ๋ชจ๋ ํ์์ ๊ฐ์ ํ์ต iteration์์ action ๋ถํฌ์ ํ๊ท ์ผ๋ก ํ๊ฐํ๋ค. ํ๊ฒฝ๋ง๋ค ์ฒซ ์ํผ์๋๋ง ์ผ๋ค. ์ํผ์๋ ๊ธธ์ด์ randomization์ ํ์ต๊ณผ ๊ฐ๊ณ , teacher๋ ๊ฐ์ ํ๋กํ ์ฝ๋ก ํ๊ฐํ๋ค.
- In-Palm Rotation ์ฑ๊ณต: ํ์ ์ถ ์ค์ฐจ 0.1 rad ๋ฏธ๋ง, ์ถ ์ธ ์ค์ฐจ \pi/6 ๋ฏธ๋ง์ด๋ฉด ๋ชฉํ ๋๋ฌ์ด๊ณ ๋ค์ 90๋ ๋ชฉํ๊ฐ ์ค์ ๋๋ค. ๋ํ ์ ์ ๋ชฉํ๋ฅผ ํ๋๋ผ๋ ๋๋ฌํ๋ฉด ์ฑ๊ณต์ด๋ค.
- Grasp-and-Lift held fraction: ๋ฌผ์ฒด๊ฐ ๊ณ ์ ๋ฌธํฑ ์๋ก ๋ค๋ฆฐ ๋ค๋ถํฐ, ๋ฌธํฑ ์์ ๋จธ๋ฌธ timestep์ ๋น์จ์ด๋ค. ํ ๋ฒ๋ ๋ค์ง ๋ชปํ ์ํผ์๋๋ ์ ์ธํ๋ค.
- ์ธ๋: ๋ฌผ์ฒด ์ง๋์ค์ฌ์ ๊ฐํ๋ wrench๋ก, ํยท๋ ๋ฒ ์คํ์ ์ด ์๋ ํยท์์ ํ ํฌ ์ค ํ๋๋ฅผ ๊ฐ์ ํ๋ฅ ๋ก, ๋ฌด์์ ๋จ์ ๋ฐฉํฅ์ผ๋ก ๊ณ ๋ฅธ๋ค. ๊ฐ๋ ๊ณ์ 0.25๋ ๋ฌผ์ฒด ์ง๋๊ณผ ๋ฌด๊ดํ๊ฒ ํ 1~2 N, ํ ํฌ 0.02~0.035 Nยทm์ ํด๋นํ๋ค. ๊ฐ ํ์ค๋ 0.1~0.5 s์ half-sine์ด๊ณ ๋ค์ ํ์ค๋ ๋๋ ๋ค 2~4 s์ ์์ํ๋ค. ์ฒซ ํ์ค๋ 1 s ๋ค, ๋ฌผ์ฒด๊ฐ reset ๋์ด๋ณด๋ค 5 cm ๋ค๋ฆฐ ๋ค์์ ๊ฐํ๋ค. ํ์ต์์๋ ์ํผ์๋์ 25%์ ์ธ๋์ ์ฃผ์ง ์์ง๋ง ํ๊ฐ์์๋ ๋ชจ๋ ์ํผ์๋์ ์ค๋ค.
์คํ 1: In-Palm Rotation์ placement (ยง4.2, Table 1)
| Budget B | Uniform | Top-contact | Contact-cover | Link-prop. |
|---|---|---|---|---|
| No tactile: 0.0 ยฑ 0.0 | ||||
| Least-contact (B=50ยท100): 0.0 ยฑ 0.0 | ||||
| Per-link force: 4.4 ยฑ 1.0 | ||||
| 10 | 0.0 ยฑ 0.0 | 41.4 ยฑ 0.6 | 38.7 ยฑ 2.4 | 0.0 ยฑ 0.0 |
| 15 | 0.0 ยฑ 0.0 | 42.5 ยฑ 7.6 | 42.3 ยฑ 1.0 | 0.0 ยฑ 0.0 |
| 25 | 12.4 ยฑ 1.3 | 50.5 ยฑ 1.3 | 50.0 ยฑ 1.8 | 8.6 ยฑ 3.1 |
| 50 | 27.5 ยฑ 1.5 | 53.3 ยฑ 3.7 | 52.8 ยฑ 5.6 | 40.8 ยฑ 4.3 |
| 75 | 35.5 ยฑ 6.7 | 59.5 ยฑ 1.2 | 54.8 ยฑ 1.8 | 47.9 ยฑ 3.5 |
| 100 | 51.4 ยฑ 2.3 | 56.6 ยฑ 2.9 | 55.7 ยฑ 3.8 | 48.8 ยฑ 0.9 |
| 300 | 56.2 ยฑ 3.6 | 58.0 ยฑ 2.8 | 59.4 ยฑ 2.8 | 56.9 ยฑ 1.3 |
| All (2000): 61.5 ยฑ 0.3 | ||||
| Teacher \pi_T: 93.8 |
Table 1. ์ฑ๊ณต๋ฅ (%). XHand1 In-Palm Rotation, LSTM encoder, 3 seeds ํ๊ท ยฑ ํ์คํธ์ฐจ. ์ฐธ์กฐ ํ(๊ธฐ์ธ์)์ ์ ํ์์ ๋ค ์ด์ ํฉ์น ํ ์นธ์ด๋ผ ์ฒซ ์ด์ ๊ฐ์ ํจ๊ป ์ ์๋ค. ๊ตต๊ฒ๋ budget๋ณ ์ต๊ณ , ๊ธฐ์ธ์์ 2์(์ ํ์ ์ ๊ฐ์กฐ๋ฅผ ์ฎ๊น).
๋ณธ๋ฌธ์ด ์ด ํ์์ ๋์ด๋ด๋ ์ฃผ์ฅ์ ๋ค ๊ฐ์ง๋ค.
- โ๋ช ๊ฐ๋ณด๋ค ์ด๋ ๊ฒโ: Top-contactยทContact-cover๋ teacher๊ฐ ๋ฟ๋ ๊ณณ์ taxel์ ๋๋ฏ๋ก ์ ์ ์๋ก ์ ์ด ์ด๋ฒคํธ ๋๋ถ๋ถ์ ์ก๋๋ค. ํ๋ก ํ์ธํ๋ฉด Top-contact B=25(50.5 ยฑ 1.3)์ Uniform B=100(51.4 ยฑ 2.3)์ด ๊ฐ๊ณ , Contact-cover B=10(38.7)์ด Uniform B=75(35.5)๋ณด๋ค ๋์ผ๋ฉฐ, Top-contact B=75(59.5)๋ Uniform B=300(56.2)์ ๋ค์ง์ง ์๋๋ค(์ฐจ์ด๋ 3 seeds ๋ถ์ฐ ์์ชฝ). ๊ฐ์ ์ฑ๊ณต๋ฅ ์ ์ป๋ ๋ฐ uniform์ด 4๋ฐฐ ์ด์์ taxel์ ์ด๋ค.
- ๋๋ฌผ๊ฒ ๋ฟ๋ taxel = ์ด๊ฐ ์์: Least-contact๋ ํ ๋ฒ๋ ์ฑ๊ณตํ์ง ๋ชปํด ์ด๊ฐ ์๋ ํ์๊ณผ ๊ฐ๋ค. Uniform๋ ๊ฐ์ฅ ๋ฎ์ budget์์ ๊ฐ์ ๋ฐฉ์์ผ๋ก ์คํจํ๋๋ฐ, ๊ทธ๋ ๊ณ ๋ฅธ taxel์ teacher ์ ์ด์ ๊ฑฐ์ ์ก์ง ๋ชปํ๋ค(Table 10์ Contact Events 0.1~0.2%).
- ์ด๊ฐ์ ํ์ ์ ์ด๋๋ค: ์ด๊ฐ์ด ์์ผ๋ฉด ํ์์ ๋๋ถ๋ถ ๋ฌผ์ฒด๋ฅผ ์ฅ๊ณ ์์ง๋ง ๋๋ฆฌ์ง ๋ชปํ๋ค. ๊ณต๊ฐ ํด์๋ ์๋ Per-link force๋ ๊ฑฐ์ ๊ฐ์ ์ด ์์ผ๋ฏ๋ก(4.4%) ๊ณต๊ฐ ๋ถํด๋ ์ ์ด ์ ๋ณด๊ฐ ํ์ํ๋ค.
- ํฌํ์ ์๋ ด: ๊ณผ์ ์ ๋ณด๋ฅผ ์ฐ๋ ๊ท์น์ ์ค๊ฐ budget๋ถํฐ ํฌํํ๊ณ , Uniform์ B=300์์ ๋ฐ๋ผ์ก์ ๋ชจ๋ ๋ฐฉ๋ฒ์ด 2000๊ฐ ์ ๋ถ(61.5)์ ๊ฐ๊น์ด ๊ฐ์ผ๋ก ๋ชจ์ธ๋ค. Link-proportional์ ๋๋ฌผ๊ฒ ๋ฟ๋ ๋งํฌ์ taxel์ ์์ง ๋์ผ๋ก ์ฎ๊ธฐ๋๋ฐ(Fig. 2), ์ค๊ฐ budget์์๋ Uniform๋ณด๋ค ๋ซ๊ณ B\ge100์์๋ ๊ฐ์ผ๋ฉฐ, B\le25์์๋ Uniform์ฒ๋ผ ๋์๋ค. 2000๊ฐ๋ฅผ ๋ค ์จ๋ teacher(93.8)์์ ๊ฒฉ์ฐจ๊ฐ ๋จ๋๋ค.
๋ถ๋ก .7.1: ์ ์ด coverage (Table 10)
| ์งํ | B | Uniform | Top-contact | Contact-cover | Link-prop. |
|---|---|---|---|---|---|
| Contact Events (%) | 10 | 0.1 | 83.9 | 88.8 | 0.1 |
| 15 | 0.2 | 84.7 | 94.8 | 0.1 | |
| 25 | 24.6 | 85.6 | 98.1 | 25.1 | |
| 50 | 35.9 | 87.5 | 99.7 | 54.4 | |
| 75 | 45.8 | 88.9 | 99.9 | 59.5 | |
| 100 | 72.3 | 93.7 | 99.9 | 64.4 | |
| 300 | 91.8 | 99.8 | 100.0 | 84.5 | |
| Taxel Readings (%) | 10 | 0.0 | 8.1 | 5.1 | 0.0 |
| 15 | 0.1 | 14.5 | 7.6 | 0.1 | |
| 25 | 0.9 | 26.4 | 12.7 | 0.9 | |
| 50 | 1.7 | 48.7 | 18.3 | 2.7 | |
| 75 | 3.4 | 63.1 | 26.9 | 4.5 | |
| 100 | 5.5 | 72.8 | 31.7 | 7.9 | |
| 300 | 14.4 | 98.0 | 52.6 | 17.4 | |
| Redundancy (%) | 25 | 8.4 | 95.7 | 76.1 | 11.1 |
| 100 | 25.2 | 91.3 | 75.9 | 29.7 | |
| 300 | 35.0 | 79.7 | 76.6 | 44.0 |
Table 10. XHand1 In-Palm Rotation. Contact Events๋ ์ ์ด ์ค์ธ ๋งํฌ ์์ ์ ํ๋ taxel ์ค ํ๋๋ผ๋ 0์ด ์๋ ๊ฐ์ ๋ธ ์ ์ด ์ด๋ฒคํธ์ ๋น์จ, Taxel Readings๋ teacher rollout์ 0์ด ์๋ ํ๋ ์ ์ฒด ์ค ์ ํ๋ taxel์ ๋จ์ด์ง ๋น์จ, Redundancy๋ ํ taxel์ ์ ์ด์ ๊ฐ์ฅ ๊ฐ๊น์ด ์ ํ ์ด์๋ ์ก๋ ๋น์จ์ด๋ค.
์ธ ์งํ๊ฐ ์๋ก ๋ค๋ฅธ ๊ฒ์ ์ฐ๋ค๋ ์ ์ด ์ด ํ๋ฅผ ์ฝ๋ ์๋ น์ด๋ค. Contact-cover๋ B=300์์ ์ ์ด ์ด๋ฒคํธ๋ฅผ 100% ์ก์ง๋ง ํ๋ ์ ์ ๋ฐ ์ ๋(52.6%)๋ง ์ก๋๋ค. ์์ coverage ์ดํ์ ์ถ๊ฐ๋๋ taxel์ด index ์์๋ฅผ ๋ฐ๋ฅด๊ธฐ ๋๋ฌธ์ด๋ค. Top-contact๋ ๊ฐ์ฅ ์์ budget๋ถํฐ redundancy๊ฐ ๋์ง๋ง(95.7%) ๊ทธ ์ค๋ณต์ด ๊ฐ์ฅ ์์ฃผ ๋ฟ๋ ์ง์ ์ ์์ผ๋ฏ๋ก ํ๋ ๋น์จ์ ๋ชจ๋ budget์์ ๊ฐ์ฅ ๋๋ค. Uniform์ budget์ด ์ปค์ง์๋ก redundancy๊ฐ ์ค๋ฅธ๋ค. ์ฑ๊ณต๋ฅ (Table 1)๊ณผ ๋๋ํ ๋์ผ๋ฉด ์ฑ๊ณต๋ฅ ์ ๊ฐ์ฅ ์ ๋ฐ๋ผ๊ฐ๋ ๊ฒ์ Contact Events๋ค. UniformยทLink-prop. B=10ยท15์ 0.1~0.2%๋ ์ฑ๊ณต๋ฅ 0.0%์, B=25์ ์ฝ 25%๋ ์ฑ๊ณต๋ฅ 8.6~12.4%์ ๋ง๋ฌผ๋ฆฐ๋ค.
๋ถ๋ก .7.2: ์ํผ์๋ ๊ฒฐ๊ณผ (Table 11)
| B | Placement | Success | Drop | Under-rotation |
|---|---|---|---|---|
| 0 | No tactile | 0.0 ยฑ 0.0 | 15.0 ยฑ 12.7 | 85.0 ยฑ 12.7 |
| 25 | Uniform | 12.4 ยฑ 1.3 | 30.8 ยฑ 5.1 | 56.8 ยฑ 4.5 |
| Top-contact | 50.5 ยฑ 1.3 | 16.2 ยฑ 1.1 | 33.3 ยฑ 3.2 | |
| Contact-cover | 50.0 ยฑ 1.8 | 14.6 ยฑ 3.6 | 35.4 ยฑ 4.5 | |
| Link-prop. | 8.6 ยฑ 3.1 | 30.2 ยฑ 5.3 | 61.2 ยฑ 4.7 | |
| 100 | Uniform | 51.4 ยฑ 2.3 | 16.5 ยฑ 3.2 | 32.1 ยฑ 1.1 |
| Top-contact | 56.6 ยฑ 2.9 | 14.1 ยฑ 1.0 | 29.3 ยฑ 0.3 | |
| Contact-cover | 55.7 ยฑ 3.8 | 16.8 ยฑ 1.5 | 27.5 ยฑ 4.3 | |
| Link-prop. | 48.8 ยฑ 0.9 | 18.2 ยฑ 1.7 | 33.0 ยฑ 3.3 | |
| 300 | Uniform | 56.2 ยฑ 3.6 | 13.9 ยฑ 2.0 | 29.9 ยฑ 0.1 |
| Top-contact | 58.0 ยฑ 2.8 | 13.8 ยฑ 0.8 | 28.2 ยฑ 3.2 | |
| Contact-cover | 59.4 ยฑ 2.8 | 15.3 ยฑ 0.6 | 25.3 ยฑ 1.9 | |
| Link-prop. | 56.9 ยฑ 1.3 | 15.4 ยฑ 1.2 | 27.7 ยฑ 3.9 | |
| 2000 | All | 61.5 ยฑ 0.3 | 13.1 ยฑ 1.3 | 25.4 ยฑ 2.8 |
Table 11. XHand1 In-Palm Rotation, LSTM encoder(%). Drop์ ์ฒซ ๋ชฉํ ์ ์ ๋จ์ด์ง ๊ฒฝ์ฐ, Under-rotation์ ๋ชฉํ ๋๋ฌ๋ ๋ํ๋ ์์ด ๋๋ ๊ฒฝ์ฐ๋ค. ๊ฐ ํ์ ์ธ ๊ฐ์ ํฉ์ 100.0์ด๊ณ Success ์ด์ Table 1๊ณผ ์ผ์นํ๋ค(ํ์ ํ์ธ).
๋ํ์จ์ ์ด๊ฐ ์ ๋ฌด์ ์๊ด์์ด ๋น์ทํ๋ค(13.1~18.2%). ์์ธ๋ B=25์ Uniform(30.8%)๊ณผ Link-prop.(30.2%)๋ฟ์ธ๋ฐ, ์ด ๋์ ๊ทธ budget์์ ์ ์ด ์ด๋ฒคํธ๋ฅผ 25% ์ ๋๋ง ์ก๋๋ค. ์ ์๋ค์ ์ด๋ฅผ โ๋ถ์กฑํ ์ ์ด ์ ๋ณด๋ก ํ์ ์ ์๋ํ๋ค ๋จ์ด๋จ๋ฆฐ๋คโ๋ก ์ฝ๋๋ค. ์ด๊ฐ์ under-rotation์ ์ค์ด๊ณ (85.0 โ 25.4) ๊ทธ ๊ฐ์๋ budget๊ณผ ํจ๊ป ์ปค์ง๋ค. ๊ทธ๋์ ์ด ๊ณผ์ ์์ ์ด๊ฐ์ ๋ฌผ์ฒด๋ฅผ ์ฅ๋ ๊ฒ๋ณด๋ค ํ์ ์ ์งํ์ํค๋ ๋ฐ ์ฐ์ธ๋ค๋ ๊ฒ์ด ์ ์๋ค์ ๊ฒฐ๋ก ์ด๋ค. ๋ง๋ถ์ด๋ฉด ์ด๊ฐ ์๋ ํ์์ ๋ํ์จ 15.0 ยฑ 12.7์ seed ๊ฐ ๋ถ์ฐ์ด ๋งค์ฐ ์ปค์, โB=25 Uniform์ด ์ด๊ฐ ์์ ๋๋ณด๋ค ๋ ์์ฃผ ๋จ์ด๋จ๋ฆฐ๋คโ๋ ๋น๊ต์ ๊ธฐ์ค์ ์์ฒด๊ฐ ํ๋ค๋ฆฐ๋ค. ๋ณธ๋ฌธ์ โ๊ฐ์ฅ ๋ฎ์ budget์์โ๋ผ๊ณ ์ฐ์ง๋ง Table 11์๋ B=10ยท15 ํ์ด ์๋ค.
์คํ 2: Grasp-and-Lift์์์ placement (ยง4.2, Table 2)
| Budget B | Uniform | Top-contact | Contact-cover | Link-prop. |
|---|---|---|---|---|
| Sharpa ยท No tactile: 9.4 ยฑ 0.7 | ||||
| 25 | 15.9 ยฑ 0.7 | 22.3 ยฑ 6.7 | 27.9 ยฑ 8.5 | 21.2 ยฑ 3.9 |
| 50 | 24.0 ยฑ 0.8 | 29.1 ยฑ 12.5 | 38.9 ยฑ 15.7 | 26.6 ยฑ 5.5 |
| 100 | 25.6 ยฑ 3.4 | 24.3 ยฑ 1.3 | 32.0 ยฑ 5.4 | 26.9 ยฑ 2.8 |
| 300 | 42.6 ยฑ 2.1 | 27.0 ยฑ 3.7 | 57.0 ยฑ 4.7 | 59.8 ยฑ 2.2 |
| Teacher \pi_T: 96.0 | ||||
| Allegro ยท No tactile: 22.9 ยฑ 2.1 | ||||
| 25 | 39.5 ยฑ 4.6 | 22.8 ยฑ 3.5 | 45.5 ยฑ 3.1 | 40.0 ยฑ 9.2 |
| 50 | 43.3 ยฑ 3.4 | 38.2 ยฑ 1.0 | 45.9 ยฑ 8.8 | 46.1 ยฑ 3.1 |
| 100 | 59.0 ยฑ 16.1 | 60.4 ยฑ 3.2 | 61.3 ยฑ 0.7 | 52.9 ยฑ 7.1 |
| 300 | 57.0 ยฑ 11.9 | 57.2 ยฑ 1.6 | 72.2 ยฑ 2.1 | 54.2 ยฑ 4.2 |
| Teacher \pi_T: 93.0 |
Table 2. Held fraction(%). Grasp-and-Lift, LSTM encoder. ์ฐธ์กฐ ํ(๊ธฐ์ธ์)์ ์ฒซ ์ด์ ๊ฐ์ ์ ์๋ค. ๊ตต๊ฒ๋ ์ยทbudget๋ณ ์ต๊ณ , ๊ธฐ์ธ์์ 2์. ์ ํ ์บก์ ์๋ seed ์๊ฐ ์์ง๋ง ๋ถ๋ก .6์ ๋ชจ๋ ๊ฒฐ๊ณผ๋ฅผ 3 seeds ํ๊ท ยฑ ํ์คํธ์ฐจ๋ก ๋ณด๊ณ ํ๋ค๊ณ ์ ๋๋ค.
์ด ๊ณผ์ ์์๋ ์ด๊ฐ ์๋ ํ์์ ํฌํจํ ๋ชจ๋ ํ์์ด 1 s ์์ ์ฒซ ์ ์ด์ ํ๊ณ ๊ฑฐ์ ๋ชจ๋ ์ํผ์๋์์ ๋ฌผ์ฒด๋ฅผ ๋ ๋ค. ์ด๊ฐ์ ์ด๋์ ์ธ๋ ์์์ ๋ฒํฐ๋ ๋ฐ์ ๋์จ๋ค. ๋ ์์ ์ด๊ฐ ์์ด๋ held fraction์ด ๋ค๋ฅด๋ค(Sharpa 9.4, Allegro 22.9).
placement์ ํจ๊ณผ๋ In-Palm Rotation๊ณผ ๋ฐ๋ ๊ฒฝํฅ์ด๋ค. Top-contact๋ฅผ ๋นผ๋ฉด ๋ฎ์ budget์์๋ ๋ฐฉ๋ฒ๋ผ๋ฆฌ ์ฐจ์ด๊ฐ ์๊ณ , ๊ฐ์ฅ ํฐ budget์์ ๊ฐ๋ฆฐ๋ค. ๊ทธ budget์์ Contact-cover๋ ๋ ์ ๋ชจ๋ Uniform์ ๋๊ณ , Top-contact๋ Sharpa์์ Uniform๋ณด๋ค ํฌ๊ฒ ๋ฎ๋ค(27.0 vs 42.6). ๊ฐ์ฅ ๋ง์ด ๋ฟ๋ ์ง์ ์ taxel์ ๋ชฐ์ ์ฃผ๋ ๊ฒ์ ์ด๋์ด ์๋ค. Top-contact๋ Uniform์ ์ผ๊ด๋๊ฒ ์ด๊ธฐ์ง ๋ชปํ๊ณ , Allegro B=25์์๋ ์ด๊ฐ ์๋ ํ์๊ณผ ๋ค๋ฅด์ง ์๋ค(22.8 vs 22.9). ์ ์๋ค์ ์ด ๊ณผ์ ์์ teacher ์ ์ด์ด ๋ ๋ง์ ๋งํฌ์ ํผ์ ธ ์์ผ๋ฏ๋ก โํ ๋งํฌ์ ๋ชฐ๊ธฐโ๋ณด๋ค โ์ ์ดํ ๋งํฌ๋ฅผ ๋ฎ๊ธฐโ๊ฐ ์ค์ํ๋ค๊ณ ์ค๋ช ํ๋ค.
๋ถ๋ก .7.3: ์ ์ด ์ง์ค๋ (Table 12)
| ๊ณผ์ | Hand | Top-100 Share (%) | Entropy | Links Spanned |
|---|---|---|---|---|
| In-Palm Rotation | XHand1 | 73.5 | 0.70 | 3 / 6 |
| Grasp-and-Lift | Allegro | 66.0 | 0.72 | 16 / 39 |
| Grasp-and-Lift | Sharpa | 38.3 | 0.84 | 5 / 17 |
Table 12. ๊ฐ ์์ ํ๋ณด 2000๊ฐ์ ๋ํ teacher rollout. Top-100 Share๋ ๊ฐ์ฅ ๋ง์ด ๋ฟ์ 100๊ฐ taxel์ด ์ฐจ์งํ๋ ์ ์ด ํ๋ ๋น์จ, Entropy๋ taxel ์ Shannon entropy๋ฅผ log 2000์ผ๋ก ์ ๊ทํํ ๊ฐ, Links Spanned๋ top-100 taxel์ด ์๋ ๋งํฌ ์ / ํ๋ณด taxel์ด ์๋ ๋งํฌ ์.
XHand1๊ณผ Allegro๋ ์์ 100๊ฐ๊ฐ ํ๋ ์ ๋๋ถ๋ถ์ ์ฐจ์งํ๊ณ Sharpa๋ ์ ๋ฐ์ด ์ ๋๋ค. Allegro๋ XHand1๋งํผ ์ง์ค๋ผ ์์ง๋ง(66.0 vs 73.5, entropy 0.72 vs 0.70) ๊ทธ ์์ taxel์ด ์๋ฐ๋ฅ๊ณผ ์์ง๊ฐ ์๋๋ผ ๋ค ์๊ฐ๋ฝ์ ๊ฑธ์ณ ์๋ค. ์ด ํ๋ โGrasp-and-Lift์ ์ ์ด์ด ๋ ๋ง์ ๋งํฌ์ ํผ์ง๋คโ๋ ๋ณธ๋ฌธ ์ค๋ช ์ ๊ทผ๊ฑฐ์ธ๋ฐ, ์ ๋ ๋งํฌ ์(16๊ฐ, 5๊ฐ vs 3๊ฐ)๋ก๋ ๋ง์ง๋ง ๋น์จ(Allegro 16/39 โ 41%, Sharpa 5/17 โ 29%, XHand1 3/6 = 50%, ํ์ ๊ณ์ฐ)๋ก๋ XHand1์ด ์คํ๋ ค ๊ฐ์ฅ ๋๋ค. ์ง์ค๋ ์งํ ์ธ ๊ฐ๊ฐ ์๋ก ๋ค๋ฅธ ์์๋ฅผ ๋ธ๋ค๋ ์ ๋ ํจ๊ป ๊ธฐ์ตํด ๋ ๋งํ๋ค.
โuniform์ด taxel ์๋ฅผ ๊ณผ๋ํ๊ฐํ๋คโ๋ ์ฃผ์ฅ์ ๊ทผ๊ฑฐ ์กฐ๊ฑด
์ด๋ก๊ณผ ๊ฒฐ๋ก ์ ํค๋๋ผ์ธ์ โUniform placement therefore overestimates the number of taxels a task requiresโ๋ค. ์ด ๋ฌธ์ฅ์ ์ง์ ๋ฐ์น๋ ์ฆ๊ฑฐ๊ฐ ์ด๋ ์กฐ๊ฑด์์ ๋์๋์ง๋ฅผ ํ ํ๋ก ์ ๋ฆฌํ๋ค.
| ๊ทผ๊ฑฐ | ์ | ๊ณผ์ | encoder | seeds | budget | ํ์ |
|---|---|---|---|---|---|---|
| Top-contact B=25 โ Uniform B=100 (50.5 vs 51.4), Top-contact B=75 โฅ Uniform B=300 (59.5 vs 56.2) | XHand1 | In-Palm Rotation | LSTM | 3 | 10~300 | ๊นจ๋ํ๊ฒ ์ฑ๋ฆฝ |
| Uniform B=10ยท15 = 0.0%, Contact Events 0.1~0.2% | XHand1 | In-Palm Rotation | LSTM | 3 | 10ยท15 | ๊นจ๋ํ๊ฒ ์ฑ๋ฆฝ |
| Contact-cover B=100 (61.3 ยฑ 0.7) โฅ Uniform B=300 (57.0 ยฑ 11.9) | Allegro | Grasp-and-Lift | LSTM | 3 | 25~300 | ๋ฐฉํฅ์ ๊ฐ์ง๋ง Uniform ๋ถ์ฐ์ด ์ปค์ ์ฝํจ |
| Contact-cover B=100 (32.0) < Uniform B=300 (42.6) | Sharpa | Grasp-and-Lift | LSTM | 3 | 25~300 | ์ฑ๋ฆฝํ์ง ์์ (B=300๋ผ๋ฆฌ๋ Contact-cover๊ฐ ์ฐ์) |
| Top-contact๊ฐ Uniform์ ์ผ๊ด๋๊ฒ ๋ชป ์ด๊น | SharpaยทAllegro | Grasp-and-Lift | LSTM | 3 | 25~300 | ๋ฐ๋ก(๊ท์น์ ๋ฐ๋ผ ๋ค๋ฆ) |
์ฆ โ์์ ์๋ก ํฐ uniform ์งํฉ์ ๋ง์ถ๋คโ๋ ๋ฌธ์ฅ์ด 4๋ฐฐ ์ด์์ ์ฐจ์ด๋ก ์ฑ๋ฆฝํ๋ ๊ณณ์ XHand1 In-Palm Rotation, LSTM, 3 seeds, 1024 ์ํผ์๋, ๊ฐ์ ํ์ต iteration์ด๋ค. ์ ์๋ ๊ฒฐ๋ก ์์ โThese lessons come from one hand and one task in which contact concentrates on a few linksโ๋ผ๊ณ ๋ฒ์๋ฅผ ๋ฐํ๋ค. Grasp-and-Lift๋ Contact-cover์ ํํด ๊ฐ์ ๋ฐฉํฅ์ ๊ทผ๊ฑฐ๋ฅผ ์ผ๋ถ ๋ณดํ์ง๋ง(Allegro), Sharpa์์๋ ๊ฐ์ ์ฑ๊ณต๋ฅ ์ ์ป๋ ๋ฐ Contact-cover๊ฐ ํ์๋ก ํ๋ taxel ์๊ฐ uniform๋ณด๋ค ์ ๋ค๋ ์ฆ๊ฑฐ๊ฐ Table 2์ ์๋ค. ์ด๋ก์ด โthree robot handsโ๋ฅผ ๋ด์ธ์ฐ์ง๋ง ํค๋๋ผ์ธ ์ฃผ์ฅ์ ์ ๋ ๊ทผ๊ฑฐ๋ ํ ์์ ์๋ค.
์คํ 3: ํํ (ยง4.3, Table 3)
| Encoder | Random | Band | Grid |
|---|---|---|---|
| CNN | 61.4 ยฑ 0.6 | 64.3 ยฑ 1.3 | 61.3 ยฑ 1.1 |
| LSTM | 60.8 ยฑ 3.9 | 58.0 ยฑ 3.2 | 61.5 ยฑ 0.3 |
| Link-wise MLP | 33.2 ยฑ 8.6 | 25.2 ยฑ 3.3 | 18.6 ยฑ 1.1 |
Table 3. ์ฑ๊ณต๋ฅ (%). XHand1 In-Palm Rotation, ํ๋ณด 2000๊ฐ ์ ๋ถ. ์ ํ์๋ ๊ฐ์กฐ ํ์๊ฐ ์๋ค.
๊ฐ์ taxel, ๊ฐ์ ์ ํธ์์ encoder์ ํจ๊ณผ๊ฐ layout์ ํจ๊ณผ๋ณด๋ค ํจ์ฌ ํฌ๋ค. CNN์์๋ Grid๊ฐ ํ๋ฉด ์ด์์ ๋ณด์กดํ๊ณ Random์ด ๊ทธ๊ฒ์ ํ๊ดดํ๋๋ฐ๋ ์ธ layout์ด ๋น์ทํ๋ค. pixel์ ์์ผ๋ฉด CNN์ด ๋ง๊ฐ์ง๋ ์ด๋ฏธ์ง ๋ถ๋ฅ์ ๋ค๋ฅธ ๊ฒฐ๊ณผ๋ค. LSTM์์๋ Random๊ณผ Grid๊ฐ ๋น์ทํ๋ค. ์ ์๋ค์ โpolicy ์ฑ๋ฅ์ taxel์ ์ ์ฒด์ฑ์ ๋ฌ๋ ค ์๊ณ tensor ์ ์์์๋ ์ํฅ์ ๋ฐ์ง ์๋๋คโ๊ณ ๊ฒฐ๋ก ๋ธ๋ค. Link-wise MLP๋ CNN๊ณผ recurrent ๋ชจ๋(GRU)์ ๊ณต์ ํ๊ณ spatial module๋ง ๋ค๋ฅธ๋ฐ ๋๋ณด๋ค ํจ์ฌ ๋ฎ๋ค. ๋งํฌ๋ณ ํ๊ท ์ด taxel ์ ์ฒด์ฑ์ ๋ฒ๋ฆฌ๊ธฐ ๋๋ฌธ์ด๊ณ , ์ด๋ ยง4.2์ โ๊ณต๊ฐ ๋ถํด๋ ์ ์ด ์ ๋ณด๊ฐ ํ์ํ๋คโ์ ์ผ์นํ๋ค.
๋ ๊ฐ์ง ๊ต์ฐจ ํ์ธ์ด ๊ฐ๋ฅํ๋ค. ์ฒซ์งธ, LSTM Grid(61.5 ยฑ 0.3)๋ Table 1์ All(2000)ยทTable 11์ All๊ณผ ๊ฐ์ ๊ฐ์ด๋ค. ๋ฐ๋ผ์ Table 1์ placement ์คํ์ Grid layout์์ ์ํ๋๋ค๊ณ ์ฝํ๋ค(ํ์ ์ถ๋ก , ๋ณธ๋ฌธ์ ๋ช ์๋ ์๋ค). ๋์งธ, Link-wise MLP์ ์ธ ์นธ์ ๊ฐ์ ์ ๋ ฅ์ธ๋ฐ ํ๊ท ์ด 18.6์์ 33.2๊น์ง 14.6%p ๋ฒ์ด์ง๋ค. ์ ์๋ ์ด๊ฒ์ด seed ๋ถ์ฐ์ด๋ผ๊ณ ์ ๋๋ค. ์ด ๊ฐ์ ์๋ ๋นํ์์ ์ฐ๋ ์ก์ ์์ค์ ๊ธฐ์ค์ ์ด๋ค.
์คํ 4: ํ์ต ๋น์ฉ (ยง4.4, Table 4)
| Tactile observation | Env-steps/s | Speed-up | VRAM |
|---|---|---|---|
| None | 42,810 | 7.6ร | 1.5 GB |
| B=25 | 32,233 | 5.7ร | 1.6 GB |
| B=100 | 29,503 | 5.3ร | 1.9 GB |
| B=300 | 23,817 | 4.2ร | 2.5 GB |
| B=2000 | 8,411 | 1.5ร | 8.1 GB |
| Full (ours) | 5,610 | 1.0ร | 12.4 GB |
Table 4. In-Palm Rotation, 2048 ํ๊ฒฝ, NVIDIA H100. Speed-up์ ์ด ๋ ผ๋ฌธ์ด ์ด full observation ๋๋น.
์ฑ๊ณต๋ฅ ์ด ํฌํํ๋ budget์์ ์ ํ๋ taxel๋ง ์๋ฎฌ๋ ์ด์ ํ๋ฉด full observation๋ณด๋ค ์ฝ 5๋ฐฐ ๋น ๋ฅด๊ณ ๋ฉ๋ชจ๋ฆฌ๋ ์ผ๋ถ๋ง ์ด๋ค. 2000๊ฐ ์ ๋ถ๋ฅผ ์ฐ๋ ๋ ํ์ zero-padding๋ ์นธ๋ง ๋ค๋ฅด๋ฉฐ, padding๋ง์ผ๋ก throughput์ด 3๋ถ์ 1 ์ค๊ณ (8,411 โ 5,610, ํ์ ๊ณ์ฐ โ33%) ๋ฉ๋ชจ๋ฆฌ๋ ์ ๋ฐ ๋์ด๋๋ค(8.1 โ 12.4 GB, +53%). ๊ทธ๋ฆฌ๊ณ ์ด ๋ ผ๋ฌธ์ ๋ชจ๋ policy๋ full observation์ผ๋ก ํ์ตํ๋ค. ์ฆ Table 4์ speed-up์ ์ด ๋ ผ๋ฌธ์ด ์ค์ ๋ก ์ป์ ์ ๊ฐ์ด ์๋๋ผ โ์ ํ์ ํ๋ฉด ์ป์ ์ ์๋โ ๋น์ฉ์ด๋ค. ๋ ์ด 5๋ฐฐ์๋ padding ์ ๊ฑฐ ํจ๊ณผ๊ฐ ์์ฌ ์๋ค. padding ์๋ 2000๊ฐ(B=2000) ๋๋น๋ก ๋ค์ ๊ณ์ฐํ๋ฉด B=100์ 3.5๋ฐฐ, B=25๋ 3.8๋ฐฐ๋ค(ํ์ ๊ณ์ฐ).
๊ฒฐ๋ก ๊ณผ reporting checklist (ยง5, ๋ถ๋ก .1)
์ ์๋ค์ ๊ฒฐ๋ก ์ ์ด๋ ๋ค. teacher๊ฐ ์ ์ดํ๋ ๊ณณ์ ๋ ์์์ taxel์ด uniform์ผ๋ก ๋ ํจ์ฌ ํฐ ์งํฉ์ ๋ง์ท๊ณ , ๋๋ฌผ๊ฒ ์ ์ดํ๋ ๊ณณ์ taxel์ ์ธ ๋งํ ์ ๋ณด๋ฅผ ์ฃผ์ง ์์์ผ๋ฉฐ, 2000๊ฐ๋ฅผ ๋ค ์ฐ๋ฉด layout์ CNN์์๋ ์ฑ๋ฅ์ ๋ฐ๊พธ์ง ์์๋ค. ์ธ ๊ฒฐ๊ณผ์ ์ค๋ช ์ ํ๋๋ค. ์ด๊ฐ ์ ํธ๋ ์ ์ด์ด ์ผ์ด๋๋ ๊ณณ์์๋ง ์ ๋ณด๋ฅผ ์ค๋ค. ๊ทธ๋ฌ๋ฏ๋ก ์ด๊ฐ์ ๋ํ ์ง๋ฌธ์ โ๋ช ๊ฐโ๊ฐ ์๋๋ผ โ์ด๋ ๊ฒโ์ด๊ณ , ๊ทธ ๋ต์ ์ด๊ฐ policy๋ฅผ ํ์ตํ๊ธฐ ์ ์ teacher์ ์ ์ด ํต๊ณ์์ ์ฝ์ ์ ์๋ค. uniform placement๋ ์ด๋ ๊ฒ โ์จ์ ๊ธฐ๋ณธ๊ฐโ์์ โ์ธก์ ๊ฐ๋ฅํ ์ค๊ณ ์ ํโ์ผ๋ก ๋ฐ๋๋ค. ์ ์๋ค์ teacher ๋์ ๋ค๋ฅธ policy์ rollout์ด๋ ์ฌ๋ ์์ฐ์์ ๊ธฐ๋กํ ์ ์ด ์์น๋ก๋ ๊ฐ์ ๋ฐฉ์์ผ๋ก taxel์ ๊ณ ๋ฅผ ์ ์๋ค๊ณ ๋ง๋ถ์ด๊ณ , ๋ชจ๋ ๊ฒฐ๊ณผ๊ฐ ์๋ฎฌ๋ ์ด์ ์ด๋ฉฐ ์ผ์ noise์ drift์ ํจ๊ณผ๋ ์ํํ์ง ์์๋ค๊ณ ๋ฐํ๋ค.
| ๊ทธ๋ฃน | ์ค๊ณ ์ ํ | ์ด ๋ ผ๋ฌธ์ ์ค์ (XHand1 In-Palm Rotation ๊ธฐ์ค) |
|---|---|---|
| Sensing | Candidate set | N=2000, ์ฐ๋ ๋งํฌ ์ Poisson-disk sampling |
| Taxel signal | ๋งํฌ ์ขํ๊ณ์ 6-D ํยทํ ํฌ | |
| Selection (RQ1) | Budgetโ | B\in\{10,15,25,50,75,100,300,2000\} |
| Placement ruleโ | Uniform, Top-contact, Contact-cover, Link-proportional, Least-contact | |
| Contact statistics | \pi_T rollout (์ด๊ฐ ์ ๋ ฅ ์์) | |
| Representation (RQ2) | Tensor size | N taxel๋ก ๊ณ ์ , zero padding (Table 4) |
| Orderingโ | Random, Band, Grid | |
| Encoderโ | LSTM, CNN, Link-wise MLP | |
| Evaluation | Protocol | 1024 ์ํผ์๋, ํ๊ท ๊ณผ ํ์คํธ์ฐจ |
| Metric | ์ฑ๊ณต๋ฅ (In-Palm Rotation), ์ธ๋ ํ held fraction(Grasp-and-Lift) |
Table 5. ์ด๊ฐ ๊ด์ธก์ reporting checklist. โ ๋ ์ด ์ฐ๊ตฌ์์ ๋ฐ๊พผ ํญ๋ชฉ.
์ ์๋ค์ ์ด์ ์ฐ๊ตฌ๋ค์ด ์ด ์ ํ์ ์๋ก ๋ค๋ฅด๊ฒ ํ๊ณ ์ผ๋ถ๋ ๋ณด๊ณ ์กฐ์ฐจ ํ์ง ์๋๋ค๊ณ ์ง์ ํ๋ฉฐ, ์ด ํ๋ฅผ ๋ค ๊ทธ๋ฃน์ผ๋ก ์ ๋ฆฌํ๋ค. ์๋๋ ์ข๋ค. ๋ค๋ง ์ด checklist์๋ ์ด ๋ ผ๋ฌธ ์์ ์ ๊ฒฐ๊ณผ๋ฅผ ์ข์ฐํ ๋ช ๊ฐ์ง๊ฐ ๋น ์ ธ ์๋ค(์๋ ์ฝ์ ์ ).
์ค๊ณ ๋ ์จ: ๋ ผ๋ฌธ์ด ๋งํ ๊ฒ๊ณผ ํ๊ฐ ๋ฐ์น๋ ๋ฒ์
| ์ ์์ ๋ ์จ (ยง1) | ํ๊ฐ ๋ฐ์น๋ ๋ฒ์ | ์ค๋ฌด๋ก ์ฎ๊ธธ ๋ |
|---|---|---|
| ๋ช ๊ฐ๋ณด๋ค ์ด๋ taxel์ ๊ฐ์งํ๋๋๊ฐ ์ค์ํ๋ค | XHand1 In-Palm Rotation์์ ๊ฐํ๊ฒ(Table 1), Allegro Grasp-and-Lift์์ Contact-cover์ ํํด ์ฝํ๊ฒ(Table 2) | ํ์ต ์ ์ teacher ์ ์ด ํต๊ณ๋ถํฐ ๋ฝ์ ๋ณธ๋ค. ํ๋ณด์ ๋ช %๊ฐ ํ ๋ฒ๋ ์ ๋ฟ๋์ง(XHand1์ 44%)๊ฐ ์ฒซ ์ง๋จ๊ฐ์ด๋ค |
| ๋๋ฌผ๊ฒ ๋ฟ๋ taxel์ ์ด๊ฐ์ด ์๋ ๊ฒ๊ณผ ๊ฐ๋ค | Least-contactยทUniform ์ budget = 0.0%(Table 1), Contact Events 0.1~0.2%(Table 10) | ์ฑ๊ณต๋ฅ ๋์ โContact Eventsโ ๊ฐ์ coverage ์งํ๋ก placement๋ฅผ ๋จผ์ ๊ฑธ๋ฌ๋ผ ์ ์๋ค |
| encoder๋ tensor ์ ์์น๊ฐ ์๋๋ผ ์ด๋ taxel์ด ๋ณด๊ณ ํ๋์ง๋ฅผ ๋ณด์กดํด์ผ ํ๋ค | 2000๊ฐ ์ ๋ถ, In-Palm Rotation์์๋ง(Table 3) | ๊ฒฉ์ ๋งคํ์ ๊ณต์ ๋ค์ด๊ธฐ๋ณด๋ค taxel ์ ์ฒด์ฑ์ ์ง์ฐ๋ pooling(๋งํฌ ํ๊ท ๋ฑ)์ ํผํ๋ค |
| (Grasp-and-Lift์์ ๋๋ฌ๋ ๊ฒ) ์์ฃผ ๋ฟ๋ ๊ณณ์ ๋ชฐ์ง ๋ง๊ณ ๋ฟ๋ ๋งํฌ๋ฅผ ๋ฎ์ด๋ผ | Top-contact ์คํจ, Contact-cover ์ฐ์(Table 2, Table 12) | ๊ท์น์ ๊ธฐ๋ณธ๊ฐ์ Top-contact๋ณด๋ค Contact-cover๊ฐ ์์ ํ๋ค |
๋นํ์ ์ผ๋ก ๋ณด๋ฉด
๊ฐ์
- ์ง๋ฌธ์ ์ ํํ ์ชผ๊ฐฐ๋ค. ๊ฐ์ ํ๋ณด ์งํฉ, ๊ฐ์ budget, nested ์ ํ, ๊ฐ์ teacher ์ ์ด ํต๊ณ๋ผ๋ ์ฅ์น๋ก โ๋ช ๊ฐโ์ โ์ด๋ ๊ฒโ์ ์ฒ์์ผ๋ก ๋ถ๋ฆฌํ๋ค. Tactile Genesis์ fingertip vs ์ ์ ์ฒด ๋น๊ต๊ฐ ์ผ์ ์์ ์์น๋ฅผ ํจ๊ป ๋ฐ๊ฟจ๋ ๊ฒ๊ณผ ๋๋น๋๋ค. teacher๊ฐ ์ด๊ฐ์ ๋ฐ์ง ์๊ฒ ํด โplacement๊ฐ teacher์ ์ ์ด์ ๋ฐ๊พธ๊ณ , ๊ทธ ์ ์ด์ด ๋ค์ placement๋ฅผ ์ ํ๋โ ์ํ์ ๋์ ๊ฒ๋ ๊น๋ํ๋ค.
- ์์ฑ ๋์กฐ๊ตฐ์ด ์ค๊ณ์ ๋ค์ด ์๋ค. Least-contact์ Per-link force๊ฐ โtaxel์ด ์์ด๋ ์ ์ด์ ๋ชป ๋ณด๋ฉด ์๋ ๊ฒ๊ณผ ๊ฐ๋คโ์ โํด์๋ ์๋ ์ง๊ณ๋ ๋ถ์กฑํ๋คโ๋ฅผ ๊ฐ๊ฐ ์ง์ ๋ณด์ฌ ์ค๋ค. ๋์กฐ๊ตฐ ์์ด โ์ ํ์ด ์ค์ํ๋คโ๋ง ์ฃผ์ฅํ๋ค๋ฉด ํจ์ฌ ์ฝํ์ ๊ฒ์ด๋ค.
- ๊ฒฐ๊ณผ๋ฅผ ๋ฉ์ปค๋์ฆ ์งํ๋ก ์ค๋ช ํ๋ค. ์ฑ๊ณต๋ฅ ํ๋ง ๋ด์ง ์๊ณ Contact EventsยทTaxel ReadingsยทRedundancy(Table 10), ์ํผ์๋ ๊ฒฐ๊ณผ ๋ถํด(Table 11), ์ ์ด ์ง์ค๋(Table 12)๋ฅผ ๋ถ์ฌ โ์โ๋ฅผ ๋ฐ๋ผ๊ฐ ์ ์๊ฒ ํ๋ค. ํนํ Contact Events๊ฐ ์ฑ๊ณต๋ฅ ์ ์ ๋ฐ๋ผ๊ฐ๋ค๋ ๊ด์ฐฐ์ ํ์ต ์์ด placement๋ฅผ ๊ฑฐ๋ฅด๋ ๊ฐ์ผ ์ง๋จ์ผ๋ก ์ธ ์ ์๋ค.
- ์๊ธฐ ๊ฒฐ๊ณผ์ ๋ฐ๋ก๋ฅผ ์จ๊ธฐ์ง ์๋๋ค. Grasp-and-Lift์์ Top-contact๊ฐ ์คํจํ๊ณ ๊ฒฝํฅ์ด ๋ฐ๋๋ผ๋ ์ , 2000๊ฐ๋ฅผ ๋ค ์จ๋ teacher์ ๊ฒฉ์ฐจ๊ฐ ํฌ๋ค๋ ์ , ๊ตํ์ด ํ ์ยทํ ๊ณผ์ ์์ ๋์๋ค๋ ์ ์ ๋ณธ๋ฌธ๊ณผ ๊ฒฐ๋ก ์ ์ง์ ์ ์๋ค. Link-wise MLP์ ์ธ ์นธ ์ฐจ์ด๊ฐ seed ๋ถ์ฐ์ด๋ผ๊ณ ์ค์ค๋ก ๋ฐํ ๊ฒ๋ ๋๋ฌธ ์ ์งํจ์ด๋ค.
- ์ฌํ ์ ๋ณด๊ฐ ๋น๊ต์ ์ถฉ์คํ๋ค. ๋ณด์ ํญ๋ชฉ๊ณผ ๊ฐ์ค์น(Table 6ยท7), PPOยทDAgger ํ์ดํผํ๋ผ๋ฏธํฐ(Table 8), encoder ๊ตฌ์กฐ(Table 9), ์ธ๋ ์ฌ์, tie-breaking ๊ท์น๊น์ง ์ ์๋ค.
์ฝ์ ยทํ๊ณ
- ํค๋๋ผ์ธ ์ฃผ์ฅ์ ์ ๋ ๊ทผ๊ฑฐ๊ฐ ํ ์ยทํ ๊ณผ์ ์ ์๋ค. ์ ๊ทผ๊ฑฐ ์กฐ๊ฑด ํ์์ ๋ณด๋ฏ โ์์ ์ ํ ์งํฉ์ด ํจ์ฌ ํฐ uniform ์งํฉ์ ๋ง์ถ๋คโ๊ฐ ๊นจ๋ํ๊ฒ ์ฑ๋ฆฝํ๋ ๊ณณ์ XHand1 In-Palm Rotation๋ฟ์ด๊ณ , Sharpa Grasp-and-Lift์์๋ ์ฑ๋ฆฝํ์ง ์๋๋ค. ์ ์๋ ๊ฒฐ๋ก ์์ ์ด๋ฅผ ์ธ์ ํ์ง๋ง ์ด๋ก์ โthree robot handsโ๋ก ์์ํด โUniform placement therefore overestimatesโฆโ๋ก ์ผ๋ฐํํ๋ค. ํํ ์คํ(RQ2)๋ XHand1 In-Palm Rotation ํ ์กฐ๊ฑด์์๋ง ํ๋ค.
- Top-contact๋ ๋ ๊ณผ์ ์์ ๊ฐ์ ๊ท์น์ด ์๋๋ค. ๋ถ๋ก .5๋ Top-contactยทContact-coverยทLeast-contact๊ฐ โFor In-Palm Rotationโ ๋ชจ๋ ๋งํฌ์ ์ต์ 1๊ฐ์ฉ taxel์ ๋ฐฐ์ ํ๋ค๊ณ ์ ๋๋ค. Grasp-and-Lift์ ๋ํด์๋ ์ด ๊ท์น์ด ์ธ๊ธ๋์ง ์๋๋ค. ๊ทธ๋ ๋ค๋ฉด In-Palm Rotation์ Top-contact๋ ์ฌ์ค์ โ๋งํฌ coverage ๋ณด์ฅ + ์์ ์ ์ดโ์ด๊ณ , Grasp-and-Lift์ Top-contact๋ ์์ํ ์์ ์ ์ด์ด๋ค. ์ ์๋ค์ด Grasp-and-Lift์์ Top-contact๊ฐ ์คํจํ ์ด์ ๋ก โ๋งํฌ๋ฅผ ๋ฎ๋ ๊ฒ์ด ์ค์ํ๋คโ๋ฅผ ๋๋๋ฐ, ๋ฐ๋ก ๊ทธ ์ฐจ์ด๊ฐ ๊ท์น ์ ์์์ ์๊ฒผ์ ์ ์๋ค. In-Palm Rotation์ Top-contact ์ฑ๊ณต ์ค ์ผ๋ง๊ฐ coverage ๋ณด์ฅ ๋์ธ์ง๋ ๋ถ๋ฆฌ๋์ง ์์๋ค. ๊ฐ์ ๋ฌธ๋จ์์ zero-padding๋ โFor In-Palm Rotationโ์ผ๋ก ํ์ ๋ผ ์์ด, Grasp-and-Lift์ ์ ๋ ฅ ์ฐจ์์ด budget๋ง๋ค ๊ฐ์์ง๋ ์ ํ ์์ง ์๋ค.
- 3 seeds์ ์ก์ ์์ค์ด ์ผ๋ถ ๋น๊ต๋ณด๋ค ํฌ๋ค. ์ ์๊ฐ ์ค์ค๋ก ๋ฐํ ๊ธฐ์ค์ ์ด ์๋ค. Link-wise MLP์ ์ธ layout์ ๊ฐ์ ์ ๋ ฅ์ธ๋ฐ ํ๊ท ์ด 18.6 ยฑ 1.1๊ณผ 33.2 ยฑ 8.6์ผ๋ก ๊ฐ๋ฆฐ๋ค. ๊ฐ์ ๋ฐฉ์์ผ๋ก Welch t๋ฅผ ๊ณ์ฐํ๋ฉด ์ด โ๊ฐ์ง ์ฐจ์ดโ๋ t โ 2.9์ด๊ณ , CNN Band(64.3) vs Grid(61.3)๋ t โ 3.1๋ก ๊ฑฐ์ ๊ฐ์ ํฌ๊ธฐ๋ค(ํ์ ๊ณ์ฐ, ๋ณด๊ณ ๋ std๋ฅผ ํ๋ณธ ํ์คํธ์ฐจ๋ก ๊ฐ์ ). ๊ทธ๋ฌ๋ Table 3์ layout ๊ฐ ์ฐจ์ด๋ ์ก์๊ณผ ๊ตฌ๋ถ๋์ง ์๊ณ , ์ด๋ โlayout์ด ์๊ด์๋คโ๋ ์ ์ ๊ฒฐ๋ก ์๋ ์คํ๋ ค ๋ถํฉํ๋ค. ๋ฌธ์ ๋ Table 2๋ค. Sharpa B=50์ Contact-cover 38.9 ยฑ 15.7 vs Uniform 24.0 ยฑ 0.8์ t โ 1.6, Allegro B=300์ 72.2 ยฑ 2.1 vs 57.0 ยฑ 11.9๋ t โ 2.2๋ก, ์ ๊ธฐ์ค์ ๋ณด๋ค๋ ์๋ค. Grasp-and-Lift์์ ๊ฐ๊ฑดํด ๋ณด์ด๋ ์ฐจ์ด๋ Sharpa B=300์ Contact-coverยทLink-prop. vs Uniform(t โ 4.9, 9.8)๊ณผ Top-contact์ ์ด์ธ(t โ โ6.4) ์ ๋๋ค. ๋ฐ๋ฉด In-Palm Rotation์ ์ budget ๊ฒฉ์ฐจ(์: B=50 Uniform 27.5 vs Top-contact 53.3, t โ โ11)๋ ์ก์๋ณด๋ค ํจ์ฌ ์ปค์ ํต์ฌ ์ฃผ์ฅ์ ์ด ๋นํ์ ๊ฒฌ๋๋ค. ํ์คํธ์ฐจ๊ฐ ํ๋ณธ์ธ์ง ๋ชจ์ง๋จ์ธ์ง, 1024 ์ํผ์๋๊ฐ seed๋ง๋ค์ธ์ง ํฉ๊ณ์ธ์ง๋ ์ ํ ์์ง ์๋ค.
- teacher๊ฐ ํ๋๋ค. ๋ชจ๋ ํ์์ ๊ฐ์ \pi_T ํ๋์์ distill๋๊ณ , ์ ์ด ํต๊ณ๋ ๊ทธ teacher ํ๋์์ ๋์จ๋ค. teacher ์ฑ๋ฅ(93.8ยท96.0ยท93.0)์๋ ๋ถ์ฐ์ด ์๋ค. ๋ค๋ฅธ seed์ teacher๊ฐ ๋ค๋ฅธ ์ ์ด ์ ๋ต(๋ค๋ฅธ ์๊ฐ๋ฝ ์ฌ์ฉ)์ ํ์ตํ๋ค๋ฉด placement๋ ๋ฌ๋ผ์ง๊ณ , ํ teacher์ ํต๊ณ๋ก ๊ณ ๋ฅธ taxel์ด ๋ค๋ฅธ teacher์์ distillํ ํ์์๊ฒ ์ผ๋ง๋ ์ฎ๊ฒจ์ง๋์ง๋ ์ํ๋์ง ์์๋ค. ์ ์๊ฐ ๊ฒฐ๋ก ์์ ์ ์ํ๋ โ๋ค๋ฅธ policy๋ ์ฌ๋ ์์ฐ์ ์ ์ด ํต๊ณ๋ก ๊ณ ๋ฅด๊ธฐโ๊ฐ ๋ฐ๋ก ์ด ์ ์ด ๋ฌธ์ ์ธ๋ฐ, ๊ทธ๊ฒ๋ ์คํ์ด ์๋ค.
- task-informed๋ ํ์์ด ํ๋ด ๋ผ ๋์์ ์ ์ด์ ๋ฏธ๋ฆฌ ๋ณด๋ ๊ฒ์ด๋ค. ํ์์ teacher์ ํ๋์ ๊ทธ๋๋ก ๋ฐ๋ผ๊ฐ๋๋ก ํ์ต๋๋ฏ๋ก ํ์์ ์ ์ด ๋ถํฌ๋ teacher์ ๋น์ทํด์ง๋๋ก ์๋ ฅ์ ๋ฐ๋๋ค. ๊ทธ๋์ teacher ํต๊ณ๋ก ๊ณ ๋ฅธ taxel์ด ํ์์๊ฒ ์ ๋ฆฌํ ๊ฒ์ ์ด๋ ์ ๋ ์์ ๋ ๊ฒฐ๊ณผ๋ค. ์ด๊ฒ ์์ฒด๊ฐ ์๋ชป์ ์๋์ง๋ง, RL๋ก ์ด๊ฐ policy๋ฅผ ์ง์ ํ์ตํ๊ฑฐ๋ ์ด๊ฐ์ ๋ฐ์ํด ๋ค๋ฅธ ์ ์ด ์ ๋ต์ด ๋์ค๋ ๊ฒฝ์ฐ(์: ํ์์ด teacher์ ๋ค๋ฅธ ์๊ฐ๋ฝ์ ์ฐ๊ฒ ๋๋ ๊ฒฝ์ฐ)์๋ ๊ฐ์ ์ด๋์ด ๋ณด์ฅ๋์ง ์๋๋ค. โplacement๋ ํ์ต ์ ์ ์ ํ ์ ์๋คโ๋ ๊ฒฐ๋ก ์ ์ ํํ๋ โdistillation ์ค์ ์์๋ teacher๋ฅผ ํ์ตํ ๋ค, ํ์์ ํ์ตํ๊ธฐ ์ ์ ์ ํ ์ ์๋คโ๋ค.
- Table 10์ Contact Events๋ Contact-cover์ ๋ชฉ์ ํจ์์ ๊ฑฐ์ ๊ฐ๋ค. Contact-cover๋ โ๊ฐ์ ๋งํฌ์์ ์์ง ์ ์กํ ์ ์ด ์ด๋ฒคํธ๋ฅผ ๊ฐ์ฅ ๋ง์ด ์ก๋ taxelโ์ greedy๋ก ๊ณ ๋ฅด๊ณ , Contact Events๋ โ์ ์ดํ ๋งํฌ ์ ์ ํ taxel์ด ํ๋๋ผ๋ ์ก์ ์ด๋ฒคํธ์ ๋น์จโ์ด๋ค. Contact-cover๊ฐ ์ด ์ด์์ 88.8~100%์ธ ๊ฒ์ ๊ตฌ์กฐ์ ์์๋๋ ๊ฐ์ด๊ณ , ๋ ๋ฆฝ์ ์ธ ์ฆ๊ฑฐ๋ผ๊ธฐ๋ณด๋ค ์ต์ ํ๊ฐ ์ ๋๋ค๋ ํ์ธ์ด๋ค. ๋ง์ฐฌ๊ฐ์ง๋ก Taxel Readings๋ Top-contact์ ์ ์(\lvert\mathcal{E}_i\rvert ์์)์ ๊ฑฐ์ ๊ฐ๋ค. ๋ ์งํ๊ฐ ์ฑ๊ณต๋ฅ ๊ณผ ๋ง๋ฌผ๋ฆฐ๋ค๋ ๊ด์ฐฐ์ ์ ํจํ์ง๋ง, ์ด๋ ๊ท์น์ด โ๋ ์ ๋ณธ๋คโ๋ ๊ทผ๊ฑฐ๋ก๋ ์ํ์ ์ด๋ค.
- Per-link force๋ง noise๋ฅผ ๋ฐ์๋ค. ๋ถ๋ก .5๋ Per-link force์ 0.08 N Gaussian noise์ ํฌ๊ธฐ clipping์ ์ ์ฉํ๋ค๊ณ ์ ๋๋ฐ, taxel ์ธก์ x_{i,t}์ ๋ํด์๋ noiseยทclipping์ ๋ํ ์์ ์ด ์๋ฌธ ์ด๋์๋ ์๋ค(์ ๋ฌธ ๊ฒ์). taxel์ด noise ์๋ ์ ํธ๋ผ๋ฉด โ๊ณต๊ฐ ํด์๋ ์๋ ์ง๊ณ๋ ๊ฑฐ์ ๋์์ด ์ ๋๋คโ(4.4%)๋ ๋น๊ต์ noise ์ ๋ฌด๊ฐ ์์ธ๋ค. ๋ํ Per-link force์ Link-wise MLP๋ ๋ ๋ค taxel ์ ์ฒด์ฑ์ด ์์ง๋ง ์ฑ๋ฅ์ด 4.4%์ 18.6~33.2%๋ก ํฌ๊ฒ ๋ค๋ฅด๋ค. Link-wise MLP๋ ๋งํฌ ์ฌ์ด๊น์ง ํ๊ท ์ ๋ด๋ฏ๋ก ๋งํฌ ์ ์ฒด์ฑ์กฐ์ฐจ Per-link force๋ณด๋ค ์ ๊ฒ ๋จ๋๋ค. ๊ทธ๋ฐ๋ฐ๋ ๋ ๋๋ค๋ ๊ฒ์ โ๊ณต๊ฐ ํด์๋โ ๋ง๊ณ ๋ค๋ฅธ ๊ฒ(์ ์ดํ taxel ์์ ๋ถํฌ, ๊ฐ๋ณ taxel์ ํ ํฌ ๋ฑ)์ด ์ ๋ณด๋ฅผ ์ค์ด ๋๋ฅธ๋ค๋ ๋ป์ผ ์ ์๋๋ฐ, ๋ ผ๋ฌธ์ ์ด ์ฐจ์ด๋ฅผ ์ค๋ช ํ์ง ์๋๋ค.
- taxel ์๋ฎฌ๋ ์ด์ ๋ชจ๋ธ์ด ์์ ๋์ง ์์๋ค. โ๊ฐ taxel์ ๋งํฌ ์ขํ๊ณ์ ํ๊ณผ ํ ํฌ๋ฅผ ์ฐ๋คโ๊ฐ ์ ๋ถ๋ค. Genesis์์ ๊ทธ ๊ฐ์ด ์ด๋ป๊ฒ ๊ณ์ฐ๋๋์ง(์ ์ด์ ์ taxel์ ์ด๋ป๊ฒ ๋ฐฐ์ ํ๋์ง, ๋ฐ๊ฒฝ, ํ ํฌ์ ๊ธฐ์ค์ ), 4 timestep๋ง๋ค ํ๊ฐํ โ์ ์ดโ์ ๋ฌธํฑ์ด ๋ฌด์์ธ์ง ์ ํ ์์ง ์๋ค. โํ ๋ฒ๋ ๋ฟ์ง ์๋ 44%โ๋ผ๋ ํต์ฌ ์ง๋จ๊ฐ์ด ์ด ๋ชจ๋ธ๊ณผ 4-step ์ํ๋ง์ ์ง์ ์์กดํ๋ค.
- checklist๊ฐ ์๊ธฐ ๊ฒฐ๊ณผ๋ฅผ ์ข์ฐํ ํญ๋ชฉ์ ๋นผ๋จน์๋ค. Table 5์๋ taxel noise ๋ชจ๋ธ, taxel ์๋ฎฌ๋ ์ด์ ๋ฐฉ์, ์ ์ด ์ด๋ฒคํธ ์ํ๋ง ์ฃผ๊ธฐ, tie-breaking ๊ท์น(B=50 Least-contact์ 23/50์ ์ ํจ), ๋งํฌ coverage ๋ณด์ฅ ๊ท์น(๊ณผ์ ๋ณ๋ก ๋ค๋ฆ), ํ๊ฐ ์์ (๊ฐ์ iteration), seed ์์ teacher ์๊ฐ ์๋ค. ํนํ ๋งํฌ coverage ๋ณด์ฅ์ Top-contact์ ๊ณผ์ ๊ฐ ๋น๊ต๋ฅผ ๋ฐ๊ฟ ์ ์๋ ํญ๋ชฉ์ด๋ค. โminimal setโ์ด๋ผ๋ ์๋๋ฅผ ๊ฐ์ํด๋, ์ด ๋ ผ๋ฌธ ์์์ ๊ฒฐ๊ณผ๋ฅผ ๋ฐ๊พผ ์ ํ์ ๋ค์ด๊ฐ์ผ ํ๋ค.
- CNN์ด layout์ ๋๊ฐํ ์ด์ ๊ฐ ๊ตฌ์กฐ์ ์์ ์ ์๋ค. ์ด ๋ ผ๋ฌธ์ CNN์ 3ร3 conv ๋ ์ธต(receptive field 5ร5) ๋ค์ ๋ธ๋ก๋ณ flatten๊ณผ ๋งํฌ๋ณ linear layer๊ฐ ๋ถ๋๋ค(Table 9). flatten ๋ค์ linear layer๋ ์นธ๋ง๋ค ๋ค๋ฅธ ๊ฐ์ค์น๋ฅผ ๊ฐ์ง๋ฏ๋ก, ๊ณ ์ ๋ permutation์ด ์์ด๋ โ์ด๋ ์นธ์ด ์ด๋ taxel์ธ๊ฐโ๋ฅผ ํ์ตํ ์ ์๋ค. ์ด๋ฏธ์ง ๋ถ๋ฅ์์ pixel shuffle์ด CNN์ ๋ง๊ฐ๋จ๋ฆฌ๋ ๊ฒ์ ๋๊ฐ pooling์ผ๋ก ์์น ์ ๋ณด๋ฅผ ๋ฒ๋ฆฌ๊ณ ๊ตญ์ ํจํด์ ์์กดํ๊ธฐ ๋๋ฌธ์ด๋ค. ๊ทธ๋ฌ๋ โCNN์์๋ layout์ด ์๊ด์๋คโ๋ ๊ฒฐ๋ก ์ โflatten+linear๋ก ์์น๋ณ ๊ฐ์ค์น๋ฅผ ๊ฐ์ง ์์ CNN์์๋โ์ผ๋ก ์ฝ๋ ๊ฒ์ด ์ ํํ๋ค(ํ์ ํด์). ์ ์์ ๋ ์จ(โ์ ์ฒด์ฑ์ ๋ณด์กดํ๋ผโ)๊ณผ๋ ์ผ๊ด๋์ง๋ง, global pooling์ ์ฐ๋ ๋ ๊น์ CNN์์๋ ์ฑ๋ฆฝํ๋์ง๋ ์ด ์คํ์ด ๋ตํ์ง ์๋๋ค. ๋ ์ด ๋น๊ต๋ 2000๊ฐ ์ ๋ถ, ์ฆ ์ด์ดํ ํ๋ฉด์์๋ง ํ๋ค. ํฌ์ํ ์ ํ ์งํฉ์์ Grid์ ์ด์ ๋ณด์กด์ด ์๋ฏธ๊ฐ ์๋์ง๋ ๋ฏธ์ง์๋ค.
- ์ฑ๊ณต ๊ธฐ์ค์ด ๋ฎ๊ณ teacher์์ ๊ฒฉ์ฐจ๊ฐ ํฌ๋ค. In-Palm Rotation์ ์ฑ๊ณต์ โ๋ํ ์ 90๋ ํ์ ๋ชฉํ ํ๋ ๋๋ฌโ์ด๋ค. 2000๊ฐ๋ฅผ ๋ค ์จ๋ 61.5%์ด๊ณ teacher๋ 93.8%๋ค. ์ต๊ณ ํ์(CNN Band 64.3%)๋ teacher์ ์ฝ 30%p ๋จ์ด์ ธ ์๋ค. ์ด๊ฐ ์ค๊ณ์ ์ฐจ์ด๊ฐ ์ด ํฐ distillation gap ์๋์ โ๋จ์ ๋ชซโ์์๋ง ๋น๊ต๋๋ ์ ์ด๊ณ , ๋ชฉํ๋ฅผ ๋ช ๊ฐ ์ฐ์ ๋๋ฌํ๋์ง ๊ฐ์ ๋ ์ด์ดํ ์งํ๋ ๋ณด๊ณ ๋์ง ์๋๋ค.
- ๋น์ฉ ํ์ ์ ๊ฐ์ ๋ ผ๋ฌธ์ด ์ค์ ๋ก ์ป์ ๊ฒ์ด ์๋๋ค. ๋ชจ๋ policy๋ฅผ full observation์ผ๋ก ํ์ตํ์ผ๋ฏ๋ก Table 4์ โ์ฝ 5๋ฐฐโ๋ ๊ฐ์ ๋น์ฉ์ด๋ค. ๊ทธ๋ฆฌ๊ณ ๊ทธ์ค ์ผ๋ถ๋ padding ์ ๊ฑฐ ํจ๊ณผ๋ค(2000๊ฐ ๋ฌดpadding ๋๋น๋ก๋ 3.5๋ฐฐ). ์ค์ ์์์์ ๋ฐฐ์ ยทreadout ๋์ญํญ ์ ๊ฐ์ ๋๊ธฐ๋ก๋ง ์ธ๊ธ๋๊ณ ์ธก์ ๋์ง ์์๋ค.
- ์์ ์์ ๋ถ์ผ์น. ๋ถ๋ก .4๋ ์ ๋ ฅ์ โSection III.E์ per-link blockโ, ์ธก์ ์ โSection III.Dโ๋ก ๊ฐ๋ฆฌํค์ง๋ง ๋ณธ๋ฌธ ์ ๋ฒํธ๋ 3.5ยท3.4๋ค(LaTeX ์์ค์ ํ๋์ฝ๋ฉ๋ ์ฐธ์กฐ). Table 2 ์บก์ ์๋ seed ์๊ฐ ๋น ์ ธ ์๋ค. ๋ณธ๋ฌธ์ โ๊ฐ์ฅ ๋ฎ์ budget์์ ์ด๊ฐ ์์ ๋๋ณด๋ค ๋ ์์ฃผ ๋จ์ด๋จ๋ฆฐ๋คโ๋ Table 11์ด B=25๋ถํฐ๋ผ B=10ยท15์ ๋ํด์๋ ํ์ธํ ์ ์๋ค.
๊ด๋ จ ์ฐ๊ตฌ์์ ์๋ฆฌ ๋งค๊น
Tactile Genesis์์ ๊ด๊ณ. ์ด ๋ ผ๋ฌธ์ Tactile Genesis์ ๊ณผ์ ์ ์(In-Palm Rotation, Grasp-and-Lift), ํ๋ณด ์์ฑ(Poisson-disk sampling), ๊ด์ธก ์ ํธ(per-taxel force/torque)๋ฅผ ๊ทธ๋๋ก ๋ฌผ๋ ค๋ฐ์ ํ์ ํต์ ์คํ์ด๋ค. Tactile Genesis๋ โ๋ฐฐ์น๊ฐ ์ผ์ ์ข ๋ฅ๋ฅผ ์๋ํ๊ณ , ํด์๋๋ coverage๋ณด๋ค ๋ ์ค์ํ๋คโ๋ ๊ฒฐ๋ก ์ ๋๋๋ฐ, ๊ทธ ๋ฐฐ์น ๋น๊ต๋ uniform ์ํ๋ง ์์์ ์ผ์ ์์ ์์ญ์ ํจ๊ป ๋ฐ๊พผ ๊ฒ์ด์๋ค. ์ด ๋ ผ๋ฌธ์ ๊ทธ ๊ฒฐ๋ก ์ ํ ๋จ๊ณ ์ชผ๊ฐ ๋ค. ๊ฐ์ ์์์ ์ด๋ taxel์ด๋๊ฐ ๊ฒฐ๊ณผ๋ฅผ ๋ฐ๊พธ๊ณ , uniform์ด ๋ง์ด ํ์ํด ๋ณด์ด๋ ๊ฒ์ 0์ ์ ๋๋ฌธ์ด๋ผ๋ ๊ฒ์ด๋ค. Tactile Genesis ๋ฆฌ๋ทฐ์์ ์ ๋ฆฌํ โ์ ์ ์ฒด์ 200 taxel์ด๋ฉด ์ถฉ๋ถโ์ด๋ผ๋ ์ซ์๋ uniform placement ์์ ๊ฐ์ด๋ผ๋ ์ ์์, ์ด ๋ ผ๋ฌธ์ ๊ทธ ์ซ์๋ฅผ โ๊ณผ์ ๊ฐ ์๊ตฌํ๋ ์โ๊ฐ ์๋๋ผ โuniform์ด ์๊ตฌํ๋ ์โ๋ก ๋ค์ ์ฝ๊ฒ ๋ง๋ ๋ค(ํ์ ํด์, ๋ ๋ ผ๋ฌธ์ ์ยท๊ณผ์ ยทbudget ๊ฒฉ์๊ฐ ๊ฐ์ง๋ ์๋ค). ๋ฐ๋๋ก Tactile Genesis๊ฐ ์ค๋ฌผ XHand1 ์ ์ด๋ฅผ ํ์ธํ ๊ฒ๊ณผ ๋ฌ๋ฆฌ ์ด ๋ ผ๋ฌธ์ ์ค๊ธฐ ๊ฒ์ฆ์ด ์๋ค.
์์ญ๋ณ ๊ธฐ์ฌ ์ฐ๊ตฌ. RoleOfTouch๋ Shadow Hand๋ฅผ 19๊ฐ ํด๋ถํ ์์ญ์ผ๋ก ๋๋๊ณ 5๊ฐ ์ผ์ ์กฐํฉ์ ๋ฐ๊ฟ ์์ญ ์ค์๋ ์ง๋๋ฅผ ๋ง๋ค์๋ค. ์ง๋ฌธ์ ๊ฐ์ง๋ง ๋จ์๊ฐ ๋ค๋ฅด๋ค. ๊ทธ์ชฝ์ ์ฌ๋์ด ์ ํ ์์ญ๊ณผ ์กฐํฉ ํ์, ์ด์ชฝ์ 2000๊ฐ ํ๋ณด์ teacher ์ ์ด ํต๊ณ์ ๊ธฐ๋ฐํ ๊ท์น์ด๋ค. ๊ทธ์ชฝ ๋ฆฌ๋ทฐ์์ ์ง์ ํ โ๋ฐ๋ณต ์คํยท๋ถ์ฐ ์์โ์ ์ด ๋ ผ๋ฌธ์ 3 seeds๋ก ์ผ๋ถ ํด์ํ์ง๋ง, ์์์ ๋ณธ ๊ฒ์ฒ๋ผ 3 seeds๋ก๋ Grasp-and-Lift์ ์ผ๋ถ ๋น๊ต๋ ์ก์๊ณผ ๊ตฌ๋ถ๋์ง ์๋๋ค. ๋ ๋ ผ๋ฌธ ๋ชจ๋ ์๋ฐ๋ฅ ์ชฝ ์ ์ด์ ์ค์์ฑ์ ๊ฐ๋ฆฌํจ๋ค๋ ์ ์ ๊ฐ๋ค(์ด ๋ ผ๋ฌธ Fig. 2์ XHand1 ์ ์ด ๋น๋๋ ์๋ฐ๋ฅ์ ๋๊ฒ ํผ์ ธ ์๋ค). ์ผ์ ์๋ฅผ ์ค์ด๋ฉฐ ์ฑ๋ฅ์ ์ ์งํ Guo et al.(2024)๊ณผ ๊ฐ์ ์์์ placement๊ฐ ๊ฒฐ๊ณผ๋ฅผ ๋ฐ๊พผ๋ค๋ Birtalan & Koller(2026)๋ ๊ฐ์ ๊ฐ๋๋ค.
์ด๊ฐ in-hand rotation๊ณผ distillation ๊ณ๋ณด. privileged teacher๋ฅผ PPO๋ก ํ์ตํ๊ณ ๊ด์ธก ๊ฐ๋ฅํ ํ์์ distillํ๋ 2๋จ๊ณ ๊ตฌ์กฐ๋ Qi et al.์ RMA ๊ณ์ด in-hand rotation(2022)๊ณผ RotateIt(2023)์์ ์๋ค. RotateIt์ in-hand rotation์์ ์ ์ด ์์น๊ฐ ์ฑ๋ฅ์ ํฌ๊ฒ ์ฌ๋ฆฐ๋ค๋ ๊ทผ๊ฑฐ๋ก ์ธ์ฉ๋๋ค. ์ ์ ์ฒด์ ๊น binary ์ ์ด ์ผ์๋ง์ผ๋ก ํ์ ์ ๋ฐฐ์ด Rotating without Seeing๋ โ๊ฐ๋ ค์ง ์ํ์ ์กฐ์โ์ ์ด๊ฐ์ ๋๊ธฐ๋ก ๋๋ ์ ํ ์ฐ๊ตฌ๋ก ์ธ์ฉ๋๋ค. ์ด ๋ ผ๋ฌธ์ ๊ทธ ๊ณ๋ณด์ ๊ด์ธก ์ค๊ณ(์ด๋์ ๋ช ๊ฐ, ์ด๋ค tensor๋ก)๋ฅผ ์ฒ์์ผ๋ก ํต์ ๋ณ์๋ก ๋ค๋ฃฌ ์ฐ๊ตฌ๋ก ์๋ฆฌ๋งค๊นํ ์ ์๋ค. distillation ๊ธฐ๋ฐ ์ด๊ฐ policy๋ฅผ ๋นํ์ ์ผ๋ก ์ฝ์ ๋์ ๊ณตํต ์ง๋ฌธ(ํ์๊ณผ teacher์ ๊ฒฉ์ฐจ, teacher๊ฐ ๋ฌด์์ ๋ณด์๋๊ฐ)์ PTLD ๋ฆฌ๋ทฐ์์๋ ๋ค๋ค๋๋ฐ, ์ด ๋ ผ๋ฌธ์์๋ teacherโํ์ ๊ฒฉ์ฐจ(์ฝ 30%p)๊ฐ ์ด๊ฐ ์ค๊ณ ๋น๊ต์ ์ํ์ผ๋ก ์๋ํ๋ค.
์์ฝ
์ด ๋ ผ๋ฌธ์ ์ด๊ฐ policy ์ฐ๊ตฌ์์ ๊ฒ์ฆ ์์ด ์ฐ์ฌ ์จ uniform taxel placement๋ฅผ, teacherยทํ์ต ์ ์ฐจยทํ๋ณด 2000๊ฐ๋ฅผ ๊ณ ์ ํ๊ณ ์ ํ ๊ท์น๊ณผ ํํ๋ง ๋ฐ๊พธ๋ ํต์ ํ๋กํ ์ฝ๋ก ์ํํ๋ค. XHand1 In-Palm Rotation(LSTM, 3 seeds)์์ teacher ์ ์ด ํต๊ณ๋ก ๊ณ ๋ฅธ 25๊ฐ๊ฐ uniform 100๊ฐ์ ๊ฐ์ ์ฑ๊ณต๋ฅ ์ ๋๊ณ , uniform 10ยท15๊ฐ์ ๋๋ฌผ๊ฒ ๋ฟ๋ taxel์ ์ด๊ฐ์ด ์๋ ๊ฒ๊ณผ ๊ฐ์๋ค. 2000๊ฐ๋ฅผ ๋ค ์ฐ๋ฉด tensor layout์ CNN์์๋ ์ฑ๋ฅ์ ๋ฐ๊พธ์ง ์์๊ณ , taxel ์ ์ฒด์ฑ์ ์ง์ฐ๋ encoder๋ง ํฌ๊ฒ ๋จ์ด์ก๋ค. โ์ด๊ฐ์ ์ ์ด์ด ์๋ ๊ณณ์์๋ง ์ ๋ณด๋ฅผ ์ค๋คโ๋ ๋จ์ผ ์ค๋ช ๊ณผ Contact Events ๊ฐ์ ์ง๋จ ์งํ, ์์ฑ ๋์กฐ๊ตฐ, ๊ทธ๋ฆฌ๊ณ reporting checklist๋ ์ด ๋ถ์ผ์ ์คํ ์ค๊ณ๋ฅผ ํ ๋จ๊ณ ์๋ฐํ๊ฒ ๋ง๋ ๋ค.
ํ๊ณ๋ ๋ฒ์์ ๋น๊ต์ ๋์นญ์ฑ์ ์๋ค. ํค๋๋ผ์ธ ์ฃผ์ฅ์ ์ ๋ ๊ทผ๊ฑฐ๋ ํ ์ยทํ ๊ณผ์ ์ ์๊ณ , Grasp-and-Lift์์๋ Top-contact๊ฐ ์คํจํ๋ฉฐ Sharpa์์๋ โ์ ์ ์๋ก ํฐ uniform์ ๋ง์ถ๋คโ๊ฐ ์ฑ๋ฆฝํ์ง ์๋๋ค. ๋งํฌ coverage ๋ณด์ฅ์ด In-Palm Rotation์๋ง ์ ์ฉ๋ผ Top-contact์ ๊ณผ์ ๊ฐ ๋น๊ต๊ฐ ๊ฐ์ ๊ท์น์ด ์๋๊ณ , teacher๋ ํ๋์ด๋ฉฐ, taxel์๋ noise๊ฐ ๋ช ์๋์ง ์์ ๋ฐ๋ฉด Per-link force์๋ noise๊ฐ ๋ถ์๋ค. 3 seeds์ ์ก์์ ์ ์ ์ค์ค๋ก ๋ณด์ธ Link-wise MLP์ 14.6%p ์ฐจ์ด๋งํผ ํฌ๋ค. ์ฌ๋ฌ teacher seed, Grasp-and-Lift์์์ coverage ๋ณด์ฅ ํต์ผ, taxel noise ๋ชจ๋ธ, ์ค๊ธฐ ๊ฒ์ฆ์ด ๋ํด์ง๋ค๋ฉด โwhich taxels, not how manyโ๋ ์๋ฎฌ๋ ์ด์ ๊ด์ฐฐ์ ๋์ด ์ด๊ฐ ์ ์ค๊ณ์ ์ง์นจ์ด ๋ ๊ฒ์ด๋ค.
์ด ๊ธ์ ๋ํด
- ์ฝ์ ๋ฒ์: arXiv v1(2611.10647v1)์ HTML๊ณผ LaTeX ์์ค. ๋ณธ๋ฌธ๊ณผ ๋ถ๋ก .1~.7์ ๋ชจ๋ ํ(Table 1~12)๋ฅผ ํ์ธํ๊ณ , ๊ฒฐ๊ณผ ํ๋ ์ ํ์ ์ซ์๋ฅผ ๊ทธ๋๋ก ๋งํฌ๋ค์ด์ผ๋ก ์ฎ๊ฒผ๋ค. ๊ทธ๋ฆผ 5์ฅ(Fig. 1~5)์ ๋ ผ๋ฌธ์ ์ ์ฒด ๊ทธ๋ฆผ์ด๋ค.
- ๊ณต๊ฐ ๋ฒ์: ๋ ผ๋ฌธ๊ณผ LaTeX ์์ค์ ์ฝ๋ยทํ๋ก์ ํธ ํ์ด์งยท์์ ๋งํฌ๊ฐ ์๊ณ (์๋ฎฌ๋ ์ดํฐ Genesis์ ์ ์ฅ์ ๋งํฌ๋ง ์๋ค), ๋ณ๋๋ก ๊ณต๊ฐ๋ ์ฝ๋๋ ํ๋ก์ ํธ ํ์ด์ง๋ ์ฐพ์ง ๋ชปํ๋ค. ์ด ๊ธ์ ๋ชจ๋ ๊ฒฐ๊ณผ ์์น๋ ๋ ผ๋ฌธ์ด ๋ณด๊ณ ํ ๊ฐ์ด๋ฉฐ ์ฌํ ํ์ธ์ ํ์ง ์์๋ค.
- ํ๊ธฐ: โํ์ ๊ณ์ฐโ์ ๋ ผ๋ฌธ ์์น๋ก ์ง์ ๊ณ์ฐํ ๊ฐ(๋น์จ, ๋ฐฐ์, Welch t ํต๊ณ๋)์ด๊ณ , Welch t๋ ๋ณด๊ณ ๋ ํ์คํธ์ฐจ๋ฅผ 3 seeds์ ํ๋ณธ ํ์คํธ์ฐจ๋ก ๊ฐ์ ํ ๊ทผ์ฌ๋ค. โํ์ ํด์ยท์ถ๋ก โ์ ๋ ผ๋ฌธ์ด ๋ช ์ํ์ง ์์ ํด์์ด๋ค(Table 1์ layout์ด Grid๋ผ๋ ์ถ๋ก , CNN ๊ตฌ์กฐ์ ๋ํ ํด์, Tactile Genesis์ 200 taxel ์์น๋ฅผ ๋ค์ ์ฝ๋ ํด์). ํ์ ๊ตต๊ฒยท๊ธฐ์ธ์์ ์ ํ์ ์ต๊ณ ยท2์ ์ ๊ฐ์กฐ๋ฅผ ์ฎ๊ธด ๊ฒ์ด๋ค.
- ์ ๋ชฉ: ๋ ผ๋ฌธ์ ์ฝ์นญ์ด ์์ด ์ ๋ชฉ ์๋ถ๋ถ์ ๋ฐ โWhich Taxelsโ๋ก ๋ถ๋ ๋ค.