๐HLC Survey ๋ฆฌ๋ทฐ
Paper Link (Science Robotics, DOI 10.1126/scirobotics.aed3973)
Yan Gu*, Guanya Shi*, Fan Shi*, I-Chia Chang, Yen-Jen Wang, Qilong Cheng, Zachary Olkin, Ivan Lopez-Sanchez, Yunchu Feng, Jian Zhang, Aaron D. Ames, Hao Suโ , Koushil Sreenathโ (*๋๋ฑ๊ธฐ์ฌ, โ ๊ต์ ์ ์) โ ์ด 13์ธ
Purdue ยท CMU ยท NUS ยท UC Berkeley ยท NYU Tandon ยท Caltech ยท Meta Platforms
Science Robotics, 2026 (์ ์ BibTeX ๊ธฐ์ค vol. 11, no. 117). ๋ณธ ๋ฆฌ๋ทฐ๋ ์ ์๋ค์ด ๊ณต๊ฐ ๋ ํฌ์ ์ฌ๋ฆฐ 2026-08-19์ ์ ์ ์๊ณ PDF(์ด 66์ชฝ, ๋ณธ๋ฌธ 26์ชฝ + ๊ทธ๋ฆผยทํ 7์ชฝ, ์ฐธ๊ณ ๋ฌธํ 293ํธ) ๋ฅผ ๊ทผ๊ฑฐ๋ก ํ๋ค. science.org ๋ณธ๋ฌธ์ ํ์ด์์ด๋ผ ์ต์ข ์กฐํ๋ณธ์ ์ชฝ์ยท๊ฒ์ฌ์ผ์ ํ์ธํ์ง ๋ชปํ๋ค.
๊ณต๊ฐ ์ฝ๋ ์์ โ ๋ ํฌ๋ ์ฝ๋๊ฐ ์๋๋ผ ์น์ ๋ณ ์ธ์ฉ ๋ ผ๋ฌธ ๋ฆฌ์คํธ, ๊ทธ๋ฆผ ์๋ณธ, getting-started ๊ฐ์ด๋๋ค.
- ๐ก ํด๋จธ๋ ธ์ด๋ ๋ณดํ ์ ์ด 60๋ ์ โ๊ณ ์ ์ ์ด โ RL โ ์์ฑ๋ชจ๋ธโ์ ์๊ฐ์ถ ์งํ์ฌ๋ก ๋ค์ ๋ฐฐ์ดํ๊ณ , ์ธ ์๋๊ฐ ์๋ก ๋ค๋ฅธ ๊ธฐ์ ์ด ์๋๋ผ ๊ฐ์ ๋ฌผ๋ฆฌ ์๋ฆฌ์ ๋ค๋ฅธ ๊ตฌํ์์ ๋ ผ์ฆํ๋ ์๋ฒ ์ด๋ค.
- โ๏ธ ๋ ผ๊ฑฐ๋ ์์ ๋ค ๊ฐ๋ก ์์ถ๋๋ค โ ํ์ด๋ธ๋ฆฌ๋ ๋์ญํ Eq.(1), ์ ์ฝ ์ต์ ์ ์ด Eq.(2), POMDP RL Eq.(3), ์์ฑ ์ ์ฑ Eq.(4). ์ ์๋ค์ Eq.(3)์ โEq.(2)์ ํ๋ฅ ์ ยท์ ์ฑ ํ๋ผ๋ฏธํฐํ ํ๋ณธโ์ผ๋ก ์ฝ๊ณ , Eq.(4)๋ฅผ ๊ทธ ์์ ๋ฌผ๋ฆฌ ์ฌ์ ๋ถํฌ KL ํญ์ ์น์ ํํ๋ก ๋๋๋ค.
- ๐ฏ ๊ฒฐ๋ก ์ โphysics-guided generative intelligence๋ก์ ์๋ ดโ์ด๋ฉฐ, ๊ทธ ์๋ ด์ ๋ ๋ฐ์น๋ ์ธ ๊ณตํต ์๋ฆฌ๋ฅผ ๋ฌผ๋ฆฌ ๊ธฐ๋ฐ ๋ชจ๋ธ๋ง ยท ์ ์ฝ ํ ์์ฌ๊ฒฐ์ ยท ๋ถํ์ค์ฑ ์ ์์ผ๋ก ๋ช ๋ช ํ๋ค. Table 2๋ 6๊ฐ ๋์ ร 3๊ฐ ํจ๋ฌ๋ค์ ๋งคํธ๋ฆญ์ค๋ก ์ด ๋์์ ํ ์ฅ์ ๋ฐฐ์นํ๋ค.
๐ Ping Review
๐ Ping โ A light tap on the surface. Get the gist in seconds.
ํด๋จธ๋ ธ์ด๋ ์๋ฒ ์ด๋ ์ด๋ฏธ ํฌํ ์ํ๋ค. ์ ์๋ค๋ ๊ทธ๊ฑธ ์๊ณ ์๋ก ์์ ๊ณง๋ฐ๋ก ์ขํ๋ฅผ ์ฐ๋๋ค: Ha et al.(13)์ legged RL์ ๋ค๋ฃจ๋ ๊ณ ์ ์ ์ด์ ์์ง ์์๊ณ , Wensing et al.(14)์ ์ต์ ํ ๊ธฐ๋ฐ ์ ์ด๋ฅผ ๋ค๋ฃจ๋ ํ์ต์ ๋บ์ผ๋ฉฐ, Gu et al.(15) โ ์ด ๋ธ๋ก๊ทธ์๋ ๋ฆฌ๋ทฐ๊ฐ ์๋ HLM Survey โ ๋ whole-body loco-manipulation์ ๋ค๋ฃจ๋ ์ ์ด ํ๋ ์์ํฌ์ ์งํ๊ฐ ์๋๋ผ ์์คํ ํตํฉ์ ๋ฐฉ์ ์ ์ฐ์๋ค. ์ด ๋ ผ๋ฌธ์ด ๋น์ด ์๋ฆฌ๋ ๊ทธ๋์ โ๊ณ ์ ๊ณผ ํ์ต์ ๊ณตํต ๋ฌผ๋ฆฌ ์๋ฆฌ๋ก ์๊ณ , ๊ทธ ์ ์ ์์ฑยทํ์ด๋ฐ์ด์ ๋ชจ๋ธ๊น์ง ์ฐ์ฅํ๋ ๊ฒโ์ด๋ค.
1์ฐจ ๋ถ๋ฅ์ถ์ด ์๊ณ ๋ฆฌ์ฆ ๊ณ์ด๋ ์๋๊ณ ์ ์ด ์ ํ๋ ์๋๋ผ ์๊ฐ(์ฐ๋) ์ด๋ผ๋ ์ ์ด ์ด ์๋ฒ ์ด์ ์ฑ๊ฒฉ์ ๊ฒฐ์ ํ๋ค. Fig. 1์ด ๊ทธ ์ถ ์ ์ฒด๋ค: Classical(1960โ) โ Learning-based(2015โ) โ Emerging(2023โ). ๊ฐ ์๋๋ง๋ค (a) ์ปจํธ๋กค๋ฌ๊ฐ ๋ฌด์์ ๊ณ ๋ คํ๋๊ฐ, (b) ์ด๋ค ๋๊ตฌ๋ฅผ ์ฐ๋๊ฐ, (c) ์ด๋ ๋ถ์ผ์์ ์๊ฐ์ ์ป๋๊ฐ, (d) ์ด๋ค ๊ณผ์ ์ ํธ๋๊ฐ๋ฅผ ๋ค ์ธต์ผ๋ก ๋๋ํ ๋๋๋ค.

์๋ฒ ์ด์ ๋ผ๋(Fig. 1) โ ์ธ ์๋๋ฅผ ๋ค ์ธต(๊ณ ๋ ค ๋์ / ๋๊ตฌ / ์๊ฐ์ ์ถ์ฒ / ๊ณผ์ )์ผ๋ก ๊ฐ๋ผ ๋์ ์งํ ์ฐํ. ๊ณผ์ ์ธต์ โ์ ํ๋ ์งํ์์์ ์์ ๋ณดํโ โ โ๋ค์ํ ์งํ์์์ ๋ฏผ์ฒฉํ ๋ณดํโ โ โ๊ฐ๋ฐฉ ์ธ๊ณ์์์ ๋ฉํฐํ์คํฌ loco-manipulationโ์ผ๋ก ์ด๋ํ๋ค. ๋๊ตฌ ์ธต์์ ์ถ์์ฐจ์ ๋ชจ๋ธยท์ ์ด์ด๋ก ยท๋ณผ๋ก์ต์ ํ๊ฐ GPU ๋ณ๋ ฌ ์๋ฎฌ๋ ์ด์ ยทRLยท๋ชจ๋ฐฉํ์ต์ผ๋ก, ๋ค์ ํ์ด๋ฐ์ด์ ๋ชจ๋ธยทworld modelยทํ์ฐ๋ชจ๋ธ๋ก ๊ต์ฒด๋๋ค.
ํต์ฌ ๋ฐฉ๋ฒ๋ก (์๋ฒ ์ด๊ฐ ๊น์ ๋๋ ๋ค ๊ฐ์ ์์):
๋จผ์ ๋ค๋ฆฌ ๋ก๋ด์ ๋ณธ์ง์ ์ ์ด์ ๋ง๋ค๊ณ ๋๋ ํ์ด๋ธ๋ฆฌ๋ ๋์ญํ์ด๋ค. ์ํ x, ์ ๋ ฅ u, ๋๋ฉ์ธ D, ์ค์์นญ ํ๋ฉด S์ ๋ํด
\Sigma := \begin{cases} \dot{x} = f(t,x,u), & x \in D \setminus S \\ x^{+} = \Delta(x^{-}), & x^{-} \in S \end{cases}
๊ณ ์ ์์ธก์ ์ด๋ ์ด ๋์ญํ๊ณผ ํ์ฉ์งํฉ \mathcal{X},\mathcal{U} ์๋ ์ ํ ์งํ์ ๋น์ฉ์ ์ต์ํํ๋ค.
\min_{u,x}\; L(t,x,u) = \int l(t,x,u)\,dt + V(x(T)) \quad \text{s.t.}\quad \dot{x}=f(t,x,u),\;\; x \in \mathcal{X},\; u \in \mathcal{U}
RL์ ๊ฐ์ ๋ฌธ์ ๋ฅผ POMDP \mathcal{M}=\langle \mathcal{S},\mathcal{A},p,r,\mathcal{O},\gamma\rangle ์์์ ์ ์ฑ ํ๋ผ๋ฏธํฐ์ ๋ํด ํผ๋ค.
\max_{\pi}\; J(\pi) = \mathbb{E}_{\tau \sim p_\tau(\cdot|\pi)}\left[\sum_{t=0}^{\infty}\gamma^{t} r(s_t,a_t)\right] \quad \text{s.t.}\quad s_{t+1}\sim p(\cdot|s_t,a_t),\; a_t \sim \pi(\cdot|o_t),\; o_t \sim \mathcal{O}(\cdot|s_t)
๊ทธ๋ฆฌ๊ณ ์์ฑ ์ ์ฑ ์ ๋ชฉ์ ํจ์๋ฅผ โ๋ณด์ ์ต๋ํโ์์ โ๋ฐ์ดํฐ ๋ถํฌ ์ ํฉ + ๋ฌผ๋ฆฌ ์ ํฉโ์ผ๋ก ๋ฐ๊พผ๋ค.
\max_{\phi}\; J(\pi_\phi) = \mathbb{E}_{\tau \sim p_\tau(\cdot|\pi_\phi)}\Big[\log p_{\text{data}}(\tau) - \lambda\, D\big(\pi_\phi(\tau)\,\|\,p_{\text{phys}}(\tau)\big)\Big] \quad \text{s.t.}\quad (s_t,a_t) \in \mathcal{C}_{\text{phys}}
p_{\text{phys}}๋ ๋ฌผ๋ฆฌ ์ฌ์ ๋ถํฌ(๋๋ ์๋ฎฌ๋ ์ดํฐ ์ ํฉ ๊ณผ์ ), \mathcal{C}_{\text{phys}}๋ ์ ์ดยท๋ง์ฐฐยทํ ํฌยท๊ธฐ๊ตฌํ ํ๊ณ๋ค. ์ ์๋ค์ ์ฃผ์ฅ์ ์ด ๋ค ์์ด ๋ค๋ฅธ ๋ฌธ์ ๊ฐ ์๋๋ผ ๊ฐ์ ๋ฌธ์ ์ ๋ค๋ฅธ ํ๋ผ๋ฏธํฐํ๋ผ๋ ๊ฒ์ด๋ค.
์ฃผ์ ๊ฒฐ๊ณผ(์๋ฒ ์ด๊ฐ ์ ๋ฆฌํ ์ฌ์ค๋ค):
- ์๋๋ณ ์ฐฉ์ ์ฐ๋(Table 1): ์ ํ ํผ๋๋ฐฑ 1980sโ ยท ๋น์ ํ ํผ๋๋ฐฑ 2000sโ ยท ๊ถค์ ์ต์ ํ 2010sโ ยท MPC 2010sโ ยท ์์ ์๋ฎฌ RL 2016โ ยท ์ค๋ฐ์ดํฐ RL 2018โ ยท ๋ชจ๋ธ ์ ๋ RL 2020โ ยท LLM/VLM ์ ๋ 2024โ ยท ํ์ฐ ๋ชจ์ ์ฌ์ ๋ถํฌ 2025โ ยท world/foundation ๋ชจ๋ธ 2025โ.
- ๊ณ์ฐ ๊ณ์ธต(Fig. 3B): ๊ด์ ํ ํฌ โผ1000 Hz, ๋ชจ์ ์์ฑ โผ100 Hz, ํ์คํฌ ๊ณํ โผ1 Hz. ์์ฑ ๋ฐฉ์์ ๊ณ์ฐ ๋ถ๋ด ๋๋ฌธ์ ๋๊ฐ ๋ ๋ฎ์ ๋ฐฐํฌ ์ฃผํ์์์ ๋๋ค.
- ์จ๋ผ์ธ MPC์ ์งํ์ ์ ๊ณ์ฐยทํ์ด๋ฐ ์ ์ฝ ๋๋ฌธ์ 1์ด ๋ฏธ๋ง์ผ๋ก ์ ํ๋๋ ๊ฒฝํฅ์ด ์๋ค.
- ์๊ฐ ๊ธฐ๋ฐ ๋ณดํ ์ ์ฑ ์ โblindโ ๋ฒ ์ด์ค๋ผ์ธ ๋๋น ์ฑ๊ณต๋ฅ ์ ๋ ๋ฐฐ๋ก ์ฌ๋ฆด ์ ์๋ค๋ ์ค์ฆ ์ฐ๊ตฌ๊ฐ ์๋ค(์ธ์ฉ 223, 224).
- ํด๋จธ๋ ธ์ด๋ ํ๋ซํผ ๊ฐ๊ฒฉ์ ์ก์ถ์์ดํฐยท๊ฒฝ๋ ์ค๊ณยท์์ฐ์ผ๋ก ํ ์๋ฆฟ์ ์ด์(over an order of magnitude) ํ๋ฝํ๋ค.
- ๊ท๋ชจ: ์ฐธ๊ณ ๋ฌธํ 293ํธ, ๊ทธ๋ฆผ 5์ฅ, ํ 2์ฅ.
๊ฒฐ๋ก :
์ด ์๋ฒ ์ด์ ์ต์ข ๋ช ์ ๋ โ๊ณ ์ ์ ์ด๊ฐ ํ์ต์ ์ํด ๋์ฒด๋ ๊ฒ์ด ์๋๋คโ์ด๋ค. ์ต๊ทผ์ ๋ฏผ์ฒฉ์ฑ ๋์ฝ์ ์ ๊ฒฝ๋ง ์ ์ฑ ์ด๋ ์ฐ์ฐ๋ ํ๋์ ์น๋ฆฌ๊ฐ ์๋๋ผ ๊ณ ์ถฉ์ค๋ ์ ์ด ์๋ฎฌ๋ ์ด์ + ํํ๋ ฅ ์๋ ํ์ต ๊ตฌ์กฐ + ๋ฌผ๋ฆฌ ์ ๋ ํ์ต ์ค๊ณ + ๋น๋์นญ ํ์ต(asymmetric training)์ ์๋์ง๋ผ๋ ๊ฒ. ๊ทธ๋์ ๋ฌผ๋ฆฌ ์๋ฆฌ๋ ์๋ฎฌ๋ ์ดํฐยท๋ณด์ ์ค๊ณยท์์คํ ์๋ณยท์ปค๋ฆฌํ๋ผยท์ค์๊ฐ ์ ์ด ์ธํฐํ์ด์ค๋ผ๋ ํต๋ก๋ก ์ฌ์ ํ ํ๋ ํด๋จธ๋ ธ์ด๋ ์ ์ด๋ฅผ ๊ดํตํ๋ค. ์ ์๋ค์ด ๋ง์ง๋ง์ ์ง๋ชฉํ๋ ๋ณ๋ชฉ์ ์๊ณ ๋ฆฌ์ฆ์ด ์๋๋ผ ๋ฐ์ดํฐ๋ค โ ์๊ฒฉ์กฐ์ ๋ฐ์ดํฐ๋ ์๋ฎฌ ๋ฐ์ดํฐ๋ ๊ฐ๊ฐ์ผ๋ก๋ ํฌ๊ท ์คํจยท์ ์ด ํ๋ถ ์ํธ์์ฉยท๋ณต๊ตฌ ํ๋ยทํํ ๋ณ์ดยท์ธ๊ฐ ์ค์ฌ ๋ฐฐํฌ ์กฐ๊ฑด์ ๋ฎ์ง ๋ชปํ๋ค.
๐ Ring Review
๐ Ring โ An idea that echoes. Grasp the core and its value.
ํ ์ค๋ก ์์ํ๋ฉด
์ด ์๋ฒ ์ด๋ โ๋ฌด์์ด ์์๋๊ฐโ์ ๋ชฉ๋ก์ด ์๋๋ผ โ์ ๊ทธ๊ฒ๋ค์ด ๊ฒฐ๊ตญ ๊ฐ์ ๋ฌธ์ ์๋๊ฐโ์ ๋ ผ์ฆ์ด๋ค. ์ ์๋ค์ 60๋ ์น ๋ฐฉ๋ฒ์ ์ฐ๋์์ผ๋ก ๋์ด๋๋, ๊ฐ ์๋๋ฅผ ํ๋์ ์ต์ ํ ๋ฌธ์ ๋ก ๋ค์ ์จ์ ์ธ ์๋๊ฐ ๋ชฉ์ ํจ์์ ํํ์ ์ต์ ํ๊ฐ ์ผ์ด๋๋ ์์ ๋ง ๋ค๋ฅด๋ค๋ ๊ฒ์ ๋ณด์ธ๋ค. ๊ณ ์ ์ ์ด๋ ์จ๋ผ์ธ์์ ๊ฒฐ์ ๋ก ์ ๊ถค์ ์ต์ ํ๋ฅผ ํ๊ณ , RL์ ์คํ๋ผ์ธ์์ ์๋ฎฌ๋ ์ดํฐ๋ฅผ ์๋๋ก ์ ์ฑ ํ๋ผ๋ฏธํฐ ์ต์ ํ๋ฅผ ํ์ด ๊ทธ ํด๋ฅผ ์ ๊ฒฝ๋ง์ โ์ธ์ฝ๋ฉโํ๋ฉฐ, ์์ฑ๋ชจ๋ธ์ ๊ทธ ์์ ๋ฐ์ดํฐ ๋ถํฌ๋ฅผ ์น๋๋ค. ์ด ๊ด์ ์ด ์๋ฒ ์ด์ ๊ฐ์ด์น ์ ๋ถ๋ค โ ์ฌ๊ธฐ์ ๋์ํ์ง ์์ผ๋ฉด ์ด ๋ ผ๋ฌธ์ ๊ทธ๋ฅ ์ ์ ๋ฆฌ๋ ์ธ์ฉ ๋ชฉ๋ก์ด ๋๋ค.
๋ฐฐ๊ฒฝ โ ์ ํด๋จธ๋ ธ์ด๋ ๋ณดํ ์ ์ด๊ฐ ์ด๋ ค์ด๊ฐ (Sec. INTRODUCTION)
์ ์๋ค์ ๋ฌธ์ ์ ์๋ ์งง๋ค: ์ ์ด๋ ํ๋์จ์ด๊ฐ ๋ชฉ์ ์๋ ํ๋์ ๋ด๊ฒ ๋ง๋๋ ๋ฉ์ปค๋์ฆ์ด๊ณ , ํด๋จธ๋ ธ์ด๋์์ ๊ทธ๊ฒ์ โ๋ถํ์คํ๊ณ ๋น์ ํ์ธ ๋์ญํ ์๋, ์์ญ ๊ฐ ๊ด์ ๊ณผ ๊ฐํ์ ์ ์ด์ ์กฐ์จํ๋ฉด์ ์์ ยท์ ๋ฐ๋ยท์๋์ง ํจ์จยท์ ์์ฑ์ ๊ท ํ์ ์ก๋ ์ผโ์ด๋ค. ์ฌ๊ธฐ์ ๊ฐํ์ ์ ์ด์ด ํต์ฌ์ด๋ค. ๋ฐํด ๋ก๋ด๊ณผ ๋ฌ๋ฆฌ ๋ค๋ฆฌ ๋ก๋ด์ ์ ์ด์ ๋ฐ๋ณตํด์ ๋ง๋ค๊ณ ๋์ผ๋ฉฐ, ๊ทธ ์๊ฐ๋ง๋ค ์ํ๊ฐ ๋ถ์ฐ์์ผ๋ก ์ ํํ๋ค. ๊ทธ๋์ Eq. (1)์ ํ์ด๋ธ๋ฆฌ๋ ๊ตฌ์กฐ๊ฐ ์ด ๋ถ์ผ์ ์ถ๋ฐ์ ์ด ๋๋ค.
์๋ฒ ์ด์ ๋ฒ์ ํ์ ๋ ๋ถ๋ช ํ๋ค. ์ง๊ฐ(1, 2), ํ์คํฌ ๊ณํ(3), ์ํ ์ถ์ (4)์ ์ ์ด ์ค๊ณ์ ์ง๊ฒฐ๋ ๋๋ง ๋ค๋ฃฌ๋ค. ์ฆ ์ด ๋ ผ๋ฌธ์ ํด๋จธ๋ ธ์ด๋ ์ ๋ฐ์ ์๋ฒ ์ด๊ฐ ์๋๋ผ ์ ์ด ํจ๋ฌ๋ค์์ ์๋ฒ ์ด๋ค.
๊ธฐ์ฌ โ ์ ์๋ค์ด ์ค์ค๋ก ๋งค๊ธด ์ธ ๊ฐ์ง
- ๋ค ํจ๋ฌ๋ค์์ ๊ฐยท์ฝ์ ์ ํ ์ค๋ก ๋์น์ํจ๋ค: ๊ณ ์ ์ค์๊ฐ ํผ๋๋ฐฑ์ ๋น ๋ฅด๊ณ ์๋ฆฌ์ ์ด์ง๋ง ์ฌ์ ๊ณํ๋ ํ๋์ ๊ฐํ๊ณ , ์์ธก์ ์ด๋ ์ ์ฝ์ ์จ๋ผ์ธ์ผ๋ก ๋ค๋ฃจ์ง๋ง ๋ฏผ์ฒฉ์ฑ์ ํฌ์ํ๋ ๊ฒฝ์ฐ๊ฐ ๋ง๊ณ , RL์ ๋ฏผ์ฒฉ์ฑยท๊ฐ๊ฑด์ฑ์ ์ป์ง๋ง ํ์คํฌ ํนํ์ ์ด๊ณ ๋ถํฌ๋ช ํ๋ฉฐ, ์์ฑ ๋ฐฉ์์ ๋ค์ฌ๋ค๋ฅํ์ง๋ง ์ค์ธ๊ณ ์ ๋ขฐ์ฑ์ด ์๋ค. ์ด ๋ค ๋ฌธ์ฅ์ด ๋ ผ๋ฌธ ์ ์ฒด์ ์์ถ์ด๋ค.
- ์ธ ๊ณตํต ์กฐ๋ ฅ์(shared enablers) ๋ฅผ ๋ฝ๋๋ค โ ๋ฌผ๋ฆฌ ๊ธฐ๋ฐ ๋ชจ๋ธ๋ง, ์ ์ฝ ํ ์์ฌ๊ฒฐ์ , ๋ถํ์ค์ฑ ์ ์.
- ๋ ์ค๋ฅด๋ ๋ฐฉํฅ์ผ๋ก ์์ฑ์ ๋ฉํฐ๋ชจ๋ฌ loco-manipulation, test-time adaptation, ์ธ๊ฐ ์ค์ฌ ํด๋จธ๋ ธ์ด๋ ์ค๊ณ๋ฅผ ์ง๋ชฉํ๋ค.
๋ชจ๋ธ๋ง โ ์คํํธ๋ผ์ผ๋ก์์ ๋ชจ๋ธ (Sec. MODELING)
์๋ฒ ์ด๊ฐ ๋ชจ๋ธ์ ๋ค๋ฃจ๋ ๋ฐฉ์์ด ์ธ์์ ์ด๋ค. โ๊ณ ์ =ํด์์ ๋ชจ๋ธ, ํ์ต=๋ชจ๋ธ ํ๋ฆฌโ๋ผ๋ ํํ ์ด๋ถ๋ฒ ๋์ ํํ๋ ฅ ์ถ๊ณผ ๋ฌผ๋ฆฌโ๏ธ๋ฐ์ดํฐ ์ถ์ 2์ฐจ์ ์คํํธ๋ผ์ผ๋ก ํธ๋ค(Fig. 2).

๋ชจ๋ธ๋ง ์คํํธ๋ผ(Fig. 2) โ ์ผ์ชฝ(๋ฌผ๋ฆฌ ๊ธฐ๋ฐ)์์ ์ค๋ฅธ์ชฝ(๋ฐ์ดํฐ ๊ธฐ๋ฐ)์ผ๋ก, ์๋(๋ฎ์ ํํ๋ ฅ)์์ ์(๋์ ํํ๋ ฅ)๋ก. ์ถ์์ฐจ์ ๋ชจ๋ธ โ ์ ์ฐจ์ ๋ชจ๋ธ โ ๋ฌผ๋ฆฌ ์๋ฎฌ๋ ์ดํฐ โ (ํ์ด๋ธ๋ฆฌ๋: ๋ฌผ๋ฆฌ ๋ชจ๋ธ + ๋ฐ์ดํฐ ๊ธฐ๋ฐ ์์ฐจ ์ ๊ฒฝ๋ง) โ ํ์ต๋ ๋์ญํ โ ์ ์ฌ ๋์ญํ โ world model. ์ด๋ก=๊ณ ์ , ๋นจ๊ฐ=ํ์ด๋ธ๋ฆฌ๋, ๋ ธ๋=์ ํฅ.
- ์ถ์์ฐจ์ ๋ชจ๋ธ(reduced-order): LIP, SLIP, compass-gait, centroidal, point-mass, single rigid body. ์ค์๊ฐ ๊ท ํยท๋ฐ ๋ฐฐ์นยท์ธ๋ ์ ๊ฑฐ๋ฅผ ๊ฐ๋ฅํ๊ฒ ํ๊ณ ๋๋ฌผ ๋ณดํ์ ์ฌ์ง ํ์ ์๋ฆฌ๋ฅผ ๋๋ฌ๋ด๊ธฐ๋ ํ๋ค. ๋๊ฐ๋ ํ์งยท๊ฐ์ฒด ์ ์ดยท์ผ์ CoM ๋์ด ๊ฐ์ ๊ฐ์ ์ด๋ฉฐ, ๋น ๋ฅด๊ณ ์ ์ด์ด ํ๋ถํ ๋์์์ ๋ฌด๋์ง๋ค.
- ์ ์ฐจ์ ๋ชจ๋ธ(full-order): ์์ ํ ๊ฐ์ฒด ๋์ญํ. ๋ ์ญ๋์ ์ธ ๋์์ด ๊ฐ๋ฅํ์ง๋ง ์ฐจ์์ด ๋์ ๊ณ์ฐ ๋น์ฉ๊ณผ ์ ์ด ๋ณต์ก๋๊ฐ ์ค๋ฅด๊ณ , ๋ชจ๋ธ๋ง ์ค์ฐจยท์งํ ์ปดํ๋ผ์ด์ธ์คยท๋ง์ฐฐ ๋ณ๋์ ๋ฏผ๊ฐํ๋ค.
- ๋ฌผ๋ฆฌ ์๋ฎฌ๋ ์ดํฐ: ์ ์๋ค์ ํํ์ผ๋ก โํ๋ ํ์ต ๋ฐฉ๋ฒ ๋ค์ ๋ณด์ด์ง ์๋ ์์งโ. ์ค์ํ ๊ฑด ์๋ฎฌ๋ ์ดํฐ๊ฐ ๊ณ ์ ์ปจํธ๋กค๋ฌ๋ณด๋ค ์ผ๋ฐ์ ์ธ ์ ์ด ๋ชจ๋ธ(๋ฏธ๋๋ฌ์ง, ๋นํ๋ฆผ ๋ง์ฐฐ, ๋ค์ํ ์ ์ด ์)์ ์์น์ ์ผ๋ก ํผ๋ค๋ ์ ์ด๋ค. ์ฆ ํ์ต ์ง์์ ์ ์ด์ โ๊ฐ์ ์ผ๋ก ๋จ์ํโํ๋ ๋์ โ์์น๋ก ๋ ๋๊ธดโ ๊ฒ์ด๋ค.
- ํ์ด๋ธ๋ฆฌ๋ยท๋ฐ์ดํฐ ๊ธฐ๋ฐ: ์ก์ถ์์ดํฐ ์ ๊ฒฝ๋ง ๋ชจ๋ธ, ์์ฐจ ํ์ต(ASAP ๊ณ์ด), ๊ทธ๋ฆฌ๊ณ ์ ์ฌยทworld model.
์ ์ด ์ฒ๋ฆฌ ๋ฐฉ์์ด ์ธ ํจ๋ฌ๋ค์์ ๊ฐ๋ฅด๋ ์ง์ ์ด๋ผ๋ ์ ๋ฆฌ๋ ๋ช ๋ฃํ๋ค โ ๊ณ ์ ์ ๋ช ์์ (๊ธฐ๊ตฌํ ์ ์ฝยท๋ง์ฐฐ ์๋ฟยทํ์ด๋ธ๋ฆฌ๋ ๋์ญํ)์ผ๋ก, ํ์ต์ ์๋ฎฌ๋ ์ดํฐ์ ์์ํด ์์น์ ์ผ๋ก, ์์ฑ์ ๋ฐ์ดํฐ๋ก๋ถํฐ ์๋ฌต์ ์ผ๋ก ์ ์ด์ ํํํ๋ค.
๊ณ ์ ์ ์ด โ ์ค์๊ฐ ํผ๋๋ฐฑ์์ ์์ธก์ ์ด๋ก (Sec. MODELING AND CLASSICAL CONTROL)
์ฐ๋๊ธฐ๋ Raibert์ ๋์ ํธํ(1986), Honda ASIMO์ ์ค์ ์ ๋ณดํ, ์ดํ ๋์ ์ด์กฑยทํด๋จธ๋ ธ์ด๋ ๋ณดํ๊ณผ ๋ฌ๋ฆฌ๊ธฐ๋ก ์ด์ด์ง๋ค. ์คํ๋ผ์ธ ๊ถค์ ์ต์ ํ๋ DARPA Robotics Challenge(2013โ2015)์ Boston Dynamics Atlas์ ํ์ฟ ๋ฅด ๋ฐ๋ชจ๋ผ๋ ์ด์ ํ๋ฅผ ๋ณ์๋ค.
- ์ ํ ํผ๋๋ฐฑ: ZMP(LIP ๊ธฐ๋ฐ์ ์ค์ ์ ๋ณดํ), Raibert ์ ์ด(์ปดํ๋ผ์ด์ธํธ ์ถ์์ฐจ์ ๋ชจ๋ธ + ๋ฐ ๋ฐฐ์น), capture point(์ด๋๋ฅผ ๋ฐ์์ผ ๋ฉ์ถ๋๊ฐ๋ก CoM๊ณผ ๋ฐ ๋ฐฐ์น๋ฅผ ์๋๋ค), LQR๋ก์ ์ผ๋ฐํ, ๊ทธ๋ฆฌ๊ณ ๊ฐ์ฅ ๋จ์ํ PD. ์ ์๋ค์ด ๋์น์ง ์๋ ๋๋ชฉ์ด ํ๋ ์๋ค โ PD ๋ชฉํ๊ฐ ์ถ์ข ์ ์ค๋๋ RL๊ณผ ์ค์๊ฐ ์ ์ด๋ฅผ ์๋ ๊ฐ์ฅ ๋์ค์ ์ธ ์ธํฐํ์ด์ค๋ค(Fig. 3B). ํ์ต์ด ๊ณ ์ ์ ๋์ฒดํ ๊ฒ ์๋๋ผ ๊ทธ ์์ ์นํ๋ค๋ ์ฆ๊ฑฐ๋ก ์ด๋ณด๋ค ๊ตฌ์ฒด์ ์ธ ๊ฒ์ ์๋ค.
- ๋น์ ํ ํผ๋๋ฐฑ: ์ ์ฐจ์ ๋ชจ๋ธ์ ํ์ด๋ธ๋ฆฌ๋ยท๋น์ ํ ๋์ญํ์ ๊ตฌ๋/์(zero) ๋์ญํ์ผ๋ก ๋ถํดํ๊ฑฐ๋, CLF-QPยทwhole-body QP ๊ฐ์ ์ต์ ํ ๊ธฐ๋ฐ์ผ๋ก ํผ๋ค. ์ค์๊ฐ ์ถ์ข ์ ๋์ง๋ง ์งํ์ ์ด ์์ด โํ์์ (greedy)โ์ด๋ผ๋ ํ๊ณ๊ฐ ๋จ๋๋ค.
- ๊ถค์ ์ต์ ํ: DDPยทSQPยทํผํฉ์ ์ ๋ณผ๋ก์ต์ ํ๋ก ๋ฐ ์์น์ ๋ชจ์ ์ (์ด๊ธฐ์๋ 2๋จ๊ณ๋ก, ๋์ค์๋ ๋จ์ผ ์ต์ ํ๋ก) ํผ๋ค. HZD๋ ์ ์ฐจ์ยท๋น์ ํยทํ์ด๋ธ๋ฆฌ๋ยท๋ถ์กฑ๊ตฌ๋ ๋์ญํ์ ๋ช ์์ ์ผ๋ก ๋ค๋ฃจ๋ ๊ณ์ด์ด๋ฉฐ, ์ธ๊ฐ ์์ง์ ํจํด์ ์ต์ ํ์ ์ฌ์ด ์ธ๊ฐ๋ค์ด ๋ณดํ์ ๋ง๋ ๋ค โ ์ ์๋ค์ ์ด๊ฒ์ด RL์์ ์ธ๊ฐ ๋ฐ์ดํฐ๋ฅผ ์ฐ๋ ๊ฒ๊ณผ ๊ฐ์ ๋ฐ์์ด๋ผ๊ณ ์ง๋๋ค.
- ์จ๋ผ์ธ MPC: ์งํ์ 1์ด ๋ฏธ๋ง, ์ถ์์ฐจ์ ๋ชจ๋ธ(SRBยทcentroidal)๋ก ์ฐจ์์ ์ค์ด๊ณ , SQP ํ๋ ์ ์์์ QP๋ฅผ ํ ๋ฒ๋ง ํ์ด ์ค์๊ฐ์ฑ์ ํ๋ณดํ๋ค. ๊ฐ๊ฑด์ฑ์ ์ํด ์ ์ด ์์นยทํ์ด๋ฐ๊น์ง ์จ๋ผ์ธ์ผ๋ก ์กฐ์ ํ๋ contact-implicit MPC(๊ฒฝ์ฌ ๊ธฐ๋ฐ)์ sampling-based MPC(๊ฒฝ์ฌ ์์ด ์ ์ด์ ์๋ฌต ์ ํ)๊ฐ ์๋ค. ๋ค๋ง ์ ์๋ค์ ๋๋ถ๋ถ์ ํด๋จธ๋ ธ์ด๋ ๊ตฌํ์ด ์๋ฎฌ๋ ์ด์ ์ ๋จธ๋ฌผ๋ฌ ์๋ค๊ณ ๋ชป ๋ฐ๋๋ค.
๊ณ ์ ์ ์ด์ ์ฑ๋ฅ ๊ฒฝ๊ณ๋ ๋ค ๊ฐ์ง๋ก ์ ๋ฆฌ๋๋ค: (i) ์ํ ์ถ์ ์ด ์ ํํ๋ค๋ ์ ์ ๊ฐ ๊นจ์ง ๋์ ์ฑ๋ฅ ์ ํ, (ii) ์ถ์์ฐจ์โ๏ธ์ ์ฐจ์ ์ฌ์ด ์ด๋ ์ชฝ์ ๊ณจ๋ผ๋ ๋จ๋ ๋ชจ๋ธ๋ง ๊ฒฉ์ฐจ, (iii) ๋ชจ๋ธ ์ ํ๋์ ๊ณ์ฐ ์๋์ ๋ฏธํด๊ฒฐ ํธ๋ ์ด๋์คํ, (iv) ๊ณ์ฐ์ ๊ฐ๋ฅํ๊ฒ ํด ์ค ๊ตฌ์กฐ์ ๊ฐ์ ์ด ์ ํ๊ฒฝ์์ ๊นจ์ง ๋์ ์ ์์ฑ ๋ถ์กฑ.
ํ์ต ๊ธฐ๋ฐ ์ ์ด โ POMDP์ ๊ทธ ์ฃผ๋ณ ๋๊ตฌ๋ค (Sec. LEARNING-BASED CONTROL)
RL ์ ์ ๊ตฌ์ฑ์ โ์๊ณ ๋ฆฌ์ฆ ๋์ดโ์ด ์๋๋ผ ๋ฌด์์ด ๋ณ๋ชฉ์ ํ์๋๊ฐ์ ๋ชฉ๋ก์ด๋ผ๋ ์ ์์ ์ค์ฉ์ ์ด๋ค: GPU ๋ณ๋ ฌ ์๋ฎฌ๋ ์ดํฐ(Isaac ๊ณ์ด, MuJoCo MJX โ CPU ๊ธฐ๋ฐ RaiSimยทPyBullet์์์ ์ด๋), ์ ์ฑ ๊ฒฝ์ฌ ์๊ณ ๋ฆฌ์ฆ(TRPOยทPPO)๊ณผ ์คํ์์ค ๋ผ์ด๋ธ๋ฌ๋ฆฌ, ๋๋ฉ์ธ ๋๋คํ, ์ปค๋ฆฌํ๋ผ ํ์ต, teacher-student ๋ฐ asymmetric actor-critic.
์ฌ๊ธฐ์ ์๋ฒ ์ด๊ฐ ๋์ง๋ ๊ฐ๋ ์ ํ ๋ฐฉ์ด โ์๋ฌต์ ์ง๊ฐ(implicit perception)โ ์ด๋ค. ๊ณ ์ ์ ์ด๋ ์ ์ด ์ํยทํ๊ฒฝ ๊ธฐํ๋ฅผ ๋ช ์์ ์ผ๋ก ์ถ์ ํด์ผ ํ๊ณ ๊ทธ๊ฒ ์ค์ธ๊ณ์์ ์ ์ ๋๋ค. POMDP๋ก ์ ์ํํ๊ณ teacher-studentยท๋น๋์นญ critic์ ์ฐ๋ฉด ์ ์ฑ ์ ๊ฒฝ๋ง์ด ์ก์ ์์ธ ๊ด์ธก์์ ํ์ํ ์ํ๋ฅผ ์๋ฌต์ ์ผ๋ก ์ถ์ ํด ๊ณง๋ฐ๋ก ํ๋์ผ๋ก ๋งคํํ๋ค. ์ํ ์ถ์ ๊ธฐ๋ฅผ ์์ค ๊ฒ ์๋๋ผ ์ ์ฑ ์์ผ๋ก ํก์ํ ๊ฒ์ด๋ค.
์ค๋ฐ์ดํฐ ํ์ฉ์ ์ธ ์ธต์ผ๋ก ๋๋๋ค.
- ์ธ๊ฐ ๋ชจ์ ๋ฐ์ดํฐ: ์๋ ์ถ์ข ยท๋ณดํ ์ฃผํ์ ๊ฐ์ ๋จ์ ๋ณด์์ ๋ฌด๋ฆ์ด ๊ณง๊ฒ ํด์ง๊ฑฐ๋ ๋ฐ์ ๋๋ ๋ถ์์ฐ์ค๋ฌ์ด ๊ฑธ์์ ๋ณ๋๋ค. ๊ทธ๋์ ๋ชจ์ ์บก์ฒ ๋ฐ์ดํฐ๋ฅผ ๋ฆฌํ๊ฒํ ํด ์ฐ๋, ๋ฐฉ์์ ๋์ด๋ค โ ๊ฐ์ (์ ๋์ ): GAILยทAMP ๊ณ์ด์ด ํ๋ณ์๋ก ๋ถํฌ๋ฅผ ์ ๋ ฌ. ์ง์ (์ถ์ข ): DeepMimic ๊ณ์ด, H2O, HumanPlus, ExBody ๋ฑ์ด ์ฐธ์กฐ ๋ชจ์ ๊ณผ์ ์ค์ฐจ๋ฅผ ๋ณด์์ผ๋ก ๋ช ์.
- ์์คํ ์๋ณยท์ก์ถ์์ดํฐ ๋ชจ๋ธ ํ์ต: ๊ด์ฑ์ฒ๋ผ ์๋ณ์ด ์ด๋ ค์ด ํ๋ผ๋ฏธํฐ, ๋น์ ํยท๊ธฐ๊ณ์ ๋ถ์์ ์ฑ ๋๋ฌธ์ ๋ชจ๋ธ๋ง์ด ํ๋ ์ก์ถ์์ดํฐ/์ ๋ ๊ณํต์ ์ค๋ฐ์ดํฐ๋ก ๋ฉ์ด๋ค. ๋ณดํ์ด ๋นํํ ํ์ด๋ธ๋ฆฌ๋๋ผ ์ํ๋ง ๊ธฐ๋ฐ ์๋ณ์ด ์ ํธ๋๋ค.
- ๋ก๋ด ๋์ญํ ํ์ต: ์ ๋์ โ๋ฌด์์ ์ถ์ ํ ์ง ๋ฏธ๋ฆฌ ์ ํด์ผ ํ๋คโ๋ ๊ตฌ์กฐ์ ํ๊ณ๊ฐ ์์ด, ๋ช ๋ชฉ ์๋ฎฌ๋ ์ดํฐ ์์ ์์ฐจ ๋ชจ๋ธ์ ์น๋ ์ ๊ทผ(ASAP๊ณผ ๊ทธ ๋ณํ)์ด ํํ๋ค.

๋ ๊ฐ์ ํตํฉ ๋ทฐ(Fig. 3) โ (A) โ์ต์ ํยทํ์ต์ด ์ธ์ ์ผ์ด๋๋๊ฐโ(minor / online / offline) ร โ๋ชจ๋ธยท๋ฐ์ดํฐ ๋ณต์ก๋โ๋ก ๋ฐฉ๋ฒ๋ค์ ๋ฐฐ์น. ์ผ์ชฝ ์๋ ์ ํยท๋น์ ํ ํผ๋๋ฐฑ์์ ์ค๋ฅธ์ชฝ ์ RLยท๋ชจ์ ๋ชจ๋ฐฉ์ ์ง๋ ์ ํฅ ํ๋ก ํฐ์ด๋ก ์ด์ด์ง๋ค. (B) ๋ฐฐํฌ ์ /๋ฐฐํฌ ์ค ๋จ๊ณ์ ์ ์ด ๋ฃจํ ์ฃผํ์(ํ์คํฌ ๊ณํ โผ1 Hz / ๋ชจ์ ์์ฑ โผ100 Hz / ๊ด์ ํ ํฌ โผ1000 Hz)๋ก ๊ฐ์ ๋ฐฉ๋ฒ๋ค์ ๋ค์ ๋ฐฐ์น.
์ง๊ด โ Eq.(2)์ Eq.(3)์ ์ ๊ฐ์ ๊ฒ์ธ๊ฐ
์ด ์๋ฒ ์ด์์ ๊ฐ์ฅ ์ค๋ ๋จ๋ ๋ฌธ์ฅ์ ์ด๊ฒ์ด๋ค: RL๋ก ํ์ต๋ ๋ณดํ ์ปจํธ๋กค๋ฌ๋ ์ฌ์ค์ ์๋ฎฌ๋ ์ด์ ์์์ ์๋ง์ ์ต์ ํ ๋ฌธ์ ๋ฅผ ์คํ๋ผ์ธ์ผ๋ก ํ์ด ๊ทธ ํด๋ฅผ ์ ๊ฒฝ๋ง์ โ์ธ์ฝ๋ฉโํ ๊ฒ์ด๋ค.
์ด ๊ด์ ์์ Eq. (2)์ Eq. (3)์ ์ฐจ์ด๋ ์ ๋ฟ์ด๋ค. (i) Eq. (2)๋ ๋ช ์์ ๋ชจ๋ธ๊ณผ ์ฐ์ ๋น์ฉ ์์ ๊ฒฐ์ ๋ก ์ ๊ถค์ ์ต์ ํ์ด๊ณ , Eq. (3)์ ํ๋ฅ ์ ๊ถค์ ๋ถํฌ ์์ ์ ์ฑ ํ๋ผ๋ฏธํฐ ์ต์ ํ๋ค. (ii) Eq. (3)์ ์ข ๋ฃ ๋ณด์ ๊ฐ์ ์ด์ฐ ๋ณด์์ ๋ฃ๊ธฐ ์ฝ๋ค. (iii) ๊ณ์ฐ ์์ ์ด ๋ค๋ฅด๋ค โ ์์ธก์ ์ด๋ ์ฃผ์ด์ง ์ํ์ ๋ํด ์จ๋ผ์ธ์ผ๋ก ํ๊ธฐ ์ํด ๋ชจ๋ธ์ ๋จ์ํํ๊ณ , RL์ ๋ฐฉ๋ํ ์ํยทํ๊ฒฝ์ ๋ํด ์คํ๋ผ์ธ์ผ๋ก ํ๋ teacher-studentยท๋น๋์นญ critic์ผ๋ก ๋ช ์์ ์ํ ์ถ์ ์ ์ฐํํ๋ค. Fig. 4๊ฐ ์ด ๊ตฌ์กฐ์ ์ฐจ์ด๋ฅผ ๋๋ํ ๊ทธ๋ฆฐ๋ค.

๊ณ ์ vs ํ์ต ๊ตฌ์กฐ ๋น๊ต(Fig. 4) โ (A) ๊ณ ์ : ๋ช ์์ ์ํ ์ถ์ ๊ธฐ + ํด์์ ๋ชจ๋ธ + ์จ๋ผ์ธ ์ปจํธ๋กค๋ฌ. ์ค๊ณ(์คํ๋ผ์ธ)์ ๋ฐฐํฌ(์จ๋ผ์ธ) ๋ชจ๋์์ ๊ฐ์ ์ต์ ํ ๋ฌธ์ ๋ฅผ ํผ๋ค. (B) RL: ์คํ๋ผ์ธ ํ์ต ๋จ๊ณ์์ ๋ฌผ๋ฆฌ ์๋ฎฌ๋ ์ดํฐ์ ์ํธ์์ฉํ๋ฉฐ ์ ์ฑ ์ ๊ฐฑ์ ํ๊ณ , ์จ๋ผ์ธ์์๋ ๊ด์ธก โ ํ๋์ ์ถ๋ก ๋ง ๋จ๋๋ค. ์ํ ์ถ์ ๊ธฐ ๋ธ๋ก์ด ์ฌ๋ผ์ง ์๋ฆฌ๊ฐ ๋ ํจ๋ฌ๋ค์์ ์ฐจ์ด๋ฅผ ๊ฐ์ฅ ์ ๋ณด์ฌ ์ค๋ค.
๊ทธ๋ฆฌ๊ณ ์ ์๋ค์ ์ฌ๊ธฐ์ ํ ๋ฐ ๋ ๋๊ฐ๋ค โ ์ต๊ทผ ๊ฒฐ๊ณผ๋ค์ด ์์ฌํ๋ ๋ฐ๋ ์คํ๋ผ์ธ ๊ณ์ฐ๊ณผ ์จ๋ผ์ธ ๊ณ์ฐ์ ํจ๊ป ์ฐ๋ ๊ฒ์ด ์ต์ ์ด๋ผ๋ ๊ฒ์ด๋ค(Fig. 3B์ ํ์ด๋ธ๋ฆฌ๋ ๊ฒฝ๋ก).
RL ํ์ดํ๋ผ์ธ์ ๊ตฌ์ฑ์์๊ฐ ์ฌ์ค์ ๊ณ ์ ์ ์ด ๊ฐ๋ ์ ์ฌ๋ฐ๋ช ์ด๋ผ๋ ๋์ํ๋ ๋ช ๋ฃํ๋ค.
| RL ์ชฝ ๊ธฐ๋ฒ | ๊ณ ์ ์ ์ด ์ชฝ ๋์ |
|---|---|
| ๋๋ฉ์ธ ๋๋คํ | ๊ฐ๊ฑด ์ ์ด(robust control) |
| adaptation module / teacher-student | ์ ์ ์ ์ด(adaptive control) |
| ์คํ ์ธ์ฝ๋ยท์ ์ฌ๊ณต๊ฐ | PCAยทSVDยทํผ๋๋ฐฑ์ ํตํ ๋์ญํ ์ถ์ |
| ์ ์ด ๋ชจ๋๋ฅผ ๋ช ์ํ๋ ์ ์ฑ ๊ตฌ์กฐ | ํ์ด๋ธ๋ฆฌ๋ ๋์ญํ ์์คํ ์ ์ํ |
| ๊ณ์ธต์ ํ์ต ํ๋ ์์ํฌ | ๊ณ์ธตยท์บ์ค์ผ์ด๋ ์ ์ด ๊ตฌ์กฐ |
ํ์ต ๊ธฐ๋ฐ ์ ์ด์ ์ฑ๋ฅ ๊ฒฝ๊ณ๋ ์์งํ๋ค: (i) ์ฐธ์กฐ ๋ชจ์ ์ด๋ ์ ์ง์ธ ์ปค๋ฆฌํ๋ผ ์์ด๋ ๋ถ์์ฐ์ค๋ฌ์ด ๋ณดํ์ผ๋ก ์๋ ดํ๊ณ ์ด๋ ค์ด ์งํ์์ ์คํจํ๋ ์๊ณ ๋ฆฌ์ฆ์ ์ทจ์ฝ์ฑ, (ii) ํ์คํฌยทํํ ๊ฐ ์ ์ฑ ์ ์ด์ ์ด๋ ค์, (iii) ์ปดํ๋ผ์ด์ธ์คยท๊ตฌ์กฐ ์ง๋ยท์ ์ด ๋ถํ์ค์ฑยท์ก์ถ์์ดํฐ ํจ๊ณผ๋ฅผ ๋ชป ๋ด๋ ์๋ฎฌ๋ ์ดํฐ ์ถฉ์ค๋์ ํ๊ณ(๋๋ฉ์ธ ๋๋คํ๋ก ์ํ๋์ง๋ง ์ ๊ฑฐ๋์ง๋ ์๋๋ค). ๋ง๋ถ์ฌ RL ์ ์ฑ ์ด ๋๊ฐ ์์น setpoint๋ฅผ ๋ด๊ณ ๊ด์ PD๊ฐ ๊ทธ๊ฒ์ ์ถ์ข ํ๋ ๊ตฌ์กฐ๋ผ, ์ปดํ๋ผ์ด์ธํธํ๊ณ ํ์ ๋ฏผ๊ฐํ ์ํธ์์ฉ์ ์ด๋ป๊ฒ ๋ผ ๊ฒ์ธ๊ฐ๊ฐ ๋ฏธํด๊ฒฐ์ด๋ผ๋ ์ง์ ์ด ๋์จ๋ค. RL ๊ธฐ๋ฐ ํ ํฌ ์ ์ด๋ ์ด๊ธฐ ๊ฒฐ๊ณผ๊ฐ ๊ณ ๋ฌด์ ์ธ ๋ฐฉํฅ์ผ๋ก ์ธ๊ธ๋๋ค.
์ ํฅ ํ๋ก ํฐ์ด โ ๋ค ๊ฐ์ ์ด๋ (Sec. EMERGING FRONTIERS)
์ ์๋ค์ ๋ณธ๋ฌธ์์ ๋ค ๊ฐ์ ์ถ(ํ๋ณโ์์ฑ, ๋จ์ผโ๋ค์ค ๋ชจ๋ฌ, ๋จ์ผโ๋ค์ค ํ์คํฌ, ๋ณดํโloco-manipulation)์ ์ค๋ช ํ๊ณ , Fig. 5์์ ์คํ๋ผ์ธ ํ์ต โ test-time adaptation์ด๋ผ๋ ๊ณ์ฐ ์ถ์ ํ๋ ๋ ์น์ด ๋ค์ฏ ์ฐจ์์ผ๋ก ๊ทธ๋ฆฐ๋ค.

๋ค์ฏ ๊ฐ์ ์ด๋(Fig. 5) โ ํ์ต ํจ๋ฌ๋ค์(ํ๋ณ์ โ์์ฑ์ ), ๋ชจ๋ฌ๋ฆฌํฐ(๊ณ ์ ์์ฉ ๋จ์ผ โ ์ธ์ดยท์ด๊ฐยท์๊ฐยท์ฒญ๊ฐ ๋ค์ค), ํ์คํฌ ๋ฒ์(๋จ์ผโ๋ค์ค), ๊ธฐ๋ฅ(๋ณดํโloco-manipulation), ๊ณ์ฐ(์คํ๋ผ์ธ ํ์ตโtest-time adaptation).
- ํ๋ณโ์์ฑ: ํ๋ณ์ ์ ์ฑ ์ ๊ด์ธกโํ๋์ ๊ฒฐ์ ๋ก ์ ๋งคํ์ด๋ผ โ์ผ๋ฐ์ด๋ ์ค๋ฅธ๋ฐ์ด๋โ ๊ฐ์ ๋ค๋ด(multi-modal) ์ ํ๊ณผ ๋ฐ์ดํฐ ๋ถํฌ ๋ณํ ์ ์์ด ์ฌํ์ต ์์ด๋ ์ด๋ ต๋ค. ์์ฑ ์ ์ฑ ์ ๊ฐ๋ฅํ ๊ถค์ ๋ค์ ๋ถํฌ๋ฅผ ๋ชจ๋ธ๋งํด ๋ถํ์ค์ฑ ์ธ์ง์ ์ถ๋ก ์์ ์กฐ๊ฑดํ๋ฅผ ๊ฐ๋ฅํ๊ฒ ํ๋ค(Eq. 4). ์ค์ฉ์ ์ค๊ณ๋ ๋๊ฐ ๊ณ์ธต์ ์ด๋ค โ ์์ฑ ํ๋๋๊ฐ ๋ชจ์ ๋ถํฌ๋ฅผ ์ ์ํ๊ณ ์ ์์ค ์ปจํธ๋กค๋ฌ๊ฐ ๋น ๋ฅธ ์์ ํ๋ฅผ ๋งก๋๋ค.
- ๋จ์ผโ๋ค์ค ๋ชจ๋ฌ: ๋๋ถ๋ถ์ ๋ณดํ ์ปจํธ๋กค๋ฌ๋ ์ฌ์ ํ ๊ณ ์ ์์ฉ ๊ฐ๊ฐ๋ง ์ฐ๋ โblindโ ๊ตฌ์กฐ๋ค. ์ ์๋ค์ด ์ด ๋๋ฝ์ ์๊ณ ๋ฆฌ์ฆ์ ๊ทผ๋ณธ ํ๊ณ๊ฐ ์๋๋ผ ์ง์ฐยท์บ๋ฆฌ๋ธ๋ ์ด์ ยท์ฐ์ฐ ๋ถ๋ด ๊ฐ์ ์์คํ ์์ง๋์ด๋ง ์ฅ๋ฒฝ์ผ๋ก ์ง๋จํ๋ ์ ์ด ํฅ๋ฏธ๋กญ๋ค. ์๊ฐ ์ตํฉ(LocoTransformer, VB-Com, ์ดํ ์ ์ธ์ฝ๋)๊ณผ VLA(RT-2, \pi_0, Gemini Robotics), ํด๋จธ๋ ธ์ด๋ ์งํฅ ๋ณํ(Helix, GR00T N1)์ด ์ด ์ถ์ ๋์ธ๋ค.
- ๋จ์ผโ๋ค์ค ํ์คํฌ: ๋ณด์ ์ถฉ๋ยท๊ฒฝ์ฌ ๊ฐ์ญยทํ๊ตญ์ ๋ง๊ฐ์ด๋ผ๋ ๋๊ฐ๊ฐ ๋ช ์๋๋ค. ๊ณต์ ํ๋ผ๋ฏธํฐยท๋ชจ๋๋ฌ ๊ตฌ์กฐ์ ๋ฉํฐํ์คํฌ RL, ๊ณ์ธต์ ๋ชจ์ ํ๋ฆฌ๋ฏธํฐ๋ธ, ํ์ฐ ๊ธฐ๋ฐ ์คํฌ ๋ธ๋ ๋ฉ, ์ด์ข ๋ฐ์ดํฐ์ (BridgeData V2, RT-X) ๊ธฐ๋ฐ cross-embodiment, ๊ทธ๋ฆฌ๊ณ ํ๋ ํ์ด๋ฐ์ด์ ๋ชจ๋ธ์ด ํ๋ฆ์ ์ด๋ฃฌ๋ค.
- ๋ณดํโloco-manipulation: ๋ก๋ดยท๋ฌผ์ฒดยท์ ์ด ์ฐธ์กฐ๋ฅผ ํจ๊ป ์ถ์ข ํ๋ co-tracking, ํ์ฐ ๊ธฐ๋ฐ ์ธ๊ฐ-๋ฌผ์ฒด ์ํธ์์ฉ ๊ถค์ ํฉ์ฑ, TAMP, ๊ณ์ธต ์์คํ , ์ยทํ์ฒด๋ฅผ ๋๊ธฐํํ๋ ์ด์ค ์์ด์ ํธ RL ๋ฑ. ์ฌ๊ธฐ์ ์ ์๋ค์ด ์ํคํ ์ฒ ์ฒ ํ์ ๋ถ๊ธฐ๋ฅผ ๋ช ์์ ์ผ๋ก ์ง๋ชฉํ๋ ๋๋ชฉ์ด ์ด ์ ์ ๋ฐฑ๋ฏธ๋ค: ๋๋ถ๋ถ์ ์์ ์ฑยท๋ชจ๋์ฑ์ ์ํด ๋ถ๋ฆฌ๋ ๊ณ์ธต ๊ตฌ์กฐ๋ฅผ ํํ๋ค(Helix๊ฐ ์ ์์ค ๋ณดํ ๋ชจ๋์ ๋ช ๋ น์ ๋ณด๋ด๋ ๋ฐฉ์, NVIDIA์ SONIC์ด ์์ VLA์ธ GR00T N1.5์ ๊ธฐ๊ตฌํ์ ์๋๋ฅผ ํ์ whole-body ์ถ์ข ์ ์ฑ ์ ๋จน์ด๋ ๋ฐฉ์). ๋ฐ๋ํธ์๋ ๊ณ ์ฃผํ ๊ท ํ๊ณผ ์ ์ด ํ๋ถ ์กฐ์์ ํ๋์ ๋จ์ผ ์ ์ฌ๊ณต๊ฐ์ ๋ค์ดํฐ๋ธ๋ก ํตํฉํ๋ ค๋ ๊ฒฝ์ ๋ ธ์ ์ด ์๊ณ , ์ ์๋ค์ ํ์๊ฐ ์ด๋ก ์ ์ผ๋ก ๋ ๊น์ ๊ต์ฐจ ๋ชจ๋ฌ ์ถ๋ก ์ ์ฝ์ํ์ง๋ง ๊ฐ๊ฑด์ฑยท์์ ์ฑ ๊ฒ์ฆ์์ ์ฌ๊ฐํ ๋์ ์ ๋ณ๋๋ค๊ณ ํ๊ฐํ๋ค.
์์ฑ๋ชจ๋ธ๋ ์ ์ด์ด๋ก ์ด๋ผ๋ ์ฃผ์ฅ
์ด ์๋ฒ ์ด์์ ๊ฐ์ฅ ๋ ผ์์ ์ด๋ฉด์ ๊ฐ์ฅ ์ฌ๋ฏธ์๋ ๋ถ๋ถ์ด๋ค. ์ ์๋ค์ ํ์ด๋ฐ์ด์ ๋ชจ๋ธ๊ณผ ๊ณ ์ ์ ์ด์ ๋์์ ๋ค์ฏ ๊ฐ์ง๋ก ํธ๋ค.
- LLM = ๋์ ํผ๋๋ฐฑ ์์คํ : ์งํํ๋ ์ปจํ ์คํธ ์๋๊ฐ ๋ฉ๋ชจ๋ฆฌ(์ํ)๋ก ์๋ํ๊ณ , ์ ๊ด์ธกยทํ ํฐ์ด ๊ทธ๊ฒ์ ๊ฐฑ์ ํ๋ฉฐ ์ ์ฌ๊ณต๊ฐ์์ ํ๋ฃจํ๋ฅผ ์ด๋ฃฌ๋ค(Prompt a Robot to Walk์ ์ ์ํ).
- ํ์ฐ๋ชจ๋ธ = ํ๋ฅ ์ ์ต์ ์ ์ด: ๋๋ ธ์ด์ง์ด ์๋ฌต์ ์๋์ง ๋ฒํจ์๋ฅผ ์ต์ํํ๋ ํ๋ฅ ๋ฏธ๋ถ๋ฐฉ์ ์์ ํธ๋ ๊ฒ์ด๋ฉฐ, ์ด๋ HJB ํ๋ ์์ ๋ถํ์ค์ฑ ํ ์ต์ ์ ์ด์ ์ ๋น๋ค.
- ํํ ํ์ต = ์ํ ์ถ์ ยท๊ฐ๊ด์ธก์ฑ: ํ์คํฌ๊ฐ ์ ์ดยท๊ด์ธก ๊ฐ๋ฅํด์ง๋ ์ ์ฌ ๋ค์์ฒด๋ฅผ ์ฐพ๋ ์ผ.
- self-attention = ์ ์์ ๊ฒ์ธ ์ค์ผ์ค๋ง: ๋ฌธ๋งฅ์ ๊ด๋ จ์ฑ์ผ๋ก ํ ํฐ ๊ฐ์ค์น๋ฅผ ๋์ ์ผ๋ก ๋ฐ๊ฟ ์ํ ์์กด ํผ๋๋ฐฑ์ ๊ตฌํ.
- in-context learning = ์ ์ ์ ์ด: ํ๋ผ๋ฏธํฐ ๊ฐฑ์ ์์ด ์ ์ถ๋ ฅ ๊ฑฐ๋์ผ๋ก ์จ๋ผ์ธ ์ ๋ จ.
๊ฒฐ๋ก ๋ฌธ์ฅ์ ์ด๋ ๋ค โ ์์ฑ๋ชจ๋ธ์ ์ ์ด์ด๋ก ์ ํ ๋๋ฅผ ๋์ฒดํ๋ ๊ฒ์ด ์๋๋ผ ํ์ฅํ๋ฉฐ, ์๊ธฐํ๊ท๋ก ํผ๋๋ฐฑ์, ์ปจํ ์คํธ ๊ฐฑ์ ์ผ๋ก ์ ์์, ์ดํ ์ ์ผ๋ก ๊ฒ์ธ ์ค์ผ์ค๋ง์, ํ์ฐ ๊ฐ์ด๋์ค๋ก ์ต์ ์ฑ์ ๊ตฌํํ๋ค.
Table 2๋ ์ด ๋์์ 6๊ฐ ๋์ (๋ถ์์ ๋์ญํ ์์ ํ / ๊ณ ์ฐจ์์ฑ / ํ์ด๋ธ๋ฆฌ๋ ์ ์ด ๋์ญํ / ์ ์ฝ / ๊ฐ๊ฑด์ฑ / ์ ์) ร 3๊ฐ ํจ๋ฌ๋ค์ ๋งคํธ๋ฆญ์ค๋ก ๋ฐฐ์นํ๋ค. ์๋ฅผ ๋ค์ด โ์ ์โ ํ์ ์ ์ ์ ์ด โ adaptation module โ in-context learningยทํ์ฐ test-time adaptation์ผ๋ก ์ฝํ๋ค.
๋ค์ ์ธ๋๋ฅผ ์ํ ๊ณผ์
- ์์ ยท์ ๋ขฐ์ฑ: ์ ์๋ค์ ๋ฐฐํฌ์ ์ฃผ๋ ์ฅ๋ฒฝ์ ๋จ๋์ง์ ์ ์ผ๋ก ๋์ด์ง์ด๋ผ ๋ชป ๋ฐ๋๋ค. ํ์ํ ๊ฒ์ ํ๊ท ์ฑ๋ฅ ์งํ๊ฐ ์๋๋ผ ๋ณต๊ตฌ ๋ฅ๋ ฅยท๋์๋ฅ ยท์ถฉ๊ฒฉ ์ฌ๊ฐ๋์ ํ์คํ๋ ์ํ์ด๋ค. ์ปดํ๋ผ์ด์ธํธ ์ก์ถ์์ด์ , ์๋์ง ์์ฐ ์ค๊ณ, test-time adaptation์ด ํด๋ฒ์ผ๋ก ์ ์๋๋ค.
- ์ ๊ทผ์ฑ: ๊ฐ๊ฒฉ์ ํ ์๋ฆฟ์ ์ด์ ๋จ์ด์ก์ง๋ง ์ ๋ ดํจ๋ง์ผ๋ก๋ ๋ถ์กฑํ๊ณ , ๋ด๊ตฌ์ฑยท์ ์ง๋ณด์์ฑยท์ ๋ฌธ๊ฐ ์์ด๋ ๋๋ ๊ฒฝ๋ฏธํ ์์ ๋ณต๊ตฌ๊ฐ ํ์ํ๋ค.
- ์ธ์ง ์ง๋ฅ: ๋ฐ์์ ๋ชจํฐ ๊ณ์ธต๊ณผ ์๊ณ ์ ์์ธก ์ถ๋ก ๊ณ์ธต์ ๊ธฐ๋ฅ์ ์๊ณ(Fig. 3B), ๊ทธ๋ฆฌ๊ณ ๊ทธ ๋์ ํ์.
- ์ฒดํ ์ง๋ฅ ์ํ๊ณ: ํด๋จธ๋ ธ์ด๋๊ฐ ๊ฐ์ธ์ฉ ์ปดํจํฐ์ ๋น๊ฒฌ๋ ๋งํผ ์ ํ์ ์ผ ์ ์์ผ๋ฉฐ, ๊ณ ๋ฆฝ๋ ๊ธฐ๊ณ์์ ๋คํธ์ํฌํยทํนํ๋ ์ฒดํ๋ค(โan internet of humanoidsโ)๋ก ์งํํ๋ฆฌ๋ผ๋ ์ ๋ง.
์์ํ๋ ค๋ ์ฌ๋์ ์ํ ์ (Sec. GETTING STARTED)
์๋ฒ ์ด์ ์ด๋ฐ ์ ์ด ๋ถ์ ๊ฑด ๋๋ฌธ๋ฐ, ์ด ๋ ผ๋ฌธ์์ ์ค๋ฌด์ ๊ฐ์น๊ฐ ๊ฐ์ฅ ๋์ ๋ถ๋ถ์ผ ์ ์๋ค.
- ํ๋์จ์ด โ build or buy: ์คํ์์ค(Berkeley Humanoid, Berkeley Humanoid Lite, Stanford ToddlerBot)๋ ์ ๋ ดยท๊ฐ์กฐ ๊ฐ๋ฅํ์ง๋ง ์กฐ๋ฆฝยท์ ์ง๋ณด์ ๋ถ๋ด์ด ์๊ณ , ์์ฉ(Unitree G1ยทH1, Booster T1ยทK1, Agility Digit, Apptronik Apollo)์ ๋น์ธ์ง๋ง ์์ ๊ฒ์ฆยทํตํฉ ์ํํธ์จ์ดยท๋ฒค๋ ์ง์์ผ๋ก ์ฌํ์ฑ์ ๋์ธ๋ค. ์ ์๋ค์ ํ ์ค ์์ฝ: ์คํ์์ค๋ ์ ์ฐ์ฑ์, ์์ฉ์ ์์ฐ์ฑ์ ์ต๋ํํ๋ค.
- ์ํํธ์จ์ด: ๋ชจ๋ธ ๊ธฐ๋ฐ์ MIT CheetahยทOpenLoong, ๊ทธ๋ฆฌ๊ณ CasADiยทAcadosยทOCS2ยทJudo. ํ์ต ๊ธฐ๋ฐ์ Isaac LabยทMuJoCo PlaygroundยทMJLab, ๋๊ท๋ชจ ๋ณ๋ ฌยท๋ฏธ๋ถ๊ฐ๋ฅ ๋ฌผ๋ฆฌ๋ NewtonยทGenesis. ๋ฐ์ดํฐ๋ AMASS์ BeyondMimic ๊ณ์ด ํ์ดํ๋ผ์ธ.
- RL ์ฐฉ์ ์์: Isaac Sim/Isaac Lab ์ค์น โ ์๋ฎฌ์์ ๋ณดํ ์ ์ฑ ์คํ โ ๊ท ํยท๋ณดํ ์ปจํธ๋กค๋ฌ ํ์ต โ ๋ช ๋ น ์๋ ์กฐ๊ฑดํ โ ์ธ๊ฐ ๋ชจ์ ์ถ์ข โ ๊ฑฐ์น ์งํ์์ ์ง๊ฐ ๊ธฐ๋ฐ ๋ณดํ โ ํ๋์จ์ด ๋ฐฐํฌ.
- ํต์ฌ ์ฐธ๊ณ ์: Feedback Control of Dynamic Bipedal Robot Locomotion, Robot Modeling and Control, Sutton & Barto, PPO, DreamerV3, Deep Learning, Introduction to VAEs, The Principles of Diffusion Models.
๋นํ์ ์ผ๋ก ๋ณด๋ฉด
๊ฐ์
- ๋ถ๋ฅ์ถ์ด ํ๋๋ฟ์ด๊ณ , ๊ทธ ์ถ์ ๋๊น์ง ๋ฐ์ด๋ถ์ธ๋ค. ์๊ฐ์ถ ํ๋๋ก ์ ์ฒด๋ฅผ ๊ดํต์ํค๊ณ Fig. 1ยทFig. 3ยทTable 1์ ๋ชจ๋ ๊ฐ์ 3๋ถํ (๊ณ ์ /ํ์ต/์ ํฅ)๋ก ์๊น์ง ๋ง์ถฐ ์ ๋ ฌํ๋ค. ์๋ฒ ์ด๊ฐ ํํ ๋น ์ง๋ โ์ฅ๋ง๋ค ๋ถ๋ฅ ๊ธฐ์ค์ด ๋ฌ๋ผ์ง๋โ ํจ์ ์ ํผํ๋ค.
- ์์์ผ๋ก ๋ ผ์ฆํ๋ค. Eq. (2)โ๏ธEq. (3)์ ๋์์ ๋ง๋ก๋ง ํ๋ฉด ํ๊ฑฐ์ด ๋น์ ์ง๋ง, ๋ ์ต์ ํ ๋ฌธ์ ๋ฅผ ๋๋ํ ์จ ๋์ผ๋ฉด โ๋ฌด์์ด ๊ฐ๊ณ ๋ฌด์์ด ๋ค๋ฅธ๊ฐโ๊ฐ ๊ฒ์ฆ ๊ฐ๋ฅํ ์ง์ ์ด ๋๋ค. ์๋ฒ ์ด๊ฐ ์ ๋ ผ๋ฌธ๋ค์ ์์์ ์ธ์ฉํ๋ ๋ฐ ๊ทธ์น์ง ์๊ณ ๊ณตํต ์ธ์ด๋ฅผ ์ง์ ์ธ์ด ์ฌ๋ก๋ค.
- RL ํ์ดํ๋ผ์ธ โ๏ธ ๊ณ ์ ์ ์ด ๊ฐ๋ ์ ๋์ํ(Table 2) ๋ ์ค์ ๋ก ์ ์ฉํ๋ค. ๋๋ฉ์ธ ๋๋คํ๊ฐ ์ ๊ฐ๊ฑด ์ ์ด์ธ์ง, adaptation module์ด ์ ์ ์ ์ ์ด์ธ์ง ์๊ณ ๋๋ฉด ํ์ดํผํ๋ผ๋ฏธํฐ๋ฅผ ๋ง์ง๋ ์๋์ด ๋ฌ๋ผ์ง๋ค. ํนํ โRL ์ ์ฑ ์ ์คํ๋ผ์ธ์ผ๋ก ํผ ์ต์ ํ ํด๋ฅผ ์ ๊ฒฝ๋ง์ ์ธ์ฝ๋ฉํ ๊ฒโ์ด๋ผ๋ ๋ฌธ์ฅ์ RL ์ค๋ฌด์์๊ฒ ๋๋ฒ๊น ๊ด์ ์ ์ค๋ค.
- ์๊ธฐ ํ๊ณ๋ฅผ ์ฌ๋ฌ ๋ฒ ๋ช ์ํ๋ค. โ๋๋ถ๋ถ์ ํด๋จธ๋ ธ์ด๋ MPC ๊ตฌํ์ ์๋ฎฌ๋ ์ด์ ์ ๋จธ๋ฌธ๋คโ, โ์ฑ๋ฅ ๋ณด๊ณ ์์ blind ๋๋น ๋ ๋ฐฐ๋ ์ธ์ฉ ๋ ผ๋ฌธ์ ์ค์ฆโ, โ์ง๊ฐยท๊ณํยท์ํ ์ถ์ ์ ๋ฒ์ ๋ฐโ ๋ฑ ๋ฒ์ ํ์ ์ด ๊ณณ๊ณณ์ ๋ฐํ ์๋ค.
- getting-started ์ ๊ณผ companion ๋ ํฌ๋ฅผ ๋ถ์ฌ ์๋ฒ ์ด๋ฅผ ์ง์ ๋๊ตฌ๋ก ๋ง๋ค์๋ค. ์ด ๋ถ์ผ์์ โ๋ฌด์๋ถํฐ ์ค์นํ ์งโ๋ฅผ ๋ ผ๋ฌธ์ด ์๋ ค ์ฃผ๋ ๊ฒฝ์ฐ๋ ๋๋ฌผ๋ค.
์ฝ์ ยทํ๊ณ
- ์ ๋ ๋น๊ต๊ฐ ์ฌ์ค์ ์๋ค. 293ํธ์ ๋ค๋ฃจ๋ฉด์ ๋ฐฉ๋ฒ ๊ฐ ์ฑ๋ฅ์ ๋ง์ธ์ฐ๋ ํ๊ฐ ํ ์ฅ๋ ์๋ค. ๋ฑ์ฅํ๋ ์ ์ผํ ์ ๋ ์ง์ ๊ธ ๋ฌธ์ฅ์ด โ์๊ฐ ์ ์ฑ ์ด blind ๋๋น ์ฑ๊ณต๋ฅ ๋ ๋ฐฐโ์ธ๋ฐ ์ด๊ฒ๋ ์ธ์ฉ ๋ ผ๋ฌธ์ ๋ณด๊ณ ๋ฅผ ์ฎ๊ธด ๊ฒ์ด๋ค. ์๊ฐ์ถ ์๋ฒ ์ด์ ๊ตฌ์กฐ์ ๋๊ฐ๋ค โ โ์ธ์ ๋์๋๊ฐโ๋ก ์ค์ ์ธ์ฐ๋ฉด โ๋ฌด์์ด ๋ ๋์๊ฐโ๋ฅผ ๋ฌผ์ ์๋ฆฌ๊ฐ ์์ด์ง๋ค. ๊ฐ์ ์ฑ๊ฒฉ์ ํ๊ณ๋ฅผ HLM Survey๋ ์ต์ํ ordinal ๋ฑ๊ธํ(Table VI)๋ก๋ผ๋ ๋ง์ฃผํ๋ค.
- โ์๋ ดํ๊ณ ์๋คโ๋ ์ค์ฌ ๋ช ์ ๊ฐ ๋ฐ์ฆ ๋ถ๊ฐ๋ฅํ ํํ๋ค. ๋ฌผ๋ฆฌ ๊ธฐ๋ฐ ๋ชจ๋ธ๋งยท์ ์ฝ ํ ์์ฌ๊ฒฐ์ ยท๋ถํ์ค์ฑ ์ ์์ด๋ผ๋ ์ธ ์๋ฆฌ๋ ์ถฉ๋ถํ ์ถ์์ ์ด์ด์ ๊ฑฐ์ ๋ชจ๋ ์ ์ด ๋ฐฉ๋ฒ์ ์ฌํ์ ์ผ๋ก ๋ถ๋๋ค. ์ด๋ค ๊ด์ธก์ด ๋์ค๋ฉด ์ด ์๋ ด ๋ช ์ ๊ฐ ํ๋ ธ๋ค๊ณ ํ ์ ์๋์ง ๋ ผ๋ฌธ์ ๋งํ์ง ์๋๋ค.
- ์์ฑ๋ชจ๋ธโ๏ธ๊ณ ์ ์ ์ด ์ ๋น ์ค ์ผ๋ถ๋ ์์ ์ ๊ฐ๊น๋ค. โself-attention = ์ ์์ ๊ฒ์ธ ์ค์ผ์ค๋งโ์ด๋ โLLM ์ปจํ ์คํธ ์๋ = ์ํโ๋ ์์ ์ด์ง๋ง, ๊ฒ์ธ ์ค์ผ์ค๋ง์๋ ์์ ์ฑ ๋ณด์ฅ์ด๋ผ๋ ์๋งน์ด๊ฐ ์๊ณ ์ดํ ์ ์๋ ์๋ค. ํ์ฐโ๏ธํ๋ฅ ์ ์ต์ ์ ์ด ๋์์ ์ค์ ์ํ์ ์ฐ๊ฒฐ์ด ์๋ ๋ฐ๋ฉด ๋๋จธ์ง๋ ๊ฐ๋๊ฐ ํฌ๊ฒ ๋ค๋ฅธ๋ฐ, ์๋ฒ ์ด๋ ๋ค์ฏ ๊ฐ๋ฅผ ๊ฐ์ ๋ฌด๊ฒ๋ก ๋์ดํ๋ค. ๋ ์๊ฐ ๊ฐ๋ ์ฐจ์ด๋ฅผ ์ค์ค๋ก ๋งค๊ฒจ์ผ ํ๋ค.
- ์ ํฅ ํ๋ก ํฐ์ด ์ ์ ์๊ฐ ๊ฐ๊ฐ์ด ๋ถ์์ ํ๋ค. Table 1์ ํ์ฐ ๋ชจ์ ์ฌ์ ๋ถํฌ์ world model์ 2025โ ๋ก ์ ์ด ๋๋๋ฐ, ๊ทธ ํญ๋ชฉ๋ค์ ๋ํ ์์ ๋ถ๋์ ์์ญ ๋ ๋ ๊ณ ์ ์ ๊ณผ ๋น์ทํ๋ค. ์์ง ์ค๊ธฐ ๊ฒ์ฆ์ด ์์ ๋ฐฉํฅ์ ์๋ฒ ์ด์ ์ ๋ฐ ๊ฐ๊น์ด ์ง๋ฉด์ด ๋ฐฐ๋ถ๋๋ฉด, ๋ ์๋ ์ฑ์๋ ์ฐจ์ด๋ฅผ ๊ณผ์ํ๊ฐํ๊ธฐ ์ฝ๋ค. ์ ์๋ค์ด โ์์ฑ ๋ฐฉ์์ ์ค์ธ๊ณ ์ ๋ขฐ์ฑ์ด ์๋คโ๊ณ ํ ์ค๋ก ์ธ์ ํ๊ธด ํ์ง๋ง, ๊ทธ ์ธ์ ์ด ์ง๋ฉด ๋ฐฐ๋ถ์ ๋ฐ์๋์ง๋ ์์๋ค.
- ์๊ฐ์ถ์ด ๊ฐ๋ฆฌ๋ ๊ฒ โ ์คํจํ ๊ฐ์ง๋ค. ์งํ์ฌ ์์ ์ ํ์ฐ์ ์ผ๋ก โ์ง๊ธ ์ด์๋จ์ ๊ฒโ์์ ๊ฑฐ๊พธ๋ก ์ ์ ๊ธ๋๋ค. ์ ์ด๋ค ์ ๊ทผ์ด ์ฌ๋ผ์ก๋์ง, ์ด๋ค ๊ฒ์ด ์ฌํ๊ฐ๋ ์ฌ์ง๊ฐ ์๋์ง๋ ์ด ์ถ์์ ์ ๋ณด์ด์ง ์๋๋ค. ์๋ฅผ ๋ค์ด passive dynamic walking์ด๋ ๊ทผ๊ณจ๊ฒฉ/ํ ๋ ๊ตฌ๋ ๊ณ์ด์ ์ด ์๋ฒ ์ด์ ์ฃผ์ ์์ ๊ฑฐ์ ์๋ฆฌ๋ฅผ ์ป์ง ๋ชปํ๋ค.
- ํ๋์จ์ดยท์ก์ถ์์ดํฐ์ ๊ธฐ์ฌ๊ฐ ์๋ค. ์ปดํ๋ผ์ด์ธํธ ์ก์ถ์์ด์ ์ด ์์ ์ ์์ ํ ๋ฌธ์ฅ ์ธ๊ธ๋๊ณ , ๊ฐ๊ฒฉ ํ๋ฝ์ด ์ ๊ทผ์ฑ ์ ์ ํ ๋ฌธ์ฅ ๋์ค๋ ์ ๋๋ค. ์ง๋ 10๋ ํด๋จธ๋ ธ์ด๋ ๋์ฝ์์ ์ค์ง๊ตฌ๋(quasi-direct-drive) ์ก์ถ์์ดํฐ๊ฐ ์ฐจ์งํ ๋ชซ์ ์๊ฐํ๋ฉด โ์ ์ด ํจ๋ฌ๋ค์์ ์๋ฒ ์ดโ๋ผ๋ ๋ฒ์ ํ์ ์ด ๋ค์ ํธ๋ฆฌํ๊ฒ ์ฐ์ธ ์ธ์์ด ์๋ค.
- ๋ ํฌ๊ฐ ์์ง ์์ฑ๋์ง ์์๋ค. README๋ ๊ณ ์ ์ ์ดยท์๋ฎฌ ๊ธฐ๋ฐ ํ์ต ์น์ ์ ๋ ผ๋ฌธ ๋ฆฌ์คํธ๊ฐ โํ์ฌ ์ด์ฉ ๊ฐ๋ฅโํ๊ณ ๋๋จธ์ง๋ ์ ์ง์ ์ผ๋ก ์ถ๊ฐ ์ค์ด๋ผ๊ณ ๋ฐํ๋ค(์ฃผ์ ์ฒ๋ฆฌ๋ ToDo์๋ ์ ์น์ done์ผ๋ก ํ์๋ผ ์์ด ๊ฐฑ์ ์์ ์ด ์ด๊ธ๋ ์๋ค). getting-started ๊ฐ์ด๋๋ ์์ฑ ์ค์ด๋ค.
- ์์ฑ ๊ณผ์ ๊ณต์: ์ ์๋ค์ ์ด๊ณ ์์ฑ ํ ๋ฌธ์ฅ ์ ๋ จ์ ChatGPT๋ฅผ ์ฌ์ฉํ๊ณ ์ ์์ด ๊ธฐ์ ์ ์ ํ์ฑ์ ์ฌ๊ฒํ ํ๋ค๊ณ Acknowledgments์ ๋ช ์ํ๋ค. ํฌ๋ช ํ ๊ณต์๋ผ๋ ์ ์ ํ๊ฐํ ๋งํ์ง๋ง, ์ ๋ํ ๊ท ์งํ๊ณ ๋งค๋๋ฌ์ด ๋ฌธ์ฒด(๊ฐ ์ ์ด โMotivation and limitationsโ โ โToward โฆโ๋ผ๋ ๋์ผ ๊ณจ๊ฒฉ์ ๋ฐ๋ณตํ๋ค)๊ฐ ์ด๋์ ์๋์ง๋ ์ง์ํ๊ฒ ํ๋ค.
๊ด๋ จ ์ฐ๊ตฌ์์ ์๋ฆฌ ๋งค๊น
์ด ์๋ฒ ์ด์ HLM Survey(Gu Zhaoyuan et al., arXiv:2501.02116)๋ ๊ฐ์ ๋์์ ์ง๊ตํ๋ ๋ ์นผ๋ก ์๋ฅธ๋ค. HLM Survey์ 1์ฐจ ์ถ์ โ์ ์ด์ ์ด๋ป๊ฒ ๋ค๋ฃจ๋๊ฐโ๋ผ๋ ๊ณต๊ฐ์ ยท๊ตฌ์กฐ์ ์ถ์ด๋ค โ ์ ์ด์ ๊ณํํ๋๊ฐ(multi-contact planning), ์์ธกํ๋๊ฐ(MPC), ์๊ฐ ํ ํฌ๋ก ํธ๋๊ฐ(WBC), ๊ฒฝํ์ผ๋ก ๋ฐฐ์ฐ๋๊ฐ(ํ์ต), ๋๋ผ๋๊ฐ(์ด๊ฐ). ๊ทธ๋์ ๊ทธ ์๋ฒ ์ด์์๋ ์ด๊ฐ ๊ฐ์ง๊ฐ ๋ ๋ฆฝ ์ฅ์ผ๋ก ์น๊ฒฉ๋๊ณ loco-manipulation์ด ๋ชฉ์ ํจ์๊ฐ ๋๋ค. ๋ฐ๋ฉด ์ด ์๋ฒ ์ด์ 1์ฐจ ์ถ์ โ์ธ์ ๋์๊ณ ๋ฌด์์ ๊ณ์นํ๋๊ฐโ๋ผ๋ ์๊ฐ์ ์ถ์ด๋ค. ๊ทธ ๊ฒฐ๊ณผ ๋ ๋ ผ๋ฌธ์ ๊ฐ์ ๋ฌธํ์ ์๋น ๋ถ๋ถ ๊ณต์ ํ๋ฉด์๋ ๊ฒน์น์ง ์๋๋ค โ ์ด์ชฝ์ ์ด๊ฐ์ ์ฌ์ค์ ๋ค๋ฃจ์ง ์๊ณ (๋ฉํฐ๋ชจ๋ฌ ์ตํฉ์ ํ ์ ๋ ฅ์ผ๋ก ํ ๋ฒ ์ธ๊ธ๋ ๋ฟ), ์ ์ชฝ์ โ1980๋ ๋ ZMP์์ 2025๋ ํ์ฐ ์ ์ฑ ๊น์ง์ ๊ณ๋ณดโ๋ฅผ ๊ทธ๋ฆฌ์ง ์๋๋ค. ์ค์ ๋ก ์ด ๋ ผ๋ฌธ์ ์ ํ ์๋ฒ ์ด ๋ชฉ๋ก์์ HLM Survey๋ฅผ ์ธ์ฉ (15)๋ก ๋ช ์ํ๋ฉฐ โ์ ์ด ํ๋ ์์ํฌ์ ์งํ๊ฐ ์๋๋ผ ์์คํ ํตํฉ์ ๋ฐฉ์ ์ ์ฐ์๋คโ๊ณ ์ฐจ๋ณ์ ์ ๋ฐํ๋ค. ๋ ํธ์ ๋ถ์ฌ ์ฝ์ผ๋ฉด ์๊ฐ์ถ ร ์ ์ด์ถ์ 2์ฐจ์ ์ง๋๊ฐ ๋ง๋ค์ด์ง๋ค. ์์๋ฅผ ๊ตณ์ด ์ ํ์๋ฉด ์ด ๋ ผ๋ฌธ์ ๋จผ์ ์ฝ์ด ๊ณ๋ณด๋ฅผ ์ก๊ณ , HLM Survey๋ก ์ ์ด ์ถ์ ๋ํ ์ผ์ ์ฑ์ฐ๋ ์ชฝ์ด ๋ซ๋ค.
๋ธ๋ก๊ทธ์ ๋ค๋ฅธ ๋ฆฌ๋ทฐ๋ค์ด ์ด ์๋ฒ ์ด์ ์ด๋ ์นธ์ ๋ค์ด๊ฐ๋์ง ์ง์ด ๋๋ฉด ์ขํ๊ฐ ์ ๋ช ํด์ง๋ค.
- Table 1์ โ๋ชจ๋ธ ์ ๋ RL(2020โ)โ ์นธ: Combining MPC & RL์ด ์ ํํ ์ด ์นธ์ ์ฌ๋ก๋ค โ ์์ธก์ ์ด์ RL์ ํ ๋ฃจํ์ ๋ฃ๋ ์๋.
- Fig. 3A์ โ์จ๋ผ์ธ ๋น๋ณผ๋ก MPC โ๏ธ RLโ ๊ฒฝ๊ณ: CA-AC-MPC๋ actor-critic๊ณผ MPC๋ฅผ GPU ์์์ ํฉ์น๋ ๋ฐฉํฅ์ผ๋ก, ์๋ฒ ์ด๊ฐ ๋งํ โ์คํ๋ผ์ธ+์จ๋ผ์ธ ๊ณ์ฐ์ ๋ณ์ฉ์ด ์ต์ โ์ด๋ผ๋ ๊ด์ฐฐ์ ๊ตฌ์ฒด ์ฌ๋ก๋ค.
- โ๋ณดํโloco-manipulationโ ์ถ: SONIC์ ์๋ฒ ์ด ๋ณธ๋ฌธ์ ์ธ์ฉ (254)๋ก ์ง์ ๋ฑ์ฅํ๋ค โ ์์ VLA์ ๊ธฐ๊ตฌํ์ ์๋๋ฅผ ํ์ whole-body ์ถ์ข ์ ์ฑ ์ ๋จน์ด๋ ๋ถ๋ฆฌํ ๊ณ์ธต ๊ตฌ์กฐ์ ๋ํ ์ฌ๋ก๋ก. Whole-Body Loco์ HoloMotion-1์ โ๋ชจ์ ์์ฑ + ๋ชจ์ ์ถ์ข โ์ด๋ผ๋ ์๋ฒ ์ด์ ์์ฑ์ ๊ณ์ธต ์ค๊ณ๋ฅผ ์ค์ ๋ก ๊ตฌํํ ์ชฝ์ด๋ค.
- โ๋จ์ผโ๋ค์ค ํ์คํฌโ์ ํ๋ ํ์ด๋ฐ์ด์ ๋ชจ๋ธ: BFM-Zero๊ฐ ๋น์ง๋ RL๋ก promptable ํ๋ ๊ณต๊ฐ์ ๋ง๋๋, ์ด ์ถ์ ์ ํ์ด๋ค.
- ํ๊ฐ ์ธํ๋ผ: Humanoid Bench๋ ์๋ฒ ์ด๊ฐ ์๊ตฌํ โํ์คํ๋ ์ํโ์ ์๋ฎฌ๋ ์ด์ ์ชฝ ๋์๋ฌผ์ด์ง๋ง, ์ ์๋ค์ด ์ง์ง๋ก ์๊ตฌํ ๊ฒ์ ๋์๋ฅ ยท์ถฉ๊ฒฉ ์ฌ๊ฐ๋ ๊ฐ์ ์ค๊ธฐ ์์ ์งํ์ฌ์ ์์ง ์ฑ์์ง์ง ์์ ์๋ฆฌ๋ก ๋จ๋๋ค.
์์ฝ
Evolution of Humanoid Locomotion Control์ ํด๋จธ๋ ธ์ด๋ ๋ณดํ ์ ์ด๋ฅผ ์ฐ๋๊ธฐ๋ผ๋ ํ๋์ ์ถ์ผ๋ก ๋ค์ ์ธ์ฐ๊ณ , ๊ณ ์ ยทํ์ตยท์์ฑ ์ธ ์๋๋ฅผ ๋ค ๊ฐ์ ์ต์ ํ ๋ฌธ์ (Eq. 1โ4)๋ก ๋ฒ์ญํด โ์ด๋ค์ด ์๋ก ๋ค๋ฅธ ๊ธฐ์ ์ด ์๋๋ผ ๊ฐ์ ๋ฌธ์ ์ ๋ค๋ฅธ ํ๋ผ๋ฏธํฐํโ์์ ๋ ผ์ฆํ๋ค. ๊ธฐ์ฌ์ ํต์ฌ์ ๋ชฉ๋ก์ด ์๋๋ผ ๋ฒ์ญ์ด๋ค โ Eq. (2)์ Eq. (3)์ ๋๋ํ ๋๋ ์๊ฐ, ๋๋ฉ์ธ ๋๋คํ๋ ๊ฐ๊ฑด ์ ์ด๊ฐ ๋๊ณ teacher-student๋ ์ ์ ์ ์ด๊ฐ ๋๋ฉฐ RL ์ ์ฑ ์ โ์คํ๋ผ์ธ์ผ๋ก ํผ ์ต์ ํ ํด์ ์ ๊ฒฝ๋ง ์ธ์ฝ๋ฉโ์ด ๋๋ค. ์ด ๊ด์ ์ RL ์ค๋ฌด์์๊ฒ ๋๋ฒ๊น ์ธ์ด๋ฅผ, ๊ณ ์ ์ ์ด ์ฐ๊ตฌ์์๊ฒ ํ์ต ์ง์์ผ๋ก ๊ฐ๋ ๋ค๋ฆฌ๋ฅผ ์ค๋ค.
ํ๊ณ๋ ์ด ์ถ์ ๋๊ฐ๋ค. ์๊ฐ์ ์์ ์ โ๋ฌด์์ด ๋ ๋์๊ฐโ๋ฅผ ๋ฌผ์ ์๋ฆฌ๋ฅผ ์์ ์ ๋ ๋น๊ต๊ฐ ๋ถ์ฌํ๊ณ , โ๋ฌผ๋ฆฌ ์ ๋ ์์ฑ ์ง๋ฅ์ผ๋ก ์๋ ด ์คโ์ด๋ผ๋ ์ค์ฌ ๋ช ์ ๋ ๋ฐ์ฆ ์กฐ๊ฑด์ด ์ ์๋์ง ์๋๋ค. ์์ฑ๋ชจ๋ธโ๏ธ์ ์ด์ด๋ก ์ ๋น ๋ค์ฏ ๊ฐ๋ ๊ฐ๋๊ฐ ์ ๊ฐ๊ฐ์ธ๋ฐ ๊ฐ์ ๋ฌด๊ฒ๋ก ๋์ด๋๋ฉฐ, 2025๋ ์ ๋ฑ์ฅํ ๋ฐฉํฅ๋ค์ด ์์ญ ๋ ๋ ๊ณ ์ ๊ณผ ๋น์ทํ ์ง๋ฉด์ ์ป์ด ์ฑ์๋ ์ฐจ์ด๊ฐ ํ๋ ค์ง๋ค. ํ๋์จ์ดยท์ก์ถ์์ดํฐ์ ๊ธฐ์ฌ์ ์ฌ๋ผ์ง ์ ๊ทผ๋ค์ ์ด ์ถ์์ ์ ๋ณด์ด์ง ์๋๋ค.
๊ทธ๋ผ์๋ ๊ฐ์ด์น๋ ๋ถ๋ช ํ๋ค. ์ด ๋ถ์ผ์ ๋ค์ด์ค๋ ์ฌ๋์๊ฒ ๊ณ๋ณด์ ์์ ์ ์ฐจ๋ฅผ ๋์์ ์ฃผ๋ ๋ฌธ์๋ ํ์น ์๊ณ , ์ด๋ฏธ ์์ ์๋ ์ฌ๋์๊ฒ๋ ์๊ธฐ๊ฐ ์ฐ๋ ๊ธฐ๋ฒ์ ๊ณ ์ ์ ๋ฟ๋ฆฌ๋ฅผ ํ์ธ์์ผ ์ค๋ค. ์ ์๋ค์ด ๋ง์ง๋ง์ ์ง๋ชฉํ ๋ณ๋ชฉ์ด ์๊ณ ๋ฆฌ์ฆ์ด ์๋๋ผ ๋ฐ์ดํฐ์ ์ถ์ฒ์ ์ง(์๊ฒฉ์กฐ์๋ ์๋ฎฌ๋ ๊ฐ๊ฐ์ผ๋ก๋ ํฌ๊ท ์คํจยท์ ์ด ํ๋ถ ์ํธ์์ฉยท๋ณต๊ตฌ ํ๋ยทํํ ๋ณ์ด๋ฅผ ๋ชป ๋ฎ๋๋ค)์ด๋ผ๋ ์ ์, ๋ค์ 10๋ ์ ์๋ฒ ์ด๊ฐ ์ด๋ ์ถ์ผ๋ก ๋ค์ ์ฐ์ผ์ง๋ฅผ ์๊ณ ํ๋ค.