Curieux.JY
  • JungYeon Lee
  • Post
  • ๐Ÿ•ธ๏ธ Graph
  • Lecture
  • Note

On this page

  • ๐Ÿ” Ping Review
  • ๐Ÿ”” Ring Review
    • ํ•œ ์ค„๋กœ ์‹œ์ž‘ํ•˜๋ฉด
    • ๋ฐฐ๊ฒฝ โ€” ์™œ ํœด๋จธ๋…ธ์ด๋“œ ๋ณดํ–‰ ์ œ์–ด๊ฐ€ ์–ด๋ ค์šด๊ฐ€ (Sec. INTRODUCTION)
    • ๊ธฐ์—ฌ โ€” ์ €์ž๋“ค์ด ์Šค์Šค๋กœ ๋งค๊ธด ์„ธ ๊ฐ€์ง€
    • ๋ชจ๋ธ๋ง โ€” ์ŠคํŽ™ํŠธ๋Ÿผ์œผ๋กœ์„œ์˜ ๋ชจ๋ธ (Sec. MODELING)
    • ๊ณ ์ „ ์ œ์–ด โ€” ์‹ค์‹œ๊ฐ„ ํ”ผ๋“œ๋ฐฑ์—์„œ ์˜ˆ์ธก์ œ์–ด๋กœ (Sec. MODELING AND CLASSICAL CONTROL)
    • ํ•™์Šต ๊ธฐ๋ฐ˜ ์ œ์–ด โ€” POMDP์™€ ๊ทธ ์ฃผ๋ณ€ ๋„๊ตฌ๋“ค (Sec. LEARNING-BASED CONTROL)
    • ์ง๊ด€ โ€” Eq.(2)์™€ Eq.(3)์€ ์™œ ๊ฐ™์€ ๊ฒƒ์ธ๊ฐ€
    • ์‹ ํฅ ํ”„๋ก ํ‹ฐ์–ด โ€” ๋„ค ๊ฐœ์˜ ์ด๋™ (Sec. EMERGING FRONTIERS)
      • ์ƒ์„ฑ๋ชจ๋ธ๋„ ์ œ์–ด์ด๋ก ์ด๋ผ๋Š” ์ฃผ์žฅ
    • ๋‹ค์Œ ์„ธ๋Œ€๋ฅผ ์œ„ํ•œ ๊ณผ์ œ
    • ์‹œ์ž‘ํ•˜๋ ค๋Š” ์‚ฌ๋žŒ์„ ์œ„ํ•œ ์ ˆ (Sec. GETTING STARTED)
    • ๋น„ํŒ์ ์œผ๋กœ ๋ณด๋ฉด
      • ๊ฐ•์ 
      • ์•ฝ์ ยทํ•œ๊ณ„
    • ๊ด€๋ จ ์—ฐ๊ตฌ์™€์˜ ์ž๋ฆฌ ๋งค๊น€
    • ์š”์•ฝ

๐Ÿ“ƒHLC Survey ๋ฆฌ๋ทฐ

survey
humanoid
locomotion
loco-manipulation
mpc
optimal-control
whole-body-control
rl
il
sim2real
curriculum
diffusion
world-model
foundation-model
vla
generative
safety
IsaacLab
MuJoCo
Evolution of Humanoid Locomotion Control
Published

August 29, 2026

  • Paper Link (Science Robotics, DOI 10.1126/scirobotics.aed3973)

  • Companion Repo (paper list + figures + getting-started)

  • Yan Gu*, Guanya Shi*, Fan Shi*, I-Chia Chang, Yen-Jen Wang, Qilong Cheng, Zachary Olkin, Ivan Lopez-Sanchez, Yunchu Feng, Jian Zhang, Aaron D. Ames, Hao Suโ€ , Koushil Sreenathโ€  (*๋™๋“ฑ๊ธฐ์—ฌ, โ€ ๊ต์‹ ์ €์ž) โ€” ์ด 13์ธ

  • Purdue ยท CMU ยท NUS ยท UC Berkeley ยท NYU Tandon ยท Caltech ยท Meta Platforms

  • Science Robotics, 2026 (์ €์ž BibTeX ๊ธฐ์ค€ vol. 11, no. 117). ๋ณธ ๋ฆฌ๋ทฐ๋Š” ์ €์ž๋“ค์ด ๊ณต๊ฐœ ๋ ˆํฌ์— ์˜ฌ๋ฆฐ 2026-08-19์ž ์ €์ž ์›๊ณ  PDF(์ด 66์ชฝ, ๋ณธ๋ฌธ 26์ชฝ + ๊ทธ๋ฆผยทํ‘œ 7์ชฝ, ์ฐธ๊ณ ๋ฌธํ—Œ 293ํŽธ) ๋ฅผ ๊ทผ๊ฑฐ๋กœ ํ•œ๋‹ค. science.org ๋ณธ๋ฌธ์€ ํŽ˜์ด์›”์ด๋ผ ์ตœ์ข… ์กฐํŒ๋ณธ์˜ ์ชฝ์ˆ˜ยท๊ฒŒ์žฌ์ผ์€ ํ™•์ธํ•˜์ง€ ๋ชปํ–ˆ๋‹ค.

  • ๊ณต๊ฐœ ์ฝ”๋“œ ์—†์Œ โ€” ๋ ˆํฌ๋Š” ์ฝ”๋“œ๊ฐ€ ์•„๋‹ˆ๋ผ ์„น์…˜๋ณ„ ์ธ์šฉ ๋…ผ๋ฌธ ๋ฆฌ์ŠคํŠธ, ๊ทธ๋ฆผ ์›๋ณธ, getting-started ๊ฐ€์ด๋“œ๋‹ค.

  1. ๐Ÿ’ก ํœด๋จธ๋…ธ์ด๋“œ ๋ณดํ–‰ ์ œ์–ด 60๋…„์„ โ€œ๊ณ ์ „ ์ œ์–ด โ†’ RL โ†’ ์ƒ์„ฑ๋ชจ๋ธโ€์˜ ์‹œ๊ฐ„์ถ• ์ง„ํ™”์‚ฌ๋กœ ๋‹ค์‹œ ๋ฐฐ์—ดํ•˜๊ณ , ์„ธ ์‹œ๋Œ€๊ฐ€ ์„œ๋กœ ๋‹ค๋ฅธ ๊ธฐ์ˆ ์ด ์•„๋‹ˆ๋ผ ๊ฐ™์€ ๋ฌผ๋ฆฌ ์›๋ฆฌ์˜ ๋‹ค๋ฅธ ๊ตฌํ˜„์ž„์„ ๋…ผ์ฆํ•˜๋Š” ์„œ๋ฒ ์ด๋‹ค.
  2. โš™๏ธ ๋…ผ๊ฑฐ๋Š” ์ˆ˜์‹ ๋„ค ๊ฐœ๋กœ ์••์ถ•๋œ๋‹ค โ€” ํ•˜์ด๋ธŒ๋ฆฌ๋“œ ๋™์—ญํ•™ Eq.(1), ์ œ์•ฝ ์ตœ์ ์ œ์–ด Eq.(2), POMDP RL Eq.(3), ์ƒ์„ฑ ์ •์ฑ… Eq.(4). ์ €์ž๋“ค์€ Eq.(3)์„ โ€œEq.(2)์˜ ํ™•๋ฅ ์ ยท์ •์ฑ… ํŒŒ๋ผ๋ฏธํ„ฐํ™” ํŒ๋ณธโ€์œผ๋กœ ์ฝ๊ณ , Eq.(4)๋ฅผ ๊ทธ ์œ„์— ๋ฌผ๋ฆฌ ์‚ฌ์ „๋ถ„ํฌ KL ํ•ญ์„ ์–น์€ ํ˜•ํƒœ๋กœ ๋†“๋Š”๋‹ค.
  3. ๐ŸŽฏ ๊ฒฐ๋ก ์€ โ€œphysics-guided generative intelligence๋กœ์˜ ์ˆ˜๋ ดโ€์ด๋ฉฐ, ๊ทธ ์ˆ˜๋ ด์„ ๋– ๋ฐ›์น˜๋Š” ์„ธ ๊ณตํ†ต ์›๋ฆฌ๋ฅผ ๋ฌผ๋ฆฌ ๊ธฐ๋ฐ˜ ๋ชจ๋ธ๋ง ยท ์ œ์•ฝ ํ•˜ ์˜์‚ฌ๊ฒฐ์ • ยท ๋ถˆํ™•์‹ค์„ฑ ์ ์‘์œผ๋กœ ๋ช…๋ช…ํ•œ๋‹ค. Table 2๋Š” 6๊ฐœ ๋‚œ์ œ ร— 3๊ฐœ ํŒจ๋Ÿฌ๋‹ค์ž„ ๋งคํŠธ๋ฆญ์Šค๋กœ ์ด ๋Œ€์‘์„ ํ•œ ์žฅ์— ๋ฐฐ์น˜ํ•œ๋‹ค.

๐Ÿ” Ping Review

๐Ÿ” Ping โ€” A light tap on the surface. Get the gist in seconds.

ํœด๋จธ๋…ธ์ด๋“œ ์„œ๋ฒ ์ด๋Š” ์ด๋ฏธ ํฌํ™” ์ƒํƒœ๋‹ค. ์ €์ž๋“ค๋„ ๊ทธ๊ฑธ ์•Œ๊ณ  ์„œ๋ก ์—์„œ ๊ณง๋ฐ”๋กœ ์ขŒํ‘œ๋ฅผ ์ฐ๋Š”๋‹ค: Ha et al.(13)์€ legged RL์„ ๋‹ค๋ฃจ๋˜ ๊ณ ์ „ ์ œ์–ด์™€ ์ž‡์ง€ ์•Š์•˜๊ณ , Wensing et al.(14)์€ ์ตœ์ ํ™” ๊ธฐ๋ฐ˜ ์ œ์–ด๋ฅผ ๋‹ค๋ฃจ๋˜ ํ•™์Šต์„ ๋บ์œผ๋ฉฐ, Gu et al.(15) โ€” ์ด ๋ธ”๋กœ๊ทธ์—๋„ ๋ฆฌ๋ทฐ๊ฐ€ ์žˆ๋Š” HLM Survey โ€” ๋Š” whole-body loco-manipulation์„ ๋‹ค๋ฃจ๋˜ ์ œ์–ด ํ”„๋ ˆ์ž„์›Œํฌ์˜ ์ง„ํ™”๊ฐ€ ์•„๋‹ˆ๋ผ ์‹œ์Šคํ…œ ํ†ตํ•ฉ์— ๋ฐฉ์ ์„ ์ฐ์—ˆ๋‹ค. ์ด ๋…ผ๋ฌธ์ด ๋น„์šด ์ž๋ฆฌ๋Š” ๊ทธ๋ž˜์„œ โ€œ๊ณ ์ „๊ณผ ํ•™์Šต์„ ๊ณตํ†ต ๋ฌผ๋ฆฌ ์›๋ฆฌ๋กœ ์ž‡๊ณ , ๊ทธ ์„ ์„ ์ƒ์„ฑยทํŒŒ์šด๋ฐ์ด์…˜ ๋ชจ๋ธ๊นŒ์ง€ ์—ฐ์žฅํ•˜๋Š” ๊ฒƒโ€์ด๋‹ค.

1์ฐจ ๋ถ„๋ฅ˜์ถ•์ด ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๊ณ„์—ด๋„ ์•„๋‹ˆ๊ณ  ์ ‘์ด‰ ์œ ํ˜•๋„ ์•„๋‹ˆ๋ผ ์‹œ๊ฐ„(์—ฐ๋Œ€) ์ด๋ผ๋Š” ์ ์ด ์ด ์„œ๋ฒ ์ด์˜ ์„ฑ๊ฒฉ์„ ๊ฒฐ์ •ํ•œ๋‹ค. Fig. 1์ด ๊ทธ ์ถ• ์ „์ฒด๋‹ค: Classical(1960โ€“) โ†’ Learning-based(2015โ€“) โ†’ Emerging(2023โ€“). ๊ฐ ์‹œ๋Œ€๋งˆ๋‹ค (a) ์ปจํŠธ๋กค๋Ÿฌ๊ฐ€ ๋ฌด์—‡์„ ๊ณ ๋ คํ•˜๋Š”๊ฐ€, (b) ์–ด๋–ค ๋„๊ตฌ๋ฅผ ์“ฐ๋Š”๊ฐ€, (c) ์–ด๋А ๋ถ„์•ผ์—์„œ ์˜๊ฐ์„ ์–ป๋Š”๊ฐ€, (d) ์–ด๋–ค ๊ณผ์—…์„ ํ‘ธ๋Š”๊ฐ€๋ฅผ ๋„ค ์ธต์œผ๋กœ ๋‚˜๋ž€ํžˆ ๋†“๋Š”๋‹ค.


์„œ๋ฒ ์ด์˜ ๋ผˆ๋Œ€(Fig. 1) โ€” ์„ธ ์‹œ๋Œ€๋ฅผ ๋„ค ์ธต(๊ณ ๋ ค ๋Œ€์ƒ / ๋„๊ตฌ / ์˜๊ฐ์˜ ์ถœ์ฒ˜ / ๊ณผ์—…)์œผ๋กœ ๊ฐˆ๋ผ ๋†“์€ ์ง„ํ™” ์—ฐํ‘œ. ๊ณผ์—… ์ธต์€ โ€œ์ œํ•œ๋œ ์ง€ํ˜•์—์„œ์˜ ์•ˆ์ • ๋ณดํ–‰โ€ โ†’ โ€œ๋‹ค์–‘ํ•œ ์ง€ํ˜•์—์„œ์˜ ๋ฏผ์ฒฉํ•œ ๋ณดํ–‰โ€ โ†’ โ€œ๊ฐœ๋ฐฉ ์„ธ๊ณ„์—์„œ์˜ ๋ฉ€ํ‹ฐํƒœ์Šคํฌ loco-manipulationโ€์œผ๋กœ ์ด๋™ํ•œ๋‹ค. ๋„๊ตฌ ์ธต์—์„œ ์ถ•์†Œ์ฐจ์ˆ˜ ๋ชจ๋ธยท์ œ์–ด์ด๋ก ยท๋ณผ๋ก์ตœ์ ํ™”๊ฐ€ GPU ๋ณ‘๋ ฌ ์‹œ๋ฎฌ๋ ˆ์ด์…˜ยทRLยท๋ชจ๋ฐฉํ•™์Šต์œผ๋กœ, ๋‹ค์‹œ ํŒŒ์šด๋ฐ์ด์…˜ ๋ชจ๋ธยทworld modelยทํ™•์‚ฐ๋ชจ๋ธ๋กœ ๊ต์ฒด๋œ๋‹ค.

ํ•ต์‹ฌ ๋ฐฉ๋ฒ•๋ก (์„œ๋ฒ ์ด๊ฐ€ ๊น”์•„ ๋‘๋Š” ๋„ค ๊ฐœ์˜ ์ˆ˜์‹):

๋จผ์ € ๋‹ค๋ฆฌ ๋กœ๋ด‡์˜ ๋ณธ์งˆ์€ ์ ‘์ด‰์„ ๋งŒ๋“ค๊ณ  ๋Š๋Š” ํ•˜์ด๋ธŒ๋ฆฌ๋“œ ๋™์—ญํ•™์ด๋‹ค. ์ƒํƒœ x, ์ž…๋ ฅ u, ๋„๋ฉ”์ธ D, ์Šค์œ„์นญ ํ‘œ๋ฉด S์— ๋Œ€ํ•ด

\Sigma := \begin{cases} \dot{x} = f(t,x,u), & x \in D \setminus S \\ x^{+} = \Delta(x^{-}), & x^{-} \in S \end{cases}

๊ณ ์ „ ์˜ˆ์ธก์ œ์–ด๋Š” ์ด ๋™์—ญํ•™๊ณผ ํ—ˆ์šฉ์ง‘ํ•ฉ \mathcal{X},\mathcal{U} ์•„๋ž˜ ์œ ํ•œ ์ง€ํ‰์„  ๋น„์šฉ์„ ์ตœ์†Œํ™”ํ•œ๋‹ค.

\min_{u,x}\; L(t,x,u) = \int l(t,x,u)\,dt + V(x(T)) \quad \text{s.t.}\quad \dot{x}=f(t,x,u),\;\; x \in \mathcal{X},\; u \in \mathcal{U}

RL์€ ๊ฐ™์€ ๋ฌธ์ œ๋ฅผ POMDP \mathcal{M}=\langle \mathcal{S},\mathcal{A},p,r,\mathcal{O},\gamma\rangle ์œ„์—์„œ ์ •์ฑ… ํŒŒ๋ผ๋ฏธํ„ฐ์— ๋Œ€ํ•ด ํ‘ผ๋‹ค.

\max_{\pi}\; J(\pi) = \mathbb{E}_{\tau \sim p_\tau(\cdot|\pi)}\left[\sum_{t=0}^{\infty}\gamma^{t} r(s_t,a_t)\right] \quad \text{s.t.}\quad s_{t+1}\sim p(\cdot|s_t,a_t),\; a_t \sim \pi(\cdot|o_t),\; o_t \sim \mathcal{O}(\cdot|s_t)

๊ทธ๋ฆฌ๊ณ  ์ƒ์„ฑ ์ •์ฑ…์€ ๋ชฉ์ ํ•จ์ˆ˜๋ฅผ โ€œ๋ณด์ƒ ์ตœ๋Œ€ํ™”โ€์—์„œ โ€œ๋ฐ์ดํ„ฐ ๋ถ„ํฌ ์ •ํ•ฉ + ๋ฌผ๋ฆฌ ์ •ํ•ฉโ€์œผ๋กœ ๋ฐ”๊พผ๋‹ค.

\max_{\phi}\; J(\pi_\phi) = \mathbb{E}_{\tau \sim p_\tau(\cdot|\pi_\phi)}\Big[\log p_{\text{data}}(\tau) - \lambda\, D\big(\pi_\phi(\tau)\,\|\,p_{\text{phys}}(\tau)\big)\Big] \quad \text{s.t.}\quad (s_t,a_t) \in \mathcal{C}_{\text{phys}}

p_{\text{phys}}๋Š” ๋ฌผ๋ฆฌ ์‚ฌ์ „๋ถ„ํฌ(๋˜๋Š” ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ ์ •ํ•ฉ ๊ณผ์ •), \mathcal{C}_{\text{phys}}๋Š” ์ ‘์ด‰ยท๋งˆ์ฐฐยทํ† ํฌยท๊ธฐ๊ตฌํ•™ ํ•œ๊ณ„๋‹ค. ์ €์ž๋“ค์˜ ์ฃผ์žฅ์€ ์ด ๋„ค ์‹์ด ๋‹ค๋ฅธ ๋ฌธ์ œ๊ฐ€ ์•„๋‹ˆ๋ผ ๊ฐ™์€ ๋ฌธ์ œ์˜ ๋‹ค๋ฅธ ํŒŒ๋ผ๋ฏธํ„ฐํ™”๋ผ๋Š” ๊ฒƒ์ด๋‹ค.

์ฃผ์š” ๊ฒฐ๊ณผ(์„œ๋ฒ ์ด๊ฐ€ ์ •๋ฆฌํ•œ ์‚ฌ์‹ค๋“ค):

  • ์‹œ๋Œ€๋ณ„ ์ฐฉ์ˆ˜ ์—ฐ๋„(Table 1): ์„ ํ˜• ํ”ผ๋“œ๋ฐฑ 1980sโ€“ ยท ๋น„์„ ํ˜• ํ”ผ๋“œ๋ฐฑ 2000sโ€“ ยท ๊ถค์  ์ตœ์ ํ™” 2010sโ€“ ยท MPC 2010sโ€“ ยท ์ˆœ์ˆ˜ ์‹œ๋ฎฌ RL 2016โ€“ ยท ์‹ค๋ฐ์ดํ„ฐ RL 2018โ€“ ยท ๋ชจ๋ธ ์œ ๋„ RL 2020โ€“ ยท LLM/VLM ์œ ๋„ 2024โ€“ ยท ํ™•์‚ฐ ๋ชจ์…˜ ์‚ฌ์ „๋ถ„ํฌ 2025โ€“ ยท world/foundation ๋ชจ๋ธ 2025โ€“.
  • ๊ณ„์‚ฐ ๊ณ„์ธต(Fig. 3B): ๊ด€์ ˆ ํ† ํฌ โˆผ1000 Hz, ๋ชจ์…˜ ์ƒ์„ฑ โˆผ100 Hz, ํƒœ์Šคํฌ ๊ณ„ํš โˆผ1 Hz. ์ƒ์„ฑ ๋ฐฉ์‹์€ ๊ณ„์‚ฐ ๋ถ€๋‹ด ๋•Œ๋ฌธ์— ๋Œ€๊ฐœ ๋” ๋‚ฎ์€ ๋ฐฐํฌ ์ฃผํŒŒ์ˆ˜์—์„œ ๋ˆ๋‹ค.
  • ์˜จ๋ผ์ธ MPC์˜ ์ง€ํ‰์„ ์€ ๊ณ„์‚ฐยทํƒ€์ด๋ฐ ์ œ์•ฝ ๋•Œ๋ฌธ์— 1์ดˆ ๋ฏธ๋งŒ์œผ๋กœ ์ œํ•œ๋˜๋Š” ๊ฒฝํ–ฅ์ด ์žˆ๋‹ค.
  • ์‹œ๊ฐ ๊ธฐ๋ฐ˜ ๋ณดํ–‰ ์ •์ฑ…์€ โ€œblindโ€ ๋ฒ ์ด์Šค๋ผ์ธ ๋Œ€๋น„ ์„ฑ๊ณต๋ฅ ์„ ๋‘ ๋ฐฐ๋กœ ์˜ฌ๋ฆด ์ˆ˜ ์žˆ๋‹ค๋Š” ์‹ค์ฆ ์—ฐ๊ตฌ๊ฐ€ ์žˆ๋‹ค(์ธ์šฉ 223, 224).
  • ํœด๋จธ๋…ธ์ด๋“œ ํ”Œ๋žซํผ ๊ฐ€๊ฒฉ์€ ์•ก์ถ”์—์ดํ„ฐยท๊ฒฝ๋Ÿ‰ ์„ค๊ณ„ยท์–‘์‚ฐ์œผ๋กœ ํ•œ ์ž๋ฆฟ์ˆ˜ ์ด์ƒ(over an order of magnitude) ํ•˜๋ฝํ–ˆ๋‹ค.
  • ๊ทœ๋ชจ: ์ฐธ๊ณ ๋ฌธํ—Œ 293ํŽธ, ๊ทธ๋ฆผ 5์žฅ, ํ‘œ 2์žฅ.

๊ฒฐ๋ก :

์ด ์„œ๋ฒ ์ด์˜ ์ตœ์ข… ๋ช…์ œ๋Š” โ€œ๊ณ ์ „ ์ œ์–ด๊ฐ€ ํ•™์Šต์— ์˜ํ•ด ๋Œ€์ฒด๋œ ๊ฒƒ์ด ์•„๋‹ˆ๋‹คโ€์ด๋‹ค. ์ตœ๊ทผ์˜ ๋ฏผ์ฒฉ์„ฑ ๋„์•ฝ์€ ์‹ ๊ฒฝ๋ง ์ •์ฑ…์ด๋‚˜ ์—ฐ์‚ฐ๋Ÿ‰ ํ•˜๋‚˜์˜ ์Šน๋ฆฌ๊ฐ€ ์•„๋‹ˆ๋ผ ๊ณ ์ถฉ์‹ค๋„ ์ ‘์ด‰ ์‹œ๋ฎฌ๋ ˆ์ด์…˜ + ํ‘œํ˜„๋ ฅ ์žˆ๋Š” ํ•™์Šต ๊ตฌ์กฐ + ๋ฌผ๋ฆฌ ์œ ๋„ ํ•™์Šต ์„ค๊ณ„ + ๋น„๋Œ€์นญ ํ•™์Šต(asymmetric training)์˜ ์‹œ๋„ˆ์ง€๋ผ๋Š” ๊ฒƒ. ๊ทธ๋ž˜์„œ ๋ฌผ๋ฆฌ ์›๋ฆฌ๋Š” ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐยท๋ณด์ƒ ์„ค๊ณ„ยท์‹œ์Šคํ…œ ์‹๋ณ„ยท์ปค๋ฆฌํ˜๋Ÿผยท์‹ค์‹œ๊ฐ„ ์ œ์–ด ์ธํ„ฐํŽ˜์ด์Šค๋ผ๋Š” ํ†ต๋กœ๋กœ ์—ฌ์ „ํžˆ ํ˜„๋Œ€ ํœด๋จธ๋…ธ์ด๋“œ ์ œ์–ด๋ฅผ ๊ด€ํ†ตํ•œ๋‹ค. ์ €์ž๋“ค์ด ๋งˆ์ง€๋ง‰์— ์ง€๋ชฉํ•˜๋Š” ๋ณ‘๋ชฉ์€ ์•Œ๊ณ ๋ฆฌ์ฆ˜์ด ์•„๋‹ˆ๋ผ ๋ฐ์ดํ„ฐ๋‹ค โ€” ์›๊ฒฉ์กฐ์ž‘ ๋ฐ์ดํ„ฐ๋„ ์‹œ๋ฎฌ ๋ฐ์ดํ„ฐ๋„ ๊ฐ๊ฐ์œผ๋กœ๋Š” ํฌ๊ท€ ์‹คํŒจยท์ ‘์ด‰ ํ’๋ถ€ ์ƒํ˜ธ์ž‘์šฉยท๋ณต๊ตฌ ํ–‰๋™ยทํ˜•ํƒœ ๋ณ€์ดยท์ธ๊ฐ„ ์ค‘์‹ฌ ๋ฐฐํฌ ์กฐ๊ฑด์„ ๋ฎ์ง€ ๋ชปํ•œ๋‹ค.


๐Ÿ”” Ring Review

๐Ÿ”” Ring โ€” An idea that echoes. Grasp the core and its value.

ํ•œ ์ค„๋กœ ์‹œ์ž‘ํ•˜๋ฉด

์ด ์„œ๋ฒ ์ด๋Š” โ€œ๋ฌด์—‡์ด ์žˆ์—ˆ๋Š”๊ฐ€โ€์˜ ๋ชฉ๋ก์ด ์•„๋‹ˆ๋ผ โ€œ์™œ ๊ทธ๊ฒƒ๋“ค์ด ๊ฒฐ๊ตญ ๊ฐ™์€ ๋ฌธ์ œ์˜€๋Š”๊ฐ€โ€์˜ ๋…ผ์ฆ์ด๋‹ค. ์ €์ž๋“ค์€ 60๋…„์น˜ ๋ฐฉ๋ฒ•์„ ์—ฐ๋Œ€์ˆœ์œผ๋กœ ๋Š˜์–ด๋†“๋˜, ๊ฐ ์‹œ๋Œ€๋ฅผ ํ•˜๋‚˜์˜ ์ตœ์ ํ™” ๋ฌธ์ œ๋กœ ๋‹ค์‹œ ์จ์„œ ์„ธ ์‹œ๋Œ€๊ฐ€ ๋ชฉ์ ํ•จ์ˆ˜์˜ ํ˜•ํƒœ์™€ ์ตœ์ ํ™”๊ฐ€ ์ผ์–ด๋‚˜๋Š” ์‹œ์ ๋งŒ ๋‹ค๋ฅด๋‹ค๋Š” ๊ฒƒ์„ ๋ณด์ธ๋‹ค. ๊ณ ์ „ ์ œ์–ด๋Š” ์˜จ๋ผ์ธ์—์„œ ๊ฒฐ์ •๋ก ์  ๊ถค์  ์ตœ์ ํ™”๋ฅผ ํ’€๊ณ , RL์€ ์˜คํ”„๋ผ์ธ์—์„œ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ๋ฅผ ์ƒ๋Œ€๋กœ ์ •์ฑ… ํŒŒ๋ผ๋ฏธํ„ฐ ์ตœ์ ํ™”๋ฅผ ํ’€์–ด ๊ทธ ํ•ด๋ฅผ ์‹ ๊ฒฝ๋ง์— โ€œ์ธ์ฝ”๋”ฉโ€ํ•˜๋ฉฐ, ์ƒ์„ฑ๋ชจ๋ธ์€ ๊ทธ ์œ„์— ๋ฐ์ดํ„ฐ ๋ถ„ํฌ๋ฅผ ์–น๋Š”๋‹ค. ์ด ๊ด€์ ์ด ์„œ๋ฒ ์ด์˜ ๊ฐ’์–ด์น˜ ์ „๋ถ€๋‹ค โ€” ์—ฌ๊ธฐ์— ๋™์˜ํ•˜์ง€ ์•Š์œผ๋ฉด ์ด ๋…ผ๋ฌธ์€ ๊ทธ๋ƒฅ ์ž˜ ์ •๋ฆฌ๋œ ์ธ์šฉ ๋ชฉ๋ก์ด ๋œ๋‹ค.

๋ฐฐ๊ฒฝ โ€” ์™œ ํœด๋จธ๋…ธ์ด๋“œ ๋ณดํ–‰ ์ œ์–ด๊ฐ€ ์–ด๋ ค์šด๊ฐ€ (Sec. INTRODUCTION)

์ €์ž๋“ค์˜ ๋ฌธ์ œ ์ •์˜๋Š” ์งง๋‹ค: ์ œ์–ด๋ž€ ํ•˜๋“œ์›จ์–ด๊ฐ€ ๋ชฉ์  ์žˆ๋Š” ํ–‰๋™์„ ๋‚ด๊ฒŒ ๋งŒ๋“œ๋Š” ๋ฉ”์ปค๋‹ˆ์ฆ˜์ด๊ณ , ํœด๋จธ๋…ธ์ด๋“œ์—์„œ ๊ทธ๊ฒƒ์€ โ€œ๋ถˆํ™•์‹คํ•˜๊ณ  ๋น„์„ ํ˜•์ธ ๋™์—ญํ•™ ์•„๋ž˜, ์ˆ˜์‹ญ ๊ฐœ ๊ด€์ ˆ๊ณผ ๊ฐ„ํ—์  ์ ‘์ด‰์„ ์กฐ์œจํ•˜๋ฉด์„œ ์•ˆ์ „ยท์ •๋ฐ€๋„ยท์—๋„ˆ์ง€ ํšจ์œจยท์ ์‘์„ฑ์˜ ๊ท ํ˜•์„ ์žก๋Š” ์ผโ€์ด๋‹ค. ์—ฌ๊ธฐ์„œ ๊ฐ„ํ—์  ์ ‘์ด‰์ด ํ•ต์‹ฌ์ด๋‹ค. ๋ฐ”ํ€ด ๋กœ๋ด‡๊ณผ ๋‹ฌ๋ฆฌ ๋‹ค๋ฆฌ ๋กœ๋ด‡์€ ์ ‘์ด‰์„ ๋ฐ˜๋ณตํ•ด์„œ ๋งŒ๋“ค๊ณ  ๋Š์œผ๋ฉฐ, ๊ทธ ์ˆœ๊ฐ„๋งˆ๋‹ค ์ƒํƒœ๊ฐ€ ๋ถˆ์—ฐ์†์œผ๋กœ ์ ํ”„ํ•œ๋‹ค. ๊ทธ๋ž˜์„œ Eq. (1)์˜ ํ•˜์ด๋ธŒ๋ฆฌ๋“œ ๊ตฌ์กฐ๊ฐ€ ์ด ๋ถ„์•ผ์˜ ์ถœ๋ฐœ์ ์ด ๋œ๋‹ค.

์„œ๋ฒ ์ด์˜ ๋ฒ”์œ„ ํ•œ์ •๋„ ๋ถ„๋ช…ํ•˜๋‹ค. ์ง€๊ฐ(1, 2), ํƒœ์Šคํฌ ๊ณ„ํš(3), ์ƒํƒœ ์ถ”์ •(4)์€ ์ œ์–ด ์„ค๊ณ„์™€ ์ง๊ฒฐ๋  ๋•Œ๋งŒ ๋‹ค๋ฃฌ๋‹ค. ์ฆ‰ ์ด ๋…ผ๋ฌธ์€ ํœด๋จธ๋…ธ์ด๋“œ ์ „๋ฐ˜์˜ ์„œ๋ฒ ์ด๊ฐ€ ์•„๋‹ˆ๋ผ ์ œ์–ด ํŒจ๋Ÿฌ๋‹ค์ž„์˜ ์„œ๋ฒ ์ด๋‹ค.

๊ธฐ์—ฌ โ€” ์ €์ž๋“ค์ด ์Šค์Šค๋กœ ๋งค๊ธด ์„ธ ๊ฐ€์ง€

  1. ๋„ค ํŒจ๋Ÿฌ๋‹ค์ž„์˜ ๊ฐ•ยท์•ฝ์ ์„ ํ•œ ์ค„๋กœ ๋Œ€์น˜์‹œํ‚จ๋‹ค: ๊ณ ์ „ ์‹ค์‹œ๊ฐ„ ํ”ผ๋“œ๋ฐฑ์€ ๋น ๋ฅด๊ณ  ์›๋ฆฌ์ ์ด์ง€๋งŒ ์‚ฌ์ „ ๊ณ„ํš๋œ ํ–‰๋™์— ๊ฐ‡ํžˆ๊ณ , ์˜ˆ์ธก์ œ์–ด๋Š” ์ œ์•ฝ์„ ์˜จ๋ผ์ธ์œผ๋กœ ๋‹ค๋ฃจ์ง€๋งŒ ๋ฏผ์ฒฉ์„ฑ์„ ํฌ์ƒํ•˜๋Š” ๊ฒฝ์šฐ๊ฐ€ ๋งŽ๊ณ , RL์€ ๋ฏผ์ฒฉ์„ฑยท๊ฐ•๊ฑด์„ฑ์„ ์–ป์ง€๋งŒ ํƒœ์Šคํฌ ํŠนํ™”์ ์ด๊ณ  ๋ถˆํˆฌ๋ช…ํ•˜๋ฉฐ, ์ƒ์„ฑ ๋ฐฉ์‹์€ ๋‹ค์žฌ๋‹ค๋Šฅํ•˜์ง€๋งŒ ์‹ค์„ธ๊ณ„ ์‹ ๋ขฐ์„ฑ์ด ์—†๋‹ค. ์ด ๋„ค ๋ฌธ์žฅ์ด ๋…ผ๋ฌธ ์ „์ฒด์˜ ์••์ถ•์ด๋‹ค.
  2. ์„ธ ๊ณตํ†ต ์กฐ๋ ฅ์ž(shared enablers) ๋ฅผ ๋ฝ‘๋Š”๋‹ค โ€” ๋ฌผ๋ฆฌ ๊ธฐ๋ฐ˜ ๋ชจ๋ธ๋ง, ์ œ์•ฝ ํ•˜ ์˜์‚ฌ๊ฒฐ์ •, ๋ถˆํ™•์‹ค์„ฑ ์ ์‘.
  3. ๋– ์˜ค๋ฅด๋Š” ๋ฐฉํ–ฅ์œผ๋กœ ์ƒ์„ฑ์  ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ loco-manipulation, test-time adaptation, ์ธ๊ฐ„ ์ค‘์‹ฌ ํœด๋จธ๋…ธ์ด๋“œ ์„ค๊ณ„๋ฅผ ์ง€๋ชฉํ•œ๋‹ค.

๋ชจ๋ธ๋ง โ€” ์ŠคํŽ™ํŠธ๋Ÿผ์œผ๋กœ์„œ์˜ ๋ชจ๋ธ (Sec. MODELING)

์„œ๋ฒ ์ด๊ฐ€ ๋ชจ๋ธ์„ ๋‹ค๋ฃจ๋Š” ๋ฐฉ์‹์ด ์ธ์ƒ์ ์ด๋‹ค. โ€œ๊ณ ์ „=ํ•ด์„์  ๋ชจ๋ธ, ํ•™์Šต=๋ชจ๋ธ ํ”„๋ฆฌโ€๋ผ๋Š” ํ”ํ•œ ์ด๋ถ„๋ฒ• ๋Œ€์‹  ํ‘œํ˜„๋ ฅ ์ถ•๊ณผ ๋ฌผ๋ฆฌโ†”๏ธŽ๋ฐ์ดํ„ฐ ์ถ•์˜ 2์ฐจ์› ์ŠคํŽ™ํŠธ๋Ÿผ์œผ๋กœ ํŽธ๋‹ค(Fig. 2).


๋ชจ๋ธ๋ง ์ŠคํŽ™ํŠธ๋Ÿผ(Fig. 2) โ€” ์™ผ์ชฝ(๋ฌผ๋ฆฌ ๊ธฐ๋ฐ˜)์—์„œ ์˜ค๋ฅธ์ชฝ(๋ฐ์ดํ„ฐ ๊ธฐ๋ฐ˜)์œผ๋กœ, ์•„๋ž˜(๋‚ฎ์€ ํ‘œํ˜„๋ ฅ)์—์„œ ์œ„(๋†’์€ ํ‘œํ˜„๋ ฅ)๋กœ. ์ถ•์†Œ์ฐจ์ˆ˜ ๋ชจ๋ธ โ†’ ์ „์ฐจ์ˆ˜ ๋ชจ๋ธ โ†’ ๋ฌผ๋ฆฌ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ โ†’ (ํ•˜์ด๋ธŒ๋ฆฌ๋“œ: ๋ฌผ๋ฆฌ ๋ชจ๋ธ + ๋ฐ์ดํ„ฐ ๊ธฐ๋ฐ˜ ์ž”์ฐจ ์‹ ๊ฒฝ๋ง) โ†’ ํ•™์Šต๋œ ๋™์—ญํ•™ โ†’ ์ž ์žฌ ๋™์—ญํ•™ โ†’ world model. ์ดˆ๋ก=๊ณ ์ „, ๋นจ๊ฐ•=ํ•˜์ด๋ธŒ๋ฆฌ๋“œ, ๋…ธ๋ž‘=์‹ ํฅ.
  • ์ถ•์†Œ์ฐจ์ˆ˜ ๋ชจ๋ธ(reduced-order): LIP, SLIP, compass-gait, centroidal, point-mass, single rigid body. ์‹ค์‹œ๊ฐ„ ๊ท ํ˜•ยท๋ฐœ ๋ฐฐ์น˜ยท์™ธ๋ž€ ์ œ๊ฑฐ๋ฅผ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ–ˆ๊ณ  ๋™๋ฌผ ๋ณดํ–‰์˜ ์‚ฌ์ง€ ํ˜‘์‘ ์›๋ฆฌ๋ฅผ ๋“œ๋Ÿฌ๋‚ด๊ธฐ๋„ ํ–ˆ๋‹ค. ๋Œ€๊ฐ€๋Š” ํ‰์ง€ยท๊ฐ•์ฒด ์ ‘์ด‰ยท์ผ์ • CoM ๋†’์ด ๊ฐ™์€ ๊ฐ€์ •์ด๋ฉฐ, ๋น ๋ฅด๊ณ  ์ ‘์ด‰์ด ํ’๋ถ€ํ•œ ๋™์ž‘์—์„œ ๋ฌด๋„ˆ์ง„๋‹ค.
  • ์ „์ฐจ์ˆ˜ ๋ชจ๋ธ(full-order): ์™„์ „ํ•œ ๊ฐ•์ฒด ๋™์—ญํ•™. ๋” ์—ญ๋™์ ์ธ ๋™์ž‘์ด ๊ฐ€๋Šฅํ•˜์ง€๋งŒ ์ฐจ์›์ด ๋†’์•„ ๊ณ„์‚ฐ ๋น„์šฉ๊ณผ ์ œ์–ด ๋ณต์žก๋„๊ฐ€ ์˜ค๋ฅด๊ณ , ๋ชจ๋ธ๋ง ์˜ค์ฐจยท์ง€ํ˜• ์ปดํ”Œ๋ผ์ด์–ธ์Šคยท๋งˆ์ฐฐ ๋ณ€๋™์— ๋ฏผ๊ฐํ•˜๋‹ค.
  • ๋ฌผ๋ฆฌ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ: ์ €์ž๋“ค์˜ ํ‘œํ˜„์œผ๋กœ โ€œํ˜„๋Œ€ ํ•™์Šต ๋ฐฉ๋ฒ• ๋’ค์˜ ๋ณด์ด์ง€ ์•Š๋Š” ์—”์ง„โ€. ์ค‘์š”ํ•œ ๊ฑด ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ๊ฐ€ ๊ณ ์ „ ์ปจํŠธ๋กค๋Ÿฌ๋ณด๋‹ค ์ผ๋ฐ˜์ ์ธ ์ ‘์ด‰ ๋ชจ๋ธ(๋ฏธ๋„๋Ÿฌ์ง, ๋น„ํ‹€๋ฆผ ๋งˆ์ฐฐ, ๋‹ค์–‘ํ•œ ์ ‘์ด‰ ์Œ)์„ ์ˆ˜์น˜์ ์œผ๋กœ ํ‘ผ๋‹ค๋Š” ์ ์ด๋‹ค. ์ฆ‰ ํ•™์Šต ์ง„์˜์€ ์ ‘์ด‰์„ โ€œ๊ฐ€์ •์œผ๋กœ ๋‹จ์ˆœํ™”โ€ํ•˜๋Š” ๋Œ€์‹  โ€œ์ˆ˜์น˜๋กœ ๋– ๋„˜๊ธดโ€ ๊ฒƒ์ด๋‹ค.
  • ํ•˜์ด๋ธŒ๋ฆฌ๋“œยท๋ฐ์ดํ„ฐ ๊ธฐ๋ฐ˜: ์•ก์ถ”์—์ดํ„ฐ ์‹ ๊ฒฝ๋ง ๋ชจ๋ธ, ์ž”์ฐจ ํ•™์Šต(ASAP ๊ณ„์—ด), ๊ทธ๋ฆฌ๊ณ  ์ž ์žฌยทworld model.

์ ‘์ด‰ ์ฒ˜๋ฆฌ ๋ฐฉ์‹์ด ์„ธ ํŒจ๋Ÿฌ๋‹ค์ž„์„ ๊ฐ€๋ฅด๋Š” ์ง€์ ์ด๋ผ๋Š” ์ •๋ฆฌ๋„ ๋ช…๋ฃŒํ•˜๋‹ค โ€” ๊ณ ์ „์€ ๋ช…์‹œ์ (๊ธฐ๊ตฌํ•™ ์ œ์•ฝยท๋งˆ์ฐฐ ์›๋ฟ”ยทํ•˜์ด๋ธŒ๋ฆฌ๋“œ ๋™์—ญํ•™)์œผ๋กœ, ํ•™์Šต์€ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์— ์œ„์ž„ํ•ด ์ˆ˜์น˜์ ์œผ๋กœ, ์ƒ์„ฑ์€ ๋ฐ์ดํ„ฐ๋กœ๋ถ€ํ„ฐ ์•”๋ฌต์ ์œผ๋กœ ์ ‘์ด‰์„ ํ‘œํ˜„ํ•œ๋‹ค.

๊ณ ์ „ ์ œ์–ด โ€” ์‹ค์‹œ๊ฐ„ ํ”ผ๋“œ๋ฐฑ์—์„œ ์˜ˆ์ธก์ œ์–ด๋กœ (Sec. MODELING AND CLASSICAL CONTROL)

์—ฐ๋Œ€๊ธฐ๋Š” Raibert์˜ ๋™์  ํ˜ธํ•‘(1986), Honda ASIMO์˜ ์ค€์ •์  ๋ณดํ–‰, ์ดํ›„ ๋™์  ์ด์กฑยทํœด๋จธ๋…ธ์ด๋“œ ๋ณดํ–‰๊ณผ ๋‹ฌ๋ฆฌ๊ธฐ๋กœ ์ด์–ด์ง„๋‹ค. ์˜คํ”„๋ผ์ธ ๊ถค์  ์ตœ์ ํ™”๋Š” DARPA Robotics Challenge(2013โ€“2015)์™€ Boston Dynamics Atlas์˜ ํŒŒ์ฟ ๋ฅด ๋ฐ๋ชจ๋ผ๋Š” ์ด์ •ํ‘œ๋ฅผ ๋‚ณ์•˜๋‹ค.

  • ์„ ํ˜• ํ”ผ๋“œ๋ฐฑ: ZMP(LIP ๊ธฐ๋ฐ˜์˜ ์ค€์ •์  ๋ณดํ–‰), Raibert ์ œ์–ด(์ปดํ”Œ๋ผ์ด์–ธํŠธ ์ถ•์†Œ์ฐจ์ˆ˜ ๋ชจ๋ธ + ๋ฐœ ๋ฐฐ์น˜), capture point(์–ด๋””๋ฅผ ๋ฐŸ์•„์•ผ ๋ฉˆ์ถ”๋Š”๊ฐ€๋กœ CoM๊ณผ ๋ฐœ ๋ฐฐ์น˜๋ฅผ ์ž‡๋Š”๋‹ค), LQR๋กœ์˜ ์ผ๋ฐ˜ํ™”, ๊ทธ๋ฆฌ๊ณ  ๊ฐ€์žฅ ๋‹จ์ˆœํ•œ PD. ์ €์ž๋“ค์ด ๋†“์น˜์ง€ ์•Š๋Š” ๋Œ€๋ชฉ์ด ํ•˜๋‚˜ ์žˆ๋‹ค โ€” PD ๋ชฉํ‘œ๊ฐ’ ์ถ”์ข…์€ ์˜ค๋Š˜๋‚  RL๊ณผ ์‹ค์‹œ๊ฐ„ ์ œ์–ด๋ฅผ ์ž‡๋Š” ๊ฐ€์žฅ ๋Œ€์ค‘์ ์ธ ์ธํ„ฐํŽ˜์ด์Šค๋‹ค(Fig. 3B). ํ•™์Šต์ด ๊ณ ์ „์„ ๋Œ€์ฒดํ•œ ๊ฒŒ ์•„๋‹ˆ๋ผ ๊ทธ ์œ„์— ์–นํ˜”๋‹ค๋Š” ์ฆ๊ฑฐ๋กœ ์ด๋ณด๋‹ค ๊ตฌ์ฒด์ ์ธ ๊ฒƒ์€ ์—†๋‹ค.
  • ๋น„์„ ํ˜• ํ”ผ๋“œ๋ฐฑ: ์ „์ฐจ์ˆ˜ ๋ชจ๋ธ์˜ ํ•˜์ด๋ธŒ๋ฆฌ๋“œยท๋น„์„ ํ˜• ๋™์—ญํ•™์„ ๊ตฌ๋™/์˜(zero) ๋™์—ญํ•™์œผ๋กœ ๋ถ„ํ•ดํ•˜๊ฑฐ๋‚˜, CLF-QPยทwhole-body QP ๊ฐ™์€ ์ตœ์ ํ™” ๊ธฐ๋ฐ˜์œผ๋กœ ํ‘ผ๋‹ค. ์‹ค์‹œ๊ฐ„ ์ถ”์ข…์€ ๋˜์ง€๋งŒ ์ง€ํ‰์„ ์ด ์—†์–ด โ€œํƒ์š•์ (greedy)โ€์ด๋ผ๋Š” ํ•œ๊ณ„๊ฐ€ ๋‚จ๋Š”๋‹ค.
  • ๊ถค์  ์ตœ์ ํ™”: DDPยทSQPยทํ˜ผํ•ฉ์ •์ˆ˜ ๋ณผ๋ก์ตœ์ ํ™”๋กœ ๋ฐœ ์œ„์น˜์™€ ๋ชจ์…˜์„ (์ดˆ๊ธฐ์—๋Š” 2๋‹จ๊ณ„๋กœ, ๋‚˜์ค‘์—๋Š” ๋‹จ์ผ ์ตœ์ ํ™”๋กœ) ํ‘ผ๋‹ค. HZD๋Š” ์ „์ฐจ์ˆ˜ยท๋น„์„ ํ˜•ยทํ•˜์ด๋ธŒ๋ฆฌ๋“œยท๋ถ€์กฑ๊ตฌ๋™ ๋™์—ญํ•™์„ ๋ช…์‹œ์ ์œผ๋กœ ๋‹ค๋ฃจ๋Š” ๊ณ„์—ด์ด๋ฉฐ, ์ธ๊ฐ„ ์›€์ง์ž„ ํŒจํ„ด์„ ์ตœ์ ํ™”์— ์‹ฌ์–ด ์ธ๊ฐ„๋‹ค์šด ๋ณดํ–‰์„ ๋งŒ๋“ ๋‹ค โ€” ์ €์ž๋“ค์€ ์ด๊ฒƒ์ด RL์—์„œ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ๋ฅผ ์“ฐ๋Š” ๊ฒƒ๊ณผ ๊ฐ™์€ ๋ฐœ์ƒ์ด๋ผ๊ณ  ์งš๋Š”๋‹ค.
  • ์˜จ๋ผ์ธ MPC: ์ง€ํ‰์„  1์ดˆ ๋ฏธ๋งŒ, ์ถ•์†Œ์ฐจ์ˆ˜ ๋ชจ๋ธ(SRBยทcentroidal)๋กœ ์ฐจ์›์„ ์ค„์ด๊ณ , SQP ํ”„๋ ˆ์ž„ ์•ˆ์—์„œ QP๋ฅผ ํ•œ ๋ฒˆ๋งŒ ํ’€์–ด ์‹ค์‹œ๊ฐ„์„ฑ์„ ํ™•๋ณดํ•œ๋‹ค. ๊ฐ•๊ฑด์„ฑ์„ ์œ„ํ•ด ์ ‘์ด‰ ์œ„์น˜ยทํƒ€์ด๋ฐ๊นŒ์ง€ ์˜จ๋ผ์ธ์œผ๋กœ ์กฐ์ •ํ•˜๋Š” contact-implicit MPC(๊ฒฝ์‚ฌ ๊ธฐ๋ฐ˜)์™€ sampling-based MPC(๊ฒฝ์‚ฌ ์—†์ด ์ ‘์ด‰์„ ์•”๋ฌต ์„ ํƒ)๊ฐ€ ์žˆ๋‹ค. ๋‹ค๋งŒ ์ €์ž๋“ค์€ ๋Œ€๋ถ€๋ถ„์˜ ํœด๋จธ๋…ธ์ด๋“œ ๊ตฌํ˜„์ด ์‹œ๋ฎฌ๋ ˆ์ด์…˜์— ๋จธ๋ฌผ๋Ÿฌ ์žˆ๋‹ค๊ณ  ๋ชป ๋ฐ•๋Š”๋‹ค.

๊ณ ์ „ ์ œ์–ด์˜ ์„ฑ๋Šฅ ๊ฒฝ๊ณ„๋Š” ๋„ค ๊ฐ€์ง€๋กœ ์ •๋ฆฌ๋œ๋‹ค: (i) ์ƒํƒœ ์ถ”์ •์ด ์ •ํ™•ํ•˜๋‹ค๋Š” ์ „์ œ๊ฐ€ ๊นจ์งˆ ๋•Œ์˜ ์„ฑ๋Šฅ ์ €ํ•˜, (ii) ์ถ•์†Œ์ฐจ์ˆ˜โ†”๏ธŽ์ „์ฐจ์ˆ˜ ์‚ฌ์ด ์–ด๋А ์ชฝ์„ ๊ณจ๋ผ๋„ ๋‚จ๋Š” ๋ชจ๋ธ๋ง ๊ฒฉ์ฐจ, (iii) ๋ชจ๋ธ ์ •ํ™•๋„์™€ ๊ณ„์‚ฐ ์†๋„์˜ ๋ฏธํ•ด๊ฒฐ ํŠธ๋ ˆ์ด๋“œ์˜คํ”„, (iv) ๊ณ„์‚ฐ์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•ด ์ค€ ๊ตฌ์กฐ์  ๊ฐ€์ •์ด ์ƒˆ ํ™˜๊ฒฝ์—์„œ ๊นจ์งˆ ๋•Œ์˜ ์ ์‘์„ฑ ๋ถ€์กฑ.

ํ•™์Šต ๊ธฐ๋ฐ˜ ์ œ์–ด โ€” POMDP์™€ ๊ทธ ์ฃผ๋ณ€ ๋„๊ตฌ๋“ค (Sec. LEARNING-BASED CONTROL)

RL ์ ˆ์˜ ๊ตฌ์„ฑ์€ โ€œ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋‚˜์—ดโ€์ด ์•„๋‹ˆ๋ผ ๋ฌด์—‡์ด ๋ณ‘๋ชฉ์„ ํ’€์—ˆ๋Š”๊ฐ€์˜ ๋ชฉ๋ก์ด๋ผ๋Š” ์ ์—์„œ ์‹ค์šฉ์ ์ด๋‹ค: GPU ๋ณ‘๋ ฌ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ(Isaac ๊ณ„์—ด, MuJoCo MJX โ€” CPU ๊ธฐ๋ฐ˜ RaiSimยทPyBullet์—์„œ์˜ ์ด๋™), ์ •์ฑ… ๊ฒฝ์‚ฌ ์•Œ๊ณ ๋ฆฌ์ฆ˜(TRPOยทPPO)๊ณผ ์˜คํ”ˆ์†Œ์Šค ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ, ๋„๋ฉ”์ธ ๋žœ๋คํ™”, ์ปค๋ฆฌํ˜๋Ÿผ ํ•™์Šต, teacher-student ๋ฐ asymmetric actor-critic.

์—ฌ๊ธฐ์„œ ์„œ๋ฒ ์ด๊ฐ€ ๋˜์ง€๋Š” ๊ฐœ๋…์  ํ•œ ๋ฐฉ์ด โ€œ์•”๋ฌต์  ์ง€๊ฐ(implicit perception)โ€ ์ด๋‹ค. ๊ณ ์ „ ์ œ์–ด๋Š” ์ ‘์ด‰ ์ƒํƒœยทํ™˜๊ฒฝ ๊ธฐํ•˜๋ฅผ ๋ช…์‹œ์ ์œผ๋กœ ์ถ”์ •ํ•ด์•ผ ํ–ˆ๊ณ  ๊ทธ๊ฒŒ ์‹ค์„ธ๊ณ„์—์„œ ์ž˜ ์•ˆ ๋๋‹ค. POMDP๋กœ ์ •์‹ํ™”ํ•˜๊ณ  teacher-studentยท๋น„๋Œ€์นญ critic์„ ์“ฐ๋ฉด ์ •์ฑ… ์‹ ๊ฒฝ๋ง์ด ์žก์Œ ์„ž์ธ ๊ด€์ธก์—์„œ ํ•„์š”ํ•œ ์ƒํƒœ๋ฅผ ์•”๋ฌต์ ์œผ๋กœ ์ถ”์ •ํ•ด ๊ณง๋ฐ”๋กœ ํ–‰๋™์œผ๋กœ ๋งคํ•‘ํ•œ๋‹ค. ์ƒํƒœ ์ถ”์ •๊ธฐ๋ฅผ ์—†์•ค ๊ฒŒ ์•„๋‹ˆ๋ผ ์ •์ฑ… ์•ˆ์œผ๋กœ ํก์ˆ˜ํ•œ ๊ฒƒ์ด๋‹ค.

์‹ค๋ฐ์ดํ„ฐ ํ™œ์šฉ์€ ์„ธ ์ธต์œผ๋กœ ๋‚˜๋‰œ๋‹ค.

  1. ์ธ๊ฐ„ ๋ชจ์…˜ ๋ฐ์ดํ„ฐ: ์†๋„ ์ถ”์ข…ยท๋ณดํ–‰ ์ฃผํŒŒ์ˆ˜ ๊ฐ™์€ ๋‹จ์ˆœ ๋ณด์ƒ์€ ๋ฌด๋ฆŽ์ด ๊ณง๊ฒŒ ํŽด์ง€๊ฑฐ๋‚˜ ๋ฐœ์„ ๋„๋Š” ๋ถ€์ž์—ฐ์Šค๋Ÿฌ์šด ๊ฑธ์Œ์„ ๋‚ณ๋Š”๋‹ค. ๊ทธ๋ž˜์„œ ๋ชจ์…˜ ์บก์ฒ˜ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฆฌํƒ€๊ฒŒํŒ…ํ•ด ์“ฐ๋˜, ๋ฐฉ์‹์€ ๋‘˜์ด๋‹ค โ€” ๊ฐ„์ ‘(์ ๋Œ€์ ): GAILยทAMP ๊ณ„์—ด์ด ํŒ๋ณ„์ž๋กœ ๋ถ„ํฌ๋ฅผ ์ •๋ ฌ. ์ง์ ‘(์ถ”์ข…): DeepMimic ๊ณ„์—ด, H2O, HumanPlus, ExBody ๋“ฑ์ด ์ฐธ์กฐ ๋ชจ์…˜๊ณผ์˜ ์˜ค์ฐจ๋ฅผ ๋ณด์ƒ์œผ๋กœ ๋ช…์‹œ.
  2. ์‹œ์Šคํ…œ ์‹๋ณ„ยท์•ก์ถ”์—์ดํ„ฐ ๋ชจ๋ธ ํ•™์Šต: ๊ด€์„ฑ์ฒ˜๋Ÿผ ์‹๋ณ„์ด ์–ด๋ ค์šด ํŒŒ๋ผ๋ฏธํ„ฐ, ๋น„์„ ํ˜•ยท๊ธฐ๊ณ„์  ๋ถˆ์™„์ „์„ฑ ๋•Œ๋ฌธ์— ๋ชจ๋ธ๋ง์ด ํž˜๋“  ์•ก์ถ”์—์ดํ„ฐ/์ „๋™ ๊ณ„ํ†ต์„ ์‹ค๋ฐ์ดํ„ฐ๋กœ ๋ฉ”์šด๋‹ค. ๋ณดํ–‰์ด ๋น„ํ‰ํ™œ ํ•˜์ด๋ธŒ๋ฆฌ๋“œ๋ผ ์ƒ˜ํ”Œ๋ง ๊ธฐ๋ฐ˜ ์‹๋ณ„์ด ์„ ํ˜ธ๋œ๋‹ค.
  3. ๋กœ๋ด‡ ๋™์—ญํ•™ ํ•™์Šต: ์œ„ ๋‘˜์€ โ€œ๋ฌด์—‡์„ ์ถ”์ •ํ• ์ง€ ๋ฏธ๋ฆฌ ์ •ํ•ด์•ผ ํ•œ๋‹คโ€๋Š” ๊ตฌ์กฐ์  ํ•œ๊ณ„๊ฐ€ ์žˆ์–ด, ๋ช…๋ชฉ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ ์œ„์— ์ž”์ฐจ ๋ชจ๋ธ์„ ์–น๋Š” ์ ‘๊ทผ(ASAP๊ณผ ๊ทธ ๋ณ€ํ˜•)์ด ํ”ํ•˜๋‹ค.

๋‘ ๊ฐœ์˜ ํ†ตํ•ฉ ๋ทฐ(Fig. 3) โ€” (A) โ€œ์ตœ์ ํ™”ยทํ•™์Šต์ด ์–ธ์ œ ์ผ์–ด๋‚˜๋Š”๊ฐ€โ€(minor / online / offline) ร— โ€œ๋ชจ๋ธยท๋ฐ์ดํ„ฐ ๋ณต์žก๋„โ€๋กœ ๋ฐฉ๋ฒ•๋“ค์„ ๋ฐฐ์น˜. ์™ผ์ชฝ ์•„๋ž˜ ์„ ํ˜•ยท๋น„์„ ํ˜• ํ”ผ๋“œ๋ฐฑ์—์„œ ์˜ค๋ฅธ์ชฝ ์œ„ RLยท๋ชจ์…˜ ๋ชจ๋ฐฉ์„ ์ง€๋‚˜ ์‹ ํฅ ํ”„๋ก ํ‹ฐ์–ด๋กœ ์ด์–ด์ง„๋‹ค. (B) ๋ฐฐํฌ ์ „/๋ฐฐํฌ ์ค‘ ๋‹จ๊ณ„์™€ ์ œ์–ด ๋ฃจํ”„ ์ฃผํŒŒ์ˆ˜(ํƒœ์Šคํฌ ๊ณ„ํš โˆผ1 Hz / ๋ชจ์…˜ ์ƒ์„ฑ โˆผ100 Hz / ๊ด€์ ˆ ํ† ํฌ โˆผ1000 Hz)๋กœ ๊ฐ™์€ ๋ฐฉ๋ฒ•๋“ค์„ ๋‹ค์‹œ ๋ฐฐ์น˜.

์ง๊ด€ โ€” Eq.(2)์™€ Eq.(3)์€ ์™œ ๊ฐ™์€ ๊ฒƒ์ธ๊ฐ€

์ด ์„œ๋ฒ ์ด์—์„œ ๊ฐ€์žฅ ์˜ค๋ž˜ ๋‚จ๋Š” ๋ฌธ์žฅ์€ ์ด๊ฒƒ์ด๋‹ค: RL๋กœ ํ•™์Šต๋œ ๋ณดํ–‰ ์ปจํŠธ๋กค๋Ÿฌ๋Š” ์‚ฌ์‹ค์ƒ ์‹œ๋ฎฌ๋ ˆ์ด์…˜ ์•ˆ์—์„œ ์ˆ˜๋งŽ์€ ์ตœ์ ํ™” ๋ฌธ์ œ๋ฅผ ์˜คํ”„๋ผ์ธ์œผ๋กœ ํ’€์–ด ๊ทธ ํ•ด๋ฅผ ์‹ ๊ฒฝ๋ง์— โ€œ์ธ์ฝ”๋”ฉโ€ํ•œ ๊ฒƒ์ด๋‹ค.

์ด ๊ด€์ ์—์„œ Eq. (2)์™€ Eq. (3)์˜ ์ฐจ์ด๋Š” ์…‹๋ฟ์ด๋‹ค. (i) Eq. (2)๋Š” ๋ช…์‹œ์  ๋ชจ๋ธ๊ณผ ์—ฐ์† ๋น„์šฉ ์œ„์˜ ๊ฒฐ์ •๋ก ์  ๊ถค์  ์ตœ์ ํ™”์ด๊ณ , Eq. (3)์€ ํ™•๋ฅ ์  ๊ถค์  ๋ถ„ํฌ ์œ„์˜ ์ •์ฑ… ํŒŒ๋ผ๋ฏธํ„ฐ ์ตœ์ ํ™”๋‹ค. (ii) Eq. (3)์€ ์ข…๋ฃŒ ๋ณด์ƒ ๊ฐ™์€ ์ด์‚ฐ ๋ณด์ƒ์„ ๋„ฃ๊ธฐ ์‰ฝ๋‹ค. (iii) ๊ณ„์‚ฐ ์‹œ์ ์ด ๋‹ค๋ฅด๋‹ค โ€” ์˜ˆ์ธก์ œ์–ด๋Š” ์ฃผ์–ด์ง„ ์ƒํƒœ์— ๋Œ€ํ•ด ์˜จ๋ผ์ธ์œผ๋กœ ํ’€๊ธฐ ์œ„ํ•ด ๋ชจ๋ธ์„ ๋‹จ์ˆœํ™”ํ•˜๊ณ , RL์€ ๋ฐฉ๋Œ€ํ•œ ์ƒํƒœยทํ™˜๊ฒฝ์— ๋Œ€ํ•ด ์˜คํ”„๋ผ์ธ์œผ๋กœ ํ’€๋˜ teacher-studentยท๋น„๋Œ€์นญ critic์œผ๋กœ ๋ช…์‹œ์  ์ƒํƒœ ์ถ”์ •์„ ์šฐํšŒํ•œ๋‹ค. Fig. 4๊ฐ€ ์ด ๊ตฌ์กฐ์  ์ฐจ์ด๋ฅผ ๋‚˜๋ž€ํžˆ ๊ทธ๋ฆฐ๋‹ค.


๊ณ ์ „ vs ํ•™์Šต ๊ตฌ์กฐ ๋น„๊ต(Fig. 4) โ€” (A) ๊ณ ์ „: ๋ช…์‹œ์  ์ƒํƒœ ์ถ”์ •๊ธฐ + ํ•ด์„์  ๋ชจ๋ธ + ์˜จ๋ผ์ธ ์ปจํŠธ๋กค๋Ÿฌ. ์„ค๊ณ„(์˜คํ”„๋ผ์ธ)์™€ ๋ฐฐํฌ(์˜จ๋ผ์ธ) ๋ชจ๋‘์—์„œ ๊ฐ™์€ ์ตœ์ ํ™” ๋ฌธ์ œ๋ฅผ ํ‘ผ๋‹ค. (B) RL: ์˜คํ”„๋ผ์ธ ํ•™์Šต ๋‹จ๊ณ„์—์„œ ๋ฌผ๋ฆฌ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์™€ ์ƒํ˜ธ์ž‘์šฉํ•˜๋ฉฐ ์ •์ฑ…์„ ๊ฐฑ์‹ ํ•˜๊ณ , ์˜จ๋ผ์ธ์—์„œ๋Š” ๊ด€์ธก โ†’ ํ–‰๋™์˜ ์ถ”๋ก ๋งŒ ๋‚จ๋Š”๋‹ค. ์ƒํƒœ ์ถ”์ •๊ธฐ ๋ธ”๋ก์ด ์‚ฌ๋ผ์ง„ ์ž๋ฆฌ๊ฐ€ ๋‘ ํŒจ๋Ÿฌ๋‹ค์ž„์˜ ์ฐจ์ด๋ฅผ ๊ฐ€์žฅ ์ž˜ ๋ณด์—ฌ ์ค€๋‹ค.

๊ทธ๋ฆฌ๊ณ  ์ €์ž๋“ค์€ ์—ฌ๊ธฐ์„œ ํ•œ ๋ฐœ ๋” ๋‚˜๊ฐ„๋‹ค โ€” ์ตœ๊ทผ ๊ฒฐ๊ณผ๋“ค์ด ์‹œ์‚ฌํ•˜๋Š” ๋ฐ”๋Š” ์˜คํ”„๋ผ์ธ ๊ณ„์‚ฐ๊ณผ ์˜จ๋ผ์ธ ๊ณ„์‚ฐ์„ ํ•จ๊ป˜ ์“ฐ๋Š” ๊ฒƒ์ด ์ตœ์„ ์ด๋ผ๋Š” ๊ฒƒ์ด๋‹ค(Fig. 3B์˜ ํ•˜์ด๋ธŒ๋ฆฌ๋“œ ๊ฒฝ๋กœ).

RL ํŒŒ์ดํ”„๋ผ์ธ์˜ ๊ตฌ์„ฑ์š”์†Œ๊ฐ€ ์‚ฌ์‹ค์€ ๊ณ ์ „ ์ œ์–ด ๊ฐœ๋…์˜ ์žฌ๋ฐœ๋ช…์ด๋ผ๋Š” ๋Œ€์‘ํ‘œ๋„ ๋ช…๋ฃŒํ•˜๋‹ค.

RL ์ชฝ ๊ธฐ๋ฒ• ๊ณ ์ „ ์ œ์–ด ์ชฝ ๋Œ€์‘
๋„๋ฉ”์ธ ๋žœ๋คํ™” ๊ฐ•๊ฑด ์ œ์–ด(robust control)
adaptation module / teacher-student ์ ์‘ ์ œ์–ด(adaptive control)
์˜คํ† ์ธ์ฝ”๋”ยท์ž ์žฌ๊ณต๊ฐ„ PCAยทSVDยทํ”ผ๋“œ๋ฐฑ์„ ํ†ตํ•œ ๋™์—ญํ•™ ์ถ•์†Œ
์ ‘์ด‰ ๋ชจ๋“œ๋ฅผ ๋ช…์‹œํ•˜๋Š” ์ •์ฑ… ๊ตฌ์กฐ ํ•˜์ด๋ธŒ๋ฆฌ๋“œ ๋™์—ญํ•™ ์‹œ์Šคํ…œ ์ •์‹ํ™”
๊ณ„์ธต์  ํ•™์Šต ํ”„๋ ˆ์ž„์›Œํฌ ๊ณ„์ธตยท์บ์Šค์ผ€์ด๋“œ ์ œ์–ด ๊ตฌ์กฐ

ํ•™์Šต ๊ธฐ๋ฐ˜ ์ œ์–ด์˜ ์„ฑ๋Šฅ ๊ฒฝ๊ณ„๋„ ์†”์งํ•˜๋‹ค: (i) ์ฐธ์กฐ ๋ชจ์…˜์ด๋‚˜ ์ž˜ ์งœ์ธ ์ปค๋ฆฌํ˜๋Ÿผ ์—†์ด๋Š” ๋ถ€์ž์—ฐ์Šค๋Ÿฌ์šด ๋ณดํ–‰์œผ๋กœ ์ˆ˜๋ ดํ•˜๊ณ  ์–ด๋ ค์šด ์ง€ํ˜•์—์„œ ์‹คํŒจํ•˜๋Š” ์•Œ๊ณ ๋ฆฌ์ฆ˜์  ์ทจ์•ฝ์„ฑ, (ii) ํƒœ์Šคํฌยทํ˜•ํƒœ ๊ฐ„ ์ •์ฑ… ์ „์ด์˜ ์–ด๋ ค์›€, (iii) ์ปดํ”Œ๋ผ์ด์–ธ์Šคยท๊ตฌ์กฐ ์ง„๋™ยท์ ‘์ด‰ ๋ถˆํ™•์‹ค์„ฑยท์•ก์ถ”์—์ดํ„ฐ ํšจ๊ณผ๋ฅผ ๋ชป ๋‹ด๋Š” ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ ์ถฉ์‹ค๋„์˜ ํ•œ๊ณ„(๋„๋ฉ”์ธ ๋žœ๋คํ™”๋กœ ์™„ํ™”๋˜์ง€๋งŒ ์ œ๊ฑฐ๋˜์ง€๋Š” ์•Š๋Š”๋‹ค). ๋ง๋ถ™์—ฌ RL ์ •์ฑ…์ด ๋Œ€๊ฐœ ์œ„์น˜ setpoint๋ฅผ ๋‚ด๊ณ  ๊ด€์ ˆ PD๊ฐ€ ๊ทธ๊ฒƒ์„ ์ถ”์ข…ํ•˜๋Š” ๊ตฌ์กฐ๋ผ, ์ปดํ”Œ๋ผ์ด์–ธํŠธํ•˜๊ณ  ํž˜์— ๋ฏผ๊ฐํ•œ ์ƒํ˜ธ์ž‘์šฉ์„ ์–ด๋–ป๊ฒŒ ๋‚ผ ๊ฒƒ์ธ๊ฐ€๊ฐ€ ๋ฏธํ•ด๊ฒฐ์ด๋ผ๋Š” ์ง€์ ์ด ๋‚˜์˜จ๋‹ค. RL ๊ธฐ๋ฐ˜ ํ† ํฌ ์ œ์–ด๋„ ์ดˆ๊ธฐ ๊ฒฐ๊ณผ๊ฐ€ ๊ณ ๋ฌด์ ์ธ ๋ฐฉํ–ฅ์œผ๋กœ ์–ธ๊ธ‰๋œ๋‹ค.

์‹ ํฅ ํ”„๋ก ํ‹ฐ์–ด โ€” ๋„ค ๊ฐœ์˜ ์ด๋™ (Sec. EMERGING FRONTIERS)

์ €์ž๋“ค์€ ๋ณธ๋ฌธ์—์„œ ๋„ค ๊ฐœ์˜ ์ถ•(ํŒ๋ณ„โ†’์ƒ์„ฑ, ๋‹จ์ผโ†’๋‹ค์ค‘ ๋ชจ๋‹ฌ, ๋‹จ์ผโ†’๋‹ค์ค‘ ํƒœ์Šคํฌ, ๋ณดํ–‰โ†’loco-manipulation)์„ ์„ค๋ช…ํ•˜๊ณ , Fig. 5์—์„œ ์˜คํ”„๋ผ์ธ ํ•™์Šต โ†’ test-time adaptation์ด๋ผ๋Š” ๊ณ„์‚ฐ ์ถ•์„ ํ•˜๋‚˜ ๋” ์–น์–ด ๋‹ค์„ฏ ์ฐจ์›์œผ๋กœ ๊ทธ๋ฆฐ๋‹ค.


๋‹ค์„ฏ ๊ฐœ์˜ ์ด๋™(Fig. 5) โ€” ํ•™์Šต ํŒจ๋Ÿฌ๋‹ค์ž„(ํŒ๋ณ„์ โ†’์ƒ์„ฑ์ ), ๋ชจ๋‹ฌ๋ฆฌํ‹ฐ(๊ณ ์œ ์ˆ˜์šฉ ๋‹จ์ผ โ†’ ์–ธ์–ดยท์ด‰๊ฐยท์‹œ๊ฐยท์ฒญ๊ฐ ๋‹ค์ค‘), ํƒœ์Šคํฌ ๋ฒ”์œ„(๋‹จ์ผโ†’๋‹ค์ค‘), ๊ธฐ๋Šฅ(๋ณดํ–‰โ†’loco-manipulation), ๊ณ„์‚ฐ(์˜คํ”„๋ผ์ธ ํ•™์Šตโ†’test-time adaptation).
  • ํŒ๋ณ„โ†’์ƒ์„ฑ: ํŒ๋ณ„์  ์ •์ฑ…์€ ๊ด€์ธกโ†’ํ–‰๋™์˜ ๊ฒฐ์ •๋ก ์  ๋งคํ•‘์ด๋ผ โ€œ์™ผ๋ฐœ์ด๋ƒ ์˜ค๋ฅธ๋ฐœ์ด๋ƒโ€ ๊ฐ™์€ ๋‹ค๋ด‰(multi-modal) ์„ ํƒ๊ณผ ๋ฐ์ดํ„ฐ ๋ถ„ํฌ ๋ณ€ํ™” ์ ์‘์ด ์žฌํ•™์Šต ์—†์ด๋Š” ์–ด๋ ต๋‹ค. ์ƒ์„ฑ ์ •์ฑ…์€ ๊ฐ€๋Šฅํ•œ ๊ถค์ ๋“ค์˜ ๋ถ„ํฌ๋ฅผ ๋ชจ๋ธ๋งํ•ด ๋ถˆํ™•์‹ค์„ฑ ์ธ์ง€์™€ ์ถ”๋ก  ์‹œ์  ์กฐ๊ฑดํ™”๋ฅผ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•œ๋‹ค(Eq. 4). ์‹ค์šฉ์  ์„ค๊ณ„๋Š” ๋Œ€๊ฐœ ๊ณ„์ธต์ ์ด๋‹ค โ€” ์ƒ์„ฑ ํ”Œ๋ž˜๋„ˆ๊ฐ€ ๋ชจ์…˜ ๋ถ„ํฌ๋ฅผ ์ œ์•ˆํ•˜๊ณ  ์ €์ˆ˜์ค€ ์ปจํŠธ๋กค๋Ÿฌ๊ฐ€ ๋น ๋ฅธ ์•ˆ์ •ํ™”๋ฅผ ๋งก๋Š”๋‹ค.
  • ๋‹จ์ผโ†’๋‹ค์ค‘ ๋ชจ๋‹ฌ: ๋Œ€๋ถ€๋ถ„์˜ ๋ณดํ–‰ ์ปจํŠธ๋กค๋Ÿฌ๋Š” ์—ฌ์ „ํžˆ ๊ณ ์œ ์ˆ˜์šฉ ๊ฐ๊ฐ๋งŒ ์“ฐ๋Š” โ€œblindโ€ ๊ตฌ์กฐ๋‹ค. ์ €์ž๋“ค์ด ์ด ๋ˆ„๋ฝ์„ ์•Œ๊ณ ๋ฆฌ์ฆ˜์˜ ๊ทผ๋ณธ ํ•œ๊ณ„๊ฐ€ ์•„๋‹ˆ๋ผ ์ง€์—ฐยท์บ˜๋ฆฌ๋ธŒ๋ ˆ์ด์…˜ยท์—ฐ์‚ฐ ๋ถ€๋‹ด ๊ฐ™์€ ์‹œ์Šคํ…œ ์—”์ง€๋‹ˆ์–ด๋ง ์žฅ๋ฒฝ์œผ๋กœ ์ง„๋‹จํ•˜๋Š” ์ ์ด ํฅ๋ฏธ๋กญ๋‹ค. ์‹œ๊ฐ ์œตํ•ฉ(LocoTransformer, VB-Com, ์–ดํ…์…˜ ์ธ์ฝ”๋”)๊ณผ VLA(RT-2, \pi_0, Gemini Robotics), ํœด๋จธ๋…ธ์ด๋“œ ์ง€ํ–ฅ ๋ณ€ํ˜•(Helix, GR00T N1)์ด ์ด ์ถ•์— ๋†“์ธ๋‹ค.
  • ๋‹จ์ผโ†’๋‹ค์ค‘ ํƒœ์Šคํฌ: ๋ณด์ƒ ์ถฉ๋Œยท๊ฒฝ์‚ฌ ๊ฐ„์„ญยทํŒŒ๊ตญ์  ๋ง๊ฐ์ด๋ผ๋Š” ๋Œ€๊ฐ€๊ฐ€ ๋ช…์‹œ๋œ๋‹ค. ๊ณต์œ  ํŒŒ๋ผ๋ฏธํ„ฐยท๋ชจ๋“ˆ๋Ÿฌ ๊ตฌ์กฐ์˜ ๋ฉ€ํ‹ฐํƒœ์Šคํฌ RL, ๊ณ„์ธต์  ๋ชจ์…˜ ํ”„๋ฆฌ๋ฏธํ‹ฐ๋ธŒ, ํ™•์‚ฐ ๊ธฐ๋ฐ˜ ์Šคํ‚ฌ ๋ธ”๋ Œ๋”ฉ, ์ด์ข… ๋ฐ์ดํ„ฐ์…‹(BridgeData V2, RT-X) ๊ธฐ๋ฐ˜ cross-embodiment, ๊ทธ๋ฆฌ๊ณ  ํ–‰๋™ ํŒŒ์šด๋ฐ์ด์…˜ ๋ชจ๋ธ์ด ํ๋ฆ„์„ ์ด๋ฃฌ๋‹ค.
  • ๋ณดํ–‰โ†’loco-manipulation: ๋กœ๋ด‡ยท๋ฌผ์ฒดยท์ ‘์ด‰ ์ฐธ์กฐ๋ฅผ ํ•จ๊ป˜ ์ถ”์ข…ํ•˜๋Š” co-tracking, ํ™•์‚ฐ ๊ธฐ๋ฐ˜ ์ธ๊ฐ„-๋ฌผ์ฒด ์ƒํ˜ธ์ž‘์šฉ ๊ถค์  ํ•ฉ์„ฑ, TAMP, ๊ณ„์ธต ์‹œ์Šคํ…œ, ์ƒยทํ•˜์ฒด๋ฅผ ๋™๊ธฐํ™”ํ•˜๋Š” ์ด์ค‘ ์—์ด์ „ํŠธ RL ๋“ฑ. ์—ฌ๊ธฐ์„œ ์ €์ž๋“ค์ด ์•„ํ‚คํ…์ฒ˜ ์ฒ ํ•™์˜ ๋ถ„๊ธฐ๋ฅผ ๋ช…์‹œ์ ์œผ๋กœ ์ง€๋ชฉํ•˜๋Š” ๋Œ€๋ชฉ์ด ์ด ์ ˆ์˜ ๋ฐฑ๋ฏธ๋‹ค: ๋Œ€๋ถ€๋ถ„์€ ์•ˆ์ •์„ฑยท๋ชจ๋“ˆ์„ฑ์„ ์œ„ํ•ด ๋ถ„๋ฆฌ๋œ ๊ณ„์ธต ๊ตฌ์กฐ๋ฅผ ํƒํ•œ๋‹ค(Helix๊ฐ€ ์ €์ˆ˜์ค€ ๋ณดํ–‰ ๋ชจ๋“ˆ์— ๋ช…๋ น์„ ๋ณด๋‚ด๋Š” ๋ฐฉ์‹, NVIDIA์˜ SONIC์ด ์ƒ์œ„ VLA์ธ GR00T N1.5์˜ ๊ธฐ๊ตฌํ•™์  ์˜๋„๋ฅผ ํ•˜์œ„ whole-body ์ถ”์ข… ์ •์ฑ…์— ๋จน์ด๋Š” ๋ฐฉ์‹). ๋ฐ˜๋Œ€ํŽธ์—๋Š” ๊ณ ์ฃผํŒŒ ๊ท ํ˜•๊ณผ ์ ‘์ด‰ ํ’๋ถ€ ์กฐ์ž‘์„ ํ•˜๋‚˜์˜ ๋‹จ์ผ ์ž ์žฌ๊ณต๊ฐ„์— ๋„ค์ดํ‹ฐ๋ธŒ๋กœ ํ†ตํ•ฉํ•˜๋ ค๋Š” ๊ฒฝ์Ÿ ๋…ธ์„ ์ด ์žˆ๊ณ , ์ €์ž๋“ค์€ ํ›„์ž๊ฐ€ ์ด๋ก ์ ์œผ๋กœ ๋” ๊นŠ์€ ๊ต์ฐจ ๋ชจ๋‹ฌ ์ถ”๋ก ์„ ์•ฝ์†ํ•˜์ง€๋งŒ ๊ฐ•๊ฑด์„ฑยท์•ˆ์ „์„ฑ ๊ฒ€์ฆ์—์„œ ์‹ฌ๊ฐํ•œ ๋‚œ์ ์„ ๋‚ณ๋Š”๋‹ค๊ณ  ํ‰๊ฐ€ํ•œ๋‹ค.

์ƒ์„ฑ๋ชจ๋ธ๋„ ์ œ์–ด์ด๋ก ์ด๋ผ๋Š” ์ฃผ์žฅ

์ด ์„œ๋ฒ ์ด์—์„œ ๊ฐ€์žฅ ๋…ผ์Ÿ์ ์ด๋ฉด์„œ ๊ฐ€์žฅ ์žฌ๋ฏธ์žˆ๋Š” ๋ถ€๋ถ„์ด๋‹ค. ์ €์ž๋“ค์€ ํŒŒ์šด๋ฐ์ด์…˜ ๋ชจ๋ธ๊ณผ ๊ณ ์ „ ์ œ์–ด์˜ ๋Œ€์‘์„ ๋‹ค์„ฏ ๊ฐ€์ง€๋กœ ํŽธ๋‹ค.

  • LLM = ๋™์  ํ”ผ๋“œ๋ฐฑ ์‹œ์Šคํ…œ: ์ง„ํ™”ํ•˜๋Š” ์ปจํ…์ŠคํŠธ ์œˆ๋„๊ฐ€ ๋ฉ”๋ชจ๋ฆฌ(์ƒํƒœ)๋กœ ์ž‘๋™ํ•˜๊ณ , ์ƒˆ ๊ด€์ธกยทํ† ํฐ์ด ๊ทธ๊ฒƒ์„ ๊ฐฑ์‹ ํ•˜๋ฉฐ ์ž ์žฌ๊ณต๊ฐ„์—์„œ ํ๋ฃจํ”„๋ฅผ ์ด๋ฃฌ๋‹ค(Prompt a Robot to Walk์˜ ์ •์‹ํ™”).
  • ํ™•์‚ฐ๋ชจ๋ธ = ํ™•๋ฅ ์  ์ตœ์ ์ œ์–ด: ๋””๋…ธ์ด์ง•์ด ์•”๋ฌต์  ์—๋„ˆ์ง€ ๋ฒ”ํ•จ์ˆ˜๋ฅผ ์ตœ์†Œํ™”ํ•˜๋Š” ํ™•๋ฅ ๋ฏธ๋ถ„๋ฐฉ์ •์‹์„ ํ‘ธ๋Š” ๊ฒƒ์ด๋ฉฐ, ์ด๋Š” HJB ํ”„๋ ˆ์ž„์˜ ๋ถˆํ™•์‹ค์„ฑ ํ•˜ ์ตœ์ ์ œ์–ด์™€ ์œ ๋น„๋‹ค.
  • ํ‘œํ˜„ ํ•™์Šต = ์ƒํƒœ ์ถ”์ •ยท๊ฐ€๊ด€์ธก์„ฑ: ํƒœ์Šคํฌ๊ฐ€ ์ œ์–ดยท๊ด€์ธก ๊ฐ€๋Šฅํ•ด์ง€๋Š” ์ž ์žฌ ๋‹ค์–‘์ฒด๋ฅผ ์ฐพ๋Š” ์ผ.
  • self-attention = ์ ์‘์  ๊ฒŒ์ธ ์Šค์ผ€์ค„๋ง: ๋ฌธ๋งฅ์  ๊ด€๋ จ์„ฑ์œผ๋กœ ํ† ํฐ ๊ฐ€์ค‘์น˜๋ฅผ ๋™์ ์œผ๋กœ ๋ฐ”๊ฟ” ์ƒํƒœ ์˜์กด ํ”ผ๋“œ๋ฐฑ์„ ๊ตฌํ˜„.
  • in-context learning = ์ ์‘ ์ œ์–ด: ํŒŒ๋ผ๋ฏธํ„ฐ ๊ฐฑ์‹  ์—†์ด ์ž…์ถœ๋ ฅ ๊ฑฐ๋™์œผ๋กœ ์˜จ๋ผ์ธ ์ •๋ จ.

๊ฒฐ๋ก  ๋ฌธ์žฅ์€ ์ด๋ ‡๋‹ค โ€” ์ƒ์„ฑ๋ชจ๋ธ์€ ์ œ์–ด์ด๋ก ์  ํ† ๋Œ€๋ฅผ ๋Œ€์ฒดํ•˜๋Š” ๊ฒƒ์ด ์•„๋‹ˆ๋ผ ํ™•์žฅํ•˜๋ฉฐ, ์ž๊ธฐํšŒ๊ท€๋กœ ํ”ผ๋“œ๋ฐฑ์„, ์ปจํ…์ŠคํŠธ ๊ฐฑ์‹ ์œผ๋กœ ์ ์‘์„, ์–ดํ…์…˜์œผ๋กœ ๊ฒŒ์ธ ์Šค์ผ€์ค„๋ง์„, ํ™•์‚ฐ ๊ฐ€์ด๋˜์Šค๋กœ ์ตœ์ ์„ฑ์„ ๊ตฌํ˜„ํ•œ๋‹ค.

Table 2๋Š” ์ด ๋Œ€์‘์„ 6๊ฐœ ๋‚œ์ œ(๋ถˆ์•ˆ์ • ๋™์—ญํ•™ ์•ˆ์ •ํ™” / ๊ณ ์ฐจ์›์„ฑ / ํ•˜์ด๋ธŒ๋ฆฌ๋“œ ์ ‘์ด‰ ๋™์—ญํ•™ / ์ œ์•ฝ / ๊ฐ•๊ฑด์„ฑ / ์ ์‘) ร— 3๊ฐœ ํŒจ๋Ÿฌ๋‹ค์ž„ ๋งคํŠธ๋ฆญ์Šค๋กœ ๋ฐฐ์น˜ํ•œ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด โ€œ์ ์‘โ€ ํ–‰์€ ์ ์‘ ์ œ์–ด โ†’ adaptation module โ†’ in-context learningยทํ™•์‚ฐ test-time adaptation์œผ๋กœ ์ฝํžŒ๋‹ค.

๋‹ค์Œ ์„ธ๋Œ€๋ฅผ ์œ„ํ•œ ๊ณผ์ œ

  • ์•ˆ์ „ยท์‹ ๋ขฐ์„ฑ: ์ €์ž๋“ค์€ ๋ฐฐํฌ์˜ ์ฃผ๋œ ์žฅ๋ฒฝ์„ ๋‹จ๋„์ง์ž…์ ์œผ๋กœ ๋„˜์–ด์ง์ด๋ผ ๋ชป ๋ฐ•๋Š”๋‹ค. ํ•„์š”ํ•œ ๊ฒƒ์€ ํ‰๊ท  ์„ฑ๋Šฅ ์ง€ํ‘œ๊ฐ€ ์•„๋‹ˆ๋ผ ๋ณต๊ตฌ ๋Šฅ๋ ฅยท๋‚™์ƒ๋ฅ ยท์ถฉ๊ฒฉ ์‹ฌ๊ฐ๋„์˜ ํ‘œ์ค€ํ™”๋œ ์‹œํ—˜์ด๋‹ค. ์ปดํ”Œ๋ผ์ด์–ธํŠธ ์•ก์ถ”์—์ด์…˜, ์—๋„ˆ์ง€ ์†Œ์‚ฐ ์„ค๊ณ„, test-time adaptation์ด ํ•ด๋ฒ•์œผ๋กœ ์ œ์‹œ๋œ๋‹ค.
  • ์ ‘๊ทผ์„ฑ: ๊ฐ€๊ฒฉ์€ ํ•œ ์ž๋ฆฟ์ˆ˜ ์ด์ƒ ๋–จ์–ด์กŒ์ง€๋งŒ ์ €๋ ดํ•จ๋งŒ์œผ๋กœ๋Š” ๋ถ€์กฑํ•˜๊ณ , ๋‚ด๊ตฌ์„ฑยท์œ ์ง€๋ณด์ˆ˜์„ฑยท์ „๋ฌธ๊ฐ€ ์—†์ด๋„ ๋˜๋Š” ๊ฒฝ๋ฏธํ•œ ์†์ƒ ๋ณต๊ตฌ๊ฐ€ ํ•„์š”ํ•˜๋‹ค.
  • ์ธ์ง€ ์ง€๋Šฅ: ๋ฐ˜์‘์  ๋ชจํ„ฐ ๊ณ„์ธต๊ณผ ์ˆ™๊ณ ์  ์˜ˆ์ธก ์ถ”๋ก  ๊ณ„์ธต์˜ ๊ธฐ๋Šฅ์  ์œ„๊ณ„(Fig. 3B), ๊ทธ๋ฆฌ๊ณ  ๊ทธ ๋‘˜์˜ ํ˜‘์‘.
  • ์ฒดํ™” ์ง€๋Šฅ ์ƒํƒœ๊ณ„: ํœด๋จธ๋…ธ์ด๋“œ๊ฐ€ ๊ฐœ์ธ์šฉ ์ปดํ“จํ„ฐ์— ๋น„๊ฒฌ๋  ๋งŒํผ ์ „ํ™˜์ ์ผ ์ˆ˜ ์žˆ์œผ๋ฉฐ, ๊ณ ๋ฆฝ๋œ ๊ธฐ๊ณ„์—์„œ ๋„คํŠธ์›Œํฌํ™”ยทํŠนํ™”๋œ ์ฒดํ™”๋“ค(โ€œan internet of humanoidsโ€)๋กœ ์ง„ํ™”ํ•˜๋ฆฌ๋ผ๋Š” ์ „๋ง.

์‹œ์ž‘ํ•˜๋ ค๋Š” ์‚ฌ๋žŒ์„ ์œ„ํ•œ ์ ˆ (Sec. GETTING STARTED)

์„œ๋ฒ ์ด์— ์ด๋Ÿฐ ์ ˆ์ด ๋ถ™์€ ๊ฑด ๋“œ๋ฌธ๋ฐ, ์ด ๋…ผ๋ฌธ์—์„œ ์‹ค๋ฌด์  ๊ฐ€์น˜๊ฐ€ ๊ฐ€์žฅ ๋†’์€ ๋ถ€๋ถ„์ผ ์ˆ˜ ์žˆ๋‹ค.

  • ํ•˜๋“œ์›จ์–ด โ€” build or buy: ์˜คํ”ˆ์†Œ์Šค(Berkeley Humanoid, Berkeley Humanoid Lite, Stanford ToddlerBot)๋Š” ์ €๋ ดยท๊ฐœ์กฐ ๊ฐ€๋Šฅํ•˜์ง€๋งŒ ์กฐ๋ฆฝยท์œ ์ง€๋ณด์ˆ˜ ๋ถ€๋‹ด์ด ์žˆ๊ณ , ์ƒ์šฉ(Unitree G1ยทH1, Booster T1ยทK1, Agility Digit, Apptronik Apollo)์€ ๋น„์‹ธ์ง€๋งŒ ์•ˆ์ „ ๊ฒ€์ฆยทํ†ตํ•ฉ ์†Œํ”„ํŠธ์›จ์–ดยท๋ฒค๋” ์ง€์›์œผ๋กœ ์žฌํ˜„์„ฑ์„ ๋†’์ธ๋‹ค. ์ €์ž๋“ค์˜ ํ•œ ์ค„ ์š”์•ฝ: ์˜คํ”ˆ์†Œ์Šค๋Š” ์œ ์—ฐ์„ฑ์„, ์ƒ์šฉ์€ ์ƒ์‚ฐ์„ฑ์„ ์ตœ๋Œ€ํ™”ํ•œ๋‹ค.
  • ์†Œํ”„ํŠธ์›จ์–ด: ๋ชจ๋ธ ๊ธฐ๋ฐ˜์€ MIT CheetahยทOpenLoong, ๊ทธ๋ฆฌ๊ณ  CasADiยทAcadosยทOCS2ยทJudo. ํ•™์Šต ๊ธฐ๋ฐ˜์€ Isaac LabยทMuJoCo PlaygroundยทMJLab, ๋Œ€๊ทœ๋ชจ ๋ณ‘๋ ฌยท๋ฏธ๋ถ„๊ฐ€๋Šฅ ๋ฌผ๋ฆฌ๋Š” NewtonยทGenesis. ๋ฐ์ดํ„ฐ๋Š” AMASS์™€ BeyondMimic ๊ณ„์—ด ํŒŒ์ดํ”„๋ผ์ธ.
  • RL ์ฐฉ์ˆ˜ ์ˆœ์„œ: Isaac Sim/Isaac Lab ์„ค์น˜ โ†’ ์‹œ๋ฎฌ์—์„œ ๋ณดํ–‰ ์ •์ฑ… ์‹คํ–‰ โ†’ ๊ท ํ˜•ยท๋ณดํ–‰ ์ปจํŠธ๋กค๋Ÿฌ ํ•™์Šต โ†’ ๋ช…๋ น ์†๋„ ์กฐ๊ฑดํ™” โ†’ ์ธ๊ฐ„ ๋ชจ์…˜ ์ถ”์ข… โ†’ ๊ฑฐ์นœ ์ง€ํ˜•์—์„œ ์ง€๊ฐ ๊ธฐ๋ฐ˜ ๋ณดํ–‰ โ†’ ํ•˜๋“œ์›จ์–ด ๋ฐฐํฌ.
  • ํ•ต์‹ฌ ์ฐธ๊ณ ์„œ: Feedback Control of Dynamic Bipedal Robot Locomotion, Robot Modeling and Control, Sutton & Barto, PPO, DreamerV3, Deep Learning, Introduction to VAEs, The Principles of Diffusion Models.

๋น„ํŒ์ ์œผ๋กœ ๋ณด๋ฉด

๊ฐ•์ 

  • ๋ถ„๋ฅ˜์ถ•์ด ํ•˜๋‚˜๋ฟ์ด๊ณ , ๊ทธ ์ถ•์„ ๋๊นŒ์ง€ ๋ฐ€์–ด๋ถ™์ธ๋‹ค. ์‹œ๊ฐ„์ถ• ํ•˜๋‚˜๋กœ ์ „์ฒด๋ฅผ ๊ด€ํ†ต์‹œํ‚ค๊ณ  Fig. 1ยทFig. 3ยทTable 1์„ ๋ชจ๋‘ ๊ฐ™์€ 3๋ถ„ํ• (๊ณ ์ „/ํ•™์Šต/์‹ ํฅ)๋กœ ์ƒ‰๊นŒ์ง€ ๋งž์ถฐ ์ •๋ ฌํ–ˆ๋‹ค. ์„œ๋ฒ ์ด๊ฐ€ ํ”ํžˆ ๋น ์ง€๋Š” โ€œ์žฅ๋งˆ๋‹ค ๋ถ„๋ฅ˜ ๊ธฐ์ค€์ด ๋‹ฌ๋ผ์ง€๋Š”โ€ ํ•จ์ •์„ ํ”ผํ–ˆ๋‹ค.
  • ์ˆ˜์‹์œผ๋กœ ๋…ผ์ฆํ•œ๋‹ค. Eq. (2)โ†”๏ธŽEq. (3)์˜ ๋Œ€์‘์€ ๋ง๋กœ๋งŒ ํ•˜๋ฉด ํ—๊ฑฐ์šด ๋น„์œ ์ง€๋งŒ, ๋‘ ์ตœ์ ํ™” ๋ฌธ์ œ๋ฅผ ๋‚˜๋ž€ํžˆ ์จ ๋†“์œผ๋ฉด โ€œ๋ฌด์—‡์ด ๊ฐ™๊ณ  ๋ฌด์—‡์ด ๋‹ค๋ฅธ๊ฐ€โ€๊ฐ€ ๊ฒ€์ฆ ๊ฐ€๋Šฅํ•œ ์ง„์ˆ ์ด ๋œ๋‹ค. ์„œ๋ฒ ์ด๊ฐ€ ์› ๋…ผ๋ฌธ๋“ค์˜ ์ˆ˜์‹์„ ์ธ์šฉํ•˜๋Š” ๋ฐ ๊ทธ์น˜์ง€ ์•Š๊ณ  ๊ณตํ†ต ์–ธ์–ด๋ฅผ ์ง์ ‘ ์„ธ์šด ์‚ฌ๋ก€๋‹ค.
  • RL ํŒŒ์ดํ”„๋ผ์ธ โ†”๏ธŽ ๊ณ ์ „ ์ œ์–ด ๊ฐœ๋…์˜ ๋Œ€์‘ํ‘œ(Table 2) ๋Š” ์‹ค์ œ๋กœ ์œ ์šฉํ•˜๋‹ค. ๋„๋ฉ”์ธ ๋žœ๋คํ™”๊ฐ€ ์™œ ๊ฐ•๊ฑด ์ œ์–ด์ธ์ง€, adaptation module์ด ์™œ ์ ์‘ ์ œ์–ด์ธ์ง€ ์•Œ๊ณ  ๋‚˜๋ฉด ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ๋งŒ์ง€๋Š” ์†๋์ด ๋‹ฌ๋ผ์ง„๋‹ค. ํŠนํžˆ โ€œRL ์ •์ฑ…์€ ์˜คํ”„๋ผ์ธ์œผ๋กœ ํ‘ผ ์ตœ์ ํ™” ํ•ด๋ฅผ ์‹ ๊ฒฝ๋ง์— ์ธ์ฝ”๋”ฉํ•œ ๊ฒƒโ€์ด๋ผ๋Š” ๋ฌธ์žฅ์€ RL ์‹ค๋ฌด์ž์—๊ฒŒ ๋””๋ฒ„๊น… ๊ด€์ ์„ ์ค€๋‹ค.
  • ์ž๊ธฐ ํ•œ๊ณ„๋ฅผ ์—ฌ๋Ÿฌ ๋ฒˆ ๋ช…์‹œํ•œ๋‹ค. โ€œ๋Œ€๋ถ€๋ถ„์˜ ํœด๋จธ๋…ธ์ด๋“œ MPC ๊ตฌํ˜„์€ ์‹œ๋ฎฌ๋ ˆ์ด์…˜์— ๋จธ๋ฌธ๋‹คโ€, โ€œ์„ฑ๋Šฅ ๋ณด๊ณ ์—์„œ blind ๋Œ€๋น„ ๋‘ ๋ฐฐ๋Š” ์ธ์šฉ ๋…ผ๋ฌธ์˜ ์‹ค์ฆโ€, โ€œ์ง€๊ฐยท๊ณ„ํšยท์ƒํƒœ ์ถ”์ •์€ ๋ฒ”์œ„ ๋ฐ–โ€ ๋“ฑ ๋ฒ”์œ„ ํ•œ์ •์ด ๊ณณ๊ณณ์— ๋ฐ•ํ˜€ ์žˆ๋‹ค.
  • getting-started ์ ˆ๊ณผ companion ๋ ˆํฌ๋ฅผ ๋ถ™์—ฌ ์„œ๋ฒ ์ด๋ฅผ ์ง„์ž… ๋„๊ตฌ๋กœ ๋งŒ๋“ค์—ˆ๋‹ค. ์ด ๋ถ„์•ผ์—์„œ โ€œ๋ฌด์—‡๋ถ€ํ„ฐ ์„ค์น˜ํ• ์ง€โ€๋ฅผ ๋…ผ๋ฌธ์ด ์•Œ๋ ค ์ฃผ๋Š” ๊ฒฝ์šฐ๋Š” ๋“œ๋ฌผ๋‹ค.

์•ฝ์ ยทํ•œ๊ณ„

  • ์ •๋Ÿ‰ ๋น„๊ต๊ฐ€ ์‚ฌ์‹ค์ƒ ์—†๋‹ค. 293ํŽธ์„ ๋‹ค๋ฃจ๋ฉด์„œ ๋ฐฉ๋ฒ• ๊ฐ„ ์„ฑ๋Šฅ์„ ๋งž์„ธ์šฐ๋Š” ํ‘œ๊ฐ€ ํ•œ ์žฅ๋„ ์—†๋‹ค. ๋“ฑ์žฅํ•˜๋Š” ์œ ์ผํ•œ ์ •๋Ÿ‰ ์ง„์ˆ ๊ธ‰ ๋ฌธ์žฅ์ด โ€œ์‹œ๊ฐ ์ •์ฑ…์ด blind ๋Œ€๋น„ ์„ฑ๊ณต๋ฅ  ๋‘ ๋ฐฐโ€์ธ๋ฐ ์ด๊ฒƒ๋„ ์ธ์šฉ ๋…ผ๋ฌธ์˜ ๋ณด๊ณ ๋ฅผ ์˜ฎ๊ธด ๊ฒƒ์ด๋‹ค. ์‹œ๊ฐ„์ถ• ์„œ๋ฒ ์ด์˜ ๊ตฌ์กฐ์  ๋Œ€๊ฐ€๋‹ค โ€” โ€œ์–ธ์ œ ๋‚˜์™”๋Š”๊ฐ€โ€๋กœ ์ค„์„ ์„ธ์šฐ๋ฉด โ€œ๋ฌด์—‡์ด ๋” ๋‚˜์€๊ฐ€โ€๋ฅผ ๋ฌผ์„ ์ž๋ฆฌ๊ฐ€ ์—†์–ด์ง„๋‹ค. ๊ฐ™์€ ์„ฑ๊ฒฉ์˜ ํ•œ๊ณ„๋ฅผ HLM Survey๋Š” ์ตœ์†Œํ•œ ordinal ๋“ฑ๊ธ‰ํ‘œ(Table VI)๋กœ๋ผ๋„ ๋งˆ์ฃผํ–ˆ๋‹ค.
  • โ€œ์ˆ˜๋ ดํ•˜๊ณ  ์žˆ๋‹คโ€๋Š” ์ค‘์‹ฌ ๋ช…์ œ๊ฐ€ ๋ฐ˜์ฆ ๋ถˆ๊ฐ€๋Šฅํ•œ ํ˜•ํƒœ๋‹ค. ๋ฌผ๋ฆฌ ๊ธฐ๋ฐ˜ ๋ชจ๋ธ๋งยท์ œ์•ฝ ํ•˜ ์˜์‚ฌ๊ฒฐ์ •ยท๋ถˆํ™•์‹ค์„ฑ ์ ์‘์ด๋ผ๋Š” ์„ธ ์›๋ฆฌ๋Š” ์ถฉ๋ถ„ํžˆ ์ถ”์ƒ์ ์ด์–ด์„œ ๊ฑฐ์˜ ๋ชจ๋“  ์ œ์–ด ๋ฐฉ๋ฒ•์— ์‚ฌํ›„์ ์œผ๋กœ ๋ถ™๋Š”๋‹ค. ์–ด๋–ค ๊ด€์ธก์ด ๋‚˜์˜ค๋ฉด ์ด ์ˆ˜๋ ด ๋ช…์ œ๊ฐ€ ํ‹€๋ ธ๋‹ค๊ณ  ํ•  ์ˆ˜ ์žˆ๋Š”์ง€ ๋…ผ๋ฌธ์€ ๋งํ•˜์ง€ ์•Š๋Š”๋‹ค.
  • ์ƒ์„ฑ๋ชจ๋ธโ†”๏ธŽ๊ณ ์ „ ์ œ์–ด ์œ ๋น„ ์ค‘ ์ผ๋ถ€๋Š” ์€์œ ์— ๊ฐ€๊น๋‹ค. โ€œself-attention = ์ ์‘์  ๊ฒŒ์ธ ์Šค์ผ€์ค„๋งโ€์ด๋‚˜ โ€œLLM ์ปจํ…์ŠคํŠธ ์œˆ๋„ = ์ƒํƒœโ€๋Š” ์‹œ์ ์ด์ง€๋งŒ, ๊ฒŒ์ธ ์Šค์ผ€์ค„๋ง์—๋Š” ์•ˆ์ •์„ฑ ๋ณด์žฅ์ด๋ผ๋Š” ์•Œ๋งน์ด๊ฐ€ ์žˆ๊ณ  ์–ดํ…์…˜์—๋Š” ์—†๋‹ค. ํ™•์‚ฐโ†”๏ธŽํ™•๋ฅ ์  ์ตœ์ ์ œ์–ด ๋Œ€์‘์€ ์‹ค์ œ ์ˆ˜ํ•™์  ์—ฐ๊ฒฐ์ด ์žˆ๋Š” ๋ฐ˜๋ฉด ๋‚˜๋จธ์ง€๋Š” ๊ฐ•๋„๊ฐ€ ํฌ๊ฒŒ ๋‹ค๋ฅธ๋ฐ, ์„œ๋ฒ ์ด๋Š” ๋‹ค์„ฏ ๊ฐœ๋ฅผ ๊ฐ™์€ ๋ฌด๊ฒŒ๋กœ ๋‚˜์—ดํ•œ๋‹ค. ๋…์ž๊ฐ€ ๊ฐ•๋„ ์ฐจ์ด๋ฅผ ์Šค์Šค๋กœ ๋งค๊ฒจ์•ผ ํ•œ๋‹ค.
  • ์‹ ํฅ ํ”„๋ก ํ‹ฐ์–ด ์ ˆ์˜ ์‹œ๊ฐ„ ๊ฐ๊ฐ์ด ๋ถˆ์•ˆ์ •ํ•˜๋‹ค. Table 1์€ ํ™•์‚ฐ ๋ชจ์…˜ ์‚ฌ์ „๋ถ„ํฌ์™€ world model์„ 2025โ€“ ๋กœ ์ ์–ด ๋‘๋Š”๋ฐ, ๊ทธ ํ•ญ๋ชฉ๋“ค์— ๋Œ€ํ•œ ์„œ์ˆ  ๋ถ„๋Ÿ‰์€ ์ˆ˜์‹ญ ๋…„ ๋œ ๊ณ ์ „ ์ ˆ๊ณผ ๋น„์Šทํ•˜๋‹ค. ์•„์ง ์‹ค๊ธฐ ๊ฒ€์ฆ์ด ์–•์€ ๋ฐฉํ–ฅ์— ์„œ๋ฒ ์ด์˜ ์ ˆ๋ฐ˜ ๊ฐ€๊นŒ์šด ์ง€๋ฉด์ด ๋ฐฐ๋ถ„๋˜๋ฉด, ๋…์ž๋Š” ์„ฑ์ˆ™๋„ ์ฐจ์ด๋ฅผ ๊ณผ์†Œํ‰๊ฐ€ํ•˜๊ธฐ ์‰ฝ๋‹ค. ์ €์ž๋“ค์ด โ€œ์ƒ์„ฑ ๋ฐฉ์‹์€ ์‹ค์„ธ๊ณ„ ์‹ ๋ขฐ์„ฑ์ด ์—†๋‹คโ€๊ณ  ํ•œ ์ค„๋กœ ์ธ์ •ํ•˜๊ธด ํ•˜์ง€๋งŒ, ๊ทธ ์ธ์ •์ด ์ง€๋ฉด ๋ฐฐ๋ถ„์— ๋ฐ˜์˜๋˜์ง€๋Š” ์•Š์•˜๋‹ค.
  • ์‹œ๊ฐ„์ถ•์ด ๊ฐ€๋ฆฌ๋Š” ๊ฒƒ โ€” ์‹คํŒจํ•œ ๊ฐ€์ง€๋“ค. ์ง„ํ™”์‚ฌ ์„œ์ˆ ์€ ํ•„์—ฐ์ ์œผ๋กœ โ€œ์ง€๊ธˆ ์‚ด์•„๋‚จ์€ ๊ฒƒโ€์—์„œ ๊ฑฐ๊พธ๋กœ ์„ ์„ ๊ธ‹๋Š”๋‹ค. ์™œ ์–ด๋–ค ์ ‘๊ทผ์ด ์‚ฌ๋ผ์กŒ๋Š”์ง€, ์–ด๋–ค ๊ฒƒ์ด ์žฌํ‰๊ฐ€๋  ์—ฌ์ง€๊ฐ€ ์žˆ๋Š”์ง€๋Š” ์ด ์ถ•์—์„œ ์ž˜ ๋ณด์ด์ง€ ์•Š๋Š”๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด passive dynamic walking์ด๋‚˜ ๊ทผ๊ณจ๊ฒฉ/ํ…๋˜ ๊ตฌ๋™ ๊ณ„์—ด์€ ์ด ์„œ๋ฒ ์ด์˜ ์ฃผ์„ ์—์„œ ๊ฑฐ์˜ ์ž๋ฆฌ๋ฅผ ์–ป์ง€ ๋ชปํ•œ๋‹ค.
  • ํ•˜๋“œ์›จ์–ดยท์•ก์ถ”์—์ดํ„ฐ์˜ ๊ธฐ์—ฌ๊ฐ€ ์–‡๋‹ค. ์ปดํ”Œ๋ผ์ด์–ธํŠธ ์•ก์ถ”์—์ด์…˜์ด ์•ˆ์ „ ์ ˆ์—์„œ ํ•œ ๋ฌธ์žฅ ์–ธ๊ธ‰๋˜๊ณ , ๊ฐ€๊ฒฉ ํ•˜๋ฝ์ด ์ ‘๊ทผ์„ฑ ์ ˆ์— ํ•œ ๋ฌธ์žฅ ๋‚˜์˜ค๋Š” ์ •๋„๋‹ค. ์ง€๋‚œ 10๋…„ ํœด๋จธ๋…ธ์ด๋“œ ๋„์•ฝ์—์„œ ์ค€์ง๊ตฌ๋™(quasi-direct-drive) ์•ก์ถ”์—์ดํ„ฐ๊ฐ€ ์ฐจ์ง€ํ•œ ๋ชซ์„ ์ƒ๊ฐํ•˜๋ฉด โ€œ์ œ์–ด ํŒจ๋Ÿฌ๋‹ค์ž„์˜ ์„œ๋ฒ ์ดโ€๋ผ๋Š” ๋ฒ”์œ„ ํ•œ์ •์ด ๋‹ค์†Œ ํŽธ๋ฆฌํ•˜๊ฒŒ ์“ฐ์ธ ์ธ์ƒ์ด ์žˆ๋‹ค.
  • ๋ ˆํฌ๊ฐ€ ์•„์ง ์™„์„ฑ๋˜์ง€ ์•Š์•˜๋‹ค. README๋Š” ๊ณ ์ „ ์ œ์–ดยท์‹œ๋ฎฌ ๊ธฐ๋ฐ˜ ํ•™์Šต ์„น์…˜์˜ ๋…ผ๋ฌธ ๋ฆฌ์ŠคํŠธ๊ฐ€ โ€œํ˜„์žฌ ์ด์šฉ ๊ฐ€๋Šฅโ€ํ•˜๊ณ  ๋‚˜๋จธ์ง€๋Š” ์ ์ง„์ ์œผ๋กœ ์ถ”๊ฐ€ ์ค‘์ด๋ผ๊ณ  ๋ฐํžŒ๋‹ค(์ฃผ์„ ์ฒ˜๋ฆฌ๋œ ToDo์—๋Š” ์ „ ์„น์…˜ done์œผ๋กœ ํ‘œ์‹œ๋ผ ์žˆ์–ด ๊ฐฑ์‹  ์‹œ์ ์ด ์–ด๊ธ‹๋‚˜ ์žˆ๋‹ค). getting-started ๊ฐ€์ด๋“œ๋„ ์ž‘์„ฑ ์ค‘์ด๋‹ค.
  • ์ž‘์„ฑ ๊ณผ์ • ๊ณต์‹œ: ์ €์ž๋“ค์€ ์ดˆ๊ณ  ์™„์„ฑ ํ›„ ๋ฌธ์žฅ ์ •๋ จ์— ChatGPT๋ฅผ ์‚ฌ์šฉํ–ˆ๊ณ  ์ „์›์ด ๊ธฐ์ˆ ์  ์ •ํ™•์„ฑ์„ ์žฌ๊ฒ€ํ† ํ–ˆ๋‹ค๊ณ  Acknowledgments์— ๋ช…์‹œํ•œ๋‹ค. ํˆฌ๋ช…ํ•œ ๊ณต์‹œ๋ผ๋Š” ์ ์€ ํ‰๊ฐ€ํ•  ๋งŒํ•˜์ง€๋งŒ, ์œ ๋‚œํžˆ ๊ท ์งˆํ•˜๊ณ  ๋งค๋„๋Ÿฌ์šด ๋ฌธ์ฒด(๊ฐ ์ ˆ์ด โ€œMotivation and limitationsโ€ โ†’ โ€œToward โ€ฆโ€๋ผ๋Š” ๋™์ผ ๊ณจ๊ฒฉ์„ ๋ฐ˜๋ณตํ•œ๋‹ค)๊ฐ€ ์–ด๋””์„œ ์™”๋Š”์ง€๋Š” ์ง์ž‘ํ•˜๊ฒŒ ํ•œ๋‹ค.

๊ด€๋ จ ์—ฐ๊ตฌ์™€์˜ ์ž๋ฆฌ ๋งค๊น€

์ด ์„œ๋ฒ ์ด์™€ HLM Survey(Gu Zhaoyuan et al., arXiv:2501.02116)๋Š” ๊ฐ™์€ ๋Œ€์ƒ์„ ์ง๊ตํ•˜๋Š” ๋‘ ์นผ๋กœ ์ž๋ฅธ๋‹ค. HLM Survey์˜ 1์ฐจ ์ถ•์€ โ€œ์ ‘์ด‰์„ ์–ด๋–ป๊ฒŒ ๋‹ค๋ฃจ๋Š”๊ฐ€โ€๋ผ๋Š” ๊ณต๊ฐ„์ ยท๊ตฌ์กฐ์  ์ถ•์ด๋‹ค โ€” ์ ‘์ด‰์„ ๊ณ„ํšํ•˜๋Š”๊ฐ€(multi-contact planning), ์˜ˆ์ธกํ•˜๋Š”๊ฐ€(MPC), ์ˆœ๊ฐ„ ํ† ํฌ๋กœ ํ‘ธ๋Š”๊ฐ€(WBC), ๊ฒฝํ—˜์œผ๋กœ ๋ฐฐ์šฐ๋Š”๊ฐ€(ํ•™์Šต), ๋А๋ผ๋Š”๊ฐ€(์ด‰๊ฐ). ๊ทธ๋ž˜์„œ ๊ทธ ์„œ๋ฒ ์ด์—์„œ๋Š” ์ด‰๊ฐ ๊ฐ์ง€๊ฐ€ ๋…๋ฆฝ ์žฅ์œผ๋กœ ์Šน๊ฒฉ๋˜๊ณ  loco-manipulation์ด ๋ชฉ์ ํ•จ์ˆ˜๊ฐ€ ๋œ๋‹ค. ๋ฐ˜๋ฉด ์ด ์„œ๋ฒ ์ด์˜ 1์ฐจ ์ถ•์€ โ€œ์–ธ์ œ ๋‚˜์™”๊ณ  ๋ฌด์—‡์„ ๊ณ„์Šนํ–ˆ๋Š”๊ฐ€โ€๋ผ๋Š” ์‹œ๊ฐ„์  ์ถ•์ด๋‹ค. ๊ทธ ๊ฒฐ๊ณผ ๋‘ ๋…ผ๋ฌธ์€ ๊ฐ™์€ ๋ฌธํ—Œ์„ ์ƒ๋‹น ๋ถ€๋ถ„ ๊ณต์œ ํ•˜๋ฉด์„œ๋„ ๊ฒน์น˜์ง€ ์•Š๋Š”๋‹ค โ€” ์ด์ชฝ์€ ์ด‰๊ฐ์„ ์‚ฌ์‹ค์ƒ ๋‹ค๋ฃจ์ง€ ์•Š๊ณ (๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ์œตํ•ฉ์˜ ํ•œ ์ž…๋ ฅ์œผ๋กœ ํ•œ ๋ฒˆ ์–ธ๊ธ‰๋  ๋ฟ), ์ €์ชฝ์€ โ€œ1980๋…„๋Œ€ ZMP์—์„œ 2025๋…„ ํ™•์‚ฐ ์ •์ฑ…๊นŒ์ง€์˜ ๊ณ„๋ณดโ€๋ฅผ ๊ทธ๋ฆฌ์ง€ ์•Š๋Š”๋‹ค. ์‹ค์ œ๋กœ ์ด ๋…ผ๋ฌธ์€ ์„ ํ–‰ ์„œ๋ฒ ์ด ๋ชฉ๋ก์—์„œ HLM Survey๋ฅผ ์ธ์šฉ (15)๋กœ ๋ช…์‹œํ•˜๋ฉฐ โ€œ์ œ์–ด ํ”„๋ ˆ์ž„์›Œํฌ์˜ ์ง„ํ™”๊ฐ€ ์•„๋‹ˆ๋ผ ์‹œ์Šคํ…œ ํ†ตํ•ฉ์— ๋ฐฉ์ ์„ ์ฐ์—ˆ๋‹คโ€๊ณ  ์ฐจ๋ณ„์ ์„ ๋ฐํžŒ๋‹ค. ๋‘ ํŽธ์„ ๋ถ™์—ฌ ์ฝ์œผ๋ฉด ์‹œ๊ฐ„์ถ• ร— ์ ‘์ด‰์ถ•์˜ 2์ฐจ์› ์ง€๋„๊ฐ€ ๋งŒ๋“ค์–ด์ง„๋‹ค. ์ˆœ์„œ๋ฅผ ๊ตณ์ด ์ •ํ•˜์ž๋ฉด ์ด ๋…ผ๋ฌธ์„ ๋จผ์ € ์ฝ์–ด ๊ณ„๋ณด๋ฅผ ์žก๊ณ , HLM Survey๋กœ ์ ‘์ด‰ ์ถ•์˜ ๋””ํ…Œ์ผ์„ ์ฑ„์šฐ๋Š” ์ชฝ์ด ๋‚ซ๋‹ค.

๋ธ”๋กœ๊ทธ์˜ ๋‹ค๋ฅธ ๋ฆฌ๋ทฐ๋“ค์ด ์ด ์„œ๋ฒ ์ด์˜ ์–ด๋А ์นธ์— ๋“ค์–ด๊ฐ€๋Š”์ง€ ์งš์–ด ๋‘๋ฉด ์ขŒํ‘œ๊ฐ€ ์„ ๋ช…ํ•ด์ง„๋‹ค.

  • Table 1์˜ โ€œ๋ชจ๋ธ ์œ ๋„ RL(2020โ€“)โ€ ์นธ: Combining MPC & RL์ด ์ •ํ™•ํžˆ ์ด ์นธ์˜ ์‚ฌ๋ก€๋‹ค โ€” ์˜ˆ์ธก์ œ์–ด์™€ RL์„ ํ•œ ๋ฃจํ”„์— ๋„ฃ๋Š” ์‹œ๋„.
  • Fig. 3A์˜ โ€œ์˜จ๋ผ์ธ ๋น„๋ณผ๋ก MPC โ†”๏ธŽ RLโ€ ๊ฒฝ๊ณ„: CA-AC-MPC๋Š” actor-critic๊ณผ MPC๋ฅผ GPU ์œ„์—์„œ ํ•ฉ์น˜๋Š” ๋ฐฉํ–ฅ์œผ๋กœ, ์„œ๋ฒ ์ด๊ฐ€ ๋งํ•œ โ€œ์˜คํ”„๋ผ์ธ+์˜จ๋ผ์ธ ๊ณ„์‚ฐ์˜ ๋ณ‘์šฉ์ด ์ตœ์„ โ€์ด๋ผ๋Š” ๊ด€์ฐฐ์˜ ๊ตฌ์ฒด ์‚ฌ๋ก€๋‹ค.
  • โ€œ๋ณดํ–‰โ†’loco-manipulationโ€ ์ถ•: SONIC์€ ์„œ๋ฒ ์ด ๋ณธ๋ฌธ์— ์ธ์šฉ (254)๋กœ ์ง์ ‘ ๋“ฑ์žฅํ•œ๋‹ค โ€” ์ƒ์œ„ VLA์˜ ๊ธฐ๊ตฌํ•™์  ์˜๋„๋ฅผ ํ•˜์œ„ whole-body ์ถ”์ข… ์ •์ฑ…์— ๋จน์ด๋Š” ๋ถ„๋ฆฌํ˜• ๊ณ„์ธต ๊ตฌ์กฐ์˜ ๋Œ€ํ‘œ ์‚ฌ๋ก€๋กœ. Whole-Body Loco์™€ HoloMotion-1์€ โ€œ๋ชจ์…˜ ์ƒ์„ฑ + ๋ชจ์…˜ ์ถ”์ข…โ€์ด๋ผ๋Š” ์„œ๋ฒ ์ด์˜ ์ƒ์„ฑ์  ๊ณ„์ธต ์„ค๊ณ„๋ฅผ ์‹ค์ œ๋กœ ๊ตฌํ˜„ํ•œ ์ชฝ์ด๋‹ค.
  • โ€œ๋‹จ์ผโ†’๋‹ค์ค‘ ํƒœ์Šคํฌโ€์™€ ํ–‰๋™ ํŒŒ์šด๋ฐ์ด์…˜ ๋ชจ๋ธ: BFM-Zero๊ฐ€ ๋น„์ง€๋„ RL๋กœ promptable ํ–‰๋™ ๊ณต๊ฐ„์„ ๋งŒ๋“œ๋Š”, ์ด ์ถ•์˜ ์ „ํ˜•์ด๋‹ค.
  • ํ‰๊ฐ€ ์ธํ”„๋ผ: Humanoid Bench๋Š” ์„œ๋ฒ ์ด๊ฐ€ ์š”๊ตฌํ•œ โ€œํ‘œ์ค€ํ™”๋œ ์‹œํ—˜โ€์˜ ์‹œ๋ฎฌ๋ ˆ์ด์…˜ ์ชฝ ๋Œ€์‘๋ฌผ์ด์ง€๋งŒ, ์ €์ž๋“ค์ด ์ง„์งœ๋กœ ์š”๊ตฌํ•œ ๊ฒƒ์€ ๋‚™์ƒ๋ฅ ยท์ถฉ๊ฒฉ ์‹ฌ๊ฐ๋„ ๊ฐ™์€ ์‹ค๊ธฐ ์•ˆ์ „ ์ง€ํ‘œ์—ฌ์„œ ์•„์ง ์ฑ„์›Œ์ง€์ง€ ์•Š์€ ์ž๋ฆฌ๋กœ ๋‚จ๋Š”๋‹ค.

์š”์•ฝ

Evolution of Humanoid Locomotion Control์€ ํœด๋จธ๋…ธ์ด๋“œ ๋ณดํ–‰ ์ œ์–ด๋ฅผ ์—ฐ๋Œ€๊ธฐ๋ผ๋Š” ํ•˜๋‚˜์˜ ์ถ•์œผ๋กœ ๋‹ค์‹œ ์„ธ์šฐ๊ณ , ๊ณ ์ „ยทํ•™์Šตยท์ƒ์„ฑ ์„ธ ์‹œ๋Œ€๋ฅผ ๋„ค ๊ฐœ์˜ ์ตœ์ ํ™” ๋ฌธ์ œ(Eq. 1โ€“4)๋กœ ๋ฒˆ์—ญํ•ด โ€œ์ด๋“ค์ด ์„œ๋กœ ๋‹ค๋ฅธ ๊ธฐ์ˆ ์ด ์•„๋‹ˆ๋ผ ๊ฐ™์€ ๋ฌธ์ œ์˜ ๋‹ค๋ฅธ ํŒŒ๋ผ๋ฏธํ„ฐํ™”โ€์ž„์„ ๋…ผ์ฆํ•œ๋‹ค. ๊ธฐ์—ฌ์˜ ํ•ต์‹ฌ์€ ๋ชฉ๋ก์ด ์•„๋‹ˆ๋ผ ๋ฒˆ์—ญ์ด๋‹ค โ€” Eq. (2)์™€ Eq. (3)์„ ๋‚˜๋ž€ํžˆ ๋†“๋Š” ์ˆœ๊ฐ„, ๋„๋ฉ”์ธ ๋žœ๋คํ™”๋Š” ๊ฐ•๊ฑด ์ œ์–ด๊ฐ€ ๋˜๊ณ  teacher-student๋Š” ์ ์‘ ์ œ์–ด๊ฐ€ ๋˜๋ฉฐ RL ์ •์ฑ…์€ โ€œ์˜คํ”„๋ผ์ธ์œผ๋กœ ํ‘ผ ์ตœ์ ํ™” ํ•ด์˜ ์‹ ๊ฒฝ๋ง ์ธ์ฝ”๋”ฉโ€์ด ๋œ๋‹ค. ์ด ๊ด€์ ์€ RL ์‹ค๋ฌด์ž์—๊ฒŒ ๋””๋ฒ„๊น… ์–ธ์–ด๋ฅผ, ๊ณ ์ „ ์ œ์–ด ์—ฐ๊ตฌ์ž์—๊ฒŒ ํ•™์Šต ์ง„์˜์œผ๋กœ ๊ฐ€๋Š” ๋‹ค๋ฆฌ๋ฅผ ์ค€๋‹ค.

ํ•œ๊ณ„๋Š” ์ด ์ถ•์˜ ๋Œ€๊ฐ€๋‹ค. ์‹œ๊ฐ„์ˆœ ์„œ์ˆ ์€ โ€œ๋ฌด์—‡์ด ๋” ๋‚˜์€๊ฐ€โ€๋ฅผ ๋ฌผ์„ ์ž๋ฆฌ๋ฅผ ์—†์•  ์ •๋Ÿ‰ ๋น„๊ต๊ฐ€ ๋ถ€์žฌํ•˜๊ณ , โ€œ๋ฌผ๋ฆฌ ์œ ๋„ ์ƒ์„ฑ ์ง€๋Šฅ์œผ๋กœ ์ˆ˜๋ ด ์ค‘โ€์ด๋ผ๋Š” ์ค‘์‹ฌ ๋ช…์ œ๋Š” ๋ฐ˜์ฆ ์กฐ๊ฑด์ด ์ œ์‹œ๋˜์ง€ ์•Š๋Š”๋‹ค. ์ƒ์„ฑ๋ชจ๋ธโ†”๏ธŽ์ œ์–ด์ด๋ก  ์œ ๋น„ ๋‹ค์„ฏ ๊ฐœ๋Š” ๊ฐ•๋„๊ฐ€ ์ œ๊ฐ๊ฐ์ธ๋ฐ ๊ฐ™์€ ๋ฌด๊ฒŒ๋กœ ๋‚˜์—ด๋˜๋ฉฐ, 2025๋…„์— ๋“ฑ์žฅํ•œ ๋ฐฉํ–ฅ๋“ค์ด ์ˆ˜์‹ญ ๋…„ ๋œ ๊ณ ์ „๊ณผ ๋น„์Šทํ•œ ์ง€๋ฉด์„ ์–ป์–ด ์„ฑ์ˆ™๋„ ์ฐจ์ด๊ฐ€ ํ๋ ค์ง„๋‹ค. ํ•˜๋“œ์›จ์–ดยท์•ก์ถ”์—์ดํ„ฐ์˜ ๊ธฐ์—ฌ์™€ ์‚ฌ๋ผ์ง„ ์ ‘๊ทผ๋“ค์€ ์ด ์ถ•์—์„œ ์ž˜ ๋ณด์ด์ง€ ์•Š๋Š”๋‹ค.

๊ทธ๋Ÿผ์—๋„ ๊ฐ’์–ด์น˜๋Š” ๋ถ„๋ช…ํ•˜๋‹ค. ์ด ๋ถ„์•ผ์— ๋“ค์–ด์˜ค๋Š” ์‚ฌ๋žŒ์—๊ฒŒ ๊ณ„๋ณด์™€ ์‹œ์ž‘ ์ ˆ์ฐจ๋ฅผ ๋™์‹œ์— ์ฃผ๋Š” ๋ฌธ์„œ๋Š” ํ”์น˜ ์•Š๊ณ , ์ด๋ฏธ ์•ˆ์— ์žˆ๋Š” ์‚ฌ๋žŒ์—๊ฒŒ๋Š” ์ž๊ธฐ๊ฐ€ ์“ฐ๋Š” ๊ธฐ๋ฒ•์˜ ๊ณ ์ „์  ๋ฟŒ๋ฆฌ๋ฅผ ํ™•์ธ์‹œ์ผœ ์ค€๋‹ค. ์ €์ž๋“ค์ด ๋งˆ์ง€๋ง‰์— ์ง€๋ชฉํ•œ ๋ณ‘๋ชฉ์ด ์•Œ๊ณ ๋ฆฌ์ฆ˜์ด ์•„๋‹ˆ๋ผ ๋ฐ์ดํ„ฐ์˜ ์ถœ์ฒ˜์™€ ์งˆ(์›๊ฒฉ์กฐ์ž‘๋„ ์‹œ๋ฎฌ๋„ ๊ฐ๊ฐ์œผ๋กœ๋Š” ํฌ๊ท€ ์‹คํŒจยท์ ‘์ด‰ ํ’๋ถ€ ์ƒํ˜ธ์ž‘์šฉยท๋ณต๊ตฌ ํ–‰๋™ยทํ˜•ํƒœ ๋ณ€์ด๋ฅผ ๋ชป ๋ฎ๋Š”๋‹ค)์ด๋ผ๋Š” ์ ์€, ๋‹ค์Œ 10๋…„์˜ ์„œ๋ฒ ์ด๊ฐ€ ์–ด๋А ์ถ•์œผ๋กœ ๋‹ค์‹œ ์“ฐ์ผ์ง€๋ฅผ ์˜ˆ๊ณ ํ•œ๋‹ค.

Copyright 2026, JungYeon Lee