Curieux.JY
  • JungYeon Lee
  • Post
  • ๐Ÿ•ธ๏ธ Graph
  • Lecture
  • Note

On this page

  • ๐Ÿ” Ping Review
  • ๐Ÿ”” Ring Review
    • ํ•œ ์ค„๋กœ ์‹œ์ž‘ํ•˜๋ฉด
    • ๋ฐฐ๊ฒฝ: WAM์˜ ๋‘ ์š”์ธ์ด ์™œ ์—‰์ผœ ์žˆ์—ˆ๋‚˜
    • ๋ฐฉ๋ฒ• ์ƒ์„ธ: ๋งˆ์Šคํฌ๊ฐ€ ์‹คํ—˜ ์„ค๊ณ„๋‹ค
      • ์•„ํ‚คํ…์ฒ˜
      • ๋งˆ์Šคํฌ์˜ ์„ธ ๊ฐ€์ง€ ๊ทœ์น™
      • ํ†ต์ œ ๋ณ€ํ˜• 4์ข…
      • ํ•™์Šตยท์ถ”๋ก  ์„ค์ •
    • ์ง๊ด€: ๋น„๋””์˜ค๋Š” ์ž…๋ ฅ์ด ์•„๋‹ˆ๋ผ ์ •์น™ํ™”๋‹ค
    • ์‹คํ—˜: ๋ฒค์น˜๋งˆํฌ 3์ข…
      • ์‹œ๋ฎฌ๋ ˆ์ด์…˜
      • ์‹ค๋ฌผ๊ณผ ์ง€์—ฐ
    • ๋น„ํŒ์ ์œผ๋กœ ๋ณด๋ฉด
      • ๊ฐ•์ 
      • ์•ฝ์ ยทํ•œ๊ณ„
    • ๊ด€๋ จ ์—ฐ๊ตฌ์™€์˜ ์ž๋ฆฌ ๋งค๊น€
    • ์š”์•ฝ

๐Ÿ“ƒFast-WAM ๋ฆฌ๋ทฐ

world-model
vla
video-generation
flow
manipulation
bimanual
deformable
benchmark
il
efficiency
open-source
Fast-WAM: Do World Action Models Need Test-time Future Imagination?
Published

August 30, 2026

  • Paper Link (arXiv:2603.16666) โ€” ์ด ๋ฆฌ๋ทฐ๋Š” v2 (2026-03-23, CC BY 4.0) ๊ธฐ์ค€์ด๋‹ค.

  • Project Page

  • Code Link (github.com/yuantianyuan01/FastWAM) โ€” MIT(GitHub์ด other๋กœ ๋ถ„๋ฅ˜ํ•˜์ง€๋งŒ LICENSE ์›๋ฌธ์€ MIT๋‹ค. ๋‹ค๋งŒ โ€œthird-party code and files retain their original licenseโ€ ๋‹จ์„œ๊ฐ€ ๋ถ™๋Š”๋‹ค). ์ฒดํฌํฌ์ธํŠธ(HF yuanty/fastwam)์™€ LIBEROยทRoboTwin ํ•™์Šต ๋ฐ์ดํ„ฐ์…‹๊นŒ์ง€ ๊ณต๊ฐœ๋ผ ์žˆ๋‹ค.

  • Tianyuan Yuan, Zibin Dong, Yicheng Liu, Hang Zhao (IIIS, Tsinghua University ยท Galaxea AI)

  • arXiv preprint, 2026

  1. ๐Ÿ’ก World Action Model(WAM)์˜ ์ด๋“์ด ํ•™์Šต ๋•Œ์˜ ๋น„๋””์˜ค ์˜ˆ์ธก ๋ชฉ์ ํ•จ์ˆ˜์—์„œ ์˜ค๋Š”์ง€, ์ถ”๋ก  ๋•Œ์˜ ๋ช…์‹œ์  ๋ฏธ๋ž˜ ์ƒ์ƒ์—์„œ ์˜ค๋Š”์ง€๋ฅผ ๋ถ„๋ฆฌํ•ด ๋ฌป๊ณ , ํ›„์ž๊ฐ€ ์ƒ๊ฐ๋ณด๋‹ค ๋œ ์ค‘์š”ํ•˜๋‹ค๊ณ  ์ฃผ์žฅํ•œ๋‹ค.
  2. โš™๏ธ Wan2.2-5B ๋น„๋””์˜ค DiT + 1B action expert๋ฅผ shared attention์˜ Mixture-of-Transformer๋กœ ๋ฌถ๋˜, action token์ด ๋ฏธ๋ž˜ ๋น„๋””์˜ค token์„ ์ ˆ๋Œ€ ๋ณด์ง€ ๋ชปํ•˜๊ฒŒ attention mask๋ฅผ ๊ฑธ์–ด ํ•™์Šตํ•œ๋‹ค โ†’ ์ถ”๋ก  ๋•Œ๋Š” ๋ฏธ๋ž˜ ๋น„๋””์˜ค ๋ธŒ๋žœ์น˜๋ฅผ ํ†ต์งธ๋กœ ๋–ผ์–ด๋‚ด๊ณ  ์ฒซ ํ”„๋ ˆ์ž„ latent ํ•œ ๋ฒˆ์˜ forward๋งŒ์œผ๋กœ ํ–‰๋™์„ ๋‚ธ๋‹ค.
  3. ๐ŸŽฏ RoboTwin 2.0 91.8%, LIBERO 97.6%๋ฅผ embodied pretraining ์—†์ด ๋‹ฌ์„ฑํ•˜๋ฉด์„œ ์ง€์—ฐ์€ 190 ms โ€” ๊ฐ™์€ ํ”„๋ ˆ์ž„์›Œํฌ๋กœ ๊ตฌํ˜„ํ•œ imagine-then-execute ๋ณ€ํ˜•(810 ms)๋ณด๋‹ค 4๋ฐฐ ์ด์ƒ ๋น ๋ฅด๋‹ค. ๋ฐ˜๋ฉด ๋น„๋””์˜ค co-training์„ ๋นผ๋ฉด RoboTwin 83.8%, ์‹ค์ œ ์ˆ˜๊ฑด ์ ‘๊ธฐ ์„ฑ๊ณต๋ฅ  10%๋กœ ๋ฌด๋„ˆ์ง„๋‹ค.

๐Ÿ” Ping Review

๐Ÿ” Ping โ€” A light tap on the surface. Get the gist in seconds.

๋กœ๋ด‡ ์ •์ฑ…์— world model์„ ๋ถ™์ด๋Š” ์ตœ๊ทผ ํ๋ฆ„ โ€” ๋…ผ๋ฌธ์ด World Action Model(WAM)์ด๋ผ ๋ถ€๋ฅด๋Š” ๊ณ„์—ด โ€” ์€ ๋Œ€์ฒด๋กœ imagine-then-execute๋‹ค. ํ˜„์žฌ ๊ด€์ธก๊ณผ ์–ธ์–ด ์ง€์‹œ๋กœ ๋ฏธ๋ž˜ ์˜์ƒ์„ ๋จผ์ € ์ƒ์„ฑํ•˜๊ณ , ๊ทธ ์ƒ์ƒ๋œ ๋ฏธ๋ž˜์— ์กฐ๊ฑด์„ ๊ฑธ์–ด ํ–‰๋™์„ ๋ฝ‘๋Š”๋‹ค. ์ง๊ด€์ ์ด์ง€๋งŒ ๋Œ€๊ฐ€๊ฐ€ ํฌ๋‹ค. ๋น„๋””์˜ค ํ™•์‚ฐ ๋ชจ๋ธ์„ ์ถ”๋ก  ์‹œ์ ์— ๋ฐ˜๋ณต denoisingํ•ด์•ผ ํ•˜๋ฏ€๋กœ ์ œ์–ด ์ฃผ๊ธฐ๊ฐ€ ๋А๋ ค์ง„๋‹ค.

Fast-WAM์€ ์—ฌ๊ธฐ์— ๋‹จ์ˆœํ•œ ์งˆ๋ฌธ์„ ๋˜์ง„๋‹ค. WAM์˜ ์ด๋“์€ ์ •๋ง โ€œํ…Œ์ŠคํŠธ ๋•Œ ๋ฏธ๋ž˜๋ฅผ ๊ทธ๋ ค๋ณด๋Š” ๊ฒƒโ€์—์„œ ์˜ค๋Š”๊ฐ€, ์•„๋‹ˆ๋ฉด โ€œํ•™์Šต ๋•Œ ๋ฏธ๋ž˜๋ฅผ ์˜ˆ์ธกํ•˜๋„๋ก ๋ฐฐ์šด ๊ฒƒโ€์—์„œ ์˜ค๋Š”๊ฐ€? ๊ธฐ์กด WAM์€ ๋‘ ์š”์ธ์„ ํ•œ ๋ชจ๋ธ ์•ˆ์— ๋ฌถ์–ด ๋†“์•„ ๊ตฌ๋ถ„์ด ๋ถˆ๊ฐ€๋Šฅํ–ˆ๋‹ค. ๋…ผ๋ฌธ์€ ๋‘˜์„ ๋–ผ์–ด ๋†“๋Š”๋‹ค โ€” ํ•™์Šต์—๋Š” ๋น„๋””์˜ค ์˜ˆ์ธก ๋ชฉ์ ํ•จ์ˆ˜๋ฅผ ๊ทธ๋Œ€๋กœ ๋‚จ๊ธฐ๊ณ , ์ถ”๋ก ์—์„œ๋Š” ๋ฏธ๋ž˜ ์ƒ์„ฑ์„ ์™„์ „ํžˆ ์ œ๊ฑฐํ•œ๋‹ค. ๊ทธ๋ฆฌ๊ณ  ๊ฐ™์€ ๋ฐฑ๋ณธยท๊ฐ™์€ ํ† ํฌ๋‚˜์ด์ €ยท๊ฐ™์€ ํ•™์Šต ๋ ˆ์‹œํ”ผ ์œ„์— imagine-then-execute ๋ณ€ํ˜•๋“ค์„ ์ง์ ‘ ๊ตฌํ˜„ํ•ด ํ†ต์ œ ๋น„๊ต๋ฅผ ๋ถ™์ธ๋‹ค.


์„ธ ๊ฐ€์ง€ WAM ํŒจ๋Ÿฌ๋‹ค์ž„(Fig. 1) โ€” (A) ๋ฏธ๋ž˜ ๋น„๋””์˜ค์™€ ํ–‰๋™์„ ํ•จ๊ป˜ denoising, (B) ๋ฏธ๋ž˜ ๋น„๋””์˜ค๋ฅผ ๋จผ์ € ๋งŒ๋“ค๊ณ  ๊ทธ ํ‘œํ˜„์— ์กฐ๊ฑด ๊ฑธ์–ด ํ–‰๋™ ์˜ˆ์ธก(IDM), (C) Fast-WAM: ํ•™์Šต ๋•Œ๋งŒ ๋น„๋””์˜ค co-training, ์ถ”๋ก  ๋•Œ๋Š” ์ฒซ ํ”„๋ ˆ์ž„ f_0์„ Video DiT์— ํ•œ ๋ฒˆ ํ†ต๊ณผ์‹œ์ผœ ์–ป์€ KV cache๋กœ ๊ณง์žฅ ํ–‰๋™์„ denoisingํ•œ๋‹ค.

ํ•ต์‹ฌ ๋ฐฉ๋ฒ•๋ก :

ํ‘œ์ค€ visuomotor ์ •์ฑ…์€ p(a_{1:H}\mid o,l)์„ ์ง์ ‘ ๋ชจ๋ธ๋งํ•œ๋‹ค(Eq. 1). ๊ธฐ์กด WAM ๋‹ค์ˆ˜๋Š” ๋ฏธ๋ž˜ ๊ด€์ธก v_{1:T}๋ฅผ ์ค‘๊ฐ„ ๋ณ€์ˆ˜๋กœ ๋ผ์›Œ ๋„ฃ๋Š” imagine-then-execute ์ธ์ˆ˜๋ถ„ํ•ด๋ฅผ ์“ด๋‹ค(Eq. 2):

p(a_{1:H}\mid o,l)=\int p(v_{1:T}\mid o,l)\; p(a_{1:H}\mid o,l,v_{1:T})\,dv_{1:T}

Fast-WAM์€ ์ด ์ ๋ถ„์„ ์ถ”๋ก  ์‹œ์ ์—์„œ ์—†์•  ๋ฒ„๋ฆฐ๋‹ค. ๋น„๋””์˜ค ๋ฐฑ๋ณธ์ด ํ˜„์žฌ ๋ฌธ๋งฅ๋งŒ์œผ๋กœ ๋งŒ๋“  ์ž ์žฌ world ํ‘œํ˜„ z(o,l)์— ํ–‰๋™ ๋ถ„ํฌ๋ฅผ ์กฐ๊ฑด ๊ฑด๋‹ค(Eq. 4):

p_\theta(a_{1:H}\mid o,l)=p_\theta\!\left(a_{1:H}\mid z(o,l)\right)

ํ•ต์‹ฌ์€ z(o,l)์ด ๋ฏธ๋ž˜๋ฅผ ์ƒ˜ํ”Œ๋ง/denoisingํ•ด์„œ๊ฐ€ ์•„๋‹ˆ๋ผ ๋‹จ ํ•œ ๋ฒˆ์˜ forward encoding์œผ๋กœ ์–ป์–ด์ง„๋‹ค๋Š” ์ ์ด๋‹ค. ๋Œ€์‹  ํ•™์Šต์—์„œ๋Š” ํ–‰๋™๊ณผ ๋ฏธ๋ž˜ ๋น„๋””์˜ค latent ์–‘์ชฝ์— flow matching์„ ๊ฑด๋‹ค. ๋ชฉํ‘œ ๋ณ€์ˆ˜ y์— ๋Œ€ํ•ด y_t=(1-t)y+t\epsilon (Eq. 5)๋กœ ๋ณด๊ฐ„ํ•˜๊ณ 

\mathcal{L}_{\mathrm{FM}}(y)=\mathbb{E}_{y,\epsilon,t}\left[\left\|f_\theta(y_t,t,o,l)-(\epsilon-y)\right\|_2^2\right]

๋ฅผ ์ตœ์†Œํ™”ํ•œ๋‹ค(Eq. 6). y=a_{1:H}๋ฉด \mathcal{L}_{\mathrm{act}}, y=z_{1:T}(VAE๊ฐ€ ๋ฝ‘์€ ๋ฏธ๋ž˜ ํ”„๋ ˆ์ž„ latent)๋ฉด \mathcal{L}_{\mathrm{vid}}์ด๊ณ , ์ „์ฒด ๋ชฉ์ ์€ \mathcal{L}=\mathcal{L}_{\mathrm{act}}+\lambda\mathcal{L}_{\mathrm{vid}} (Eq. 9)๋‹ค.

์ฃผ์š” ๊ฒฐ๊ณผ:

  • RoboTwin 2.0: Fast-WAM 91.8%(clean 91.88 / rand. 91.78). embodied pretraining์„ ์“ด LingBot-VA(92.2%)์— ๊ทผ์ ‘ํ•˜๊ณ , ์‚ฌ์ „ํ•™์Šต ์—†๋Š” baseline์€ ๋ชจ๋‘ ์•ž์„ ๋‹ค(Motus from WAN2.2 77.3%, LingBot-VA from WAN2.2 80.6%). โ€” Table 1
  • LIBERO: ํ‰๊ท  97.6%(Spatial 98.2 / Object 100.0 / Goal 97.0 / Long 95.2). \pi_{0.5}(96.9%)๋ฅผ ์•ž์„œ๊ณ  LingBot-VA(98.5%)ยทMotus(97.7%)์— ๊ทผ์ ‘. โ€” Table 2
  • ํ†ต์ œ ๋น„๊ต: Fast-WAM(91.8/97.6) vs Fast-WAM-Joint(90.6/98.5) vs Fast-WAM-IDM(91.3/98.0)๋Š” ์„œ๋กœ 1%p ์•ˆ์ชฝ. ๋ฐ˜๋ฉด ๋น„๋””์˜ค co-training ์ œ๊ฑฐ๋Š” 83.8%/93.5%๋กœ ํฌ๊ฒŒ ๋–จ์–ด์ง„๋‹ค. โ€” Table 1ยท2
  • ์‹ค์ œ ๋กœ๋ด‡(์ˆ˜๊ฑด ์ ‘๊ธฐ, Galaxea R1 Lite, ํ…”๋ ˆ์˜ต ์‹œ์—ฐ 60์‹œ๊ฐ„): co-training์„ ๋บ€ ๋ณ€ํ˜•์€ ์„ฑ๊ณต๋ฅ  10%๋กœ ๋ถ•๊ดดํ•˜๊ณ  ์™„๋ฃŒ ์‹œ๊ฐ„๋„ ๊ฐ€์žฅ ๊ธธ๋‹ค. ์ง€์—ฐ์€ Fast-WAM 190 ms vs Joint 580 ms vs IDM 810 ms(\pi_{0.5}๋Š” 180 ms). โ€” Fig. 4
  • ๋‹จ, ์ด ์‹ค์ œ ํƒœ์Šคํฌ์—์„œ ๊ฐ€์žฅ ๊ฐ•ํ•œ ๋ฐฉ๋ฒ•์€ ์‚ฌ์ „ํ•™์Šต๋œ \pi_{0.5}(์ตœ๊ณ  ์„ฑ๊ณต๋ฅ  + ์ตœ๋‹จ ์™„๋ฃŒ ์‹œ๊ฐ„)๋‹ค.

๊ฒฐ๋ก :

์„ธ ๋ณ€ํ˜•์˜ ์ฐจ์ด(โ‰ค1%p)๋ณด๋‹ค co-training ์œ ๋ฌด์˜ ์ฐจ์ด(8%p, ์‹ค๋ฌผ์—์„œ๋Š” ์„ฑ๊ณต๋ฅ  ๋ถ•๊ดด)๊ฐ€ ํ›จ์”ฌ ํฌ๋‹ค. ๋…ผ๋ฌธ์˜ ๊ฒฐ๋ก ์€ โ€œ๋น„๋””์˜ค ์˜ˆ์ธก์˜ ๊ฐ€์น˜๋Š” ํ…Œ์ŠคํŠธ ๋•Œ ๋ฏธ๋ž˜๋ฅผ ๊ทธ๋ฆฌ๋Š” ๋ฐ ์žˆ๋‹ค๊ธฐ๋ณด๋‹ค ํ•™์Šต ๋•Œ world-grounded ํ‘œํ˜„์„ ๋งŒ๋“œ๋Š” ๋ฐ ์žˆ๋Š” ๊ฒƒ ๊ฐ™๋‹คโ€๋Š” ๊ฒƒ์ด๋‹ค. ๊ทธ๋ ‡๋‹ค๋ฉด imagine-then-execute์˜ ์ถ”๋ก  ๋น„์šฉ์€ ๋Œ€์ฒด๋กœ ๋‚ญ๋น„์ด๋ฉฐ, ๊ฐ™์€ ์„ฑ๋Šฅ์„ 4๋ฐฐ ๋น ๋ฅด๊ฒŒ ์–ป์„ ์ˆ˜ ์žˆ๋‹ค.


๐Ÿ”” Ring Review

๐Ÿ”” Ring โ€” An idea that echoes. Grasp the core and its value.

ํ•œ ์ค„๋กœ ์‹œ์ž‘ํ•˜๋ฉด

โ€œ๋ฏธ๋ž˜๋ฅผ ์ƒ์ƒํ•˜๋Š” ์ •์ฑ…โ€์ด ์ข‹์•˜๋˜ ๊ฑด ์ƒ์ƒ ๋•Œ๋ฌธ์ด ์•„๋‹ˆ๋ผ ์ƒ์ƒํ•˜๋Š” ๋ฒ•์„ ๋ฐฐ์šด ๊ฒƒ ๋•Œ๋ฌธ์ผ์ง€ ๋ชจ๋ฅธ๋‹ค โ€” ๊ทธ๋ž˜์„œ ์ถ”๋ก ์—์„œ ์ƒ์ƒ์„ ๋–ผ์–ด๋‚ด๋„ ์„ฑ๋Šฅ์€ ๊ฑฐ์˜ ๊ทธ๋Œ€๋กœ๊ณ  ์†๋„๋Š” 4๋ฐฐ๊ฐ€ ๋œ๋‹ค.

๋ฐฐ๊ฒฝ: WAM์˜ ๋‘ ์š”์ธ์ด ์™œ ์—‰์ผœ ์žˆ์—ˆ๋‚˜

VLA ์ •์ฑ…์€ ์›น ์Šค์ผ€์ผ vision-language ์‚ฌ์ „ํ•™์Šต์˜ ์˜๋ฏธ๋ก ์  prior๋ฅผ ๋ฌผ๋ ค๋ฐ›์ง€๋งŒ, ๊ทธ ์‚ฌ์ „ํ•™์Šต์€ ๋Œ€๋ถ€๋ถ„ ์ •์  ์ด๋ฏธ์ง€-ํ…์ŠคํŠธ๋ผ โ€œํ–‰๋™์— ๋”ฐ๋ผ ์„ธ๊ณ„๊ฐ€ ์–ด๋–ป๊ฒŒ ๋ณ€ํ•˜๋Š”๊ฐ€โ€๋ฅผ ๋ช…์‹œ์ ์œผ๋กœ ๋ชจ๋ธ๋งํ•˜์ง€ ์•Š๋Š”๋‹ค(ยง2). ๊ทธ๋ž˜์„œ ๋ฏธ๋ž˜ ์‹œ๊ฐ ์˜ˆ์ธก์„ ์ •์ฑ…์— ๊ฒฐํ•ฉํ•˜๋Š” ๊ณ„์—ด์ด ๋‚˜์™”๊ณ , ๋…ผ๋ฌธ์€ [4]๋ฅผ ๋”ฐ๋ผ ์ด๋“ค์„ World Action Model์ด๋ผ ๋ถ€๋ฅธ๋‹ค.

๋ฌธ์ œ๋Š” ์ด ๊ณ„์—ด์ด ๋‘ ๊ฐ€์ง€๋ฅผ ๋™์‹œ์— ํ•œ๋‹ค๋Š” ๊ฒƒ์ด๋‹ค.

  1. ํ•™์Šต: ๋น„๋””์˜ค ์˜ˆ์ธก ๋ชฉ์ ํ•จ์ˆ˜๊ฐ€ ๋ฌผ๋ฆฌ์  ๋™์—ญํ•™ยท์ƒํ˜ธ์ž‘์šฉ ๊ตฌ์กฐ๋ฅผ ๋‹ด์€ ํ‘œํ˜„์„ ๋งŒ๋“ค๋„๋ก ์••๋ฐ•ํ•œ๋‹ค.
  2. ์ถ”๋ก : ๋ช…์‹œ์ ์œผ๋กœ ์ƒ์„ฑํ•œ ๋ฏธ๋ž˜๊ฐ€ ํ–‰๋™ ์˜ˆ์ธก์— ์ถ”๊ฐ€ foresight๋ฅผ ์ค€๋‹ค.

๊ฐ™์€ ๋ชจ๋ธ์ด ๋‘˜ ๋‹ค ํ•˜๋‹ˆ ์–ด๋А ์ชฝ์ด ์ด๋“์˜ ์›์ฒœ์ธ์ง€ ์•Œ ์ˆ˜ ์—†๋‹ค(ยง1). ๊ทธ๋ฆฌ๊ณ  2๋ฒˆ์€ ๊ณต์งœ๊ฐ€ ์•„๋‹ˆ๋‹ค โ€” ๋ฐ˜๋ณต ๋น„๋””์˜ค denoising์ด ์ œ์–ด ์ง€์—ฐ์— ๊ทธ๋Œ€๋กœ ์–นํžŒ๋‹ค.

์ด ๋…ผ๋ฌธ ์ด์ „์—๋„ ๋ถ€๋ถ„์  ์‹œ๋„๋Š” ์žˆ์—ˆ๋‹ค. VPP[34]๋Š” ๋น„๋””์˜ค ํ™•์‚ฐ ๋ชจ๋ธ์—์„œ ๋ฝ‘์€ ์˜ˆ์ธก์  ์‹œ๊ฐ ํ‘œํ˜„์— ์ •์ฑ…์„ ์กฐ๊ฑด ๊ฑธ๊ณ , UVA[35]๋Š” ๋น„๋””์˜ค์™€ ํ–‰๋™์„ ํ•จ๊ป˜ ๋ชจ๋ธ๋งํ•˜๋˜ ํ…Œ์ŠคํŠธ ๋•Œ ๋น„๋””์˜ค ๋””์ฝ”๋”ฉ์„ ๊ฑด๋„ˆ๋›ด๋‹ค(ยง2). Fast-WAM์ด ๋‹ค๋ฅธ ์ ์€ โ€œ๋น ๋ฅด๊ฒŒ ๋งŒ๋“ค์—ˆ๋‹คโ€๊ฐ€ ์•„๋‹ˆ๋ผ ๊ณต์œ  ํ”„๋ ˆ์ž„์›Œํฌ ์•ˆ์—์„œ ๋‘ ์š”์ธ์„ ํ†ต์ œ ๋น„๊ตํ–ˆ๋‹ค๋Š” ๋ฐ ์žˆ๋‹ค.

๋ฐฉ๋ฒ• ์ƒ์„ธ: ๋งˆ์Šคํฌ๊ฐ€ ์‹คํ—˜ ์„ค๊ณ„๋‹ค

์•„ํ‚คํ…์ฒ˜

๋ฐฑ๋ณธ์€ Wan2.2-5B[36]์˜ ๋น„๋””์˜ค DiT์ด๊ณ , ๊ทธ T5 ํ…์ŠคํŠธ ์ธ์ฝ”๋”์™€ ๋น„๋””์˜ค VAE๋„ ๊ทธ๋Œ€๋กœ ์žฌ์‚ฌ์šฉํ•œ๋‹ค. ์–ธ์–ด๋Š” cross-attention์œผ๋กœ ๋ชจ๋“  ํ† ํฐ์— ์ฃผ์ž…๋œ๋‹ค. ๊ทธ ์œ„์— action expert DiT๋ฅผ ์–น๋Š”๋ฐ, ๋น„๋””์˜ค ๋ธŒ๋žœ์น˜์™€ ๊ฐ™์€ ๊ตฌ์กฐ์ง€๋งŒ hidden dim์„ d_a=1024๋กœ ์ค„์—ฌ 1B์ด๊ณ , ์ „์ฒด ๋ชจ๋ธ์€ 6B๋‹ค(ยง4.1). ๋‘ ๋ธŒ๋žœ์น˜๋Š” shared attention์œผ๋กœ ๋ฌถ์ธ Mixture-of-Transformer(MoT)๋ฅผ ์ด๋ฃฌ๋‹ค.

ํ† ํฐ์€ ์„ธ ๊ทธ๋ฃน์ด๋‹ค.

  • ์ฒซ ๊ด€์ธก ํ”„๋ ˆ์ž„์˜ clean latent token โ€” ๊ณต์œ  ์‹œ๊ฐ ์•ต์ปค
  • ๋ฏธ๋ž˜ ํ”„๋ ˆ์ž„์˜ noisy latent token โ€” ํ•™์Šต์—๋งŒ ์กด์žฌ
  • action token โ€” action expert๊ฐ€ ์ฒ˜๋ฆฌ

Fast-WAM ์•„ํ‚คํ…์ฒ˜์™€ attention mask(Fig. 2) โ€” (a) Video DiT / Action DiT๊ฐ€ shared attention์œผ๋กœ ๋ฌถ์ธ MoT, ์–ธ์–ด๋Š” cross-attn. (b) ํ•™์Šต ๋งˆ์Šคํฌ์—์„œ a ํ–‰์€ f_1,\dots,f_h ์—ด์ด ๋น„์–ด ์žˆ๊ณ (ํ–‰๋™์ด ๋ฏธ๋ž˜๋ฅผ ๋ชป ๋ณธ๋‹ค), f_0 ํ–‰๋„ ๋ฏธ๋ž˜ ํ”„๋ ˆ์ž„ ์—ด๋งŒ ๋น„์–ด ์žˆ๋‹ค(f_0 ์ž์‹ ์€ ๋ณธ๋‹ค). ์ถ”๋ก  ๋งˆ์Šคํฌ์—๋Š” ๋ฏธ๋ž˜ ํ”„๋ ˆ์ž„ ์—ด ์ž์ฒด๊ฐ€ ์—†๋‹ค.

๋งˆ์Šคํฌ์˜ ์„ธ ๊ฐ€์ง€ ๊ทœ์น™

๊ตฌ์กฐํ™”๋œ attention mask๊ฐ€ ์ •๋ณด ํ๋ฆ„์„ ํ†ต์ œํ•œ๋‹ค(ยง3.2).

  1. ๋ฏธ๋ž˜ noisy ๋น„๋””์˜ค ํ† ํฐ์€ ๋น„๋””์˜ค ๋ธŒ๋žœ์น˜ ์•ˆ์—์„œ ์–‘๋ฐฉํ–ฅ์œผ๋กœ attendํ•˜๊ณ  clean ์ฒซ ํ”„๋ ˆ์ž„ ํ† ํฐ์— ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ๋‹ค.
  2. action ํ† ํฐ์€ ํ–‰๋™ ๋ธŒ๋žœ์น˜ ์•ˆ์—์„œ ์–‘๋ฐฉํ–ฅ์œผ๋กœ attendํ•˜๊ณ  clean ์ฒซ ํ”„๋ ˆ์ž„ ํ† ํฐ์— ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ๋‹ค.
  3. action ํ† ํฐ์€ ๋ฏธ๋ž˜ ๋น„๋””์˜ค ํ† ํฐ์— attendํ•  ์ˆ˜ ์—†๊ณ , clean ์ฒซ ํ”„๋ ˆ์ž„ ํ† ํฐ์€ ๋ฏธ๋ž˜ ํ”„๋ ˆ์ž„์„ ๋ณด์ง€ ์•Š๋Š”๋‹ค(์ž๊ธฐ ์ž์‹ , ์ฆ‰ ์ฒซ ํ”„๋ ˆ์ž„ ๋ธ”๋ก ์•ˆ์—์„œ๋Š” ์–‘๋ฐฉํ–ฅ์œผ๋กœ attendํ•œ๋‹ค โ€” ๋…ผ๋ฌธ ๋ฌธ์žฅ โ€œthe clean first-frame tokens do not attend to any other tokensโ€๋Š” โ€œ๋‹ค๋ฅธ ํ”„๋ ˆ์ž„์˜ ํ† ํฐโ€์œผ๋กœ ์ฝ์–ด์•ผ ํ•œ๋‹ค. ๊ณต๊ฐœ ๊ตฌํ˜„์˜ first_frame_causal ๋งˆ์Šคํฌ๋Š” ์ฒซ ํ”„๋ ˆ์ž„ ํ–‰์—์„œ ๋ฏธ๋ž˜ ํ”„๋ ˆ์ž„ ์—ด๋งŒ ์ง€์šฐ๊ณ , Fig. 2(b)์˜ f_0 ํ–‰์—์„œ๋„ f_0 ์นธ์€ ์ฑ„์›Œ์ ธ ์žˆ๋‹ค).

3๋ฒˆ์ด ์ด ๋…ผ๋ฌธ์˜ ์‹คํ—˜ ์„ค๊ณ„ ๊ทธ ์ž์ฒด๋‹ค. ํ•™์Šต ์ค‘์—๋„ ๋ฏธ๋ž˜ ์ •๋ณด๊ฐ€ ํ–‰๋™ ๋ธŒ๋žœ์น˜๋กœ ์ƒˆ์ง€ ์•Š์œผ๋ฏ€๋กœ, ๋น„๋””์˜ค ๋ชฉ์ ํ•จ์ˆ˜๋Š” ์˜ค์ง ๊ณต์œ  ๋ฐฑ๋ณธ์˜ ํ‘œํ˜„์„ ํ†ตํ•ด์„œ๋งŒ ํ–‰๋™์— ์˜ํ–ฅ์„ ์ค€๋‹ค. ๊ทธ๋ž˜์„œ โ€œํ•™์Šต ์‹ ํ˜ธ๋กœ์„œ์˜ ๋น„๋””์˜คโ€์™€ โ€œ์ž…๋ ฅ์œผ๋กœ์„œ์˜ ๋ฏธ๋ž˜โ€๊ฐ€ ๊นจ๋—ํ•˜๊ฒŒ ๋ถ„๋ฆฌ๋œ๋‹ค. ์ถ”๋ก ์—์„œ๋Š” ๋ฏธ๋ž˜ ๋น„๋””์˜ค ๋ธŒ๋žœ์น˜๋ฅผ ์•„์˜ˆ ์ธ์Šคํ„ด์Šคํ™”ํ•˜์ง€ ์•Š๊ณ , ์ฒซ ํ”„๋ ˆ์ž„ latent๋งŒ ๋ฐฑ๋ณธ์— ํ•œ ๋ฒˆ ํ†ต๊ณผ์‹œ์ผœ ๋‚˜์˜จ KV๋ฅผ action expert๊ฐ€ ์†Œ๋น„ํ•œ๋‹ค(Fig. 1(C)).

ํ†ต์ œ ๋ณ€ํ˜• 4์ข…

๊ฐ™์€ ํ”„๋ ˆ์ž„์›Œํฌ ์œ„์—์„œ (ยง3.3):

๋ณ€ํ˜• ์ถ”๋ก  ๊ตฌ์กฐ ๋Œ€์‘ ์„ ํ–‰ ์—ฐ๊ตฌ
Fast-WAM ์ฒซ ํ”„๋ ˆ์ž„ 1ํšŒ forward โ†’ ํ–‰๋™ denoising (์ œ์•ˆ)
Fast-WAM-Joint ๋ฏธ๋ž˜ ๋น„๋””์˜ค์™€ ํ–‰๋™์„ ํ•จ๊ป˜ denoising (videoโ†”๏ธŽaction attention ํ—ˆ์šฉ) [4, 6, 5]
Fast-WAM-IDM ๋ฏธ๋ž˜ ๋น„๋””์˜ค๋ฅผ ๋จผ์ € ์ƒ์„ฑ โ†’ ๊ทธ ํ‘œํ˜„์— ์กฐ๊ฑด ๊ฑธ์–ด ํ–‰๋™ [3, 7, 8]
w.o. video co-train Fast-WAM๊ณผ ๋™์ผ, ํ•™์Šต์—์„œ \mathcal{L}_{\mathrm{vid}}๋งŒ ์ œ๊ฑฐ (๋Œ€์กฐ๊ตฐ)

์•ž์˜ ์…‹์€ โ€œํ…Œ์ŠคํŠธ ๋•Œ ์ƒ์ƒํ•˜๋Š”๊ฐ€โ€๋งŒ ๋‹ค๋ฅด๊ณ , ๋งˆ์ง€๋ง‰ ํ•˜๋‚˜๋Š” โ€œํ•™์Šต ๋•Œ ๋น„๋””์˜ค๋ฅผ ๋ฐฐ์› ๋Š”๊ฐ€โ€๋งŒ ๋‹ค๋ฅด๋‹ค. 2ร—2๋ฅผ ๋‹ค ์ฑ„์šฐ์ง€๋Š” ์•Š์•˜์ง€๋งŒ(์ƒ์ƒํ•˜๋ฉด์„œ co-train ์•ˆ ํ•˜๋Š” ์กฐํ•ฉ์€ ๋ถˆ๊ฐ€๋Šฅํ•˜๋‹ค) ๋‘ ์ถ•์„ ๊ฐ๊ฐ ๊ฑด๋“œ๋ฆฌ๋Š” ์ตœ์†Œ ์„ค๊ณ„๋‹ค. ๋‹จ, ๋…ผ๋ฌธ์€ ๋‹จ์ผ action chunk ์ƒ์„ฑ์— ๊ตญํ•œํ•˜๊ณ  ์ผ๋ถ€ ์„ ํ–‰ WAM์ด ์“ฐ๋Š” ๋ฐ”๊นฅ์ชฝ auto-regressive rollout์€ ํ†ต์ œ ๋น„๊ต๋ฅผ ์œ„ํ•ด ์ƒ๋žตํ•œ๋‹ค(ยง3.1, ยง1).

ํ•™์Šตยท์ถ”๋ก  ์„ค์ •

action horizon h=32, ๋น„๋””์˜ค๋Š” ์‹œ๊ฐ„์ถ• 4ร— ๋‹ค์šด์ƒ˜ํ”Œ๋กœ chunk๋‹น 9ํ”„๋ ˆ์ž„, ๋ฉ€ํ‹ฐ ์นด๋ฉ”๋ผ ์ด๋ฏธ์ง€๋Š” ํ•˜๋‚˜๋กœ ์ด์–ด ๋ถ™์—ฌ VAE์— ๋„ฃ๋Š”๋‹ค. ๋…ธ์ด์ฆˆ ์Šค์ผ€์ค„์€ [36]์„ ๋”ฐ๋ผ logit-normal, ์ถ”๋ก ์€ 10 denoising step์— CFG scale 1.0(์ฆ‰ ์‚ฌ์‹ค์ƒ guidance๋ฅผ ๋ˆ ๊ฐ’). AdamW, lr 1\times10^{-4}, weight decay 0.01, cosine annealing, mixed precision, grad clip 1.0. ์ง€์—ฐ ์ธก์ •์€ ๋‹จ์ผ NVIDIA RTX 5090D V2 32GB. Fast-WAM-IDM์€ [3]์„ ๋”ฐ๋ผ GT ๋น„๋””์˜ค ํ† ํฐ์— ํ™•๋ฅ  p=0.5๋กœ noise augmentation์„ ์ค€๋‹ค(ยง4.1).

์ง๊ด€: ๋น„๋””์˜ค๋Š” ์ž…๋ ฅ์ด ์•„๋‹ˆ๋ผ ์ •์น™ํ™”๋‹ค

Fast-WAM์˜ ๊ฒฐ๊ณผ๋ฅผ ํ•œ ๋ฌธ์žฅ์œผ๋กœ ์˜ฎ๊ธฐ๋ฉด โ€œ๋น„๋””์˜ค ์˜ˆ์ธก์€ auxiliary task๋กœ์„œ ๊ฐ’์–ด์น˜๊ฐ€ ์žˆ๋‹คโ€๋Š” ๊ฒƒ์ด๋‹ค. ๋ฏธ๋ž˜๋ฅผ ๋งžํžˆ๋ ค๋ฉด ๋ฐฑ๋ณธ์€ ๋ฌผ์ฒด๊ฐ€ ์–ด๋””๋กœ ์›€์ง์ด๋Š”์ง€, ์ ‘์ด‰์ด ์–ด๋””์„œ ์ผ์–ด๋‚˜๋Š”์ง€๋ฅผ latent์— ๋‹ด์•„์•ผ ํ•œ๋‹ค. ๊ทธ latent๊ฐ€ ์ด๋ฏธ ๋งŒ๋“ค์–ด์ ธ ์žˆ๋‹ค๋ฉด, ์ถ”๋ก  ์‹œ์ ์— ๊ทธ๊ฑธ ํ”ฝ์…€๋กœ ๋””์ฝ”๋”ฉํ•ด ๋‹ค์‹œ ์ฝ๋Š” ์šฐํšŒ๋กœ๋Š” ์ •๋ณด๋ฅผ ๋”ํ•ด ์ฃผ์ง€ ์•Š๋Š”๋‹ค. ๋ฏธ๋ž˜ ํ”ฝ์…€์€ latent๊ฐ€ ์ด๋ฏธ ์•„๋Š” ๊ฒƒ์˜ ์†์‹ค ์žˆ๋Š” ๋ Œ๋”๋ง์— ๊ฐ€๊น๊ธฐ ๋•Œ๋ฌธ์ด๋‹ค.

์—ฌ๊ธฐ์— ๋งˆ์Šคํฌ ์„ค๊ณ„๊ฐ€ ํž˜์„ ๋ณดํƒ ๋‹ค. ํ•™์Šต ์ค‘์—๋„ ํ–‰๋™์€ ๋ฏธ๋ž˜ ํ† ํฐ์„ ๋ณธ ์ ์ด ์—†๋‹ค. ๊ทธ๋Ÿฌ๋‹ˆ Fast-WAM์€ ์ถ”๋ก ์—์„œ ๋ญ”๊ฐ€๋ฅผ ๋นผ์•—๊ธด ๊ฒŒ ์•„๋‹ˆ๋ผ, ์• ์ดˆ์— ์—†๋˜ ๊ฒƒ์„ ๊ณ„์† ์•ˆ ์“ฐ๋Š” ๊ฒƒ๋ฟ์ด๋‹ค. ๋ฐ˜๋Œ€๋กœ Joint/IDM ๋ณ€ํ˜•์€ ํ•™์Šตยท์ถ”๋ก  ๋ชจ๋‘์—์„œ ๋ฏธ๋ž˜๋ฅผ ์“ฐ๋Š”๋ฐ๋„ ๊ฒฐ๊ณผ๊ฐ€ ๊ฑฐ์˜ ๊ฐ™๋‹ค๋Š” ๊ฒƒ์ด ์ด ๋…ผ๋ฌธ์˜ ํ•ต์‹ฌ ๊ด€์ฐฐ์ด๋‹ค.

์‹คํ—˜: ๋ฒค์น˜๋งˆํฌ 3์ข…


์‹ค์ œ ์ˆ˜๊ฑด ์ ‘๊ธฐ ํƒœ์Šคํฌ(Fig. 3) โ€” Galaxea R1 Lite ์–‘ํŒ” ํ”Œ๋žซํผ์˜ ๋กค์•„์›ƒ. ๋ณ€ํ˜• ๋ฌผ์ฒด๋ฅผ ์ ‘์œผ๋ ค๋ฉด ์žฅ๊ธฐ ๊ณ„ํš๊ณผ ์ •๋ฐ€ํ•œ closed-loop ์กฐ์ž‘์ด ํ•จ๊ป˜ ํ•„์š”ํ•˜๋‹ค.
  • LIBERO[37]: 4๊ฐœ suite(Spatial/Object/Goal/Long), ๊ฐ 500 ์‹œ์—ฐยท10 ํƒœ์Šคํฌ. 20k step ํ•™์Šต, 40 ํƒœ์Šคํฌ์— ๊ฑธ์ณ ์ด 2000 trial ํ‰๊ฐ€.
  • RoboTwin 2.0[38]: 50๊ฐœ ๋„˜๋Š” ์–‘ํŒ” ํƒœ์Šคํฌ. clean 2,500 + ๊ฐ•ํ•œ ๋žœ๋คํ™” 25,000 ์‹œ์—ฐ ํ˜ผํ•ฉ์œผ๋กœ ๋ฉ€ํ‹ฐํƒœ์Šคํฌ ํ•™์Šต(30k step), ํƒœ์Šคํฌ๋‹น 100 trial์„ clean/randomized ์–‘์ชฝ์—์„œ ํ‰๊ฐ€. ํƒœ์Šคํฌ๋ณ„ ์ƒ์„ธ๋Š” ๋ถ€๋ก Table 3.
  • ์‹ค์ œ ๋กœ๋ด‡: Galaxea R1 Lite์—์„œ ์ˆ˜๊ฑด ์ ‘๊ธฐ. ํ…”๋ ˆ์˜ต ์‹œ์—ฐ 60์‹œ๊ฐ„, 30k step. ์„ฑ๊ณต๋ฅ ๊ณผ ํ‰๊ท  ์™„๋ฃŒ ์‹œ๊ฐ„์„ ํ•จ๊ป˜ ๋ณธ๋‹ค โ€” ์‹œํ–‰์ฐฉ์˜ค๋กœ ์šฐ๊ฒจ์„œ ๋๋‚ด๋Š” ์ •์ฑ…๊ณผ ํšจ์œจ์ ์œผ๋กœ ๋๋‚ด๋Š” ์ •์ฑ…์„ ๊ตฌ๋ถ„ํ•˜๊ธฐ ์œ„ํ•ด์„œ๋‹ค(ยง4.2).

์‹œ๋ฎฌ๋ ˆ์ด์…˜

RoboTwin์—์„œ Fast-WAM 91.8%๋Š” ์‚ฌ์ „ํ•™์Šต ์žˆ๋Š” Motus(87.8%)๋ฅผ ๋„˜๊ณ  ์‚ฌ์ „ํ•™์Šต๋œ LingBot-VA(92.2%)์— 0.4%p ์ฐจ๋กœ ๋ถ™๋Š”๋‹ค. ๊ฐ™์€ Wan2.2์—์„œ ์ถœ๋ฐœํ•ด embodied pretraining์„ ๋บ€ baseline๋“ค(77.3%, 80.6%)๊ณผ์˜ ๊ฒฉ์ฐจ๊ฐ€ 10%p ์ด์ƒ์ด๋ผ๋Š” ์ ์ด ๋ˆˆ์— ๋ˆ๋‹ค. LIBERO์—์„œ๋„ 97.6%๋กœ \pi_{0.5}(96.9%)๋ฅผ ์•ž์„ ๋‹ค. ์ฆ‰ embodied pretraining ์—†์ด ๊ทธ ์ด๋“์˜ ์ƒ๋‹น ๋ถ€๋ถ„์„ ํšŒ์ˆ˜ํ•œ๋‹ค๋Š” ์ฃผ์žฅ์ด๋‹ค(ยง4.3.1).

ํ†ต์ œ ๋น„๊ต(ยง4.3.2)์˜ ํŒจํ„ด์€ ๋‘ ๋ฒค์น˜๋งˆํฌ์—์„œ ์ผ๊ด€๋œ๋‹ค. RoboTwin์—์„œ 91.8 / 90.6 / 91.3(์„ธ ๋ณ€ํ˜•) vs 83.8(co-train ์ œ๊ฑฐ), LIBERO์—์„œ 97.6 / 98.5 / 98.0 vs 93.5. LIBERO์˜ ํ•˜๋ฝ์€ ํŠนํžˆ Spatial(98.2โ†’89.2)๊ณผ Long(95.2โ†’90.0)์—์„œ ๋‘๋“œ๋Ÿฌ์ง„๋‹ค โ€” ๊ณต๊ฐ„ ๊ด€๊ณ„์™€ ์žฅ๊ธฐ ํƒœ์Šคํฌ๊ฐ€ world ํ‘œํ˜„์— ๋” ์˜์กดํ•œ๋‹ค๋Š” ํ•ด์„๊ณผ ๋งž์•„๋–จ์–ด์ง„๋‹ค.

์‹ค๋ฌผ๊ณผ ์ง€์—ฐ


์‹ค์ œ ์ˆ˜๊ฑด ์ ‘๊ธฐ ๊ฒฐ๊ณผ(Fig. 4) โ€” ์™ผ์ชฝ์€ ์™„๋ฃŒ ์‹œ๊ฐ„ ๋Œ€ ์„ฑ๊ณต๋ฅ (์ขŒ์ƒ๋‹จ์ด ์ข‹์Œ), ์˜ค๋ฅธ์ชฝ์€ ์ถ”๋ก  ์ง€์—ฐ. \pi_{0.5}(์‚ฌ์ „ํ•™์Šต) 180 ms, Fast-WAM 190 ms, co-train ์ œ๊ฑฐ 190 ms, Joint 580 ms, IDM 810 ms.

์‹ค๋ฌผ์—์„œ๋Š” ์‚ฌ์ „ํ•™์Šต๋œ \pi_{0.5}๊ฐ€ ์ตœ๊ณ  ์„ฑ๊ณต๋ฅ ๊ณผ ์ตœ๋‹จ ์™„๋ฃŒ ์‹œ๊ฐ„์„ ๋ชจ๋‘ ๊ฐ€์ ธ๊ฐ„๋‹ค. Fast-WAM ๊ณ„์—ด ์•ˆ์—์„œ๋Š” IDM์ด ์„ฑ๊ณต๋ฅ ์ด ๊ฐ€์žฅ ๋†’๊ณ  Fast-WAM์ด ์™„๋ฃŒ ์‹œ๊ฐ„์ด ๋” ์ข‹๋‹ค. ์ค‘์š”ํ•œ ๊ฑด co-training์ด ์žˆ๋Š” ์„ธ ๋ณ€ํ˜• ๋ชจ๋‘๊ฐ€ ์‚ฌ์ „ํ•™์Šต ์—†๋Š” \pi_{0.5}๋ฅผ ํฌ๊ฒŒ ์•ž์„ ๋‹ค๋Š” ์ ์ด๊ณ , co-training์„ ๋บ€ ๋ณ€ํ˜•์€ ์„ฑ๊ณต๋ฅ  10%๋กœ ๋ถ•๊ดดํ•œ๋‹ค๋Š” ์ ์ด๋‹ค(ยง4.3.3). ์‹œ๋ฎฌ๋ ˆ์ด์…˜์—์„œ 8%p์˜€๋˜ ๊ฒฉ์ฐจ๊ฐ€ ์‹ค๋ฌผ ์žฅ๊ธฐ ํƒœ์Šคํฌ์—์„œ๋Š” ์งˆ์  ๋ถ•๊ดด๋กœ ๋‚˜ํƒ€๋‚œ๋‹ค.

์ง€์—ฐ์€ 190 ms vs 580/810 ms. ๋…ผ๋ฌธ์ด ๋งํ•˜๋Š” โ€œ4ร— fasterโ€๋Š” ์ž๊ธฐ ํ”„๋ ˆ์ž„์›Œํฌ๋กœ ๊ตฌํ˜„ํ•œ IDM ๋ณ€ํ˜•(810 ms) ๋Œ€๋น„๋‹ค.

๋ง๋ถ™์ด๋ฉด, ์ด ๋ฐฐ์ˆ˜๋Š” ์ปดํŒŒ์ผ ์„ค์ •์— ์˜์กดํ•œ๋‹ค. ๊ณต๊ฐœ ๊ตฌํ˜„์—์„œ Fast-WAM ๊ฒฝ๋กœ๋งŒ torch.compile(..., mode="reduce-overhead")(CUDA Graph)๋กœ ์ปดํŒŒ์ผ๋˜๊ณ  IDM ๊ฒฝ๋กœ์˜ ๊ฐ™์€ ๋‘ ํ•จ์ˆ˜์—๋Š” mode ์ธ์ž๊ฐ€ ์—†๋‹ค. ์‹ค์ œ๋กœ RTX 5090์—์„œ ๊ณต๊ฐœ ์ฒดํฌํฌ์ธํŠธ๋กœ ์žฌ์–ด ๋ณด๋ฉด shipped default(์ปดํŒŒ์ผ)์—์„œ๋Š” 73.1 ms vs 365.0 ms๋กœ 5.0๋ฐฐ์ง€๋งŒ, eager๋กœ ๋Œ๋ฆฌ๋ฉด 1.9๋ฐฐ์— ๊ทธ์นœ๋‹ค. ๋ฐฐ์ˆ˜์˜ ๋ฐฉํ–ฅ์€ ๋…ผ๋ฌธ ์ฃผ์žฅ๊ณผ ๊ฐ™์ง€๋งŒ ๊ทธ ํฌ๊ธฐ์˜ ์ผ๋ถ€๋Š” ์•„ํ‚คํ…์ฒ˜๊ฐ€ ์•„๋‹ˆ๋ผ ์ตœ์ ํ™” ๋…ธ๋ ฅ์˜ ๋น„๋Œ€์นญ์—์„œ ์˜จ๋‹ค.

๋น„ํŒ์ ์œผ๋กœ ๋ณด๋ฉด

๊ฐ•์ 

  • ์งˆ๋ฌธ ์„ค๊ณ„๊ฐ€ ์ข‹๋‹ค. โ€œ๋” ์ข‹์€ WAMโ€์ด ์•„๋‹ˆ๋ผ โ€œWAM์˜ ์ด๋“์ด ์–ด๋””์„œ ์˜ค๋Š”๊ฐ€โ€๋ฅผ ๋ฌป๊ณ , ๊ทธ๊ฑธ attention mask ํ•˜๋‚˜๋กœ ์‹คํ—˜ ๊ฐ€๋Šฅํ•œ ํ˜•ํƒœ๋กœ ๋งŒ๋“ค์—ˆ๋‹ค. ๋งˆ์Šคํฌ ๊ทœ์น™ 3๋ฒˆ(ํ–‰๋™โ†”๏ธŽ๋ฏธ๋ž˜ ์ฐจ๋‹จ)์ด ์—†์—ˆ๋‹ค๋ฉด ํ†ต์ œ ๋น„๊ต๋Š” ์„ฑ๋ฆฝํ•˜์ง€ ์•Š๋Š”๋‹ค.
  • ๋น„๊ต๊ฐ€ ๊ณต์ •ํ•œ ๋ฐฉํ–ฅ์œผ๋กœ ์„ค๊ณ„๋๋‹ค. ๋ฐฑ๋ณธยทํ† ํฌ๋‚˜์ด์ €ยทํ•™์Šต ๋ ˆ์‹œํ”ผ๋ฅผ ๋งž์ถ˜ ์ž์ฒด ๊ตฌํ˜„ ๋ณ€ํ˜•์„ ์“ด๋‹ค. ์„œ๋กœ ๋‹ค๋ฅธ ๋…ผ๋ฌธ์˜ ์ˆซ์ž๋ฅผ ๋‚˜๋ž€ํžˆ ๋†“๊ณ  โ€œ์šฐ๋ฆฌ๊ฐ€ ๋น ๋ฅด๋‹คโ€๊ณ  ํ•˜๋Š” ํ”ํ•œ ํ•จ์ •์„ ํ”ผํ–ˆ๋‹ค.
  • ์Œ์˜ ๊ฒฐ๊ณผ์— ์ •์งํ•˜๋‹ค. ์‹ค๋ฌผ์—์„œ \pi_{0.5}๊ฐ€ ์ž๊ธฐ๋ณด๋‹ค ๋‚ซ๋‹ค๋Š” ๊ฒƒ, LIBERO์—์„œ Joint/IDM์ด ์ž๊ธฐ๋ณด๋‹ค ์•ฝ๊ฐ„ ๋†’๋‹ค๋Š” ๊ฒƒ์„ ๊ทธ๋Œ€๋กœ ์ ๋Š”๋‹ค.
  • ์žฌํ˜„ ๊ฐ€๋Šฅ์„ฑ์ด ๋†’๋‹ค. MIT ๋ผ์ด์„ ์Šค, LIBERO/RoboTwin ๋ฐ์ดํ„ฐ์…‹๊ณผ ์ฒดํฌํฌ์ธํŠธ๊ฐ€ HuggingFace์— ๊ณต๊ฐœ๋ผ ์žˆ๋‹ค.

์•ฝ์ ยทํ•œ๊ณ„

  • โ€œ๋ฏธ๋ž˜ ์ƒ์ƒ์€ ํ•„์š” ์—†๋‹คโ€๋Š” ๊ฒฐ๋ก ์ด ๋ฐ์ดํ„ฐ๋ณด๋‹ค ํ•œ ๊ฑธ์Œ ์•ž์„œ ์žˆ๋‹ค. ์‚ฌ์‹ค ๋„ค ๋น„๊ต ์ค‘ ์…‹์—์„œ imagine-then-execute๊ฐ€ ๋ฏธ์„ธํ•˜๊ฒŒ ๋” ๋†’๋‹ค(LIBERO 98.5ยท98.0 vs 97.6, ์‹ค๋ฌผ ์„ฑ๊ณต๋ฅ  IDM ์ตœ๊ณ ). ๊ฒฉ์ฐจ๊ฐ€ ์ž‘์„ ๋ฟ ๋ฐฉํ–ฅ์€ ์ผ๊ด€๋˜๊ฒŒ ์ƒ์ƒ ์ชฝ์ด๋‹ค. ๋…ผ๋ฌธ ํ‘œํ˜„์€ โ€œcompetitiveโ€๋กœ ์‹ ์ค‘ํ•˜์ง€๋งŒ, ์ œ๋ชฉ์ด ๋˜์ง€๋Š” ์ˆ˜์‚ฌ(โ€œNeed?โ€)๋Š” ๊ทธ๋ณด๋‹ค ๊ฐ•ํ•œ ์ธ์ƒ์„ ์ค€๋‹ค. trial ์ˆ˜(LIBERO 2000, RoboTwin ํƒœ์Šคํฌ๋‹น 100)์— ๋Œ€ํ•œ ์‹ ๋ขฐ๊ตฌ๊ฐ„์ด๋‚˜ seed๋ณ„ ๋ถ„์‚ฐ์ด ์ „ํ˜€ ์—†์–ด 1%p ์ฐจ์ด๊ฐ€ ๋…ธ์ด์ฆˆ์ธ์ง€ ์‹ค์ œ ์—ด์„ธ์ธ์ง€ ํŒ๋ณ„ํ•  ์ˆ˜ ์—†๋‹ค.
  • ์‹ค๋ฌผ ๊ฒฐ๊ณผ๊ฐ€ ๊ทธ๋ฆผ ํ•˜๋‚˜๋ฟ์ด๋‹ค. ยง4.3.3์˜ ์„ฑ๊ณต๋ฅ ยท์™„๋ฃŒ ์‹œ๊ฐ„์€ ํ‘œ๊ฐ€ ์•„๋‹ˆ๋ผ Fig. 4์˜ ์‚ฐ์ ๋„๋กœ๋งŒ ์ œ์‹œ๋œ๋‹ค. ์ •ํ™•ํ•œ ์ˆ˜์น˜๋ฅผ ์ฝ์„ ์ˆ˜ ์—†๊ณ , trial ์ˆ˜๋„ ๋ณธ๋ฌธ์— ์—†๋‹ค. ์‹ค๋ฌผ ํƒœ์Šคํฌ๋„ ์ˆ˜๊ฑด ์ ‘๊ธฐ ๋‹จ ํ•˜๋‚˜๋‹ค.
  • \lambda๋Š” ํŠœ๋‹๋œ ์ ์ด ์—†๋‹ค. Eq. 9์˜ co-training ๊ฐ€์ค‘์น˜ \lambda๊ฐ€ ๋…ผ๋ฌธ์˜ ํ•ต์‹ฌ ์†์žก์ด์ธ๋ฐ ๋ณธ๋ฌธ์— ๊ฐ’๋„ ๋ฏผ๊ฐ๋„ ๋ถ„์„๋„ ์—†๋‹ค. ๊ณต๊ฐœ ์ฝ”๋“œ๋ฅผ ์—ด์–ด ๋ณด๋ฉด ๋‹ต์ด ๋‚˜์˜ค๋Š”๋ฐ, ๋‹ต์ด ๊ณง ๋ฌธ์ œ๋‹ค โ€” ๋ฐฐํฌ๋œ model config 4์ข… ๋ชจ๋‘ \lambda=1์ด๋‹ค(ํ•œ ๊ณณ์—๋งŒ lambda_video: 1.0์ด ๋ช…์‹œ๋ผ ์žˆ๊ณ  ๋‚˜๋จธ์ง€๋Š” ํด๋ž˜์Šค ๊ธฐ๋ณธ๊ฐ’ 1.0์œผ๋กœ ๋–จ์–ด์ง„๋‹ค). ์ฆ‰ โ€œ๋…ผ๋ฌธ์ด ์ˆจ๊ธด ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐโ€๊ฐ€ ์•„๋‹ˆ๋ผ 1๋กœ ๋‘๊ณ  ํƒ์ƒ‰ํ•˜์ง€ ์•Š์€ ์ƒ์ˆ˜๋‹ค. ๊ทธ๋ ‡๋‹ค๋ฉด โ€œ๋น„๋””์˜ค co-training์ด ์ค‘์š”ํ•˜๋‹คโ€๋Š” ์ฃผ์žฅ์€ \lambda>0 vs \lambda=0์ด๋ผ๋Š” ์ด๋ถ„๋ฒ•์œผ๋กœ๋งŒ ๊ฒ€์ฆ๋œ ์…ˆ์ด๊ณ , ์ ์ ˆํ•œ \lambda์—์„œ ๊ฒฉ์ฐจ๊ฐ€ ๋” ๋ฒŒ์–ด์ง€๋Š”์ง€ ์ค„์–ด๋“œ๋Š”์ง€๋Š” ์•„๋ฌด๋„ ๋ชจ๋ฅธ๋‹ค.
  • ์ •์ž‘ ๊ฒฐ๋ก ์„ ๋– ๋ฐ›์น˜๋Š” arm์ด ๊ณต๊ฐœ ์„ค์ •์— ์—†๋‹ค. ๋ ˆํฌ์˜ configs/task/์— ์žˆ๋Š” LIBERO ์„ค์ •์€ uncond(=Fast-WAM)ยทjointยทidmยทoptional_idm 4์ข…์ด๊ณ , ํšจ๊ณผ ํฌ๊ธฐ๊ฐ€ ๊ฐ€์žฅ ํฐ ์‹คํ—˜์ธ w.o. video co-train(\lambda=0)์— ํ•ด๋‹นํ•˜๋Š” config๊ฐ€ ์—†๋‹ค. ๋…ผ๋ฌธ์˜ ํ•ต์‹ฌ ๊ฒฐ๋ก (โ€œ์ƒ์ƒ ์ œ๊ฑฐ๋ณด๋‹ค co-training ์ œ๊ฑฐ๊ฐ€ ํ›จ์”ฌ ์น˜๋ช…์ โ€)์„ ๋’ท๋ฐ›์นจํ•˜๋Š” ๋ฐ”๋กœ ๊ทธ ๋Œ€์กฐ๊ตฐ์ด ๊ณต๊ฐœ ์ฝ”๋“œ๋กœ๋Š” ํ•œ ๋ฒˆ์— ์žฌํ˜„๋˜์ง€ ์•Š๋Š”๋‹ค โ€” ์ง์ ‘ config๋ฅผ ๋งŒ๋“ค์–ด ๋Œ๋ ค์•ผ ํ•œ๋‹ค. ๋‚˜๋จธ์ง€ ์„ธ ๋ณ€ํ˜•์ด ๊ทธ๋Œ€๋กœ ๊ณต๊ฐœ๋œ ๊ฒƒ๊ณผ ๋Œ€๋น„๋œ๋‹ค.
  • ๋น„๋””์˜ค ์˜ˆ์ธก ํ’ˆ์งˆ์„ ์•„๋ฌด๋„ ์•ˆ ๋ณธ๋‹ค. ๋ฐฑ๋ณธ์ด ์‹ค์ œ๋กœ ์–ผ๋งˆ๋‚˜ ์ข‹์€ ๋ฏธ๋ž˜๋ฅผ ์˜ˆ์ธกํ•˜๊ฒŒ ๋๋Š”์ง€(FVD ๋“ฑ), ๊ทธ ํ’ˆ์งˆ๊ณผ ํ–‰๋™ ์„ฑ๋Šฅ์˜ ์ƒ๊ด€์€ ๋ณด๊ณ ๋˜์ง€ ์•Š๋Š”๋‹ค. โ€œํ‘œํ˜„์ด ์ข‹์•„์กŒ๋‹คโ€๋Š” ์ฃผ์žฅ์˜ ์ง์ ‘ ์ฆ๊ฑฐ๊ฐ€ ์—†๊ณ  ํ•˜๋ฅ˜ ์„ฑ๋Šฅ์˜ ๊ฐ„์ ‘ ์ฆ๊ฑฐ๋งŒ ์žˆ๋‹ค.
  • auto-regressive rollout์„ ๋บ๋‹ค. ์—ฌ๋Ÿฌ ์‹ค์ œ WAM์€ chunk๋ฅผ ์ด์–ด ๋ถ™์ด๋ฉฐ ์ƒ์ƒ-์‹คํ–‰์„ ๋ฐ˜๋ณตํ•˜๋Š”๋ฐ, ๋…ผ๋ฌธ์€ ๋‹จ์ผ chunk๋กœ ํ•œ์ •ํ•œ๋‹ค(ยง3.1). ์žฅ๊ธฐ ํƒœ์Šคํฌ์—์„œ ๋ฏธ๋ž˜ ์ƒ์ƒ์˜ ๊ฐ’์–ด์น˜๋Š” ๋ฐ”๋กœ ๊ทธ ๋ฐ”๊นฅ ๋ฃจํ”„์—์„œ ๋‚˜์˜ฌ ์ˆ˜ ์žˆ์œผ๋ฏ€๋กœ, ๊ฒฐ๋ก ์˜ ์ ์šฉ ๋ฒ”์œ„๋Š” ์ €์ž๊ฐ€ ๋ช…์‹œํ•œ ๋Œ€๋กœ ์ข๊ฒŒ ์ฝ์–ด์•ผ ํ•œ๋‹ค.
  • โ€œ4ร— fasterโ€์˜ ๊ธฐ์ค€์ด ์ž๊ธฐ ๋ณ€ํ˜•์ด๋‹ค. ์‹ค์ œ ๋ฐฐํฌ๋œ MotusยทLingBot-VA ๋“ฑ์˜ ์ง€์—ฐ๊ณผ ์ง์ ‘ ๋น„๊ตํ•œ ํ‘œ๋Š” ์—†๋‹ค. ๋˜ 190 ms๋Š” RTX 5090D V2 ํ•œ ์žฅ์—์„œ 10 denoising stepยทCFG 1.0 ๊ธฐ์ค€์ด๋ฉฐ, CFG๋ฅผ ์ผœ๋ฉด ๋ฐฐ๊ฐ€ ๋œ๋‹ค.
  • ๋น„์šฉ์˜ ๋‹ค๋ฅธ ์ ˆ๋ฐ˜์ด ์•ˆ ๋ณด์ธ๋‹ค. ์ถ”๋ก ์€ 4๋ฐฐ ๋นจ๋ผ์กŒ์ง€๋งŒ ํ•™์Šต์—์„œ๋Š” ์—ฌ์ „ํžˆ 6B ๋ชจ๋ธ๋กœ ๋ฏธ๋ž˜ ๋น„๋””์˜ค๊นŒ์ง€ denoisingํ•œ๋‹ค. ์ฝ”๋“œ README ๊ธฐ์ค€ RoboTwin ํ•™์Šต์— 64 GPU๋ฅผ ์ผ๋‹ค๊ณ  ๋ฐํžˆ๋Š”๋ฐ, ๋…ผ๋ฌธ ๋ณธ๋ฌธ์—๋Š” ํ•™์Šต ์ž์›ยท์‹œ๊ฐ„์ด ์—†๋‹ค.

๊ด€๋ จ ์—ฐ๊ตฌ์™€์˜ ์ž๋ฆฌ ๋งค๊น€

  • World model ๊ณ„์—ด: DreamDojo๊ฐ€ ๋Œ€๊ทœ๋ชจ ์ธ๊ฐ„ ์˜์ƒ์œผ๋กœ ์ผ๋ฐ˜ ๋กœ๋ด‡ world model์„ ํ•™์Šตํ•ด ์ •์ฑ… ํ‰๊ฐ€ยท๋กค์•„์›ƒ๊นŒ์ง€ ๋ฐ€์–ด๋ถ™์ด๋Š” ์ชฝ์ด๋ผ๋ฉด, Fast-WAM์€ ์ •๋ฐ˜๋Œ€๋กœ world model์„ ์ถ”๋ก ์—์„œ ์ง€์›Œ๋„ ๋˜๋Š”๊ฐ€๋ฅผ ๋ฌป๋Š”๋‹ค. ๋‘ ๋…ผ๋ฌธ์€ ๊ฐ™์€ ์žฌ๋ฃŒ(๋น„๋””์˜ค ํ™•์‚ฐ ๋ฐฑ๋ณธ)๋ฅผ ์ •๋ฐ˜๋Œ€ ๋ฐฉํ–ฅ์œผ๋กœ ์“ด๋‹ค.
  • VLAยทํ”„๋ ˆ์ž„์›Œํฌ: StarVLA๊ฐ€ VLA ๊ตฌ์„ฑ์š”์†Œ๋ฅผ ๋ ˆ๊ณ ์ฒ˜๋Ÿผ ๊ฐˆ์•„ ๋ผ์›Œ ๋น„๊ตํ•˜๋Š” ์ฝ”๋“œ๋ฒ ์ด์Šค๋ผ๋ฉด, Fast-WAM์€ ๊ทธ ์ •์‹ ์„ WAM ์„ค๊ณ„ ์ถ• ํ•˜๋‚˜(ํ…Œ์ŠคํŠธ ๋•Œ ์ƒ์ƒ ์œ ๋ฌด)์— ์ ์šฉํ•œ ๋‹จ์ผ ๋…ผ๋ฌธํŒ ablation์ด๋‹ค. ๋‘ ์—ฐ๊ตฌ ๋ชจ๋‘ โ€œ๊ณต์œ  ํ”„๋ ˆ์ž„์›Œํฌ ์œ„์—์„œ๋งŒ ๋น„๊ต๊ฐ€ ์˜๋ฏธ ์žˆ๋‹คโ€๋Š” ์ „์ œ๋ฅผ ๊ณต์œ ํ•œ๋‹ค.
  • Flow matching ์ •์ฑ…: ํ–‰๋™ ์ƒ์„ฑ์€ \pi_0 ๊ณ„์—ด๊ณผ ๊ฐ™์€ flow matching์ด๋‹ค(Eq. 5~7). ์ด ๋ชฉ์ ํ•จ์ˆ˜๋ฅผ RL๋กœ ํŒŒ์ธํŠœ๋‹ํ•˜๋Š” ์ชฝ ์ด์•ผ๊ธฐ๋Š” ReinFlow ๋ฆฌ๋ทฐ์— ์ •๋ฆฌํ•ด ๋‘์—ˆ๋‹ค โ€” Fast-WAM์€ ์ˆœ์ˆ˜ ๋ชจ๋ฐฉํ•™์Šต์ด๋ผ ๊ทธ ์ถ•๊ณผ๋Š” ์ง๊ตํ•œ๋‹ค.
  • ๋ณ€ํ˜• ๋ฌผ์ฒด ์กฐ์ž‘: ์‹ค๋ฌผ ํƒœ์Šคํฌ๊ฐ€ ์ˆ˜๊ฑด ์ ‘๊ธฐ๋ผ๋Š” ์ ์—์„œ Learning to Fold์™€ ๊ฒน์น˜๋Š”๋ฐ, ๊ทธ์ชฝ์ด sim2realยทhuman-in-the-loop๋กœ ์ ‘๋Š” ๋ฌธ์ œ๋ฅผ ํ‘ผ๋‹ค๋ฉด Fast-WAM์€ 60์‹œ๊ฐ„ ํ…”๋ ˆ์˜ต ์‹œ์—ฐ์˜ ์ˆœ์ˆ˜ ๋ชจ๋ฐฉ์œผ๋กœ ์ ‘๋Š”๋‹ค.
  • ์„ ํ–‰ WAM: ๋…ผ๋ฌธ์ด ์žฌ๊ตฌํ˜„ํ•œ ๋‘ ํŒจ๋Ÿฌ๋‹ค์ž„์€ ๊ฐ๊ฐ joint denoising ๊ณ„์—ด[4, 6, 5]๊ณผ video-then-action ๊ณ„์—ด[3, 7, 8]์ด๋ฉฐ, ๋ถ€๋ถ„์ ์œผ๋กœ ์ƒ์ƒ ๋น„์šฉ์„ ์ค„์ด๋ ค ํ•œ VPP[34]ยทUVA[35]์™€๋„ ์ธ์ ‘ํ•˜๋‹ค.

์š”์•ฝ

Fast-WAM์˜ ๊ธฐ์—ฌ๋Š” ๋ชจ๋ธ์ด ์•„๋‹ˆ๋ผ ๋ถ„๋ฆฌ๋‹ค. attention mask ํ•˜๋‚˜๋กœ โ€œํ•™์Šต ๋•Œ์˜ ๋น„๋””์˜ค ์˜ˆ์ธกโ€๊ณผ โ€œ์ถ”๋ก  ๋•Œ์˜ ๋ฏธ๋ž˜ ์ƒ์„ฑโ€์„ ๋–ผ์–ด ๋†“๊ณ , ๊ฐ™์€ ํ”„๋ ˆ์ž„์›Œํฌ์—์„œ ๋„ค ๋ณ€ํ˜•์„ ๋Œ๋ ค ์ „์ž๊ฐ€ ํ›จ์”ฌ ํฌ๋‹ค๋Š” ๊ฒƒ์„ ๋ณด์˜€๋‹ค. RoboTwin 91.8%ยทLIBERO 97.6%๋ฅผ embodied pretraining ์—†์ด 190 ms์— ๋‚ด๋Š” ๊ฒƒ์€ ๊ทธ ์ž์ฒด๋กœ ์ข‹์€ ๋ฐฐํฌ ์ง€์ ์ด๋‹ค.

๋‹ค๋งŒ ๊ฒฐ๋ก ์˜ ๊ฐ•๋„๋Š” ์กฐ์‹ฌํ•ด์„œ ์ฝ์–ด์•ผ ํ•œ๋‹ค. ์ƒ์ƒ์„ ๋ถ™์ธ ๋ณ€ํ˜•์ด ๋Œ€๋ถ€๋ถ„์˜ ์ง€ํ‘œ์—์„œ ๊ทผ์†Œํ•˜๊ฒŒ ๋” ๋‚ซ๊ณ , ๋ถ„์‚ฐ ๋ณด๊ณ ๊ฐ€ ์—†์œผ๋ฉฐ, ๋‹จ์ผ chunkยท๋‹จ์ผ ์‹ค๋ฌผ ํƒœ์Šคํฌ๋ผ๋Š” ์ข์€ ์กฐ๊ฑด์—์„œ ์–ป์€ ๊ฒฐ๊ณผ๋‹ค. ์ €์ž ์ž์‹ ์ด ๋งˆ์ง€๋ง‰ ๋ฌธ์žฅ์—์„œ โ€œ๋” ํฐ ์‚ฌ์ „ํ•™์Šต ๋ฐ์ดํ„ฐ์™€ ๋ชจ๋ธ ์Šค์ผ€์ผ์—์„œ ์ด ์„ค๊ณ„๊ฐ€ ์–ด๋–ป๊ฒŒ ๋˜๋Š”์ง€๊ฐ€ ํ–ฅํ›„ ๊ณผ์ œโ€๋ผ๊ณ  ์ ์€ ๊ฒƒ๋„ ๊ฐ™์€ ๋งฅ๋ฝ์ผ ๊ฒƒ์ด๋‹ค. ์ง€๊ธˆ ์‹œ์ ์˜ ์ •ํ™•ํ•œ ๊ตํ›ˆ์€ โ€œ๋ฏธ๋ž˜ ์ƒ์ƒ์€ ํ•„์š” ์—†๋‹คโ€๊ฐ€ ์•„๋‹ˆ๋ผ โ€œ๋น„๋””์˜ค ์˜ˆ์ธก์€ ์ถ”๋ก  ์˜ˆ์‚ฐ์ด ์•„๋‹ˆ๋ผ ํ•™์Šต ์˜ˆ์‚ฐ์— ์“ฐ๋Š” ํŽธ์ด ํ›จ์”ฌ ๋‚จ๋Š”๋‹คโ€ ์ชฝ์ด๋‹ค.

Copyright 2026, JungYeon Lee