๐GaP (Graph-as-Policy) ๋ฆฌ๋ทฐ
์ ์: Kaiyuan Chen*, Shuangyu Xie*, Letian Fu, Justin Yu, William Pacini, โฆ Yuke Zhu, Linxi โJimโ Fan, Ken Goldberg (์ด 25์ธ, * ๊ณต๋ 1์ ์)
UC Berkeley ยท NVIDIA ยท CMU ยท Bosch, arXiv preprint (cs.RO), 2026
- ๐ก ๊ณ ์ ์๋ํ(Fixed Automation)์ ์ ๋๋ด๋ฆฌ์คํธ ๋ก๋ณดํฑ์ค(GR) ์ฌ์ด์ ์๋ Variational Automation(VA) โ ๊ฐ์ฒด ๊ธฐํยทํฌ์ฆ๊ฐ ๋ณํ์ง๋ง ๋ฐ๋ณต์ ์ผ๋ก ์ ๋ขฐ์ฑ ์๊ฒ ์คํ๋ผ์ผ ํ๋ ์ฐ์ /์์ ํ์คํฌ โ ๋ฅผ, ์์ ํ ์ฝ๋ ์์ฑ ๋์ ๋ก๋ด ์ฐ์ฐ์ ๋ ธ๋๋ก ๊ฐ๋ ๊ฒ์ฆ ๊ฐ๋ฅํ ๊ณ์ฐ ๊ทธ๋ํ(Graph-as-Policy) ๋ฅผ LLM ๋ฉํฐ์์ด์ ํธ๊ฐ ํฉ์ฑยท์ ์ ํด ํผ๋ค.
- โ๏ธ Orchestration Agent๊ฐ ์์ฐ์ด ํ์คํฌ๋ฅผ ๊ธฐ๋ฅ ์ธ๊ทธ๋จผํธ๋ก ๋ถํ โ Skill Agent๋ค์ด MORSL(51๊ฐ ์คํฌ ๋ผ์ด๋ธ๋ฌ๋ฆฌ)์์ ์์ ๋ ธ๋๋ฅผ ๊ณจ๋ผ ๊ตญ์ subgraph๋ฅผ ํฉ์ฑ โ ์ค์ผ์คํธ๋ ์ดํฐ๊ฐ ์ด๋ฅผ ์คํ ๊ทธ๋ํ \mathcal{G}๋ก ๋ฐฐ์ โ Isaac ์๋ฎฌ ๋ด๋ถ์์ N๊ฐ ์ธ์คํด์ค๋ฅผ ๋ณ๋ ฌ ๋ฆฌํ์คํ๋ฉฐ ์คํจ๋ฅผ ๋ถ์ํด ๊ทธ๋ํ ๊ตฌ์กฐยทํ๋ผ๋ฏธํฐ๋ฅผ ๋ฐ๋ณต ๊ฐฑ์ (\mathcal{G}_0\to\mathcal{G}^*), ์ต์ข ๊ทธ๋ํ๋ ์์ด์ ํธ ์์ด ์ฃ์ง ์ธํฐํ๋ฆฌํฐ๋ก ๋ฐ๋ณต ์คํ.
- ๐ฏ 8๊ฐ ์ ๊ท VA ๋ฒค์น๋งํฌ(์๋ฎฌ 4 + ์ค๋ฌผ 4), ์ด 5,500+ trial์์ GaP๋ ํฌ์ฆ ๋ณ์ด๊ฐ ์๋ Grocery ํ์คํฌ ์๋ฎฌ ์ฑ๊ณต๋ฅ 0.93โ0.99(ฯ0.5ยทMolmoAct2๋ ์ต์ 0.20, TipTop๋ 0.22โ0.46), ์ค๋ฌผ Fulfill 25/25ยทPack 28/30ยทPopcorn 18/20(TipTop 8/25ยท10/30ยท0/20), ์ผ์ด๋ธ ์ฝ์ 121/130(0.93), ์ํ ํฌ๋ ์ดํธ ์ธ์ฒ 0.95๋ก ์ ๋ฌธ๊ฐ ์์์ ๊ทธ๋ํ(0.99)์ ๊ทผ์ .
๐ Ping Review
๐ Ping โ A light tap on the surface. Get the gist in seconds.
๋ก๋ด ํ์ต ์ฐ๊ตฌ์ ๋๋ถ๋ถ์ ์ ๋๋ด๋ฆฌ์คํธ ๋ก๋ณดํฑ์ค(GR) โ ๋ค์ํ ํ๊ฒฝ์์ ์จ๊ฐ ํ์คํฌ๋ฅผ ํ๋์ model-free VLA๋ก ์ฒ๋ฆฌ โ ๋ฅผ ๊ฒจ๋ฅํ๋ค. ํ์ง๋ง ์์ ํ ์ ๋๋ด๋ฆฌ์คํธ ๋ก๋ด์ ์์ง ์์ /์ฐ์ ์์ค์ ์ ๋ขฐ์ฑ์ ๋๋ฌํ์ง ๋ชปํ๋ค. ๋ฐ๋ํธ ๊ทน๋จ์๋ ๋์ผํ ๋์์ ๋งน๋ชฉ์ ์ผ๋ก ๋ฐ๋ณตํ๋ ๊ณ ์ ์๋ํ(Fixed Automation, FA)(์คํฟ ์ฉ์ , ์คํ๋ ์ด ๋์ฅ ๋ฑ)๊ฐ ์๋ค. ์ ์๋ค์ ๊ทธ ์ค๊ฐ ์ง๋๋ฅผ ํ๋์ ํ์คํฌ ํด๋์ค๋ก ๋ช ๋ช ํ๋ค โ Variational Automation(VA): ์ํฌ์ ยท๋ก๋ดยท์ผ์๋ ๊ณ ์ ์ด๊ณ ๊ฐ์ฒด์ ์ข ๋ฅ(SKU)ยท๊ธฐํยท์ด๊ธฐ ํฌ์ฆ๋ง ๋ถํฌ๋ฅผ ๊ฐ๊ณ ๋ณํ๋, ๊ทธ๋ฆฌ๊ณ ๊ทธ ๋ณ์ด ํ์์ ๋์ง๊ธฐ๊ฒ(persistently) ๋ฐ๋ณต ์คํ๋ผ์ผ ํ๋ ํ์คํฌ(ํ๋ฐฐ ๋ถ๋ฅ, ์นดํ ์ปคํผ, ์๋์์น ์กฐ๋ฆฝ ๋ฑ). ์ค๋๋ ์ด๋ฐ ์ ์ ์ ์ฌ๋์ด ๊ณ ์ ์์ง๋์ด๋ง์ผ๋ก ํ๋ํ๋๋ฐ, VA๋ ๋ณ์ด๊ฐ ์์ด FA๋ณด๋ค ์คํ๋ ค ๋ ๋ง์ ์ธ๋ ฅ์ด ๋ ๋ค.
ํต์ฌ ์ง๋ฌธ์ ์ด๊ฒ์ด๋ค โ โ์ต๊ทผ ๊ธ์ฑ์ฅํ agentic coding์ด ํด์ ๊ฐ๋ฅํ ๋ก๋ด ํ๋ก๊ทธ๋๋ฐ(model-based)๊ณผ model-free ์ ์ฑ ์ ๊ฐ๋ฐฉ ์ธ๊ณ ์ ์์ฑ์ ๊ฒฐํฉํ ์ ์๋๊ฐ?โ GaP์ ๋ต์ Graph-as-Policy: ๋ก๋ด ์ ์ฑ ์ ์์ ํ ํ์ด์ฌ ์ฝ๋๊ฐ ์๋๋ผ ์์ ์คํฌ ๋ ธ๋๋ก ์ด๋ค์ง ๋ฐฉํฅ ๊ณ์ฐ ๊ทธ๋ํ๋ก ํํํ๊ณ , ๊ทธ๊ฒ์ LLM ๋ฉํฐ์์ด์ ํธ๊ฐ ํ์ ์์ฑํ ๋ค ์๋ฎฌ๋ก ์ ์ ํ๋ค.

์์คํ ๊ฐ์(Fig. 1) โ VA ํ์คํฌ ๋ช ์ธ(์์ฐ์ด + CAD ๋ชจ๋ธ)๋ฅผ ๋ฐ์ GaP ๋ฉํฐ์์ด์ ํธ ํ๋์ค๊ฐ MORSL ์คํฌ ๋ ธ๋๋ก ๊ณ์ฐ ๊ทธ๋ํ \mathcal{G}๋ฅผ ์์ฑํ๊ณ , NVIDIA Isaac ์๋ฎฌ๋ก ์๊ธฐํ์ตํด \mathcal{G}^*๋ก ์ ์ ํ ๋ค ์ฃ์ง ์ธํฐํ๋ฆฌํฐ(Executor)๊ฐ ์์ด์ ํธ ์์ด ๋ฐ๋ณต ์คํํ๋ค. ํ๋จ: 8๊ฐ VA ๋ฒค์น๋งํฌ(์๋ฎฌ 4 ยท ์ค๋ฌผ 4).
ํต์ฌ ๋ฐฉ๋ฒ๋ก :
VA ํ์คํฌ๋ฅผ ํํ๋ก ํ์ํํ๋ค:
\mathcal{T}=\langle\mathcal{L},\mathcal{E},\mathcal{R},\mathcal{O},\mathcal{X},\mathcal{B},\mathcal{J}\rangle
์ฌ๊ธฐ์ \mathcal{L} ์ธ์ด ๋ช ์ธ, \mathcal{E} ๊ณ ์ ์ํฌ์คํ์ด์ค(์๋ ํ๋ ์ \mathcal{W}ยท์ ์ ๋งต \mathcal{M}_E), \mathcal{R} ๋ก๋ดยท์ผ์ ๊ตฌ์ฑ(URDFยท๊ด์ ํ๊ณยท์นด๋ฉ๋ผ), \mathcal{O} ๊ฐ์ฒด ์งํฉ(๊ฐ์ฒด \{o_i\}ยท๊ด์ ์ฒด \{\kappa_j\}), \mathcal{X}=\mathcal{C}_{robot}\times SE(3)^n\times\mathbb{R}^m ์ํ๊ณต๊ฐ, \mathcal{B} ํฌ์ฆยท์ด๊ธฐ์ํ์ ๋ํ belief ๋ถํฌ(์ธ์คํด์ค \mathbf{x}_i\sim p(\mathbf{x}\mid\mathcal{X})), \mathcal{J} ๋ค๋ชฉ์ ๋ณด์์ด๋ค:
\mathcal{J}=w_s\cdot\mathbb{I}(\text{success})+w_t\cdot\Phi,\qquad \Phi=\text{success rate}/\text{cycle time (throughput)}.
์ ์ฑ ์ ๋ฐฉํฅ ๊ณ์ฐ ๊ทธ๋ํ \mathcal{G}=(V,E)๋ก, ๋ ธ๋ n\in V๋ ํ์ ์ด ์ ํด์ง ์ ์ถ๋ ฅ ์๊ทธ๋์ฒ๋ฅผ ๊ฐ๋ ์์์ ๋ก๋ด ์ฐ์ฐ(perception/planning/control), ์ฃ์ง e=(n_i,n_j)๋ ๋ฐ์ดํฐ ํ๋ฆ(์์ฐ์ ์ถ๋ ฅ โ ์๋น์ ์ ๋ ฅ, ์คํ ์์๋ฅผ ์๋ฌต ์ ๋) ๋๋ ์ ์ด ๋ถ๊ธฐ(predicate ์กฐ๊ฑด)๋ค. GaP๋ belief ๊ณต๊ฐ ์ ์ฒด์์ ์ฑ๋ฅ์ ์ต๋ํํ๋ ๊ทธ๋ํ๋ฅผ ์ฐพ๋๋ค:
\mathcal{G}^*=\arg\max_{\mathcal{G}}\ \mathbb{E}_{x_i\sim\mathcal{B}}\big[\mathcal{J}(\pi(a\mid\mathcal{I},\mathcal{G}))\big].
์ด๋ฅผ ์ํด ์๊ธฐํ์ต ํ๋์ค๊ฐ ๋๋ค(Algorithm 1): โ belief์์ N๊ฐ ์ธ์คํด์ค \{\hat s_i\}\sim\mathcal{B} ์ํ โ โก ๊ฐ ์ธ์คํด์ค๋ฅผ ๊ทธ๋ํ \mathcal{G}_{j-1}๋ก ๋ณ๋ ฌ ๋ฆฌํ์ค(Isaac๋ก ๋ ๋ยท๋ฌผ๋ฆฌยท์ ์ด ๊ณ์ฐ, ๋ ธ๋ ์คํ ์ ํ ๋ก๋ดยท๊ฐ์ฒด ์ํ ์ฐจ๋ถ์ผ๋ก ๊ฒฐ๊ณผ ์ถ๋ก ) โ โข ์คํจ ๋ถ์ F_i๋ฅผ ๋ชจ์ LLM์ด Graph_Update(๊ธฐ๋ฅ ๋๋ฑ ๋ ธ๋ ๊ต์ฒดยท์ฃ์ง ๋ณ๊ฒฝยท์ฝ๋ ํ๋ผ๋ฏธํฐ ์กฐ์ )๋ก ๊ฐฑ์ , ์ฑ๋ฅ์ด plateau์ ๋๋ฌํ ๋๊น์ง Mํ ๋ฐ๋ณต.
์ฃผ์ ๊ฒฐ๊ณผ:
- ์๋ฎฌ Grocery(Table 1, ์ ๋น 100 ์ธ์คํด์ค, ์ด 5,500+ trial): GaP๋ ํฌ์ฆ ๋ณ์ด ์ ๊ตฌ๊ฐ์์ 0.93โ0.99. ๋ฐ๋ฉด VLA๋ ๋ณ์ด ์๋ LIBERO์์ ๋์ง๋ง(ฯ0.5 0.96, MolmoAct2 0.97) LIBERO-Proยทbasket_swapยทpermutation์์ 0.20 ์์ค๊น์ง ๋ถ๊ดด. TipTop(TAMP)์ M2T2ยทcuRoboยทcuTAMP๊ฐ ์คํ ๊ฐ๋ฅํ ๋ชจ์ ํ๋์ ๋ชป ์ฐพ์ 0.22โ0.46. ๋จ์ผ ์์ด์ ํธ+์๊ธฐํ์ต ์๋ CaP-X๋ 0.01โ0.22.
- VLA๋ฅผ GaP๊ฐ ๋ถ์ถ: GaP๊ฐ wrist ์นด๋ฉ๋ผ๋ฅผ ํ๊น ์ pre-grasp๋ก ์ด๋์์ผ VLA๋ฅผ ๋ถํฌ ๋ด(in-distribution)๋ก ๋ฃ์ด์ฃผ๋ฉด ฯ0.5ยทMolmoAct2 ์ฑ๊ณต๋ฅ ์ด 2๋ฐฐ ์ด์ ํฅ์(์: mixed_all 0.20โ0.66).
- ์ค๋ฌผ(Table 2): Fulfill 25/25(TipTop 8/25), Pack 28/30(10/30), Make Popcorn 18/20(0/20). ๋จ์ผ pick-and-place ํ๊ท ์๋ฃ์๊ฐ GaP 67์ด vs TipTop 95์ด.
- ์๊ธฐํ์ต(Popcorn, Fig. 2): ์ด๊ธฐ ๊ทธ๋ํ 33% โ 10 iter ํ ์๋ฎฌ 94%, ์ค๋ฌผ 90%(18/20).
- ์ผ์ด๋ธ ์ฝ์ (Table 3, 130 trial): ROS ๋ ธ๋์ ํตํฉํด 121/130(0.93), ์ฝ์ ๋น ์ฝ 30์ด.
- ํฌ๋ ์ดํธ ์ธ์ฒ(Table 4, ์ํ, 150 trial): GaP 0.953(143/150) vs ์ ๋ฌธ๊ฐ ์์์ ๊ทธ๋ํ 0.987(148/150), 3์๊ฐ ์ฐ์ ์ฒ๋ฆฌ๋ 18.33 vs 19.33 successes/hr.
๊ฒฐ๋ก : VA๋ผ๋ ํ์คํฌ ํด๋์ค๋ฅผ ์ ์ํ๊ณ , ์ ์ฑ ์ ๊ฒ์ฆ ๊ฐ๋ฅํ ๊ณ์ฐ ๊ทธ๋ํ๋ก ํํํ ๋ค ๋ฉํฐ์์ด์ ํธ๋ก ์์ฑยท์๋ฎฌ ์๊ธฐํ์ต์ผ๋ก ์ ์ ํ๋ฉด, ํฌ์ฆ ๋ณ์ด ํ์์ model-free VLA์ ์์ TAMP๋ฅผ ๋ชจ๋ ํฌ๊ฒ ์์๊ณ ์ ๋ฌธ๊ฐ ์์์ ์์ค์ ๊ทผ์ ํ๋ ์ ๋ขฐ์ฑ์ ์ป๋๋ค. GaP๋ โGood Old Fashioned Engineering(GOFE)โ๊ณผ VLA ์ฌ์ด์ ๋ค๋ฆฌ๋ฅผ ์งํฅํ๋ค.
๐ Ring Review
๐ Ring โ An idea that echoes. Grasp the core and its value.
ํ ์ค๋ก ์์ํ๋ฉด
โ๋ก๋ด ์ ์ฑ ์ ์์ ํ ์ฝ๋๊ฐ ์๋๋ผ ์์ ์คํฌ ๋ ธ๋์ ๋ฐฉํฅ ๊ทธ๋ํ๋ก ๋๊ณ , LLM ๋ฉํฐ์์ด์ ํธ๊ฐ ๊ทธ๊ฒ์ ํ์ ์์ฑํ ๋ค ์๋ฎฌ์์ ๋ฐ๋ณต ๋ฆฌํ์ค๋ก ์ ์ ํ๋คโ โ ์ด๊ฒ์ด Graph-as-Policy(GaP)์ด๊ณ , ๊ฒจ๋ฅ ๋์์ ๊ณ ์ ์๋ํ์ ์ ๋๋ด๋ฆฌ์คํธ ๋ก๋ณดํฑ์ค ์ฌ์ด์ Variational Automation(VA)์ด๋ค.
๋ฐฐ๊ฒฝ: ์ VA์ด๊ณ ์ ์ด๋ ค์ด๊ฐ
๋ก๋ด ํ์ต ์ฐ๊ตฌ๋ ๋ ๊ทน๋จ์ ๋ชฐ๋ ค ์๋ค. ํ์ชฝ์ ์ ๋๋ด๋ฆฌ์คํธ ๋ก๋ณดํฑ์ค(GR) โ ์ง์ง๋ง๋ค ๋ค๋ฅธ ํ๊ฒฝ์์ ์ ๋ฆฌยท์ฒญ์ยท์ฃผ๋ฐฉ pick-and-place๋ฅผ ํ๋์ model-free VLA๋ก ์ฒ๋ฆฌ โ ๋ก, ํ๊ฒฝยท๊ฐ์ฒดยทํฌ์ฆ ๋ณ์ด๊ฐ ๊ทน๋๋ก ํฌ๋ค. ๋ค๋ฅธ ์ชฝ์ ๊ณ ์ ์๋ํ(FA) โ ๋์ผ ๊ธฐํ์ ๊ฐ์ฒด๋ฅผ ๋์ผ ์ด๊ธฐ ํฌ์ฆ์์ ํ๋ ํธ๋ก ์ฎ๊ธฐ๋, ๋ณ์ด๊ฐ ๊ฑฐ์ ์๋ ๋ฐ๋ณต โ ๋ก, ์ฌ๋์ด ๊ณ ์ ์์ง๋์ด๋ง์ผ๋ก ํ๋ํด ๋์ ์ ๋ขฐ์ฑยท์ฒ๋ฆฌ๋์ ์ป๊ณ ๊ทธ ์ธ๊ฑด๋น๋ ์๋ ์ ๋ฐ๋ณต์ผ๋ก ์๊ฐ๋๋ค.
์ ์๋ค์ ํต์ฐฐ์ ํ์ค์ ๋ง์ ์ฐ์ /์์ ํ์คํฌ๊ฐ ๊ทธ ์ฌ์ด์ ์๋ค๋ ๊ฒ์ด๋ค. ๋ฐ์ค๋ SKU๋ง๋ค ๊ธฐํ๊ฐ ๋ค๋ฅด๊ณ , ๋ค์ํ ์ด๊ธฐ ํฌ์ฆ๋ก ๋์ฐฉํ๋ฉฐ, ๋ณํ๋ ํ๋ ํธ ๋ฐฐ์น์ ์ด์ดํ ๋ด๊ฒจ์ผ ํ๋ค. ์ด๋ฐ VA ํ์คํฌ๋ GR๋งํผ ์ด๋ ค ์์ง ์์ง๋ง(์ํฌ์ ยท๋ก๋ดยท์ผ์ยท๊ฐ์ฒด ๋ฒ์ยทํฌ์ฆ ๋ฒ์๋ ์๋ ค์ ธ ์์) FA๋งํผ ๋ซํ ์์ง๋ ์๋ค. ๊ทธ๋ฐ๋ฐ model-free ์ ์ฑ ์ ๋ณ์ด ํ์์ ์ ๋ขฐ์ฑ ๊ฒฉ์ฐจ๋ฅผ ์ขํ์ง ๋ชปํ๊ณ (์คํ์์ VLA๊ฐ ํฌ์ฆ ๋ณ์ด์ 0.20๊น์ง ๋ถ๊ดด), FA์ฉ ๊ณ ์ ์์ง๋์ด๋ง์ ๋ณ์ด๋ง๋ค ์ฌ๋์ด ๋ค์ ํ๋ํด์ผ ํด ์ธ๋ ฅ์ด ๋ ๋ ๋ค. VA๋ฅผ ์ํ ๋ก๋ด ํ์ต์ผ๋ก ์ด ์ ์ ์ธ๋ ฅ์ ์ค์ด์๋ ๊ฒ์ด ๋ ผ๋ฌธ์ ๋๊ธฐ๋ค.
VA์ ๊ฐ์ ์ โ์ค๋ผํด ์ ๋ณดโ๊ฐ ์๋๋ผ VA ์ธํ ์ ์ ์๋ผ๊ณ ๊ฐ์กฐํ๋ค: ์ํฌ์ ์ด ์๋ ค์ ธ ์๊ณ ์๋ ๋ฒ์๊ฐ ์ ๊ณ์ด๋ฏ๋ก ๊ฐ์ฒด ๋ชจ๋ธยท์บ๋ฆฌ๋ธ๋ ์ด์ ๋ ์ผ์ยท์ฌ์ฌ์ฉ ๊ฐ๋ฅํ ์๋ํ ์คํฌ์ (์์ ๋) ํ์ฉํ ์ ์๋ค๋ ๊ฒ.
Agentic coding์ ๋ก๋ด์ ์ฐ๋ ค๋ ์๋๋ 2022๋ Code-as-Policy(CaP)๋ก ๊ฑฐ์ฌ๋ฌ ์ฌ๋ผ๊ฐ๋ค. ๊ทธ๋ฌ๋ ๋จ์ผ ์์ด์ ํธ๊ฐ ์์ ํ ํ์ด์ฌ์ ์์ฑํ๋ ๋ฐฉ์์ (1) ๋ณต์กํ ํ์คํฌ์์ ์ปจํ ์คํธ๊ฐ ์ปค์ ธ ์ ์ฝ์ ๋ชป ์งํค๊ณ , (2) ์กด์ฌํ์ง ์๋ ์คํฌ์ ์ง์ด๋ด๊ฑฐ๋ ์ฌ์ํ ์ฑ๊ณต ์งํ๋ฅผ ๋ง๋ค์ด โ์นํ โํ๋ ๋ฌธ์ ๊ฐ ์๋ค. ๋ฉํฐ์์ด์ ํธ๋ก ๊ฐ๋ฉด ์ด ๋ฌธ์ ๊ฐ ๋ ์ ํ๋๋ค. GaP์ ์ค๊ณ ๊ฒฐ์ ์ ์ด ๋ณ๋ฆฌ์ ๋ํ ์ง์ ์ ๋์์ด๋ค.
๋ฐฉ๋ฒ ์์ธ
1) ๋ฌธ์ ํ์ํ โ VA ํ์คํฌ์ ๊ทธ๋ํ ์ ์ฑ
VA ํ์คํฌ๋ฅผ \mathcal{T}=\langle\mathcal{L},\mathcal{E},\mathcal{R},\mathcal{O},\mathcal{X},\mathcal{B},\mathcal{J}\rangle๋ก ๋๋ ๊ฒ์ด ๊ฐ๋ ์ ๋ผ๋๋ค(์ Ping์ ์์). ํนํ ๋ ์์๊ฐ ํต์ฌ์ด๋ค:
- belief ๊ณต๊ฐ \mathcal{B} โ ์ธ์คํด์ค๊ฐ ์ฌ๊ธฐ์ ์ํ๋๋ค. (i) ๊ตฌ์กฐ์ prior(๋ถํผ \mathcal{V} ์ ๊ท ๋ฑ ์์นยท๋ฐฉํฅ ๋ฒ์)์ (ii) ์ค์ฆ ๋ถํฌ(์ค์ ๋ฐ๋ชจยทํฌ์ธํธํด๋ผ์ฐ๋ ์ ํฉ์์ ์ถ์ ํ ๋ค๋ด ๋ถํฌ)๋ฅผ ๋ชจ๋ ํฌํจ. ์ฆ โ๋ฌด์์ด ์ผ๋ง๋ ๋ณํ๋๊ฐโ๊ฐ ํ์คํฌ์ ์ผ๋ถ๋ก ๋ช ์๋๋ค.
- ๋ค๋ชฉ์ ๋ณด์ \mathcal{J}=w_s\mathbb{I}(\text{success})+w_t\Phi โ ์ฑ๊ณต๋ฅ ๋ง์ด ์๋๋ผ ์ฒ๋ฆฌ๋ \Phi(์ฑ๊ณต๋ฅ /์ฌ์ดํดํ์)๋ฅผ ๋ช ์์ ์ผ๋ก ๋ฃ๋๋ค. ์๋ํ์ ๋ณธ์ง์ด โ์๊ฐ๋น ์ ๋โ์์ ์ ์ํ์ ๋ฐ์ํ ์ ์ด GR ์ค์ฌ ์ฐ๊ตฌ์ ๋ค๋ฅด๋ค.
์ ์ฑ \pi(a\mid\mathbf{x},\mathcal{T})๋ ๋ฐฉํฅ ๊ณ์ฐ ๊ทธ๋ํ \mathcal{G}=(V,E)๋ค. ๋ ธ๋๋ ํ์ ์๊ทธ๋์ฒ๋ฅผ ๊ฐ์ง ์์ ์ฐ์ฐ(์นด๋ฉ๋ผ ํ๋ ์ ์ทจ๋, perception ์ถ๋ก , ๋ชจ์ ๊ณํยท์คํ ๋ฑ)์ด๊ณ , ์ฌ๋ฌ ๋ ธ๋๋ฅผ ๋ฌถ์ skill์ โ์ด ์๋ธํ์คํฌ๋ฅผ ์ํด ์ด๋ค ์์ ๋ ธ๋๋ค์ ์ด๋ป๊ฒ ๋ฐฐ์ ํ๋ผโ๋ ์์ฐ์ด ๋ช ์ธ๋ก LLM์๊ฒ ์ง์๋๋ค. ๋ฐ์ดํฐ ์ฃ์ง๋ ์คํ ์์๋ฅผ ์๋ฌต ์ ๋ํ๊ณ ๋ ๋ฆฝ ๋ถ๊ธฐ๋ ๋ณ๋ ฌ ์คํ๋๋ฉฐ, ์ ์ด ์ฃ์ง๋ ๋ ธ๋ ์ถ๋ ฅ์ ๋ํ ์กฐ๊ฑด ๋ถ๊ธฐ๋ฅผ ๋๋ฅธ๋ค.
2) MORSL โ Modular Open Robot Skill Library (51 skills)
๊ทธ๋ํ์ โ๋ถํ ์์โ. Anthropic์ Skill.md ๊ฐ์ agentic tool-use ๊ท์ฝ์ ๊ทธ๋ํ ์ ์ธ ํ์ฅ์ ์น์ด, ๊ฐ ์คํฌ์ด ์
๋ ฅยท์ถ๋ ฅยท์๋ฏธ ํ๋ผ๋ฏธํฐยท์ ์ ์กฐ๊ฑด์ ์ ์ธํ๋ค โ ์์ด์ ํธ๊ฐ โ์ธ์ ๋ถ๋ฅผ์งโ์ โ์ด๋ป๊ฒ ๋ฐฐ์ ํ ์งโ๋ฅผ ์ค์ค๋ก ๊ฒฐ์ . ์ด๊ธฐ 51๊ฐ ๊ตฌ์ฑ(๋
ผ๋ฌธ ๋ณธ๋ฌธ ๊ธฐ์ค):
- Perception 15๊ฐ: SAM2/3, Grounding DINO, OWL-ViT, Molmo, ๋ฒ์ฉ VLM
- Grasp planning 5๊ฐ: Contact-GraspNet, GraspGen, M2T2
- Motion planning 8๊ฐ: cuRobo / cuRobo v2
- 2Dยท3D ๋น์ ์ ํธ 15๊ฐ: NumPyยทOpenCV(์: ํฌ์ธํธํด๋ผ์ฐ๋์ฉ DBSCAN)
- ๊ฒ์ฆยท์ ์ด primitive 8๊ฐ: cuRobo ๊ธฐ๋ฐ Cartesian ์ ํ ๋ชจ์ , ROS Translator, Visuomotor Interactive Perception Policy ๋ฑ
์ฆ model-based(ROSยทcuRobo)์ model-free(GraspGenยทVLA)๊ฐ ๊ฐ์ ๊ทธ๋ํ ์์ ๋ ธ๋๋ก ๊ณต์กดํ๋ค โ ์ด๊ฒ์ด GaP๊ฐ ๋ ํจ๋ฌ๋ค์์ ์๋ ๋ฌผ๋ฆฌ์ ์ง์ ์ด๋ค.
3) ๋ฉํฐ์์ด์ ํธ ๊ทธ๋ํ ์์ฑ
Orchestration Agent๊ฐ VA ํ์คํฌ๋ฅผ ๊ธฐ๋ฅ ์ธ๊ทธ๋จผํธ๋ก ๋ถํ (์: Make Popcorn โ โ๋ ธ๋ธ ์ผ๊ธฐโ, โํฌ ์์ก์ด ์ง๊ธฐโ โฆ)ํ๊ณ , ๊ฐ ์ธ๊ทธ๋จผํธ๋ฅผ ๋ด๋น Skill Agent์๊ฒ ๋๊ฒจ ๊ตญ์ subgraph๋ฅผ ํฉ์ฑํ๊ฒ ํ๋ค. ์ค์ผ์คํธ๋ ์ดํฐ๊ฐ ์ด subgraph๋ค์ ์คํ ๊ทธ๋ํ๋ก ๋ฐฐ์ ํ๋ค. ์ด ๊ณ์ธต ๊ตฌ์กฐ์ ๋ชฉ์ ์ ๋ ๊ฐ์ง โ (a) ๊ฐ ์์ด์ ํธ์ ์ปจํ ์คํธ ์ฐฝ์ ์๊ฒ ์ ์ง, (b) ๊ทธ๋ํ ์์์ ์์ฑ๊ณผ ํ ์คํธ๋ฅผ ๋ถ๋ฆฌํด ๊ฐ๋ณ ์์ด์ ํธ๊ฐ ๋ชฉํ ๋ฌ์ฑ์ ์ํด โ์นํ โํ ์ ์ธ์ ์ค์ด๋ ๊ฒ.
4) ์๊ธฐํ์ต โ ๋ด๋ถ ์๋ฎฌ ๋ฆฌํ์ค (Algorithm 1)

์๊ธฐํ์ต(Fig. 2) โ ์ผ์ชฝ: Popcorn ํ์คํฌ์ ํฌ ํฌ์ฆ ๋ณ์ด. ์ค๋ฅธ์ชฝ: 10-iteration ๊ทธ๋ํ ๊ฐฑ์ ์ ๋ฐ๋ฅธ on-burner ์ฑ๊ณต๋ฅ (%). ํธ์ง ์ข ๋ฅ๋ณ๋ก ๋จ๊ณ๊ฐ ์์ ๊ตฌ๋ถ๋๋ค โ Grasp Improvement(iter 1โ3) โ Transport Adjustment(iter 4โ5) โ Placement Improvement(iter 6โ10).
๋ด๋ถ ์๋ฎฌ(Isaac)๋ก ๊ทธ๋ํ๋ฅผ ๋ฆฌํ์คํ๋ฉฐ ํผ๋๋ฐฑโ๊ฐฑ์ ์ ๋ฐ๋ณตํ๋ค. ํผ๋๋ฐฑ์ VLM์ ์ธ์ด์ ์ถ์ธก์ด ์๋๋ผ ๋ฌผ๋ฆฌ ์ํ ์ฐจ๋ถ์์ ๋์จ๋ค: ๊ฐ ๋ฆฌํ์ค ๋ ธ๋ ์คํ ์ ํ๋ก ๋ก๋ดยท๊ฐ์ฒด ์ํ๋ฅผ ๋ฑ๋กํด ์ฐจ์ด๋ฅผ ๊ณ์ฐํ๊ณ ๋ชจ์ ๊ฒฐ๊ณผ๋ฅผ ์ถ๋ก ํ๋ค. ๋ฃจํ:
- Step 1 (variational sampling): belief \mathcal{B}์์ N๊ฐ ์ธ์คํด์ค \{\hat s_i\}๋ฅผ ์ํ.
- Step 2 (parallel rehearsal): N๊ฐ ์ฌ์์ ๊ทธ๋ํ๋ฅผ ๋ณ๋ ฌ ๋กค์์ํ๊ณ , ์คํจ ์ ๋ฌผ๋ฆฌ ์คํ ๋ฐ์ดํฐ๋ก ๊ธฐํํ์ ๊ทผ๋ณธ ์์ธ(์ ์ ยท๊ด์ ์ฒด์์)์ ๊ฒฉ๋ฆฌํด F_i ์์ฑ.
- Step 3 (graph refinement): \{F_i\}๋ฅผ ๋ชจ์ LLM์ด Graph_Update โ ๊ธฐ๋ฅ ๋๋ฑ ๋ ธ๋ ๊ต์ฒดยท์ฃ์ง ๋ณ๊ฒฝยท์ฝ๋ ํ๋ผ๋ฏธํฐ ๊ฐฑ์ โ ๋ฅผ ์ํ, plateau๊น์ง ๋ฐ๋ณต.
Popcorn ์ฌ๋ก์ ์ค์ ๊ถค์ (Fig. 2)์ด ์ด ๋ฃจํ์ ํด์ ๊ฐ๋ฅ์ฑ์ ์ ๋ณด์ฌ์ค๋ค: ์ด๊ธฐ ๊ทธ๋ํ๋ ๋ ธ๋ธ๋ ์ผ์ง๋ง ํฌ ์ง๊ธฐ์ ์คํจ(33%). โ iter 1โ3: ์๋ฎฌ์ด โ๊ทธ๋ฆฌํผ๊ฐ ํฌ๊ณผ ์ ์ด ์์โ์ ๋ณด๊ณ โ GraspGen์ GraspGen + oriented bounding box grasp planner ํผํฉ ์คํฌ๋ก ๊ต์ฒด. โก iter 4: โํฌ์ ์์ก์ด๋ก ์ก์์ผ ํจโ์ ์ธ์ง โ perception ํ๋กฌํํธ๋ฅผ ์์ก์ด ๊ตญ์ํ๋ก ์กฐ์ . โข iter 4โ8: ๋ฐ๋ ํ์ง ์ ๋ต์ ๋ง์ถฐ ํฌ ๋ฐฐ์น ์คํ์ ์ ๋ฏธ์ธ์กฐ์ ํด ์คํ ๋ธ ๋ฉด๊ณผ ์ ๋ ฌ. ์ด๋ ๊ฒ ์ด๋ค ๋ ธ๋๋ฅผ ์ ๋ฐ๊ฟจ๋์ง๊ฐ ๋ก๊ทธ๋ก ๋จ๋ ๊ฒ์ด ์์ ํ ์ฝ๋ ์ฌ์์ฑ๊ณผ ๋๋น๋๋ GaP์ ๊ฐ์ ์ด๋ค.
Benchmark IยทII(Grocery)์์๋ ์ฒซ ์์ฑ ๊ทธ๋ํ๊ฐ ์ด๋ฏธ ๊ณ ์ฑ๋ฅ์ด๋ผ ์๊ธฐํ์ต์ ์๋ตํ๋ค โ ์๊ธฐํ์ต์ Popcornยท์ผ์ด๋ธ์ฒ๋ผ ์ ์ดยท์์๊ฐ ๊น๋ค๋ก์ด ํ์คํฌ์์ ์ง๊ฐ๋ฅผ ๋ฐํํ๋ค.
์ง๊ด
ํต์ฌ ์ง๊ด์ โ๊ตฌ์กฐ๋ก ์์ ๋๋ฅผ ์ ์ ํ๋ค(temper the flexibility)โ์ด๋ค. ์์ CaP๋ ์์ ํ ์ฝ๋๋ผ ํํ๋ ฅ์ ํฌ์ง๋ง ์ ์ฝ ์๋ฐยทํ๊ฐยท์นํ ์ ์ทจ์ฝํ๋ค. ์์ TAMP๋ ๊ฒ์ฆ ๊ฐ๋ฅํ์ง๋ง ๊ฐ๋ฐฉ ์ธ๊ณ ์๋ฏธ ์ถ๋ก ๊ณผ ์ ๊ฐ์ฒด์ ์ฝํ๋ค(์คํ์์ TipTop๊ฐ ํ๋ธยท๊ธฐ์ธ์ด์ง ๊ฐ์ฒดยท๋์ ๋ฐ๊ตฌ๋์ ์คํ ํ๋์ ๋ชป ๋). GaP๋ ๊ทธ๋ํ ์ค์บํด๋ฉ์ผ๋ก ๊ทธ ์ฌ์ด์ ์ ๋ค:
- ๋ ธ๋๋ ํ์ ์๊ทธ๋์ฒ๊ฐ ์์ด ์ ์ ๊ฒ์ฆ(์ฃ์ง ์ฐ๊ฒฐ์ฑยทdangling reference)์ด ๊ฐ๋ฅ โ ์คํ ์ ์ ์๋ชป๋ ๋ฐฐ์ ์ ๊ฑธ๋ฌ๋ธ๋ค.
- ๋ ธ๋๊ฐ ์ฌ์ฌ์ฉ ๊ฐ๋ฅํ ์คํฌ์ด๋ผ LLM์ด ์ธํฐํ์ด์ค๋ฅผ ํต์งธ๋ก ์๊ธฐยท์ธ๋ผ์ธํ ํ์๊ฐ ์๋ค โ ์ฌ์ํ ๊ตฌ๋ฌธ/์คํค๋ง ์ค๋ฅ๋ก trial์ด ์ฃฝ๋ ์ผ์ ๋ฐฉ์ง.
- ์์ฑ(์์ด์ ํธ)๊ณผ ์คํ(์์ด์ ํธ ์๋ ์ธํฐํ๋ฆฌํฐ)์ ๋ถ๋ฆฌ โ ๋ฐฐํฌ ์ LLM ํธ์ถ์ด ์์ด ๋ฐ๋ณต ์คํ์ด ๊ฒฐ์ ์ ์ด๊ณ , ์นํ ์ ์ธ์ด ์ค์ด๋ ๋ค.
VLA๋ฅผ โ๋ถ์ถโํ๋ ๊ฒฐ๊ณผ๊ฐ ์ด ์ฒ ํ์ ์์ถํ๋ค โ GaP๋ VLA๋ฅผ ๋์ฒดํ๋ ค๋ ๊ฒ ์๋๋ผ, ๊ทธ๋ํ๊ฐ VLA๋ฅผ ๋ถํฌ ๋ด๋ก ๋ฐ๋ ค๋ค ๋๋ ์ ์ฒ๋ฆฌ ๋ ธ๋๋ก ๊ฐ์ธ ํ์ด๋ธ๋ฆฌ๋๋ก ์ฑ๋ฅ์ ๋์ด์ฌ๋ฆฐ๋ค.
์คํ
์ ์ ยท๋ฒ ์ด์ค๋ผ์ธ
6๊ฐ ํ์คํฌ๋ LIBERO ์์ฐ ๊ธฐ๋ฐ, Franka 1๋(wrist ์นด๋ฉ๋ผ). ์๋ฎฌ Table 1์ ์ ๋น 100 ์ธ์คํด์ค๋ก ์ด 5,500+ trial. LLM/VLM ์์ด์ ํธ๋ Gemini-3.1-Flash-Lite(temp 0.1). ๋ฒ ์ด์ค๋ผ์ธ:
- CaP-X โ ๋จ์ผ ์์ด์ ํธ, ์๊ธฐํ์ต ์์(์ด๊ธฐ ์ด๋ฏธ์ง+์ง์๋ง). ์ ์๋ค์ ์ด๋ฅผ โGaP์ ablation(๋จ์ผ ์์ด์ ํธยท์๊ธฐํ์ต ์ ๊ฑฐ)โ์ผ๋ก ๊ท์ ํ๋ฉฐ ๊ณต์ ๋น๊ต๊ฐ ์๋์ ๋ช ์.
- ฯ0.5, MolmoAct2 โ LIBERO ํ์ต ๋ฐ์ดํฐ๋ก ํ์ธํ๋ํ ๊ณต์ ์ฒดํฌํฌ์ธํธ VLA.
- TipTop โ TAMP ๊ธฐ๋ฐ ๋ชจ๋ํ open-vocabulary ํ๋๋(cuTAMP 128 particle, 60์ด ํ์์์).
Benchmark IยทII โ Fulfill/Pack Grocery
Table 1์ ๋๋น๊ฐ ๋
ผ๋ฌธ์ ํต์ฌ ๊ทธ๋ฆผ์ด๋ค. VLA๋ ๋ณ์ด ์๋ LIBERO-object์์ 0.96โ0.97์ด์ง๋ง basket_swapยทpermutationยทmixed_all์์ 0.10โ0.26์ผ๋ก ๋ถ๊ดดํ๋ค(์ค๋ฒํผํ
์ ์ฆ๊ฑฐ). GaP๋ ์ ๊ตฌ๊ฐ 0.93โ0.99๋ก ๊ฒฌ๊ณ . TipTop๋ 0.22โ0.46(๋ชจ์
ํ๋ ์คํจ). ฯ0.5 w/GaPยทMolmoAct2 w/GaP๋ ์๋ณธ ๋๋น ๋์ฒด๋ก 2๋ฐฐ ์ด์ ํฅ์(mixed_all์์ ฯ0.5 0.20โ0.39, MolmoAct2 0.20โ0.66; basket_swap MolmoAct2 0.26โ0.58).
์ค๋ฌผ(Table 2)์์๋ sim-to-real์ด ์ ์ ์ด๋๋ค: Fulfill 25/25(TipTop 8/25), Pack 28/30(10/30), Popcorn 18/20(0/20). GaP๋ ์์ดํ ยท๋ฐ๊ตฌ๋๋ฅผ ๋ณ๋ ฌ ์ง๊ฐ(์ค๋ฆฌ์ํฐ๋ ๋ฐ์ด๋ฉ๋ฐ์ค ์์ฑ 14.1์ด)ํ๊ณ ํ๊ฐยทํ์งยท์ด์ก์ 36.4์ด, ๋จ์ผ pick-and-place ํ๊ท 67์ด(TipTop 95์ด). TipTop ์คํจ์ ์ฃผ์์ธ์ ์ธ์์ด ์๋๋ผ ํ๋ธํยท๊ธฐ์ธ์ด์ง ๊ฐ์ฒดยท๋์ ๋ฐ๊ตฌ๋์ ๋ํ ๋ชจ์ ํ๋ ๋ถ์ฌ.
Ablation
์ธ ๊ฐ์ง๊ฐ ๊ทธ๋ํ ๊ตฌ์กฐ์ ํ์์ฑ์ ์ง์ ๋ณด์ธ๋ค: (1) Graphless(๊ตฌ์กฐํ ๊ทธ๋ํ ๋์ ๋จ์ผ LLM์ด raw ํ์ด์ฌ ์์ฑ) โ ์์ ๋ก์ง์ด ๋ง์๋ ์ธํฐํ์ด์ค/๊ตฌ๋ฌธ ๋ถ์ผ์น๋ก ์ฑ๊ณต๋ฅ 0์ผ๋ก ๋ถ๊ดด. (2) ์์ด์ ํธ 1๊ฐ๋ก ์ถ์ฝ(์ ์ฉ authoring ์์ด์ ํธ๋ค์ ํ๋๋ก) โ ์ ์ญ ๋ฐ์ดํฐ ํ๋ฆยท๊ตญ์ ๋ก์งยท๊ฒ์ฆ์ ๋์์ ๋ชป ๋ค๋ค dangling referenceยท๋ ธ๋ ์ถฉ๋๋ก ์ ์ ๊ฒ์ฆ ์ ๋ถ ์คํจ, ๋ฐ๋ณต ํผ๋๋ฐฑ์๋ ์ค์ ํด๋์ค ์ฌ์ด๋ฅผ ์ง๋ํ๋ฉฐ ์๋ ด ์คํจ, 0. (3) graph validation์ด ์ฃ์ง ์ฐ๊ฒฐ์ฑ์ ๋ณด์ฅ โ ์ผ๋ถ ์ธ๊ทธ๋จผํธ ์์ด์ ํธ๊ฐ ์ฒ์์ ํ์ /์ฃ์ง ๊ฒ์ฌ๋ฅผ ํต๊ณผ ๋ชป ํ๋ subgraph(์: transport ๋จ๊ณ์ ์ ์ถ๋ ฅ์ release ๋จ๊ณ์ ์๋ชป ๋ฐฐ์ )๋ฅผ ๋ด๋๋ฐ, ๊ฒ์ฆ์ด ์ด๋ฅผ ๊ฑธ๋ฌ ๋ฐํ์ ํฌ๋์๋ฅผ ๋ง๋๋ค.
๐ฌ ์ฌํ ๋ ธํธ (this workspace)
์๋ณธ ์ฝ๋(github.com/graph-robots/graph-as-policy, Apache-2.0)๋ฅผ RTX 5090(32GB) ๋จ์ผ GPUยท์์คํ
nvcc ์์ด ์ฌํ ์๋ํ๋ค. uv sync๋ก nvidia-curobo์ CUDA ํ์ฅ๊น์ง ๋น๋์ ์ฑ๊ณตํ๊ณ , ์คํ๋ผ์ธ ํ
์คํธ 715๊ฐ ํต๊ณผยทsim ํ
์คํธ 13/14 ํต๊ณผ(MuJoCo/LIBERO ํ๊ฒฝ ์ธ์คํด์คํ), examples/build_a_graph๋ก ํ์
๋ ๊ณ์ฐ๊ทธ๋ํ๋ฅผ 0 ์๋ฌ๋ก ๋น๋ยท๊ฒ์ฆํ์ผ๋ฉฐ, ์๋ฎฌ์์ gap run ์ GroundingDINO ์ง๊ฐ๊น์ง ํ์ดํ๋ผ์ธ์ด ๊ตฌ๋๋๋ค. ๋ค๋ง VLM ํ๋ณ ๋จ๊ณ๊ฐ ์ ๋ฃ LLM API ํค(OpenRouter/Vertex) ๋ฅผ ์๊ตฌํด ํค ๋ถ์ฌ ์ 401์์ ๋ฉ์ท๋๋ฐ โ ๋ฐ๋ก ์ด ์ง์ ์์ ๊ทธ๋ํ์ ํ์
๋ on_error ๋ผ์ฐํ
๊ณผ ๋ณต๊ตฌ ์ก์
(open_gripperยทgo_home)์ด ๋
ผ๋ฌธ ์ฃผ์ฅ๋๋ก ์ ํํ ์๋ํด, ์คํ ์์งยท๊ทธ๋ํ ๋น๋/๊ฒ์ฆ/๋ณต๊ตฌ ์ํคํ
์ฒ๋ ์คํ๋ผ์ธ์ผ๋ก ์ฌํ๋๋ค. ๋ฐ๋ฉด ๋
ผ๋ฌธ์ headline ์ฑ๊ณต๋ฅ (grocery 0.95โ0.99, popcorn 0.90โ0.94, cable 0.93 ๋ฑ)์ ์ ๋ฃ LLM ํค์ ์ค๋ฌผ ๋ก๋ด ์์ด๋ ์ฌํ ๋ถ๊ฐ๋ค. (์คํ ๋ ํฌ PR: curieuxjy/graph-as-policy#1, private)
Benchmark IV โ ์ผ์ด๋ธ ์ฝ์ (์ค๋ฌผ, ROS ํตํฉ)

์ผ์ด๋ธ ์ฝ์ ์ ์ (Fig. 3) โ UR5 + ZED Mini wrist ์นด๋ฉ๋ผ๋ก USB-C ์ผ์ด๋ธ์ ํฌํธ ๋ฑ ํฌ์ ์ฝ์ /์ถ์ถ. ํฌํธ๊ฐ ์นด๋ฉ๋ผ ์์ผ๋ฅผ ๋ฒ์ด๋๋ฉด ๋ด๋ถ force-torque ํผ๋๋ฐฑ์ผ๋ก ์ฝ์ ์ ํ์นจํ๋ค.

ROS ํตํฉ(Fig. 4) โ ์ผ์ชฝ: ์ ํต์ ROS ๋ ธ๋ยทํ ํฝ์ผ๋ก ์์์ ์ค๊ณํ ๊ณ์ฐ ๊ทธ๋ํ. ๊ฐ์ด๋ฐ: GaP๊ฐ ๋์ผ ROS ๋ ธ๋๋ฅผ ์์ ์คํฌ(align/touch/insert/extract)๋ก ๊ฐ์ธ ํธํ ๊ทธ๋ํ๋ฅผ ์์ฑ. ์ค๋ฅธ์ชฝ: ์ด ๋ ธ๋๋ค์ subgraph๋ก ์ฌ์ฌ์ฉํด โ์ง์ ๋ฒํธ ํฌํธ์ ์ฝ์ โ ๊ฐ์ long-horizon ํ์คํฌ๋ฅผ ๊ตฌ์ฑ.
GaP๊ฐ ์์ฑํ ๊ทธ๋ํ๋ 4๊ฐ ROS ์คํ ๋ ธ๋(align_to_port ยท touch_port ยท insert ยท extract)๋ก ๋์ํ๋ค. align์ด ์ ์ด์ ํ๋ฆฝํด 1\times1\,cm^2 ์ฝ์ ํ๋ณด ๊ฒฉ์๋ฅผ ๋ง๋ค๊ณ , insert๊ฐ 3mm ์ด์ ์งํ์ ์๊ตฌํ๋ฉฐ ํ๋ณด๋ฅผ ํ๊ฐ, extract๊ฐ 2.0Hz wiggling์ผ๋ก ์ธก๋ฉด๋ ฅ 20N ์ดํ๋ฅผ ์ ์งํ๋ฉฐ ์์ ํ๊ฒ ๋ฝ๋๋ค(์ฝ์ ๋น ์ฝ 30์ด). 130 trial์์ 121/130(0.93), 5๊ฐ์ง ํ ์คํธ ํ๋กฌํํธ(๊ฐ๋ณ ํฌํธยท์ค๋ฆ์ฐจ์ยท๋ด๋ฆผ์ฐจ์ยทํ์ยท์ง์)๋ฅผ ๋ชจ๋ ์ฌ๋ฐ๋ฅธ ์ํฌํ๋ก๋ก ์ฒ๋ฆฌํ๊ณ ๊ฑฐ๋ฆฌ(ยฑ5cm)ยท๊ฐ๋(ยฑ15ยฐ) ๋ณ์ด์ ์ผ๋ฐํ(Table 3). ์ด ๋ฒค์น๋งํฌ๋ model-based ROS์ agentic ๊ทธ๋ํ๊ฐ ๋งค๋๋ฝ๊ฒ ๊ฒฐํฉ๋จ์ ๋ณด์ฌ์ฃผ๋ ์ฌ๋ก๋ค.
Benchmark V โ ํฌ๋ ์ดํธ ์ธ์ฒ (์๋ฎฌ, ์ํ)

ํฌ๋ ์ดํธ ์ธ์ฒ(Fig. 5) โ ๋ Franka ํ์ด ํฌ๋ ์ดํธ ์ธก๋ฉด์ ์ข์ ์ฌ๋ฆฟ์ ํ์ ํ์งํด ์คํ์์ ๋ค์ด์ฌ๋ฆฌ๊ณ ๋ค์ง์ด ์ธ์ฒ๊ธฐ ํ ์ด๋ธ์ ๋๋ ์ฐ์ ์ฉ ์ํ ํ์คํฌ(์yaw ยฑ15ยฐยท์ํ ยฑ2.5cm ๋ณ์ด).
์ ๋ฌธ๊ฐ๊ฐ ์์์ ์ผ๋ก ์ง ์คํ ๊ทธ๋ํ์ ์ง์ ๋น๊ต(Table 4, 150 trial). GaP 0.953(143/150) vs ์์์ 0.987(148/150), ํ๊ท ์ฌ์ดํด 179.13์ด vs 176.47์ด. 3์๊ฐ ์ฐ์ ์คํ์์ ๋ ์ ์ฑ ๋ชจ๋ 59 trial ์๋, GaP 55ยท์์์ 58 ์๋ฃ โ 18.33 vs 19.33 successes/hr. GaP๊ฐ ์์จ์ ์ผ๋ก ํ์ ์ํ ์ ์ฑ ์ ์์ฑํด ์์์ ํ๋ baseline์ ๊ทผ์ ํจ์ ์์ฌ.
๋นํ์ ์ผ๋ก ๋ณด๋ฉด
๊ฐ์
- ๋ฌธ์ ์ ์ ์์ฒด๊ฐ ๊ธฐ์ฌ๋ค. GR๊ณผ FA ์ฌ์ด์ VA๋ฅผ ํํ \langle\mathcal{L},\mathcal{E},\mathcal{R},\mathcal{O},\mathcal{X},\mathcal{B},\mathcal{J}\rangle๋ก ํ์ํํ๊ณ belief ๋ถํฌ์ ์ฒ๋ฆฌ๋์ ์ ์ํ์ ๋ฃ์ ๊ฒ์, โ์ฑ๊ณต๋ฅ โ๋ง ๋ณด๋ ๋ก๋ด ํ์ต ๋ฒค์น๋งํฌ ๊ดํ์ ์๋ํ ๊ด์ ์ ๋๋๋ ค ๋๋๋ค.
- ๊ตฌ์กฐ๋ก agentic coding์ ๋ณ๋ฆฌ๋ฅผ ๊ฒจ๋ฅ. graphlessยทsingle-agent ablation์ด ๋ ๋ค 0์ผ๋ก ๋ถ๊ดดํ๋ ๊ฒฐ๊ณผ๋, โ๊ทธ๋ํ ์ค์บํด๋ฉ + ์์ฑ/์คํ ๋ถ๋ฆฌ + ์ ์ ๊ฒ์ฆโ์ด ์ฅ์์ด ์๋๋ผ ์๋์ ์ํ ํ์์กฐ๊ฑด์์ ์ค๋๋ ฅ ์๊ฒ ๋ณด์ธ๋ค.
- ๋ฌผ๋ฆฌ ๊ธฐ๋ฐ ํผ๋๋ฐฑ. ์๊ธฐํ์ต ์ ํธ๋ฅผ VLM์ ์ธ์ด ์ถ์ธก์ด ์๋๋ผ ์๋ฎฌ์ ์ํ ์ฐจ๋ถ(์ ์ดยท๊ธฐํ)์์ ๋ฝ์, CaP-X๋ฅ๊ฐ ์ง์ ๋ฐ๋ VLM ํ๊ฐยท๊ธฐํ ๋ฌด๋ฅ์ ์ฐํํ๋ค.
- ํ์ด๋ธ๋ฆฌ๋ ์ค์ฉ์ฑ. VLA๋ฅผ ๋์ฒด๊ฐ ์๋ ๋ ธ๋๋ก ๊ฐ์ธ 2๋ฐฐ ํฅ์์ํค๊ณ , ROS ๋ ธ๋๋ฅผ ๊ทธ๋๋ก ์ฌ์ฌ์ฉํ๋ฉฐ, ์ต์ข ๋ฐฐํฌ๋ LLM ์๋ ๊ฒฐ์ ์ ์ธํฐํ๋ฆฌํฐ๋ก ๋๋ฆฐ๋ค โ ์ฐ์ ๋ฐฐํฌ ๊ด์ ์์ ํ์ค์ ์ธ ์ค๊ณ.
- ๋์ ์ค์ฆ. 8๊ฐ ๋ฒค์น๋งํฌ(์๋ฎฌ 4ยท์ค๋ฌผ 4), 5,500+ trial, 3์๊ฐ ์ฐ์ ์ฒ๋ฆฌ๋๊น์ง ํฌํจํด ์ ๋ขฐ์ฑยทthroughput ์๋ฉด์ ์ธก์ .
์ฝ์ ยทํ๊ณ
- ์ ์ ์ธ์ ํ๊ณ๊ฐ ํฌ๋ค. ์คํ ์ ๋ขฐ์ฑ์ด ์์ง ์ฐ์ ์์ค์ด ์๋๊ณ (์ถ๊ฐ ์๊ธฐํ์ตยทํ๋ ํ์), ์ฒ๋ฆฌ๋๋ ์ฐ์ ํ์ค 500 units/hr(์ธ์คํด์ค๋น 7์ด)์ ํ์ฐธ ๋ชป ๋ฏธ์น๋ค(ํฌ๋ ์ดํธ ์ธ์ฒ ์ฌ์ดํด 179์ด). VLM ์ถ๋ก ํธ์ถยทIK ๋ชจ์ ๊ณํ ์๊ฐ์ด ๋ณ๋ชฉ.
- ํ์คํฌ๊ฐ ์ค์ ์ (quasi-static) pick-and-place์ ํธ์ค. 8๊ฐ ์ค force sensing์ด ํ์ํ ๊ฑด ์ผ์ด๋ธ ์ฝ์ ๋ฟ. ๋ณํ์ฒดยท๋์ ํยท์ด๋ ํ์ ์ ๋ฏธ๊ฒ์ฆ โ VA๋ฅผ ํ๋ฐฉํ์ง๋ง ๋ค๋ฃฌ ๋ณ์ด๋ ์ฃผ๋ก ๊ฐ์ฒด ํฌ์ฆ๋ค.
- โVA๋ ์ค๋ผํด์ด ์๋๋คโ๋ ๋ฐฉ์ด์๋ ๋ถ๊ตฌ, ์ํฌ์ ยท๊ฐ์ฒด ๋ฒ์ยทํฌ์ฆ ๋ฒ์ยทCAD ๋ชจ๋ธ์ ๋ชจ๋ ์๋ค๋ ๊ฐ์ ์ ๊ฐํ๋ค. belief \mathcal{B}๋ฅผ ์ด๋ป๊ฒ ์ป๊ณ ๊ทธ๊ฒ์ด ์ค์ ์ ์ด๊ธ๋ ๋(๋ถํฌ ์ด๋) ์ฑ๋ฅ์ด ์ด๋ป๊ฒ ๋๋์ง๋ ๋ค๋ฃจ์ง ์๋๋ค โ sim-to-real ์ ์ด๊ฐ ์ ๋๋ค์ง๋ง belief ์ ํ๋์ ์์กด์ ์ผ ๊ฒ.
- ๋ฒ ์ด์ค๋ผ์ธ ๊ณต์ ์ฑ. ์ ์ ์ค์ค๋ก CaP-XยทVLAยทTipTop ๋น๊ต๊ฐ โ์์ ํ ๊ณต์ ํ์ง ์๋คโ(GaP๋ ๊ธฐํ ์ ๋ณด๋ฅผ ํ์ฉ)๊ณ ๋ฐํ๋ค. ํนํ VLA๋ GaP๊ฐ ํ์ฉํ๋ CADยท์ํฌ์ ์ ๋ณด๋ฅผ ๋ชป ๋ฐ์ผ๋ฏ๋ก, โGaP > VLAโ๋ ๋ฐฉ๋ฒ ์ฐ์ด์ด๋ผ๊ธฐ๋ณด๋ค ์ ๋ณด ์ ๊ทผ์ ์ฐจ์ด๋ฅผ ์๋น ๋ถ๋ถ ๋ฐ์ํ๋ค.
- LLM ์์กด. ์ ์คํ์ด Gemini-3.1-Flash-Lite ๋จ์ผ ๋ชจ๋ธยทtemp 0.1. ๋ชจ๋ธ ๊ต์ฒด ์ ๊ฒฌ๊ณ ์ฑ, ์์ฑ ์คํจ์จยท์ฌ์๋ ๋น์ฉ, LLM ํธ์ถ๋น ๊ธ์ ๋น์ฉ ๋ฑ agentic ์์คํ ์ ์ค์ ์งํ๊ฐ ๋ณด๊ณ ๋์ง ์๋๋ค.
- ์ฌ์ํ ๋ด๋ถ ๋ถ์ผ์น. Benchmark IV ๋ณธ๋ฌธ์ โ6 ์์ผ ๋ฑ ํฌโ๋ผ ํ๋๋ฐ Fig. 3 ์บก์ ์ โSeven-portsโ๋ผ ํ๊ธฐ โ ํฐ ๋ฌธ์ ๋ ์๋๋ ํ์ธ ํ์.
๊ด๋ จ ์ฐ๊ตฌ์์ ์๋ฆฌ ๋งค๊น
- Code-as-Policy ๊ณ๋ณด(CaP โ CaP-X, GRAPPA, Maestro). GaP๋ ์ด ํ๋ฆ์ โ์์ ํ ์ฝ๋โ ๋์ ๊ทธ๋ํ ๊ตฌ์กฐ๋ฅผ ๋์ ํด ๊ฒ์ฆ์ฑ๊ณผ ๋ฉํฐ์์ด์ ํธ ๊ด๋ฆฌ์ฑ์ ์ป์ ํ์ฅ์ด๋ค. CaP-X๊ฐ VLM Visual Differencing์ผ๋ก ํผ๋๋ฐฑ์ ์ค ๊ฒ๊ณผ ๋ฌ๋ฆฌ, GaP๋ ์๋ฎฌ ๋ฌผ๋ฆฌ ์ฐจ๋ถ์ผ๋ก ๊ธฐํยท์์น ํผ๋๋ฐฑ์ ์ค๋ค.
- TAMPยทROS. ๊ทธ๋ํ ๊ณ์ธต์ผ๋ก ์์ ์ ๋ณด์ฅํ๋ TAMP์ ๊ณ์ฐ ๊ทธ๋ํ ๊ตฌ์กฐ์ธ ROS์์ ์๊ฐ์ ๋ฐ์, ๋์ ๋ชจ๋์ฑยท์ฌ์ฌ์ฉ์ฑ์ agentic ์์ฑ๊ณผ ๊ฒฐํฉํ๋ค. TipTop(TAMP+LLM)์ด ๋น๊ต baseline.
- ์๊ธฐ๊ฐ์ agentic ์ํฌํ๋ก. Voyager(Minecraft ์คํฌ ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์ถ์ )ยทBlox-Net(๋ฌผ๋ฆฌ ์คํ์ผ๋ก LLM ํ๋ ๊ฐ์ )์ ๋ก๋ดํ์ผ๋ก, ์ฌ๋ฌ LLM ์์ด์ ํธ๊ฐ ๊ทธ๋ํ๋ฅผ ์์ฑํ๊ณ ์๋ฎฌ ์คํ์ผ๋ก ๋ฐ๋ณต ๊ฐ์ ํ๋ค.
- VLA ์ ์ฑ . GaP๊ฐ ๋ถ์ถยท๋น๊ต ๋์์ผ๋ก ์ผ๋ MolmoAct2ยทฯ0.5๊ฐ ์ด ์ถ์ ๋ํ. GaP๋ VLA๋ฅผ ๊ทธ๋ํ ๋ ธ๋๋ก ๊ฐ์ธ ๋ถํฌ ๋ด๋ก ๋ฃ๋ ํ์ด๋ธ๋ฆฌ๋๋ฅผ ์ ์ํด, VLA๋ฅผ ๋์ฒด๊ฐ ์๋ ๊ตฌ์ฑ์์๋ก ์ฌ๋ฐฐ์นํ๋ค.
- ์๋ฎฌ ๊ธฐ๋ฐ ๋ก๋ด ํ์ต ํ๋ซํผ. ๋๊ท๋ชจ ์๋ฎฌ๋ก ์ ์ฑ ์ ํ์ตยทํ๊ฐํ๋ RoboVerse์ ๊ฐ์ ํ๋ฆ์์, GaP๋ ์๋ฎฌ์ ์ ์ฑ ํ์ต์ด ์๋๋ผ ๊ทธ๋ํ ๋ฆฌํ์คยท์ ์ ์์ง์ผ๋ก ์ฐ๋ ์ ์ด ํน์ง์ ์ด๋ค.
์์ฝ
GaP๋ (1) GR๊ณผ FA ์ฌ์ด์ Variational Automation ํ์คํฌ ํด๋์ค์ 8๊ฐ ๊ฐ๋ฐฉ ๋ฒค์น๋งํฌ๋ฅผ ์ ์ํ๊ณ , (2) ๋ก๋ด ์ ์ฑ ์ ์์ ์คํฌ ๋ ธ๋์ ๊ฒ์ฆ ๊ฐ๋ฅํ ๋ฐฉํฅ ๊ณ์ฐ ๊ทธ๋ํ๋ก ํํํ๋ฉฐ, (3) ์ด๋ฅผ ๋ฉํฐ์์ด์ ํธ ํ๋์ค๋ก ์์ฑํ๊ณ Isaac ์๋ฎฌ ๋ณ๋ ฌ ๋ฆฌํ์ค๋ก ์๊ธฐํ์ต(Algorithm 1) ์ ์ ํ๋ค. 51๊ฐ ์คํฌ์ MORSL๋ก model-based(ROSยทcuRobo)์ model-free(GraspGenยทVLA)๋ฅผ ํ ๊ทธ๋ํ์ ๊ณต์กด์ํค๊ณ , ๋ฐฐํฌ๋ LLM ์๋ ๊ฒฐ์ ์ ์ธํฐํ๋ฆฌํฐ๋ก ๋๋ฆฐ๋ค. ํฌ์ฆ ๋ณ์ด ํ์์ VLA(์ต์ 0.20)ยทTAMP(0.22โ0.46)๋ฅผ ํฌ๊ฒ ์์๋ ์๋ฎฌ 0.93โ0.99, ์ค๋ฌผ 25/25ยท28/30ยท18/20, ์ผ์ด๋ธ 121/130, ์ํ ํฌ๋ ์ดํธ 0.95(์ ๋ฌธ๊ฐ 0.99 ๊ทผ์ )๋ฅผ ๋ฌ์ฑ. graphlessยทsingle-agent๊ฐ ๋ชจ๋ 0์ผ๋ก ๋ถ๊ดดํ๋ ablation์ ๊ตฌ์กฐ๊ฐ agentic ๋ก๋ณดํฑ์ค์ ํ์์กฐ๊ฑด์์ ๋ณด์ธ๋ค. ๋ค๋ง ์ฐ์ ์ ๋ขฐ์ฑยท์ฒ๋ฆฌ๋์ ์์ง ๋ชป ๋ฏธ์น๊ณ , ํ์คํฌ๊ฐ ์ค์ ์ ๊ฐ์ฒด pick-and-place์ ํธ์ค๋๋ฉฐ, beliefยทCADยท์ํฌ์ ์ ์๋ค๋ ๊ฐ์ ๊ณผ VLA ๋๋น ์ ๋ณด ๋น๋์นญ์ ๊ฒฐ๊ณผ ํด์ ์ ๊ฐ์ํด์ผ ํ๋ค.