๐robomimic ๋ฆฌ๋ทฐ
์ ์: Ajay Mandlekar, Danfei Xu, Josiah Wong, Soroush Nasiriany, Chen Wang, Rohun Kulkarni, Li Fei-Fei, Silvio Savarese, Yuke Zhu, Roberto Martรญn-Martรญn
Stanford University ยท The University of Texas at Austin / CoRL 2021 (Oral)
- ๐ก ์คํ๋ผ์ธ ์ธ๊ฐ ์์ฐ์ผ๋ก ๋ก๋ด ์กฐ์์ ํ์ตํ ๋ โ๋ฌด์์ด ์ฑ๋ฅ์ ์ข์ฐํ๋๊ฐโ๋ฅผ, 6๊ฐ ์๊ณ ๋ฆฌ์ฆ ร 8๊ฐ ๊ณผ์ ร 3์ข ๋ฐ์ดํฐ(๊ธฐ๊ณ์์ฑ/์๋ จ์ธ๊ฐ/๋ค์ธ๊ฐ)๋ก ํต์ ๋น๊ตํ ๋๊ท๋ชจ ์ค์ฆ ์ฐ๊ตฌ์ด์, ๋ฐ์ดํฐ์ ยท๊ตฌํยทํ๊ฐ ํ๋กํ ์ฝ์ ์คํ์์ค๋ก ํ์คํํ ๋ฒค์น๋งํฌ(robomimic).
- โ๏ธ BCยทBC-RNNยทHBC(๋ชจ๋ฐฉ)์ BCQยทCQLยทIRIS(์คํ๋ผ์ธ RL)๋ฅผ ๋์ผํ ๋ฐ์ดํฐยทํ๋กํ ์ฝ ์์ ์ฌ๋ ค ๊ด์ธก ๊ณต๊ฐยท๋ฐ์ดํฐ ํ์ง/์ยทํ์ดํผํ๋ผ๋ฏธํฐยท์ ์ฑ ์ ํ ๊ธฐ์ค ๊ฐ์ ์์ธ๋ณ๋ก ํ๋์ฉ ํ๋ค์ด ๋ณด๋ฉฐ ์ฑ๋ฅ ๋ฏผ๊ฐ๋๋ฅผ ์ธก์ ํ๋ค.
- ๐ฏ ์๊ฐ ์์กด(history-dependent) ๋ชจ๋ธ BC-RNN์ด ์ธ๊ฐ ๋ฐ์ดํฐ์์ ์๋์ ์ด๊ณ , SOTA ์คํ๋ผ์ธ RL(BCQยทCQL)์ ๊ธฐ๊ณ์์ฑ ๋ฐ์ดํฐ์ ๊ฐํ์ง๋ง ์ธ๊ฐ ๋ฐ์ดํฐ์์ ๋ฌด๋์ง๋ฉฐ, ๊ด์ธก ๊ณต๊ฐยทํ์ดํผํ๋ผ๋ฏธํฐ๊ฐ ์ฑ๋ฅ์ ์์ญ %์ฉ ํ๋ ๋ค โ ๊ทธ๋ฆฌ๊ณ ์๋ฎฌ๋ ์ด์ ์์ ์ป์ ์ด ๊ฒฐ๋ก ๋ค์ด ์ค์ Franka ๋ก๋ด์ผ๋ก ๊ทธ๋๋ก ์ ์ด๋๋ค.
๐ Ping Review
๐ Ping โ A light tap on the surface. Get the gist in seconds.
์ธ๊ฐ ์์ฐ์ ๋ชจ๋ฐฉํด ๋ก๋ด์ ์กฐ์ ๋ฅ๋ ฅ์ ์ฌ๋ ๊ฒ์ ๋งค๋ ฅ์ ์ธ ์ ๊ทผ์ด์ง๋ง, ์ปดํจํฐ ๋น์ ยท์์ฐ์ด์ฒ๋ผ โ๋๊ท๋ชจ ์คํ ๋ฐ์ดํฐ + ์ฌํ ๊ฐ๋ฅํ ํ์ต๋ฒโ์ด๋ผ๋ ํ๊ดด์ ์ง์ ์ด ๋ก๋ณดํฑ์ค์์๋ ์์ง ์ค์ง ์์๋ค. ์ด์ ์ค ํ๋๋ ์คํ ์ธ๊ฐ ๋ฐ์ดํฐ์ ๊ณผ ๊ณต์ ํ ๋น๊ต ๊ธฐ์ค์ ๋ถ์ฌ๋ค. ๊ฐ ๋ ผ๋ฌธ์ด ์๋ก ๋ค๋ฅธ ๋ฐ์ดํฐยท๊ตฌํยทํ๊ฐ ํ๋กํ ์ฝ์ ์ฐ๋ค ๋ณด๋ โ์ด ๋ถ์ผ๊ฐ ์ง๊ธ ์ด๋์ ์๋์งโ์กฐ์ฐจ ๊ฐ๋ ํ๊ธฐ ์ด๋ ค์ ๋ค.
์ด ๋ ผ๋ฌธ์ ๊ทธ ๊ณต๋ฐฑ์ ๋๊ท๋ชจ ํต์ ์คํ์ผ๋ก ๋ฉ์ด๋ค. 6๊ฐ์ ์คํ๋ผ์ธ ํ์ต ์๊ณ ๋ฆฌ์ฆ์, ๋์ด๋๊ฐ ๋ค๋ฅธ 5๊ฐ ์๋ฎฌ๋ ์ด์ + 3๊ฐ ์ค์ ์กฐ์ ๊ณผ์ ์์, ํ์ง์ด ๋ค๋ฅธ ๋ฐ์ดํฐ์ ์ผ๋ก ๋๋ ค ๋ณด๋ฉฐ โ์ธ๊ฐ ๋ฐ์ดํฐ๋ก๋ถํฐ์ ์คํ๋ผ์ธ ํ์ต์์ ์ค์ ๋ก ๋ฌด์์ด ์ค์ํ๊ฐโ๋ฅผ ํ๋์ฉ ๋ฏ์ด๋ณธ๋ค. ํต์ฌ ์ฐ์ถ๋ฌผ์ ์ ์๊ณ ๋ฆฌ์ฆ์ด ์๋๋ผ ๊ตํ(lessons)์ ๋ชฉ๋ก๊ณผ, ์ด๋ฅผ ์ฌํ ๊ฐ๋ฅํ๊ฒ ๋ง๋ ๋ฐ์ดํฐ์ ยท์ฝ๋(robomimic)๋ค.

๊ณผ์ ๊ฐ์(Fig. 1) โ 6๋ช ์ ์๋ก ๋ค๋ฅธ ์๋ จ๋ ์กฐ์์๋ก๋ถํฐ ๋ฐ์ดํฐ๋ฅผ ๋ชจ์, ํฝ์คํ๋ ์ด์คยท์ํ ํ์ยท๊ณ ์ ๋ฐ ์ฝ์ /์กฐ๋ฆฝ์ ์์ฐ๋ฅด๋ 8๊ฐ ๊ณผ์ (์๋ฎฌ 5 + ์ค์ 3)์์ ์คํ๋ผ์ธ ์ ์ฑ ํ์ต์ ํ๊ฐํ๋ค.
ํต์ฌ ๋ฐฉ๋ฒ๋ก :
์ฐ๊ตฌ ์ค๊ณ๋ ์ธ ์ถ์ ํต์ ๋ณ์๋ก ๊ตฌ์ฑ๋๋ค. (1) ๋ฐ์ดํฐ ์ถ์ฒ โ ๊ธฐ๊ณ์์ฑ(MG: RL ์ฒดํฌํฌ์ธํธ ๋กค์์), ์๋ จ์ธ๊ฐ(PH: ๋จ์ผ ์ ๋ฌธ ์กฐ์์ 200์์ฐ), ๋ค์ธ๊ฐ(MH: ์๋ จ๋๊ฐ ๋ค๋ฅธ 6๋ช
ร 50 = 300์์ฐ). (2) ์๊ณ ๋ฆฌ์ฆ โ ๋ชจ๋ฐฉ ๊ณ์ด BCยทBC-RNNยทHBC์ ์คํ๋ผ์ธ RL ๊ณ์ด BCQยทCQLยทIRIS. (3) ๊ด์ธก ๊ณต๊ฐ โ ๋ฌผ์ฒด์ ์ ๋ต ์ํ๋ฅผ ์ฐ๋ low-dim๊ณผ ์ด๋ฅผ ์นด๋ฉ๋ผ ์์์ผ๋ก ๋์ฒดํ image.
๊ฐ์ฅ ๋จ์ํ ๊ธฐ์ค์ BC๋ ์ํ s์์ ํ๋ a๋ก์ ์ฌ์์ ์ง๋ํ์ต์ผ๋ก ๋ง์ถ๋ค:
\min_\theta\ \mathbb{E}_{(s,a)\sim \mathcal{D}}\big[\, \|\pi_\theta(s) - a\|^2 \,\big]
์ฌ๊ธฐ์ ์๊ฐ ๋ฌธ๋งฅ์ ๋ํ ๊ฒ์ด BC-RNN(๊ณผ๊ฑฐ ๊ด์ธก ์ํ์ค๋ฅผ RNN์ผ๋ก ์กฐ๊ฑดํ)์ด๋ฉฐ, ์ด ๋ ผ๋ฌธ์ ๊ฒฐ๋ก ๋๋ถ๋ถ์ด ์ด ํ ์ถ(โ๊ณผ๊ฑฐ๋ฅผ ๋ณผ ๊ฒ์ธ๊ฐโ)์์ ๊ฐ๋ฆฐ๋ค. ๋ชจ๋ ์คํ์ ์ด์ง ์ฑ๊ณต ๋ณด์์ ์ฐ๊ณ , ๊ฐ ์์ด์ ํธ๋ฅผ ํ์ต ์ค ์ฌ๋ฌ ์ฒดํฌํฌ์ธํธ์์ ์๋ฎฌ๋ ์ดํฐ์ 50ํ ๋กค์์ํด ์ป์ ์ฑ๊ณต๋ฅ ์ ํ์ต ์ค ์ต๋๊ฐ์ 3๊ฐ ์๋ ํ๊ท ์ผ๋ก ๋ณด๊ณ ํ๋ค(low-dim: N{=}2000 epochยทM{=}100 stepยทE{=}50 ํ๊ฐ ์ฃผ๊ธฐ / image: N{=}600ยทM{=}500ยทE{=}20).
์ฃผ์ ๊ฒฐ๊ณผ: (์ฑ๊ณต๋ฅ %, 3์๋ ํ๊ท )
- ๊ณผ๊ฑฐ๋ฅผ ๋ณด๋ ๊ฒ์ด ๊ฒฐ์ ์ ์ด๋ค. low-dim์์ Transport(PH) ์ฑ๊ณต๋ฅ ์ด BC 17.3 โ BC-RNN 71.3, Transport(MH)๋ 11.3 โ 65.3์ผ๋ก ๋ด๋ค(Table 1). ์ฅ๊ธฐ ์งํยท๋ค์ธ๊ฐ ๊ณผ์ ์ผ์๋ก ๊ฒฉ์ฐจ๊ฐ ์ปค์ง๋ค.
- ์คํ๋ผ์ธ RL์ ์ธ๊ฐ ๋ฐ์ดํฐ์์ ๋ฌด๋์ง๋ค. BCQ๋ ๊ธฐ๊ณ์์ฑ Lift(MG) 91.3, Can(MG) 75.3์ผ๋ก ๊ฐํ์ง๋ง, ์ธ๊ฐ ๋ฐ์ดํฐ Transport(PH) 7.3, Tool Hang(PH) 0.0์ผ๋ก ๋ถ๊ดดํ๋ค. CQL์ ๋ ์ฌํ๋ค. ์ง๋จ์ฉ Can-Paired(์ฑ๊ณต/์คํจ ๊ถค์ ์ ์ง์ง์ ๋จ์ ๋ฐ์ดํฐ)์์๋ BCQ 44.7 / CQL 6.0์ผ๋ก ๊ณ ์ ํ๋ค(Table 2).
- ๊ด์ธก ๊ณต๊ฐยทํ์ดํผํ๋ผ๋ฏธํฐ๊ฐ ์ฑ๋ฅ์ ํฌ๊ฒ ํ๋ ๋ค. low-dim์ ๋ง๋จ์๋ยท๊ด์ ์ ๋ณด๋ฅผ ๋ํ๋ฉด ์คํ๋ ค 49~88% ์๋ ์ฑ๋ฅ ํ๋ฝ, image์์ ํฝ์ ์ด๋ ๋๋คํ ์ ๊ฑฐ ์ 47%(Square)ยท35%(Transport) ํ๋ฝ, ์๋ชฉ ์นด๋ฉ๋ผ ์ ๊ฑฐ ์ ์ต๋ 43% ํ๋ฝ(Fig. 2).
- image๊ฐ low-dim์ ํ์ ํ๋ค. BC-RNN์ ์ ๋ต ๋ฌผ์ฒด ์ํ ๋์ ์์๋ง์ผ๋ก๋ Square(PH) 82.0, Tool Hang(PH) 67.3์ ๋ด๋ฉฐ ๋๋ถ๋ถ ๊ณผ์ ์์ low-dim๊ณผ ์ ์ฌํ ์ฑ๋ฅ์ ์ ์ง(Table 3).
- ์ค์ ๋ก๋ด ์ ์ด. ์๋ฎฌ์์ ํ๋ํ ํ์ดํผํ๋ผ๋ฏธํฐ๋ฅผ ๊ทธ๋๋ก ์จ ์ค์ Franka์์ Lift 96.7%, Can 73.3%, Tool Hang 3.3%(์ต์ข ์ฒดํฌํฌ์ธํธยท30๋กค์์, ํํ๊ฐ)๋ฅผ ๋ฌ์ฑ.
๊ฒฐ๋ก : โ์ธ๊ฐ ๋ฐ์ดํฐ๋ก๋ถํฐ์ ์คํ๋ผ์ธ ์กฐ์ ํ์ตโ์์ ์ฑ๋ฅ์ ์ข์ฐํ๋ ๊ฒ์ ํ๋ คํ ๋ชฉ์ ํจ์๊ฐ ์๋๋ผ โ ์๊ฐ ๋ฌธ๋งฅ์ ๋ชจ๋ธ๋งํ๋๊ฐ, โก ๊ด์ธก ๊ณต๊ฐ์ ์ด๋ป๊ฒ ์ค๊ณยท์ ์ ํ๋๊ฐ, โข ํ์ดํผํ๋ผ๋ฏธํฐยท์ ์ฑ ์ ํ์ ์ด๋ป๊ฒ ๋ค๋ฃจ๋๊ฐ๋ค. SOTA ์คํ๋ผ์ธ RL์ด ์ธ๊ฐ ๋ฐ์ดํฐ์์ ์คํจํ๋ค๋ ์ฌ์ค์ ์ด ๋ถ์ผ๊ฐ ๊ธฐ๊ณ์์ฑ ๋ฒค์น๋งํฌ์ ๊ณผ์ ํฉ๋ผ ์์์ ๋๋ฌ๋ด๋ฉฐ, ์ ์๋ค์ ์ด๋ฅผ ๋ฐ๋ก์ก์ ํ์ค ๋ฐ์ดํฐ์ ยท์ฝ๋๋ฅผ ๊ณต๊ฐํ๋ค.
๐ Ring Review
๐ Ring โ An idea that echoes. Grasp the core and its value.
ํ ์ค๋ก ์์ํ๋ฉด
โ์คํ๋ผ์ธ ์ธ๊ฐ ์์ฐ์ผ๋ก ๋ก๋ด ์กฐ์์ ๋ฐฐ์ธ ๋ ์ ๋ง ์ค์ํ ๊ฒ์ ๋ฌด์์ธ๊ฐโ๋ฅผ ์๊ณ ๋ฆฌ์ฆยท๋ฐ์ดํฐ ํ์ง/์ยท๊ด์ธก ๊ณต๊ฐยทํ์ดํผํ๋ผ๋ฏธํฐยท์ ์ฑ ์ ํ์ด๋ผ๋ ์์ธ๋ค๋ก ํ๋์ฉ ํต์ ํด ์ธก์ ํ๊ณ , ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ์ฌํ ๊ฐ๋ฅํ ๋ฐ์ดํฐ์ ยท์ฝ๋(robomimic)๋ก ๋ชป๋ฐ์ ๋๊ท๋ชจ ์ค์ฆ ์ฐ๊ตฌ๋ค.
๋ฐฐ๊ฒฝ: ์ ์ธ๊ฐ ๋ฐ์ดํฐ ์คํ๋ผ์ธ ํ์ต์ด ์ด๋ ค์ด๊ฐ
๋ค๋ฅธ ๋๋ฉ์ธ์์ ์ง๋ํ์ต์ด ์ฑ๊ณตํ ๋ฐ๋ฉด ๋ก๋ด ์กฐ์์ ๊ทธ๋ ์ง ๋ชปํ๋ค. ์กฐ์์ ์๊ฐ์ ๋ฐ๋ผ ์งํํ๋ ๋์ญํ ์์คํ ์ด๋ผ ์ค์๊ฐ ๋ฏธ์ธ ์ ์ด๊ฐ ํ์ํ๊ณ , ๋ฐ์ดํฐ ์์ง ์์ฒด๊ฐ ๊ธฐ์ ์ ๋์ ๋ค. ๊ทธ ๊ฒฐ๊ณผ ๋๊ท๋ชจ ์ธ๊ฐ ๋ฐ์ดํฐ์ ์ด ๋๋ฌผ์๊ณ , ์๋๋ผ๋ ๊ทธ ๋ฐ์ดํฐ๋ก๋ถํฐ์ ํ์ต์๋ ๊ณ ์ ํ ์ด๋ ค์์ด ์๋ค. ์ ์๋ค์ ์ด๋ฅผ ๋ค์ฏ ๊ฐ์ ๋์ (C1โC5)์ผ๋ก ์ ๋ฆฌํ๋ค.
- (C1) ๋น-Markov ๊ฒฐ์ ๊ณผ์ . ์ธ๊ฐ์ ํ์ฌ ๊ด์ธก๋ง ๋ณด๊ณ ํ๋ํ์ง ์๋๋ค โ ์๊ฒฉ์กฐ์ ์ฅ์น, ๊ณผ๊ฑฐ ํ๋, ์ํผ์๋ ์ด๋ ฅ์ด ๊ฐ์ ํ๋ค. ๋ฐ๋ผ์ ํ์ฌ ์ํ๋ง ๋ณด๋ ์ ์ฑ ์ ์ธ๊ฐ ๋ฐ์ดํฐ๋ฅผ ์ ๋ง์ถ์ง ๋ชปํ๊ณ , ์๊ฐ ์์กดยท์๊ฐ ์ถ์ํ ๋ชจ๋ธ์ด ์ ๋ฆฌํ ์ ์๋ค.
- (C2) ๋ค์ธ๊ฐ ๋ฐ์ดํฐ์ ํ์ง ํธ์ฐจ. ์ฌ๋ฌ ์ฌ๋์ด ๋ชจ์ ๋ฐ์ดํฐ๋ ์๋ จ๋ยทํด๋ฒ ์ ๋ต์ด ํฌ๊ฒ ๋ค๋ฅด๋ค(๊ถค์ ๊ธธ์ดยท์ก์ยท์ค์). ๊ธฐ๊ณ์์ฑ ํผํฉ ๋ฐ์ดํฐ์์ ์ ๋ฐฐ์ฐ๋ ์คํ๋ผ์ธ RL์ด ํผํฉ ํ์ง ์ธ๊ฐ ๋ฐ์ดํฐ์์๋ ๋๋์ง๊ฐ ์ด๋ฆฐ ์ง๋ฌธ์ด๋ค.
- (C3) ๋ฐ์ดํฐ์ ํฌ๊ธฐ ์์กด์ฑ. ์คํ๋ผ์ธ ํ์ต์ ์ํยทํ๋ ๊ณต๊ฐ์ ์ปค๋ฒ๋ฆฌ์ง, ์ฆ ๋ฐ์ดํฐ ์์ ๋ฏผ๊ฐํ๋ค. ์ธ๊ฐ ์์ฐ ์์ง์ ๋น์ธ๋ฏ๋ก โ๋ฐ์ดํฐ๋ฅผ ๋ ๋ชจ์ผ๋ ๊ฐ์นโ๋ฅผ ์ ๋ํํ ํ์๊ฐ ์๋ค.
- (C4) ํ์ตโํ๊ฐ ๋ชฉ์ ์ ๋ถ์ผ์น. ์ง๋ํ์ต์ ๊ฒ์ฆ ์์ค๋ก ๋ชจ๋ธ์ ๊ณ ๋ฅผ ์ ์์ง๋ง, ์คํ๋ผ์ธ ์ ์ฑ ํ์ต์์ ํ์ต ์์ค์ ์ง์ง ๋ชฉํ(๊ณผ์ ์ฑ๊ณต๋ฅ )์ ๋๋ฆฌ์น์ผ ๋ฟ์ด๊ณ ์ฑ๋ฅ์ด epoch๋ง๋ค ์ถ๋ ์ธ๋ค. ์ด๋ค ์ฒดํฌํฌ์ธํธ๋ฅผ ๋ฐฐํฌํ ์ง ๊ณ ๋ฅด๋ ๋ฌธ์ ๊ฐ ์ค์ ํ๊ฒฝ์์ ํนํ ์ด๋ ต๋ค.
- (C5) ์์ด์ ํธ ์ค๊ณ ๊ฒฐ์ ์ ๋ํ ๋์ ๋ฏผ๊ฐ๋. ๊ธฐ๊ณ์์ฑ ๋ฐ์ดํฐ ์ฐ๊ตฌ๋ค์ด ์ด๋ฏธ ์คํ๋ผ์ธ ํ์ต์ด ํ์ดํผํ๋ผ๋ฏธํฐ์ ๊ทน๋๋ก ๋ฏผ๊ฐํจ์ ๋ณด์๋ค. ์ํคํ ์ฒยท๊ด์ธก ๊ณต๊ฐยทํ์ดํผํ๋ผ๋ฏธํฐ๊ฐ ์ธ๊ฐ ๋ฐ์ดํฐ์์ ์ฑ๋ฅ์ ์ผ๋ง๋ ํ๋๋์ง ์ค์ฆํ๋ค.
์ด ๋ค์ฏ ๋์ ์ด ๊ณง ์คํ ์ (Section 4)์ ๊ฐ ์ถ๊ณผ ์ผ๋์ผ๋ก ๋์ํ๋ค๋ ์ ์ด ์ด ๋ ผ๋ฌธ์ ๊ตฌ์กฐ์ ๋ฏธ๋์ด๋ค.
์ฐ๊ตฌ ์ค๊ณ: ๊ณผ์ ยท๋ฐ์ดํฐยท์๊ณ ๋ฆฌ์ฆยทํ๋กํ ์ฝ
๊ณผ์ (Fig. 1). ์๋ฎฌ 5๊ฐ โ Lift(ํ๋ธ ๋ค๊ธฐ), Can(์บ์ ๋ชฉํ ํต์ผ๋ก ํฝ์คํ๋ ์ด์ค), Square(์ ์ฌ๊ฐ ๋ํธ๋ฅผ ๋ด์ ์ฝ์ ), Transport(์ํ์ด ๋ง์น๋ฅผ ๋๊ฒจ ์ฎ๊ธฐ๋ ์ฅ๊ธฐ ์งํ ํ์), Tool Hang(ํ๋ ์ ์กฐ๋ฆฝ ํ ๋ ์น ๊ฑธ๊ธฐ, ๊ฐ์ฅ ์ด๋ ค์). ์ด ์ค LiftยทCanยทTool Hang์ ์ค์ Franka๋ก๋ ์์งํ๋ค.
๋ฐ์ดํฐ ์ถ์ฒ(3์ข ). - MG(๊ธฐ๊ณ์์ฑ): RL ์๊ณ ๋ฆฌ์ฆ์ LiftยทCan์์ ํ์ต์ํค๋ฉฐ ์ฒดํฌํฌ์ธํธ๋ณ๋ก 300 ๋กค์์์ ๋ชจ์ ๊ฒ โ ์ ๋ฌธ๊ฐ์ ์ค์ต์ ์ด ์์ธ, ํํ ์คํ๋ผ์ธ RL ๋ฒค์น๋งํฌ๋ฅผ ๋ฎ์ ๋ฐ์ดํฐ. (๋ค๋ฅธ ๊ณผ์ ๋ RL์ด ๋ชป ํ์ด ์ ์ธ.) - PH(์๋ จ์ธ๊ฐ): RoboTurk ์๊ฒฉ์กฐ์์ผ๋ก ๋จ์ผ ์๋ จ ์กฐ์์๊ฐ ๋ชจ์ 200 ์์ฐ. - MH(๋ค์ธ๊ฐ): ์๋ จ๋๊ฐ ๋ค๋ฅธ 6๋ช (better 2 / okay 2 / worse 2)์ด ๊ฐ 50๊ฐ์ฉ ๋ชจ์ 300 ์์ฐ. ์ด ํ์ ์งํฉ ๊ตฌ์กฐ๊ฐ C2(ํ์ง ํธ์ฐจ) ๋ถ์์ ๊ฐ๋ฅํ๊ฒ ํ๋ค.
์๊ณ ๋ฆฌ์ฆ(6์ข ). ๋ชจ๋ฐฉ ๊ณ์ด โ BC, BC-RNN(RNN ์ ์ฑ ), HBC(๊ณ์ธต์ BC). ์คํ๋ผ์ธ RL ๊ณ์ด โ BCQ, CQL, IRIS. BC-RNNยทHBCยทIRIS๋ ์๊ฐ ์์กด/์๊ฐ ์ถ์ํ๋ฅผ ๊ฐ๋๋ค.
๊ด์ธก ๊ณต๊ฐ(2์ข
). low-dim(๋ง๋จ ์์ธยท๊ทธ๋ฆฌํผ + ์ ๋ต ๋ฌผ์ฒด ์ํ)๊ณผ image(์ ๋ต ๋ฌผ์ฒด ์ํ๋ฅผ ์ธ๋ถ/์๋ชฉ ์นด๋ฉ๋ผ ์์์ผ๋ก ๋์ฒด). ํ์๊ฐ ์ค์ธ๊ณ ํ์ต์ ์ง๊ฒฐ๋๋ค.
ํ๋กํ ์ฝ. ์ด์ง ์ฑ๊ณต ๋ณด์, ํ์ต ์ค ์ฌ๋ฌ ์ฒดํฌํฌ์ธํธ๋ฅผ 50ํ ๋กค์์ ํ๊ฐํด ์ฑ๊ณต๋ฅ ์ ํ์ต ์ค ์ต๋๊ฐ์ 3์๋ ํ๊ท ์ผ๋ก ๋ณด๊ณ (C4๋ฅผ ์ฐํํ๊ธฐ ์ํด ์๋ฎฌ์์ ์จ๋ผ์ธ ํ๊ฐ๋ก ์ต์ ์ฒดํฌํฌ์ธํธ๋ฅผ ๊ณ ๋ฅธ๋ค โ ์ด โ์นํธโ๊ฐ ์ ์ฑ ์ ํ ์คํ 4.5์ ๊ธฐ์ค์ ์ด ๋๋ค).
์คํ: ์์ธ๋ณ๋ก ํ๋์ฉ ํ๋ค์ด ๋ณด๊ธฐ
์๊ณ ๋ฆฌ์ฆ ๋น๊ต (C1, C2)

low-dim ๊ฒฐ๊ณผ(Table 1) โ MG(๊ธฐ๊ณ์์ฑ)ยทPH(์๋ จ์ธ๊ฐ)ยทMH(๋ค์ธ๊ฐ) ๋ฐ์ดํฐ์์์ ์ฑ๊ณต๋ฅ . ์๊ฐ ์๊ด์ ๋ชจ๋ธ๋งํ๋ BC-RNNยทHBCยทIRIS๊ฐ ์ธ๊ฐ ๋ฐ์ดํฐ์์ ๊ฐํ๊ณ , BCQ ๊ฐ์ ์คํ๋ผ์ธ RL์ ๊ธฐ๊ณ์์ฑ์ ๊ฐํ๋ ์ธ๊ฐ ๋ฐ์ดํฐ์ ์ฝํ๋ค.
๊ณผ๊ฑฐ๋ฅผ ๋ณด๋ ๊ฒ์ด ๊ฒฐ์ ์ ์ด๋ค. BC-RNN๊ณผ BC์ ๊ฒฉ์ฐจ๊ฐ history-dependence์ ์ด๋์ ๊ทธ๋๋ก ๋ณด์ฌ์ค๋ค. ์ฅ๊ธฐ ์งํ ๊ณผ์ ์ผ์๋ก(Transport(PH)์์ ~55%p vs Square(PH)์์ ~5%p), ๋ค์ธ๊ฐ ๋ฐ์ดํฐ์ผ์๋ก(Square(MH) ~25%p vs Square(PH) ~5%p) ๊ฒฉ์ฐจ๊ฐ ๋ฒ์ด์ง๋ค. ํฅ๋ฏธ๋กญ๊ฒ๋ MH(300์์ฐ)๊ฐ PH(200์์ฐ)๋ณด๋ค ๋ฐ์ดํฐ๊ฐ 100๊ฐ ๋ ๋ง์๋ฐ๋ ์ฑ๋ฅ์ ๋ ๋ฎ๋ค โ ์ค์ต์ ยท๋ค๋ด(multimodal) ๋ฐ์ดํฐ์ ๋ถ๋ด ๋๋ฌธ์ด๋ค.
์คํ๋ผ์ธ RL์ด ์ธ๊ฐ ๋ฐ์ดํฐ์์ ๋ฌด๋์ง๋ค. BCQ๋ ๊ธฐ๊ณ์์ฑ MG ๋ฐ์ดํฐ์ ์ข๊ณ ๋์ ์ ์ฑ ํผํฉ์์๋ ๊ฐํ๋ค(Lift(MG) 91.3, Can(MG) 75.3). ๊ทธ๋ฌ๋ ๊ฐ์ ์๊ณ ๋ฆฌ์ฆ์ด ์ธ๊ฐ ๋ฐ์ดํฐ์์๋ Transport(PH) 7.3, Tool Hang(PH) 0.0์ผ๋ก ๋ถ๊ดดํ๋ค. CQL์ ๋ ์ฌํ๋ค. ์ด๋ ์คํ๋ผ์ธ RL์ ์ด์ ์ฑ๊ณต์ด RL ํ์/์ฌ์ ํ์ต ์์ด์ ํธ๊ฐ ๋ง๋ ํน์ ๋ฐ์ดํฐ ๋ถํฌ์ ๊ธฐ๋๊ณ ์์์์ ์์ฌํ๋ค.
์ค์ต์ ์ธ๊ฐ ๋ฐ์ดํฐ (C2)

์ค์ต์ ์ธ๊ฐ ๋ฐ์ดํฐ ๊ฒฐ๊ณผ(Table 2) โ MH๋ฅผ ์กฐ์์ ์๋ จ๋(better/okay/worse)๋ก ์ชผ๊ฐ ํ์ ์งํฉ๋ค. BC-RNN์ด ๊ฒฌ๊ณ ํ ๊ธฐ์ค์ ์ด๋ฉฐ, ์คํ๋ผ์ธ RL์ ๋ชจ๋ ๋ฐ์ดํฐ์์, ์ฌ์ง์ด ์ฑ๊ณต/์คํจ๋ฅผ ์ง์ง์ ์ง๋จ์ฉ Can-Paired์์๋ ์ฝํ๋ค.
MH๋ฅผ 100์์ฐ ๋จ์(better/okay/worse)์ 200์์ฐ ํผํฉ์ผ๋ก ์ชผ๊ฐ ํ์ง ๋์์ ๋ณธ๋ค. BC๋ betterโworse ์ฌ์ด ๊ฒฉ์ฐจ๊ฐ ํฌ์ง๋ง(Can ~27%p, Square ~35%p), BC-RNN์ Can์์ ์ด ๊ฒฉ์ฐจ๋ฅผ ๊ฑฐ์ ์์ ๊ณ ๋ชจ๋ ๋ฐ์ดํฐ์์ BC๋ฅผ 7~35%p ์์ ๋ค(๋จ Square์์๋ ๊ฒฉ์ฐจ๊ฐ ๋จ๋๋ค). โworseโ 100๊ฐ๋ฅผ ์ถ๊ฐํ ๋ ๋๋ถ๋ถ ์๊ณ ๋ฆฌ์ฆ์ ์ฑ๋ฅ์ด ๋จ์ด์ง๋๋ฐ BC-RNN์ ์ผ๊ด๋๊ฒ ํฅ์ํ๋ค โ ๋์ ๋ฐ์ดํฐ๋ ํ์ฉํ๋ค๋ ๋ป์ด๋ค. ๋ค๋ง 200์์ฐ Square ํผํฉ(55.3/73.3/74.0)์ด ๊ณ ํ์ง 200์์ฐ Square(PH) 84.0์ ๋ชป ๋ฏธ์ณ ์ฌ์ ํ ๊ฐ์ ์ฌ์ง๊ฐ ์๋ค.
์ง๋จ ๋ฐ์ดํฐ์ . Can-Paired๋ ๊ฐ์ ์ด๊ธฐ ์ํ์์ ์ฑ๊ณต ์์ฐ 1๊ฐ + ์คํจ ์์ฐ 1๊ฐ๋ฅผ ์ง์ง์ด 100์(์ด 200์์ฐ)์ ๋ง๋ ๊ฒ์ผ๋ก, โ์ฑ๊ณต์ผ๋ก ์ด์ด์ง๋ ํ๋๊ณผ ์คํจ๋ก ์ด์ด์ง๋ ํ๋์ ๊ตฌ๋ถโํ๋ ๋ฅ๋ ฅ์ ์ง์ ์ํํ๋ค. ์คํ๋ผ์ธ RL์ด ๋น์ฐํ ์ํ ๊ฒ ๊ฐ์ ์ด ๋จ์ ์ค์ ์์๋ ๋๋ถ๋ถ ๊ณ ์ ํ๋ค. IRIS๊ฐ BC-RNN ๋๋น ์ฝ 5%p ๊ฐ์ ํ ์ ์ history-dependence๋ฅผ ์คํ๋ผ์ธ RL์ ๋ฃ๋ ๊ฒ์ด ์ ๋งํ ๋ฐฉํฅ์์ ์์ฌํ๋ค.
๊ด์ธก ๊ณต๊ฐ๊ณผ ํ์ดํผํ๋ผ๋ฏธํฐ (C5)

๊ด์ธก ๊ณต๊ฐยทํ์ดํผํ๋ผ๋ฏธํฐ์ ์ํฅ(Fig. 2) โ BC-RNN ์ฑ๊ณต๋ฅ ์ ์๋ ๋ณํ. (a) low-dim์ ๋ง๋จ์๋/๊ด์ ์ ๋ณด๋ฅผ ๋ํ๋ฉด ํฌ๊ฒ ํ๋ฝํ๊ณ ์ด๋ฏธ์ง ๋๋คํยท์๋ชฉ ์นด๋ฉ๋ผ๋ฅผ ๋นผ๋ฉด ํ๋ฝํ๋ค. (b)(c) ํ์ต๋ฅ ยทGMMยท๋คํธ์ํฌ ์ฉ๋ ์ ํ์ด ์ฑ๋ฅ์ ์ข์ฐํ๋ค.
๋ก๋ด ์๊ธฐ์์ฉ๊ฐ๊ฐ(proprioception) ํน์ง์ด ์ค์ํ๋ค. ๋๋๊ฒ๋ low-dim ๊ด์ธก์ ๋ง๋จ์๋ยท๊ด์ ์์น/์๋๋ฅผ ์ถ๊ฐํ๋ฉด ์ฑ๋ฅ์ด 49~88% ์๋ ํ๋ฝํ๋ค(image๋ 2~29%๋ก ๋ ๊ด๋). ๊ณผ์ ํด๊ฒฐ์ ๋ถํ์ํ ์ ๋ณด์ ๋ํ ๊ณผ์ ํฉ์ผ๋ก ๋ณด์ด๋ฉฐ, ์ ์๋ค์ โ์ ๋ณด ์จ๊ธฐ๊ธฐ(information-hiding)๊ฐ ๊ฐ๋ ฅํ ํจ๋ฌ๋ค์โ์ด๋ผ๊ณ ๊ถํ๋ค โ ๊ด์ธก ๊ณต๊ฐ์ ์ ์คํ ์์ง๋์ด๋งํด ๊ด๋ จ ์๋ ์ ๋ณด๋ฅผ ๋ฐฐ์ ํ๋ผ๋ ๊ฒ.
์ด๋ฏธ์ง ๋๋คํยท์๋ชฉ ์นด๋ฉ๋ผ๊ฐ ์ค์ํ๋ค. ํฝ์ ์ด๋ ๋๋คํ๋ฅผ ์ ๊ฑฐํ๋ฉด SquareยทTransport์์ 47%ยท35% ์๋ ํ๋ฝ, ์๋ชฉ ์นด๋ฉ๋ผ๋ฅผ ์ ๊ฑฐํ๋ฉด 9%ยท43% ํ๋ฝ. ์๋ชฉ ์์์ ํ์ง ์ ๋ ฌ์ ๋๊ณ , ๋๋คํ๋ ํ๋ ์์ธก์ ๋ฌด๊ดํ ์์ญ์ ๋ํ ๋ถ๋ณ์ฑ์ ๊ธธ๋ฌ ์ค๋ค.
ํ์ดํผํ๋ผ๋ฏธํฐ. ํ์ต๋ฅ ์ 1e-4โ1e-3์ผ๋ก ์ฌ๋ฆฌ๋ฉด image ์์ด์ ํธ๊ฐ 35~63% ํ๋ฝ(low-dim์ ๊ด๋). ๊ฒฐ์ ์ (GMM ์์ด) ์ ์ฑ ์ ํนํ MH Transport์์ 58% ํ๋ฝ. ํฐ MLP๋ ์ผ๊ด๋๊ฒ ํ๋ฝ(๊ณผ์ ํฉ), ์์ conv(ResNet ๋์ )๋ 25~62% ํ๋ฝ, RNN ์๋์ฐจ์์ 400โ100(low-dim)/1000โ400(image)์ผ๋ก ์ค์ด๋ฉด 3~58% ํ๋ฝ. ๊ถ๊ณ : ํ์ต๋ฅ ๊ณผ ๋คํธ์ํฌ ๊ตฌ์กฐ(MLPยทRNN ํฌ๊ธฐ)๋ฅผ ์ ์คํ ํ๋ํ๊ณ , GMM ์ ์ฑ ๊ณผ ResNet ์ธ์ฝ๋๋ฅผ ๊ธฐ๋ณธ์ผ๋ก ์ฐ๋ผ.
์ ์ฑ ์ ํ๊ณผ ๋ฐ์ดํฐ์ ํฌ๊ธฐ (C4, C3)

(์ข) ์ ์ฑ ์ ํ ๊ธฐ์ค์ ์ํฅ(Fig. 5a) โ ๊ฒ์ฆ ์์ค ์ต์ ๋๋ ๋ง์ง๋ง ์ฒดํฌํฌ์ธํธ๋ก ๋ฐฐํฌ ์ ์ฑ ์ ๊ณ ๋ฅด๋ฉด ์ต์ ๋๋น 10~100% ํ๋ฝ. (์ฐ) ์ด๋ฏธ์ง ๊ด์ธก ๊ฒฐ๊ณผ(Table 3) โ BC-RNN์ ์์๋ง์ผ๋ก๋ ์ ๋ต ์ํ ํ์ต๊ณผ ๊ฑฐ์ ๊ฐ์ ์ฑ๋ฅ.
(C4) ์ ์ฑ ์ ํ์ ๋ฏธํด๊ฒฐ ๋ฌธ์ ๋ค. ์ง๋ํ์ต์์ผ๋ก ๊ฒ์ฆ ์์ค์ด ์ต์์ธ ์ฒดํฌํฌ์ธํธ๋ฅผ ๊ณ ๋ฅด๊ฑฐ๋ ์คํ๋ผ์ธ RL ๊ดํ๋๋ก ๋ง์ง๋ง ์ฒดํฌํฌ์ธํธ๋ฅผ ์ฐ๋ฉด, ์จ๋ผ์ธ์ผ๋ก ๊ณ ๋ฅธ ์ต์ ๋๋น 10~100% ํ๋ฝํ๋ค. ์ฆ ์ด ๋ ผ๋ฌธ์ด ํ์์ ๋ณด๊ณ ํ ์ข์ ์์น๋ค์ โ์๋ฎฌ์์ ์จ๋ผ์ธ ํ๊ฐ๋ก ์ต์ ์ฒดํฌํฌ์ธํธ๋ฅผ ๊ณจ๋๊ธฐ ๋๋ฌธโ์ด๋ฉฐ, ์ค์ธ๊ณ์์๋ ์ด ์ฌ์น๊ฐ ๋ถ๊ฐ๋ฅํ๋ค โ ์คํ๋ผ์ธ ์ ์ฑ ์ ํ ์งํ๊ฐ ์ ์คํ๋ค.
(C3) ๋ฐ์ดํฐ์ ํฌ๊ธฐ. ๋ฐ์ดํฐ๋ฅผ 20%ยท50%๋ก ์ค์ฌ BC-RNN์ ํ์ต(Fig. 3). LiftยทCan ๊ฐ์ ๋จ์ ๊ณผ์ ๋ 20% ๋ฐ์ดํฐ๋ก๋ ์ ๋ฅํ ์ ์ฑ (75~100%)์ ์ป์ง๋ง, SquareยทTransport ๊ฐ์ ๋ณต์ก ๊ณผ์ ๋ ๋ฐ์ดํฐ๋ฅผ ์ค์ด๋ฉด ํฌ๊ฒ ์ํด๋ค โ ์ญ์ผ๋ก 20%โ50%โ100%๋ก ๋๋ฆด ๋ ์ ์๋ฏธํ ํฅ์์ด ์์ด, ๋ณต์ก ๊ณผ์ ์๋ ๋ ํฐ ์ธ๊ฐ ๋ฐ์ดํฐ์ ์ด ๊ฐ์น ์์์ ๋ณด์ธ๋ค.
์ด๋ฏธ์ง ๊ด์ธก๊ณผ ์ค์ ๋ก๋ด ์ ์ด
์ด๋ฏธ์ง ๊ด์ธก(Table 3)์์ BC-RNN์ ์ ๋ต ๋ฌผ์ฒด ์ํ ์์ด ์์๋ง์ผ๋ก Square(PH) 82.0, Tool Hang(PH) 67.3์ ๋ด๋ฉฐ, Transport(MH)๋ฅผ ์ ์ธํ๋ฉด low-dim๊ณผ ๊ฑฐ์ ๊ฐ์ ์ฑ๋ฅ์ ์ ์งํ๋ค โ ์ค์ธ๊ณ ์์ ๊ฐ๊ฐ ์ ํธ ํ์ต์ ๋๊ด์ ์ ํธ๋ค.
์ค์ ๋ก๋ด. ์๋ฎฌ์์ ํ๋ํ ํ์ดํผํ๋ผ๋ฏธํฐ๋ฅผ ๊ทธ๋๋ก ์ค์ Franka์ ์ ์ฉํด Lift 96.7%, Can 73.3%, ๊ทน๋๋ Tool Hang 3.3%(์ต์ข ์ฒดํฌํฌ์ธํธยท30๋กค์์์ด๋ผ ํํ๊ฐ)๋ฅผ ์ป์๋ค. Can์์ ๋๋คํ ์ ๊ฑฐ ์ 26.7%, ์๋ชฉ ์นด๋ฉ๋ผ ์ ๊ฑฐ ์ 43.3%๋ก, ์๋ฎฌ์์ ๋ฐ๊ฒฌํ ๊ด์ธก ๊ณต๊ฐ ๊ตํ์ด ์ค์ ์์๋ ์ฌํ๋จ์ ํ์ธํ๋ค.
์ง๊ด: ์ ์ด๋ฐ ๊ฒฐ๊ณผ๊ฐ ๋์ค๋๊ฐ
๋ ๊ฐ์ง ํต์ฌ ๊ด์ฐฐ์ด ์๋ก๋ฅผ ์ค๋ช ํ๋ค. ์ฒซ์งธ, ์ธ๊ฐ์ ๋น-Markov ์ ์ฑ ์ ์ด๋ค(C1). ์ฌ๋์ด ์๊ฒฉ์กฐ์ํ ๋์ ํ๋์ ํ์ฌ ์ฅ๋ฉด๋ง์ด ์๋๋ผ ๋ฐฉ๊ธ ๋ฌด์์ ํ๋์ง, ์ด๋ค ํ์ ๋จ๊ณ์ ์๋์ง์ ์์กดํ๋ค. ๊ทธ๋์ ํ์ฌ ์ํ๋ง ๋ณด๋ ์ ์ฑ (BCยทBCQยทCQL)์ ์ธ๊ฐ์ ํ๋ ๋ถํฌ๋ฅผ ์กฐ๊ฑด๋ถ ๋ค๋ด์ผ๋ก๋ง ๋ณผ ์๋ฐ์ ์๊ณ , ์ด๋ฅผ ํ๊ท ๋ด๋ ค๋ค ๋ฌด๋์ง๋ค. RNN์ผ๋ก ๊ณผ๊ฑฐ๋ฅผ ์กฐ๊ฑดํํ๋ฉด ์ด ๋ค๋ด์ฑ์ด ์๋น ๋ถ๋ถ ํ๋ฆฐ๋ค โ ๊ทธ๋์ BC-RNN์ด ์ด๊ธด๋ค.
๋์งธ, ์คํ๋ผ์ธ RL์ ์ด์ ์ฑ๊ณต์ ๋ฐ์ดํฐ ๋ถํฌ์ ํนํ๋ผ ์์๋ค(C2). BCQยทCQL์ ๊ธฐ๊ณ์์ฑ ๋ฐ์ดํฐ์ ๋๊ณ ๊ท ์งํ ์ปค๋ฒ๋ฆฌ์ง์์ Q๊ฐ์ ์์ ์ ์ผ๋ก ์ถ์ ํ๋๋ก ์ค๊ณยท๊ฒ์ฆ๋๋ค. ์ธ๊ฐ ๋ฐ์ดํฐ๋ ์ข๊ณ , ๋ค๋ด์ด๋ฉฐ, ์ค์ต์ ๊ถค์ ์ด ๊ตฌ์กฐ์ ์ผ๋ก ์์ฌ ์์ด ๊ทธ ๊ฐ์ ์ ๊นฌ๋ค. ์ง๋จ์ฉ Can-Paired์์์กฐ์ฐจ ์คํจํ๋ค๋ ์ฌ์ค์ด ์ด๋ฅผ ๋ชป๋ฐ๋๋ค. ๊ฒฐ๊ตญ ์ด ๋ ผ๋ฌธ์ ๋ฉ์์ง๋ โ์ ์๊ณ ๋ฆฌ์ฆ์ ๋ง๋ค๊ธฐ ์ ์, ์ธ๊ฐ ๋ฐ์ดํฐ๋ผ๋ ๋ถํฌ์์ ๋ฒค์น๋งํน๋ถํฐ ๋ค์ ํ๋ผโ๋ ๊ฒ์ด๋ค.
๋นํ์ ์ผ๋ก ๋ณด๋ฉด
๊ฐ์
- ๋ถ์ผ์ ๊ธฐ์ค์ ์ ์ธ์ด ์ธํ๋ผ ๋ ผ๋ฌธ. ๋ฐ์ดํฐ์ ยท๊ตฌํยทํ๊ฐ ํ๋กํ ์ฝ์ ํ์คํยท์คํ์์คํํด โ๊ณต์ ๋น๊ตโ๋ฅผ ๊ฐ๋ฅํ๊ฒ ๋ง๋ค์๋ค. robomimic์ ์ดํ ๋ก๋ด ํ์ตยท๋ชจ๋ฐฉํ์ต ์ฐ๊ตฌ์ ์ฌ์ค์ ํ์ค ๋ฒค์น๋งํฌ๊ฐ ๋๋ค.
- ํต์ ์ ํญ๊ณผ ์๋ฐํจ. 5๊ฐ ๋์ (C1โC5)์ ์คํ ์ถ๊ณผ ์ผ๋์ผ ๋์์ํค๊ณ , ๊ฐ ์์ธ์ ๋จ๋ ์ผ๋ก ํ๋ค์ด ์ฑ๋ฅ ๋ฏผ๊ฐ๋๋ฅผ ์ ๋ํํ๋ค. ํนํ โ์ ๋ต ์ํ๋ฅผ ์ถ๊ฐํ๋ฉด ์คํ๋ ค ์ฑ๋ฅ์ด ํ๋ฝํ๋ค(information-hiding)โ ๊ฐ์ ๋ฐ์ง๊ด์ ๋ฐ๊ฒฌ์ ์ค๋ฌด์์๊ฒ ์ง์ ์ ๊ฐ์น๊ฐ ์๋ค.
- ์๋ฎฌโ์ค์ ์ ์ด ๊ฒ์ฆ. ์๋ฎฌ์์ ํ๋ํ ํ์ดํผํ๋ผ๋ฏธํฐ๋ฅผ ๊ทธ๋๋ก ์ค์ ๋ก๋ด์ ์ ์ฉํด ๊ฒฐ๋ก ์ ์ด์์ฑ์ ๋ณด์ธ ์ ์ด ๋ฒค์น๋งํฌ์ ์ ๋ขฐ๋๋ฅผ ๋์ธ๋ค.
- ์ ์งํ ์๊ธฐ ์ง๋จ. ํ์ ์ข์ ์์น๊ฐ โ์จ๋ผ์ธ์ผ๋ก ์ต์ ์ฒดํฌํฌ์ธํธ๋ฅผ ๊ณจ๋๊ธฐ ๋๋ฌธโ์์ 4.5์์ ์ค์ค๋ก ๋๋ฌ๋ด๊ณ , ์คํ๋ผ์ธ ์ ์ฑ ์ ํ์ ๋ฏธํด๊ฒฐ ๋ฌธ์ ๋ก ๋ช ์ํ๋ค.
์ฝ์ ยทํ๊ณ
- ํ๊ฐ ์งํ๊ฐ ๋๊ด์ ์ด๋ค. ํต์ฌ ๊ฒฐ๊ณผ๊ฐ ํ์ต ์ค ์ฑ๊ณต๋ฅ ์ ์ต๋๊ฐ(์จ๋ผ์ธ ์ค๋ผํด ์ ํ)์ด๋ผ, ์ค์ ๋ฐฐํฌ์์ ์ป์ ์ฑ๋ฅ์ ์ํ์ ๊ฐ๊น๋ค. ์ ์๋ ์ธ์ ํ๋ฏ ์คํ๋ผ์ธ ์ ํ์ผ๋ก๋ 10~100% ํ๋ฝํ ์ ์์ด, ํ์ ์ ๋ ์์น๋ฅผ โ์ค์ฌ์ฉ ์ฑ๋ฅโ์ผ๋ก ์ฝ์ผ๋ฉด ์ ๋๋ค.
- ์คํ๋ผ์ธ RL ์คํจ์ ์์ธ ๊ท๋ช ์ด ์ค์ฆ์ ๋จธ๋ฌธ๋ค. BCQยทCQL์ด ์ธ๊ฐ ๋ฐ์ดํฐ์์ ์ ๋ฌด๋์ง๋์ง๋ โ๋ถํฌ/๋ค๋ด์ฑโ ๊ฐ์ค๋ก ์ค๋ช ๋์ง๋ง, ํ์ดํผํ๋ผ๋ฏธํฐ ์ค์์ด๋ ์ธ๊ฐ ๋ฐ์ดํฐ ์ ์ฉ ํ๋์ด ์ด๋ค์๊ฒ ์ผ๋ง๋ ๊ณต์ ํ๋์ง๋ ๋ ผ์ ์ฌ์ง๊ฐ ์๋ค(์คํ๋ผ์ธ RL์ ํ๋์ ๊ทน๋๋ก ๋ฏผ๊ฐํ๋ค โ ์ด ๋ ผ๋ฌธ ์ค์ค๋ก์ C5 ๊ฒฐ๋ก ์ด๊ธฐ๋ ํ๋ค). โ์คํ๋ผ์ธ RL์ด ๋ณธ์ง์ ์ผ๋ก ๋ชปํ๋คโ๊ธฐ๋ณด๋ค โ๊ธฐ๋ณธ ์ค์ ์ผ๋ก๋ ๋ชปํ๋คโ์ ๊ฐ๊น์ธ ์ ์๋ค.
- ์๊ณ ๋ฆฌ์ฆ ์ค๋ ์์ ์ํจ. 2021๋ ์์ ์ 6๊ฐ ์๊ณ ๋ฆฌ์ฆ ๋น๊ต๋ผ, ์ดํ Diffusion PolicyยทTransformer ๊ธฐ๋ฐ ์ ์ฑ ๋ฑ ํํ๋ ฅ ๋์ ๋ชจ๋ฐฉํ์ต์ด ๋ฑ์ฅํ ์ง๊ธ์ ์งํ๊ณผ๋ ๋ค๋ฅด๋ค. BC-RNN์ ์ฐ์๋ โhistory + ํํ๋ ฅโ์ด ํต์ฌ์ด๋ผ๋ ์ ํธ์๊ณ , ํ์ ์ฐ๊ตฌ๊ฐ ์ด๋ฅผ ํ์ฅํ๋ค.
- ๊ณผ์ ยท๊ตฌํ ํธํฅ. ๊ณผ์ ยท์๋ฎฌ๋ ์ดํฐ(robosuite/MuJoCo)ยท๋ฐ์ดํฐ ์์ง๊ธฐ(RoboTurk)๊ฐ ์ ์ ๊ทธ๋ฃน ์ํ๊ณ์ ๋ฌถ์ฌ ์์ด, ๊ฒฐ๋ก ์ด ์ด ํ์ดํ๋ผ์ธ์ ํนํ๋์ ์ฌ์ง๊ฐ ์๋ค. ๋ค๋ฅธ ๋ก๋ดยท๋๋ฉ์ธ์ผ๋ก์ ์ผ๋ฐํ๋ ๋ณ๋ ๊ฒ์ฆ์ด ํ์ํ๋ค.
๊ด๋ จ ์ฐ๊ตฌ์์ ์๋ฆฌ ๋งค๊น
์ด ๋ ผ๋ฌธ์ โ๋ฌด์์ด ์ค์ํ๊ฐ(what matters)โ๋ฅ ๋๊ท๋ชจ ์ค์ฆ ์ฐ๊ตฌ์ ๋ก๋ด ์กฐ์ํ์ด๋ค. ์คํ๋ผ์ธ RL ์๊ณ ๋ฆฌ์ฆ(BCQยทCQL ๋ฑ)์ ์งํ์ Offline RL Survey ๋ฆฌ๋ทฐ์ ํจ๊ป ์ฝ์ผ๋ฉด ์ข๊ณ , ์ด ๋ ผ๋ฌธ์ด ๋์ง โ๊ธฐ๊ณ์์ฑ์ด ์๋ ์ค์ ๋ถํฌ์์ ๋ฒค์น๋งํนํ๋ผโ๋ ๋ฌธ์ ์์์ ์จ๋ผ์ธ ์ค์ ์์ ๊ฐ์ ์ง๋ฌธ์ ๋์ง Batch Online RL ๋ฆฌ๋ทฐ(โWhat Matters for Batch Online RL in Robotics?โ)์ ์ง์ ๋ง๋ฟ๋๋ค. ๋ชจ๋ฐฉํ์ต ๊ณ์ด์ ํ์ ํ๋ฆ์ Dex Imitation Learning ๋ฆฌ๋ทฐ์์ ์กฐ๋งํ ์ ์๋ค. robomimic์ ์ด ์ธ ํ๋ฆ(์คํ๋ผ์ธ RLยท๋ชจ๋ฐฉํ์ตยท๋ก๋ด ๋ฒค์น๋งํฌ)์ด ๋ง๋๋ ๊ธฐ์ค์ ์ญํ ์ ํ๋ค.
์์ฝ
์ ์๋ค์ด ์ค์ค๋ก ์ ๋ฆฌํ 6๊ฐ ๊ตํ(L1โL6)์ด ์ด ๋ ผ๋ฌธ์ ๊ฒฐ๋ก ์ด๋ค.
- (L1) ์๊ฐ ์ถ์ํ ๋ชจ๋ธ์ด ์ธ๊ฐ ๋ฐ์ดํฐ์์ ๋งค์ฐ ํจ๊ณผ์ ์ด๋ค. BC-RNNยทHBCยทIRIS๊ฐ ์๊ฐ ๋ฌธ๋งฅ์ ๋ฌด์ํ๋ ์๊ณ ๋ฆฌ์ฆ์ ํฌ๊ฒ ์์ ๋ค.
- (L2) ์คํ๋ผ์ธ RL์ ์ค์ต์ ์ธ๊ฐ ๋ฐ์ดํฐ๋ก ๊ฐ์ ํด์ผ ํ๋ค. ๊ธฐ๊ณ์์ฑ ๋ฐ์ดํฐ์ ๊ฐํ์ง๋ง ์ธ๊ฐ ๋ฐ์ดํฐ์ ์ฝํ๋ค โ ์ง๋จ ๋ฐ์ดํฐ์์์กฐ์ฐจ. history-dependence ๊ฒฐํฉ์ด ์ ๋งํ ์ถ๋ฐ์ .
- (L3) ์คํ๋ผ์ธ ์ ์ฑ ์ ํ์ด ์ค์ธ๊ณ์ ์ค์ํ๋ค. ๊ฒ์ฆ ์์ค/๋ง์ง๋ง ์ฒดํฌํฌ์ธํธ๋ก๋ ์ต์ ๋๋น ํฌ๊ฒ ์ํด๋ค.
- (L4) ๊ด์ธก ๊ณต๊ฐ์ด ํฌ๊ฒ ์์ฉํ๊ณ ํ์ดํผํ๋ผ๋ฏธํฐ๊ฐ ์ค์ํ๋ค. ์ ๋ณด ์จ๊ธฐ๊ธฐ, ์ด๋ฏธ์ง ๋๋คํยท์๋ชฉ ์นด๋ฉ๋ผ, ํ์ต๋ฅ ยทGMMยท์ธ์ฝ๋ ์ ํ์ด ์ฑ๋ฅ์ ์ข์ฐํ๋ค.
- (L5) ๋๊ท๋ชจ ์ธ๊ฐ ๋ฐ์ดํฐ๋ก ๋ ๋ณต์กํ ๊ณผ์ ๋ฅผ ํ ์ฌ์ง๊ฐ ํฌ๋ค. ๋ฐ์ดํฐ๋ฅผ ๋๋ฆฌ๋ฉด ๋ณต์ก ๊ณผ์ ์ฑ๋ฅ์ด ์ ์๋ฏธํ๊ฒ ์ค๋ฅด๊ณ , ํ๋ ์์ด๋ Tool Hang์ ํ์๋ค.
- (L6) ๊ฒฐ๋ก ์ด ์ค์ ๋ก๋ด์ผ๋ก ์ ์ด๋๋ค. ์๋ฎฌ์์ ํ๋ํ ์ค์ ์ ๊ทธ๋๋ก ์ค์ ๊ณผ์ ์ ์ ์ฉํด ์ฌํํ๋ค.
์ ์๊ณ ๋ฆฌ์ฆ์ด ์๋๋ผ ์ฌํ ๊ฐ๋ฅํ ๋ฒค์น๋งํฌ์ ๊ฒ์ฆ๋ ๊ตํ์ ๋จ๊ธด ๋ ผ๋ฌธ์ด๋ฉฐ, ๊ทธ ์ธํ๋ผ(robomimic)์ โ์ธ๊ฐ ๋ฐ์ดํฐ๋ผ๋ ๋ถํฌ์์ ๋ค์ ๋ฒค์น๋งํนํ๋ผโ๋ ๋ฉ์์ง๊ฐ ์ดํ ๋ก๋ด ํ์ต ์ฐ๊ตฌ์ ๊ธฐ์ค์ ์ด ๋์๋ค.