Curieux.JY
  • JungYeon Lee
  • Post
  • ๐Ÿ•ธ๏ธ Graph
  • Lecture
  • Note

On this page

  • ๐Ÿ” Ping Review
  • ๐Ÿ”” Ring Review
    • ํ•œ ์ค„๋กœ ์‹œ์ž‘ํ•˜๋ฉด
    • ๋ฐฐ๊ฒฝ: ์™œ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ ์˜คํ”„๋ผ์ธ ํ•™์Šต์ด ์–ด๋ ค์šด๊ฐ€
    • ์—ฐ๊ตฌ ์„ค๊ณ„: ๊ณผ์ œยท๋ฐ์ดํ„ฐยท์•Œ๊ณ ๋ฆฌ์ฆ˜ยทํ”„๋กœํ† ์ฝœ
    • ์‹คํ—˜: ์š”์ธ๋ณ„๋กœ ํ•˜๋‚˜์”ฉ ํ”๋“ค์–ด ๋ณด๊ธฐ
      • ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋น„๊ต (C1, C2)
      • ์ค€์ตœ์  ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ (C2)
      • ๊ด€์ธก ๊ณต๊ฐ„๊ณผ ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ (C5)
      • ์ •์ฑ… ์„ ํƒ๊ณผ ๋ฐ์ดํ„ฐ์…‹ ํฌ๊ธฐ (C4, C3)
      • ์ด๋ฏธ์ง€ ๊ด€์ธก๊ณผ ์‹ค์ œ ๋กœ๋ด‡ ์ „์ด
    • ์ง๊ด€: ์™œ ์ด๋Ÿฐ ๊ฒฐ๊ณผ๊ฐ€ ๋‚˜์˜ค๋Š”๊ฐ€
    • ๋น„ํŒ์ ์œผ๋กœ ๋ณด๋ฉด
      • ๊ฐ•์ 
      • ์•ฝ์ ยทํ•œ๊ณ„
    • ๊ด€๋ จ ์—ฐ๊ตฌ์™€์˜ ์ž๋ฆฌ ๋งค๊น€
    • ์š”์•ฝ

๐Ÿ“ƒrobomimic ๋ฆฌ๋ทฐ

il
offline-rl
manipulation
benchmark
rl
What Matters in Learning from Offline Human Demonstrations for Robot Manipulation
Published

July 13, 2026

  • Paper Link (arXiv:2108.03298)

  • Code Link

  • Project Page

  • ์ €์ž: Ajay Mandlekar, Danfei Xu, Josiah Wong, Soroush Nasiriany, Chen Wang, Rohun Kulkarni, Li Fei-Fei, Silvio Savarese, Yuke Zhu, Roberto Martรญn-Martรญn

  • Stanford University ยท The University of Texas at Austin / CoRL 2021 (Oral)

  1. ๐Ÿ’ก ์˜คํ”„๋ผ์ธ ์ธ๊ฐ„ ์‹œ์—ฐ์œผ๋กœ ๋กœ๋ด‡ ์กฐ์ž‘์„ ํ•™์Šตํ•  ๋•Œ โ€œ๋ฌด์—‡์ด ์„ฑ๋Šฅ์„ ์ขŒ์šฐํ•˜๋Š”๊ฐ€โ€๋ฅผ, 6๊ฐœ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ร— 8๊ฐœ ๊ณผ์ œ ร— 3์ข… ๋ฐ์ดํ„ฐ(๊ธฐ๊ณ„์ƒ์„ฑ/์ˆ™๋ จ์ธ๊ฐ„/๋‹ค์ธ๊ฐ„)๋กœ ํ†ต์ œ ๋น„๊ตํ•œ ๋Œ€๊ทœ๋ชจ ์‹ค์ฆ ์—ฐ๊ตฌ์ด์ž, ๋ฐ์ดํ„ฐ์…‹ยท๊ตฌํ˜„ยทํ‰๊ฐ€ ํ”„๋กœํ† ์ฝœ์„ ์˜คํ”ˆ์†Œ์Šค๋กœ ํ‘œ์ค€ํ™”ํ•œ ๋ฒค์น˜๋งˆํฌ(robomimic).
  2. โš™๏ธ BCยทBC-RNNยทHBC(๋ชจ๋ฐฉ)์™€ BCQยทCQLยทIRIS(์˜คํ”„๋ผ์ธ RL)๋ฅผ ๋™์ผํ•œ ๋ฐ์ดํ„ฐยทํ”„๋กœํ† ์ฝœ ์œ„์— ์˜ฌ๋ ค ๊ด€์ธก ๊ณต๊ฐ„ยท๋ฐ์ดํ„ฐ ํ’ˆ์งˆ/์–‘ยทํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐยท์ •์ฑ… ์„ ํƒ ๊ธฐ์ค€ ๊ฐ™์€ ์š”์ธ๋ณ„๋กœ ํ•˜๋‚˜์”ฉ ํ”๋“ค์–ด ๋ณด๋ฉฐ ์„ฑ๋Šฅ ๋ฏผ๊ฐ๋„๋ฅผ ์ธก์ •ํ•œ๋‹ค.
  3. ๐ŸŽฏ ์‹œ๊ฐ„ ์˜์กด(history-dependent) ๋ชจ๋ธ BC-RNN์ด ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—์„œ ์••๋„์ ์ด๊ณ , SOTA ์˜คํ”„๋ผ์ธ RL(BCQยทCQL)์€ ๊ธฐ๊ณ„์ƒ์„ฑ ๋ฐ์ดํ„ฐ์—” ๊ฐ•ํ•˜์ง€๋งŒ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—์„œ ๋ฌด๋„ˆ์ง€๋ฉฐ, ๊ด€์ธก ๊ณต๊ฐ„ยทํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ๊ฐ€ ์„ฑ๋Šฅ์„ ์ˆ˜์‹ญ %์”ฉ ํ”๋“ ๋‹ค โ€” ๊ทธ๋ฆฌ๊ณ  ์‹œ๋ฎฌ๋ ˆ์ด์…˜์—์„œ ์–ป์€ ์ด ๊ฒฐ๋ก ๋“ค์ด ์‹ค์ œ Franka ๋กœ๋ด‡์œผ๋กœ ๊ทธ๋Œ€๋กœ ์ „์ด๋œ๋‹ค.

๐Ÿ” Ping Review

๐Ÿ” Ping โ€” A light tap on the surface. Get the gist in seconds.

์ธ๊ฐ„ ์‹œ์—ฐ์„ ๋ชจ๋ฐฉํ•ด ๋กœ๋ด‡์— ์กฐ์ž‘ ๋Šฅ๋ ฅ์„ ์‹ฌ๋Š” ๊ฒƒ์€ ๋งค๋ ฅ์ ์ธ ์ ‘๊ทผ์ด์ง€๋งŒ, ์ปดํ“จํ„ฐ ๋น„์ „ยท์ž์—ฐ์–ด์ฒ˜๋Ÿผ โ€œ๋Œ€๊ทœ๋ชจ ์˜คํ”ˆ ๋ฐ์ดํ„ฐ + ์žฌํ˜„ ๊ฐ€๋Šฅํ•œ ํ•™์Šต๋ฒ•โ€์ด๋ผ๋Š” ํŒŒ๊ดด์  ์ง„์ „์ด ๋กœ๋ณดํ‹ฑ์Šค์—์„œ๋Š” ์•„์ง ์˜ค์ง€ ์•Š์•˜๋‹ค. ์ด์œ  ์ค‘ ํ•˜๋‚˜๋Š” ์˜คํ”ˆ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์…‹๊ณผ ๊ณต์ •ํ•œ ๋น„๊ต ๊ธฐ์ค€์˜ ๋ถ€์žฌ๋‹ค. ๊ฐ ๋…ผ๋ฌธ์ด ์„œ๋กœ ๋‹ค๋ฅธ ๋ฐ์ดํ„ฐยท๊ตฌํ˜„ยทํ‰๊ฐ€ ํ”„๋กœํ† ์ฝœ์„ ์“ฐ๋‹ค ๋ณด๋‹ˆ โ€œ์ด ๋ถ„์•ผ๊ฐ€ ์ง€๊ธˆ ์–ด๋””์— ์žˆ๋Š”์ง€โ€์กฐ์ฐจ ๊ฐ€๋Š ํ•˜๊ธฐ ์–ด๋ ค์› ๋‹ค.

์ด ๋…ผ๋ฌธ์€ ๊ทธ ๊ณต๋ฐฑ์„ ๋Œ€๊ทœ๋ชจ ํ†ต์ œ ์‹คํ—˜์œผ๋กœ ๋ฉ”์šด๋‹ค. 6๊ฐœ์˜ ์˜คํ”„๋ผ์ธ ํ•™์Šต ์•Œ๊ณ ๋ฆฌ์ฆ˜์„, ๋‚œ์ด๋„๊ฐ€ ๋‹ค๋ฅธ 5๊ฐœ ์‹œ๋ฎฌ๋ ˆ์ด์…˜ + 3๊ฐœ ์‹ค์ œ ์กฐ์ž‘ ๊ณผ์ œ์—์„œ, ํ’ˆ์งˆ์ด ๋‹ค๋ฅธ ๋ฐ์ดํ„ฐ์…‹์œผ๋กœ ๋Œ๋ ค ๋ณด๋ฉฐ โ€œ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ๋กœ๋ถ€ํ„ฐ์˜ ์˜คํ”„๋ผ์ธ ํ•™์Šต์—์„œ ์‹ค์ œ๋กœ ๋ฌด์—‡์ด ์ค‘์š”ํ•œ๊ฐ€โ€๋ฅผ ํ•˜๋‚˜์”ฉ ๋œฏ์–ด๋ณธ๋‹ค. ํ•ต์‹ฌ ์‚ฐ์ถœ๋ฌผ์€ ์ƒˆ ์•Œ๊ณ ๋ฆฌ์ฆ˜์ด ์•„๋‹ˆ๋ผ ๊ตํ›ˆ(lessons)์˜ ๋ชฉ๋ก๊ณผ, ์ด๋ฅผ ์žฌํ˜„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ๋งŒ๋“  ๋ฐ์ดํ„ฐ์…‹ยท์ฝ”๋“œ(robomimic)๋‹ค.


๊ณผ์ œ ๊ฐœ์š”(Fig. 1) โ€” 6๋ช…์˜ ์„œ๋กœ ๋‹ค๋ฅธ ์ˆ™๋ จ๋„ ์กฐ์ž‘์ž๋กœ๋ถ€ํ„ฐ ๋ฐ์ดํ„ฐ๋ฅผ ๋ชจ์•„, ํ”ฝ์•คํ”Œ๋ ˆ์ด์Šคยท์–‘ํŒ” ํ˜‘์‘ยท๊ณ ์ •๋ฐ€ ์‚ฝ์ž…/์กฐ๋ฆฝ์„ ์•„์šฐ๋ฅด๋Š” 8๊ฐœ ๊ณผ์ œ(์‹œ๋ฎฌ 5 + ์‹ค์ œ 3)์—์„œ ์˜คํ”„๋ผ์ธ ์ •์ฑ… ํ•™์Šต์„ ํ‰๊ฐ€ํ•œ๋‹ค.

ํ•ต์‹ฌ ๋ฐฉ๋ฒ•๋ก :

์—ฐ๊ตฌ ์„ค๊ณ„๋Š” ์„ธ ์ถ•์˜ ํ†ต์ œ ๋ณ€์ˆ˜๋กœ ๊ตฌ์„ฑ๋œ๋‹ค. (1) ๋ฐ์ดํ„ฐ ์ถœ์ฒ˜ โ€” ๊ธฐ๊ณ„์ƒ์„ฑ(MG: RL ์ฒดํฌํฌ์ธํŠธ ๋กค์•„์›ƒ), ์ˆ™๋ จ์ธ๊ฐ„(PH: ๋‹จ์ผ ์ „๋ฌธ ์กฐ์ž‘์ž 200์‹œ์—ฐ), ๋‹ค์ธ๊ฐ„(MH: ์ˆ™๋ จ๋„๊ฐ€ ๋‹ค๋ฅธ 6๋ช… ร— 50 = 300์‹œ์—ฐ). (2) ์•Œ๊ณ ๋ฆฌ์ฆ˜ โ€” ๋ชจ๋ฐฉ ๊ณ„์—ด BCยทBC-RNNยทHBC์™€ ์˜คํ”„๋ผ์ธ RL ๊ณ„์—ด BCQยทCQLยทIRIS. (3) ๊ด€์ธก ๊ณต๊ฐ„ โ€” ๋ฌผ์ฒด์˜ ์ •๋‹ต ์ƒํƒœ๋ฅผ ์“ฐ๋Š” low-dim๊ณผ ์ด๋ฅผ ์นด๋ฉ”๋ผ ์˜์ƒ์œผ๋กœ ๋Œ€์ฒดํ•œ image.

๊ฐ€์žฅ ๋‹จ์ˆœํ•œ ๊ธฐ์ค€์„  BC๋Š” ์ƒํƒœ s์—์„œ ํ–‰๋™ a๋กœ์˜ ์‚ฌ์ƒ์„ ์ง€๋„ํ•™์Šต์œผ๋กœ ๋งž์ถ˜๋‹ค:

\min_\theta\ \mathbb{E}_{(s,a)\sim \mathcal{D}}\big[\, \|\pi_\theta(s) - a\|^2 \,\big]

์—ฌ๊ธฐ์— ์‹œ๊ฐ„ ๋ฌธ๋งฅ์„ ๋”ํ•œ ๊ฒƒ์ด BC-RNN(๊ณผ๊ฑฐ ๊ด€์ธก ์‹œํ€€์Šค๋ฅผ RNN์œผ๋กœ ์กฐ๊ฑดํ™”)์ด๋ฉฐ, ์ด ๋…ผ๋ฌธ์˜ ๊ฒฐ๋ก  ๋Œ€๋ถ€๋ถ„์ด ์ด ํ•œ ์ถ•(โ€œ๊ณผ๊ฑฐ๋ฅผ ๋ณผ ๊ฒƒ์ธ๊ฐ€โ€)์—์„œ ๊ฐˆ๋ฆฐ๋‹ค. ๋ชจ๋“  ์‹คํ—˜์€ ์ด์ง„ ์„ฑ๊ณต ๋ณด์ƒ์„ ์“ฐ๊ณ , ๊ฐ ์—์ด์ „ํŠธ๋ฅผ ํ•™์Šต ์ค‘ ์—ฌ๋Ÿฌ ์ฒดํฌํฌ์ธํŠธ์—์„œ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์— 50ํšŒ ๋กค์•„์›ƒํ•ด ์–ป์€ ์„ฑ๊ณต๋ฅ ์˜ ํ•™์Šต ์ค‘ ์ตœ๋Œ“๊ฐ’์„ 3๊ฐœ ์‹œ๋“œ ํ‰๊ท ์œผ๋กœ ๋ณด๊ณ ํ•œ๋‹ค(low-dim: N{=}2000 epochยทM{=}100 stepยทE{=}50 ํ‰๊ฐ€ ์ฃผ๊ธฐ / image: N{=}600ยทM{=}500ยทE{=}20).

์ฃผ์š” ๊ฒฐ๊ณผ: (์„ฑ๊ณต๋ฅ  %, 3์‹œ๋“œ ํ‰๊ท )

  • ๊ณผ๊ฑฐ๋ฅผ ๋ณด๋Š” ๊ฒƒ์ด ๊ฒฐ์ •์ ์ด๋‹ค. low-dim์—์„œ Transport(PH) ์„ฑ๊ณต๋ฅ ์ด BC 17.3 โ†’ BC-RNN 71.3, Transport(MH)๋Š” 11.3 โ†’ 65.3์œผ๋กœ ๋›ด๋‹ค(Table 1). ์žฅ๊ธฐ ์ง€ํ‰ยท๋‹ค์ธ๊ฐ„ ๊ณผ์ œ์ผ์ˆ˜๋ก ๊ฒฉ์ฐจ๊ฐ€ ์ปค์ง„๋‹ค.
  • ์˜คํ”„๋ผ์ธ RL์€ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—์„œ ๋ฌด๋„ˆ์ง„๋‹ค. BCQ๋Š” ๊ธฐ๊ณ„์ƒ์„ฑ Lift(MG) 91.3, Can(MG) 75.3์œผ๋กœ ๊ฐ•ํ•˜์ง€๋งŒ, ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ Transport(PH) 7.3, Tool Hang(PH) 0.0์œผ๋กœ ๋ถ•๊ดดํ•œ๋‹ค. CQL์€ ๋” ์‹ฌํ•˜๋‹ค. ์ง„๋‹จ์šฉ Can-Paired(์„ฑ๊ณต/์‹คํŒจ ๊ถค์ ์„ ์ง์ง€์€ ๋‹จ์ˆœ ๋ฐ์ดํ„ฐ)์—์„œ๋„ BCQ 44.7 / CQL 6.0์œผ๋กœ ๊ณ ์ „ํ•œ๋‹ค(Table 2).
  • ๊ด€์ธก ๊ณต๊ฐ„ยทํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ๊ฐ€ ์„ฑ๋Šฅ์„ ํฌ๊ฒŒ ํ”๋“ ๋‹ค. low-dim์— ๋ง๋‹จ์†๋„ยท๊ด€์ ˆ์ •๋ณด๋ฅผ ๋”ํ•˜๋ฉด ์˜คํžˆ๋ ค 49~88% ์ƒ๋Œ€ ์„ฑ๋Šฅ ํ•˜๋ฝ, image์—์„œ ํ”ฝ์…€ ์ด๋™ ๋žœ๋คํ™” ์ œ๊ฑฐ ์‹œ 47%(Square)ยท35%(Transport) ํ•˜๋ฝ, ์†๋ชฉ ์นด๋ฉ”๋ผ ์ œ๊ฑฐ ์‹œ ์ตœ๋Œ€ 43% ํ•˜๋ฝ(Fig. 2).
  • image๊ฐ€ low-dim์— ํ•„์ ํ•œ๋‹ค. BC-RNN์€ ์ •๋‹ต ๋ฌผ์ฒด ์ƒํƒœ ๋Œ€์‹  ์˜์ƒ๋งŒ์œผ๋กœ๋„ Square(PH) 82.0, Tool Hang(PH) 67.3์„ ๋‚ด๋ฉฐ ๋Œ€๋ถ€๋ถ„ ๊ณผ์ œ์—์„œ low-dim๊ณผ ์œ ์‚ฌํ•œ ์„ฑ๋Šฅ์„ ์œ ์ง€(Table 3).
  • ์‹ค์ œ ๋กœ๋ด‡ ์ „์ด. ์‹œ๋ฎฌ์—์„œ ํŠœ๋‹ํ•œ ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ๊ทธ๋Œ€๋กœ ์จ ์‹ค์ œ Franka์—์„œ Lift 96.7%, Can 73.3%, Tool Hang 3.3%(์ตœ์ข… ์ฒดํฌํฌ์ธํŠธยท30๋กค์•„์›ƒ, ํ•˜ํ•œ๊ฐ’)๋ฅผ ๋‹ฌ์„ฑ.

๊ฒฐ๋ก : โ€œ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ๋กœ๋ถ€ํ„ฐ์˜ ์˜คํ”„๋ผ์ธ ์กฐ์ž‘ ํ•™์Šตโ€์—์„œ ์„ฑ๋Šฅ์„ ์ขŒ์šฐํ•˜๋Š” ๊ฒƒ์€ ํ™”๋ คํ•œ ๋ชฉ์ ํ•จ์ˆ˜๊ฐ€ ์•„๋‹ˆ๋ผ โ‘  ์‹œ๊ฐ„ ๋ฌธ๋งฅ์„ ๋ชจ๋ธ๋งํ•˜๋Š”๊ฐ€, โ‘ก ๊ด€์ธก ๊ณต๊ฐ„์„ ์–ด๋–ป๊ฒŒ ์„ค๊ณ„ยท์ •์ œํ•˜๋Š”๊ฐ€, โ‘ข ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐยท์ •์ฑ… ์„ ํƒ์„ ์–ด๋–ป๊ฒŒ ๋‹ค๋ฃจ๋Š”๊ฐ€๋‹ค. SOTA ์˜คํ”„๋ผ์ธ RL์ด ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—์„œ ์‹คํŒจํ•œ๋‹ค๋Š” ์‚ฌ์‹ค์€ ์ด ๋ถ„์•ผ๊ฐ€ ๊ธฐ๊ณ„์ƒ์„ฑ ๋ฒค์น˜๋งˆํฌ์— ๊ณผ์ ํ•ฉ๋ผ ์žˆ์Œ์„ ๋“œ๋Ÿฌ๋‚ด๋ฉฐ, ์ €์ž๋“ค์€ ์ด๋ฅผ ๋ฐ”๋กœ์žก์„ ํ‘œ์ค€ ๋ฐ์ดํ„ฐ์…‹ยท์ฝ”๋“œ๋ฅผ ๊ณต๊ฐœํ–ˆ๋‹ค.


๐Ÿ”” Ring Review

๐Ÿ”” Ring โ€” An idea that echoes. Grasp the core and its value.

ํ•œ ์ค„๋กœ ์‹œ์ž‘ํ•˜๋ฉด

โ€œ์˜คํ”„๋ผ์ธ ์ธ๊ฐ„ ์‹œ์—ฐ์œผ๋กœ ๋กœ๋ด‡ ์กฐ์ž‘์„ ๋ฐฐ์šธ ๋•Œ ์ •๋ง ์ค‘์š”ํ•œ ๊ฒƒ์€ ๋ฌด์—‡์ธ๊ฐ€โ€๋ฅผ ์•Œ๊ณ ๋ฆฌ์ฆ˜ยท๋ฐ์ดํ„ฐ ํ’ˆ์งˆ/์–‘ยท๊ด€์ธก ๊ณต๊ฐ„ยทํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐยท์ •์ฑ… ์„ ํƒ์ด๋ผ๋Š” ์š”์ธ๋“ค๋กœ ํ•˜๋‚˜์”ฉ ํ†ต์ œํ•ด ์ธก์ •ํ•˜๊ณ , ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ์žฌํ˜„ ๊ฐ€๋Šฅํ•œ ๋ฐ์ดํ„ฐ์…‹ยท์ฝ”๋“œ(robomimic)๋กœ ๋ชป๋ฐ•์€ ๋Œ€๊ทœ๋ชจ ์‹ค์ฆ ์—ฐ๊ตฌ๋‹ค.

๋ฐฐ๊ฒฝ: ์™œ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ ์˜คํ”„๋ผ์ธ ํ•™์Šต์ด ์–ด๋ ค์šด๊ฐ€

๋‹ค๋ฅธ ๋„๋ฉ”์ธ์—์„œ ์ง€๋„ํ•™์Šต์ด ์„ฑ๊ณตํ•œ ๋ฐ˜๋ฉด ๋กœ๋ด‡ ์กฐ์ž‘์€ ๊ทธ๋ ‡์ง€ ๋ชปํ–ˆ๋‹ค. ์กฐ์ž‘์€ ์‹œ๊ฐ„์— ๋”ฐ๋ผ ์ง„ํ™”ํ•˜๋Š” ๋™์—ญํ•™ ์‹œ์Šคํ…œ์ด๋ผ ์‹ค์‹œ๊ฐ„ ๋ฏธ์„ธ ์ œ์–ด๊ฐ€ ํ•„์š”ํ•˜๊ณ , ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘ ์ž์ฒด๊ฐ€ ๊ธฐ์ˆ ์  ๋‚œ์ œ๋‹ค. ๊ทธ ๊ฒฐ๊ณผ ๋Œ€๊ทœ๋ชจ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์…‹์ด ๋“œ๋ฌผ์—ˆ๊ณ , ์žˆ๋”๋ผ๋„ ๊ทธ ๋ฐ์ดํ„ฐ๋กœ๋ถ€ํ„ฐ์˜ ํ•™์Šต์—๋Š” ๊ณ ์œ ํ•œ ์–ด๋ ค์›€์ด ์žˆ๋‹ค. ์ €์ž๋“ค์€ ์ด๋ฅผ ๋‹ค์„ฏ ๊ฐœ์˜ ๋„์ „(C1โ€“C5)์œผ๋กœ ์ •๋ฆฌํ•œ๋‹ค.

  • (C1) ๋น„-Markov ๊ฒฐ์ • ๊ณผ์ •. ์ธ๊ฐ„์€ ํ˜„์žฌ ๊ด€์ธก๋งŒ ๋ณด๊ณ  ํ–‰๋™ํ•˜์ง€ ์•Š๋Š”๋‹ค โ€” ์›๊ฒฉ์กฐ์ž‘ ์žฅ์น˜, ๊ณผ๊ฑฐ ํ–‰๋™, ์—ํ”ผ์†Œ๋“œ ์ด๋ ฅ์ด ๊ฐœ์ž…ํ•œ๋‹ค. ๋”ฐ๋ผ์„œ ํ˜„์žฌ ์ƒํƒœ๋งŒ ๋ณด๋Š” ์ •์ฑ…์€ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ๋ฅผ ์ž˜ ๋งž์ถ”์ง€ ๋ชปํ•˜๊ณ , ์‹œ๊ฐ„ ์˜์กดยท์‹œ๊ฐ„ ์ถ”์ƒํ™” ๋ชจ๋ธ์ด ์œ ๋ฆฌํ•  ์ˆ˜ ์žˆ๋‹ค.
  • (C2) ๋‹ค์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์˜ ํ’ˆ์งˆ ํŽธ์ฐจ. ์—ฌ๋Ÿฌ ์‚ฌ๋žŒ์ด ๋ชจ์€ ๋ฐ์ดํ„ฐ๋Š” ์ˆ™๋ จ๋„ยทํ•ด๋ฒ• ์ „๋žต์ด ํฌ๊ฒŒ ๋‹ค๋ฅด๋‹ค(๊ถค์  ๊ธธ์ดยท์žก์Œยท์‹ค์ˆ˜). ๊ธฐ๊ณ„์ƒ์„ฑ ํ˜ผํ•ฉ ๋ฐ์ดํ„ฐ์—์„œ ์ž˜ ๋ฐฐ์šฐ๋˜ ์˜คํ”„๋ผ์ธ RL์ด ํ˜ผํ•ฉ ํ’ˆ์งˆ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—์„œ๋„ ๋˜๋Š”์ง€๊ฐ€ ์—ด๋ฆฐ ์งˆ๋ฌธ์ด๋‹ค.
  • (C3) ๋ฐ์ดํ„ฐ์…‹ ํฌ๊ธฐ ์˜์กด์„ฑ. ์˜คํ”„๋ผ์ธ ํ•™์Šต์€ ์ƒํƒœยทํ–‰๋™ ๊ณต๊ฐ„์˜ ์ปค๋ฒ„๋ฆฌ์ง€, ์ฆ‰ ๋ฐ์ดํ„ฐ ์–‘์— ๋ฏผ๊ฐํ•˜๋‹ค. ์ธ๊ฐ„ ์‹œ์—ฐ ์ˆ˜์ง‘์€ ๋น„์‹ธ๋ฏ€๋กœ โ€œ๋ฐ์ดํ„ฐ๋ฅผ ๋” ๋ชจ์œผ๋Š” ๊ฐ€์น˜โ€๋ฅผ ์ •๋Ÿ‰ํ™”ํ•  ํ•„์š”๊ฐ€ ์žˆ๋‹ค.
  • (C4) ํ•™์Šตโ€“ํ‰๊ฐ€ ๋ชฉ์ ์˜ ๋ถˆ์ผ์น˜. ์ง€๋„ํ•™์Šต์€ ๊ฒ€์ฆ ์†์‹ค๋กœ ๋ชจ๋ธ์„ ๊ณ ๋ฅผ ์ˆ˜ ์žˆ์ง€๋งŒ, ์˜คํ”„๋ผ์ธ ์ •์ฑ… ํ•™์Šต์—์„œ ํ•™์Šต ์†์‹ค์€ ์ง„์งœ ๋ชฉํ‘œ(๊ณผ์ œ ์„ฑ๊ณต๋ฅ )์˜ ๋Œ€๋ฆฌ์น˜์ผ ๋ฟ์ด๊ณ  ์„ฑ๋Šฅ์ด epoch๋งˆ๋‹ค ์ถœ๋ ์ธ๋‹ค. ์–ด๋–ค ์ฒดํฌํฌ์ธํŠธ๋ฅผ ๋ฐฐํฌํ• ์ง€ ๊ณ ๋ฅด๋Š” ๋ฌธ์ œ๊ฐ€ ์‹ค์ œ ํ™˜๊ฒฝ์—์„œ ํŠนํžˆ ์–ด๋ ต๋‹ค.
  • (C5) ์—์ด์ „ํŠธ ์„ค๊ณ„ ๊ฒฐ์ •์— ๋Œ€ํ•œ ๋†’์€ ๋ฏผ๊ฐ๋„. ๊ธฐ๊ณ„์ƒ์„ฑ ๋ฐ์ดํ„ฐ ์—ฐ๊ตฌ๋“ค์ด ์ด๋ฏธ ์˜คํ”„๋ผ์ธ ํ•™์Šต์ด ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ์— ๊ทน๋„๋กœ ๋ฏผ๊ฐํ•จ์„ ๋ณด์˜€๋‹ค. ์•„ํ‚คํ…์ฒ˜ยท๊ด€์ธก ๊ณต๊ฐ„ยทํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ๊ฐ€ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—์„œ ์„ฑ๋Šฅ์„ ์–ผ๋งˆ๋‚˜ ํ”๋“œ๋Š”์ง€ ์‹ค์ฆํ•œ๋‹ค.

์ด ๋‹ค์„ฏ ๋„์ „์ด ๊ณง ์‹คํ—˜ ์ ˆ(Section 4)์˜ ๊ฐ ์ถ•๊ณผ ์ผ๋Œ€์ผ๋กœ ๋Œ€์‘ํ•œ๋‹ค๋Š” ์ ์ด ์ด ๋…ผ๋ฌธ์˜ ๊ตฌ์กฐ์  ๋ฏธ๋•์ด๋‹ค.

์—ฐ๊ตฌ ์„ค๊ณ„: ๊ณผ์ œยท๋ฐ์ดํ„ฐยท์•Œ๊ณ ๋ฆฌ์ฆ˜ยทํ”„๋กœํ† ์ฝœ

๊ณผ์ œ(Fig. 1). ์‹œ๋ฎฌ 5๊ฐœ โ€” Lift(ํ๋ธŒ ๋“ค๊ธฐ), Can(์บ”์„ ๋ชฉํ‘œ ํ†ต์œผ๋กœ ํ”ฝ์•คํ”Œ๋ ˆ์ด์Šค), Square(์ •์‚ฌ๊ฐ ๋„ˆํŠธ๋ฅผ ๋ด‰์— ์‚ฝ์ž…), Transport(์–‘ํŒ”์ด ๋ง์น˜๋ฅผ ๋„˜๊ฒจ ์˜ฎ๊ธฐ๋Š” ์žฅ๊ธฐ ์ง€ํ‰ ํ˜‘์‘), Tool Hang(ํ”„๋ ˆ์ž„ ์กฐ๋ฆฝ ํ›„ ๋ Œ์น˜ ๊ฑธ๊ธฐ, ๊ฐ€์žฅ ์–ด๋ ค์›€). ์ด ์ค‘ LiftยทCanยทTool Hang์€ ์‹ค์ œ Franka๋กœ๋„ ์ˆ˜์ง‘ํ–ˆ๋‹ค.

๋ฐ์ดํ„ฐ ์ถœ์ฒ˜(3์ข…). - MG(๊ธฐ๊ณ„์ƒ์„ฑ): RL ์•Œ๊ณ ๋ฆฌ์ฆ˜์„ LiftยทCan์—์„œ ํ•™์Šต์‹œํ‚ค๋ฉฐ ์ฒดํฌํฌ์ธํŠธ๋ณ„๋กœ 300 ๋กค์•„์›ƒ์„ ๋ชจ์€ ๊ฒƒ โ€” ์ „๋ฌธ๊ฐ€์™€ ์ค€์ตœ์ ์ด ์„ž์ธ, ํ”ํ•œ ์˜คํ”„๋ผ์ธ RL ๋ฒค์น˜๋งˆํฌ๋ฅผ ๋‹ฎ์€ ๋ฐ์ดํ„ฐ. (๋‹ค๋ฅธ ๊ณผ์ œ๋Š” RL์ด ๋ชป ํ’€์–ด ์ œ์™ธ.) - PH(์ˆ™๋ จ์ธ๊ฐ„): RoboTurk ์›๊ฒฉ์กฐ์ž‘์œผ๋กœ ๋‹จ์ผ ์ˆ™๋ จ ์กฐ์ž‘์ž๊ฐ€ ๋ชจ์€ 200 ์‹œ์—ฐ. - MH(๋‹ค์ธ๊ฐ„): ์ˆ™๋ จ๋„๊ฐ€ ๋‹ค๋ฅธ 6๋ช…(better 2 / okay 2 / worse 2)์ด ๊ฐ 50๊ฐœ์”ฉ ๋ชจ์€ 300 ์‹œ์—ฐ. ์ด ํ•˜์œ„ ์ง‘ํ•ฉ ๊ตฌ์กฐ๊ฐ€ C2(ํ’ˆ์งˆ ํŽธ์ฐจ) ๋ถ„์„์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•œ๋‹ค.

์•Œ๊ณ ๋ฆฌ์ฆ˜(6์ข…). ๋ชจ๋ฐฉ ๊ณ„์—ด โ€” BC, BC-RNN(RNN ์ •์ฑ…), HBC(๊ณ„์ธต์  BC). ์˜คํ”„๋ผ์ธ RL ๊ณ„์—ด โ€” BCQ, CQL, IRIS. BC-RNNยทHBCยทIRIS๋Š” ์‹œ๊ฐ„ ์˜์กด/์‹œ๊ฐ„ ์ถ”์ƒํ™”๋ฅผ ๊ฐ–๋Š”๋‹ค.

๊ด€์ธก ๊ณต๊ฐ„(2์ข…). low-dim(๋ง๋‹จ ์ž์„ธยท๊ทธ๋ฆฌํผ + ์ •๋‹ต ๋ฌผ์ฒด ์ƒํƒœ)๊ณผ image(์ •๋‹ต ๋ฌผ์ฒด ์ƒํƒœ๋ฅผ ์™ธ๋ถ€/์†๋ชฉ ์นด๋ฉ”๋ผ ์˜์ƒ์œผ๋กœ ๋Œ€์ฒด). ํ›„์ž๊ฐ€ ์‹ค์„ธ๊ณ„ ํ•™์Šต์— ์ง๊ฒฐ๋œ๋‹ค.

ํ”„๋กœํ† ์ฝœ. ์ด์ง„ ์„ฑ๊ณต ๋ณด์ƒ, ํ•™์Šต ์ค‘ ์—ฌ๋Ÿฌ ์ฒดํฌํฌ์ธํŠธ๋ฅผ 50ํšŒ ๋กค์•„์›ƒ ํ‰๊ฐ€ํ•ด ์„ฑ๊ณต๋ฅ ์˜ ํ•™์Šต ์ค‘ ์ตœ๋Œ“๊ฐ’์„ 3์‹œ๋“œ ํ‰๊ท ์œผ๋กœ ๋ณด๊ณ (C4๋ฅผ ์šฐํšŒํ•˜๊ธฐ ์œ„ํ•ด ์‹œ๋ฎฌ์—์„œ ์˜จ๋ผ์ธ ํ‰๊ฐ€๋กœ ์ตœ์  ์ฒดํฌํฌ์ธํŠธ๋ฅผ ๊ณ ๋ฅธ๋‹ค โ€” ์ด โ€œ์น˜ํŠธโ€๊ฐ€ ์ •์ฑ… ์„ ํƒ ์‹คํ—˜ 4.5์˜ ๊ธฐ์ค€์„ ์ด ๋œ๋‹ค).

์‹คํ—˜: ์š”์ธ๋ณ„๋กœ ํ•˜๋‚˜์”ฉ ํ”๋“ค์–ด ๋ณด๊ธฐ

์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋น„๊ต (C1, C2)


low-dim ๊ฒฐ๊ณผ(Table 1) โ€” MG(๊ธฐ๊ณ„์ƒ์„ฑ)ยทPH(์ˆ™๋ จ์ธ๊ฐ„)ยทMH(๋‹ค์ธ๊ฐ„) ๋ฐ์ดํ„ฐ์—์„œ์˜ ์„ฑ๊ณต๋ฅ . ์‹œ๊ฐ„ ์ƒ๊ด€์„ ๋ชจ๋ธ๋งํ•˜๋Š” BC-RNNยทHBCยทIRIS๊ฐ€ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—์„œ ๊ฐ•ํ•˜๊ณ , BCQ ๊ฐ™์€ ์˜คํ”„๋ผ์ธ RL์€ ๊ธฐ๊ณ„์ƒ์„ฑ์—” ๊ฐ•ํ•˜๋‚˜ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—” ์•ฝํ•˜๋‹ค.

๊ณผ๊ฑฐ๋ฅผ ๋ณด๋Š” ๊ฒƒ์ด ๊ฒฐ์ •์ ์ด๋‹ค. BC-RNN๊ณผ BC์˜ ๊ฒฉ์ฐจ๊ฐ€ history-dependence์˜ ์ด๋“์„ ๊ทธ๋Œ€๋กœ ๋ณด์—ฌ์ค€๋‹ค. ์žฅ๊ธฐ ์ง€ํ‰ ๊ณผ์ œ์ผ์ˆ˜๋ก(Transport(PH)์—์„œ ~55%p vs Square(PH)์—์„œ ~5%p), ๋‹ค์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์ผ์ˆ˜๋ก(Square(MH) ~25%p vs Square(PH) ~5%p) ๊ฒฉ์ฐจ๊ฐ€ ๋ฒŒ์–ด์ง„๋‹ค. ํฅ๋ฏธ๋กญ๊ฒŒ๋„ MH(300์‹œ์—ฐ)๊ฐ€ PH(200์‹œ์—ฐ)๋ณด๋‹ค ๋ฐ์ดํ„ฐ๊ฐ€ 100๊ฐœ ๋” ๋งŽ์€๋ฐ๋„ ์„ฑ๋Šฅ์€ ๋” ๋‚ฎ๋‹ค โ€” ์ค€์ตœ์ ยท๋‹ค๋ด‰(multimodal) ๋ฐ์ดํ„ฐ์˜ ๋ถ€๋‹ด ๋•Œ๋ฌธ์ด๋‹ค.

์˜คํ”„๋ผ์ธ RL์ด ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—์„œ ๋ฌด๋„ˆ์ง„๋‹ค. BCQ๋Š” ๊ธฐ๊ณ„์ƒ์„ฑ MG ๋ฐ์ดํ„ฐ์˜ ์ข‹๊ณ  ๋‚˜์œ ์ •์ฑ… ํ˜ผํ•ฉ์—์„œ๋Š” ๊ฐ•ํ•˜๋‹ค(Lift(MG) 91.3, Can(MG) 75.3). ๊ทธ๋Ÿฌ๋‚˜ ๊ฐ™์€ ์•Œ๊ณ ๋ฆฌ์ฆ˜์ด ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—์„œ๋Š” Transport(PH) 7.3, Tool Hang(PH) 0.0์œผ๋กœ ๋ถ•๊ดดํ•œ๋‹ค. CQL์€ ๋” ์‹ฌํ•˜๋‹ค. ์ด๋Š” ์˜คํ”„๋ผ์ธ RL์˜ ์ด์ „ ์„ฑ๊ณต์ด RL ํƒ์ƒ‰/์‚ฌ์ „ํ•™์Šต ์—์ด์ „ํŠธ๊ฐ€ ๋งŒ๋“  ํŠน์ • ๋ฐ์ดํ„ฐ ๋ถ„ํฌ์— ๊ธฐ๋Œ€๊ณ  ์žˆ์—ˆ์Œ์„ ์‹œ์‚ฌํ•œ๋‹ค.

์ค€์ตœ์  ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ (C2)


์ค€์ตœ์  ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ ๊ฒฐ๊ณผ(Table 2) โ€” MH๋ฅผ ์กฐ์ž‘์ž ์ˆ™๋ จ๋„(better/okay/worse)๋กœ ์ชผ๊ฐ  ํ•˜์œ„ ์ง‘ํ•ฉ๋“ค. BC-RNN์ด ๊ฒฌ๊ณ ํ•œ ๊ธฐ์ค€์„ ์ด๋ฉฐ, ์˜คํ”„๋ผ์ธ RL์€ ๋ชจ๋“  ๋ฐ์ดํ„ฐ์—์„œ, ์‹ฌ์ง€์–ด ์„ฑ๊ณต/์‹คํŒจ๋ฅผ ์ง์ง€์€ ์ง„๋‹จ์šฉ Can-Paired์—์„œ๋„ ์•ฝํ•˜๋‹ค.

MH๋ฅผ 100์‹œ์—ฐ ๋‹จ์œ„(better/okay/worse)์™€ 200์‹œ์—ฐ ํ˜ผํ•ฉ์œผ๋กœ ์ชผ๊ฐœ ํ’ˆ์งˆ ๋Œ€์‘์„ ๋ณธ๋‹ค. BC๋Š” betterโ€“worse ์‚ฌ์ด ๊ฒฉ์ฐจ๊ฐ€ ํฌ์ง€๋งŒ(Can ~27%p, Square ~35%p), BC-RNN์€ Can์—์„œ ์ด ๊ฒฉ์ฐจ๋ฅผ ๊ฑฐ์˜ ์—†์• ๊ณ  ๋ชจ๋“  ๋ฐ์ดํ„ฐ์—์„œ BC๋ฅผ 7~35%p ์•ž์„ ๋‹ค(๋‹จ Square์—์„œ๋Š” ๊ฒฉ์ฐจ๊ฐ€ ๋‚จ๋Š”๋‹ค). โ€œworseโ€ 100๊ฐœ๋ฅผ ์ถ”๊ฐ€ํ•  ๋•Œ ๋Œ€๋ถ€๋ถ„ ์•Œ๊ณ ๋ฆฌ์ฆ˜์€ ์„ฑ๋Šฅ์ด ๋–จ์–ด์ง€๋Š”๋ฐ BC-RNN์€ ์ผ๊ด€๋˜๊ฒŒ ํ–ฅ์ƒํ•œ๋‹ค โ€” ๋‚˜์œ ๋ฐ์ดํ„ฐ๋„ ํ™œ์šฉํ•œ๋‹ค๋Š” ๋œป์ด๋‹ค. ๋‹ค๋งŒ 200์‹œ์—ฐ Square ํ˜ผํ•ฉ(55.3/73.3/74.0)์ด ๊ณ ํ’ˆ์งˆ 200์‹œ์—ฐ Square(PH) 84.0์— ๋ชป ๋ฏธ์ณ ์—ฌ์ „ํžˆ ๊ฐœ์„  ์—ฌ์ง€๊ฐ€ ์žˆ๋‹ค.

์ง„๋‹จ ๋ฐ์ดํ„ฐ์…‹. Can-Paired๋Š” ๊ฐ™์€ ์ดˆ๊ธฐ ์ƒํƒœ์—์„œ ์„ฑ๊ณต ์‹œ์—ฐ 1๊ฐœ + ์‹คํŒจ ์‹œ์—ฐ 1๊ฐœ๋ฅผ ์ง์ง€์–ด 100์Œ(์ด 200์‹œ์—ฐ)์„ ๋งŒ๋“  ๊ฒƒ์œผ๋กœ, โ€œ์„ฑ๊ณต์œผ๋กœ ์ด์–ด์ง€๋Š” ํ–‰๋™๊ณผ ์‹คํŒจ๋กœ ์ด์–ด์ง€๋Š” ํ–‰๋™์„ ๊ตฌ๋ถ„โ€ํ•˜๋Š” ๋Šฅ๋ ฅ์„ ์ง์ ‘ ์‹œํ—˜ํ•œ๋‹ค. ์˜คํ”„๋ผ์ธ RL์ด ๋‹น์—ฐํžˆ ์ž˜ํ•  ๊ฒƒ ๊ฐ™์€ ์ด ๋‹จ์ˆœ ์„ค์ •์—์„œ๋„ ๋Œ€๋ถ€๋ถ„ ๊ณ ์ „ํ•œ๋‹ค. IRIS๊ฐ€ BC-RNN ๋Œ€๋น„ ์•ฝ 5%p ๊ฐœ์„ ํ•œ ์ ์€ history-dependence๋ฅผ ์˜คํ”„๋ผ์ธ RL์— ๋„ฃ๋Š” ๊ฒƒ์ด ์œ ๋งํ•œ ๋ฐฉํ–ฅ์ž„์„ ์‹œ์‚ฌํ•œ๋‹ค.

๊ด€์ธก ๊ณต๊ฐ„๊ณผ ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ (C5)


๊ด€์ธก ๊ณต๊ฐ„ยทํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ์˜ ์˜ํ–ฅ(Fig. 2) โ€” BC-RNN ์„ฑ๊ณต๋ฅ ์˜ ์ƒ๋Œ€ ๋ณ€ํ™”. (a) low-dim์— ๋ง๋‹จ์†๋„/๊ด€์ ˆ์ •๋ณด๋ฅผ ๋”ํ•˜๋ฉด ํฌ๊ฒŒ ํ•˜๋ฝํ•˜๊ณ  ์ด๋ฏธ์ง€ ๋žœ๋คํ™”ยท์†๋ชฉ ์นด๋ฉ”๋ผ๋ฅผ ๋นผ๋ฉด ํ•˜๋ฝํ•œ๋‹ค. (b)(c) ํ•™์Šต๋ฅ ยทGMMยท๋„คํŠธ์›Œํฌ ์šฉ๋Ÿ‰ ์„ ํƒ์ด ์„ฑ๋Šฅ์„ ์ขŒ์šฐํ•œ๋‹ค.

๋กœ๋ด‡ ์ž๊ธฐ์ˆ˜์šฉ๊ฐ๊ฐ(proprioception) ํŠน์ง•์ด ์ค‘์š”ํ•˜๋‹ค. ๋†€๋ž๊ฒŒ๋„ low-dim ๊ด€์ธก์— ๋ง๋‹จ์†๋„ยท๊ด€์ ˆ ์œ„์น˜/์†๋„๋ฅผ ์ถ”๊ฐ€ํ•˜๋ฉด ์„ฑ๋Šฅ์ด 49~88% ์ƒ๋Œ€ ํ•˜๋ฝํ•œ๋‹ค(image๋Š” 2~29%๋กœ ๋” ๊ด€๋Œ€). ๊ณผ์ œ ํ•ด๊ฒฐ์— ๋ถˆํ•„์š”ํ•œ ์ •๋ณด์— ๋Œ€ํ•œ ๊ณผ์ ํ•ฉ์œผ๋กœ ๋ณด์ด๋ฉฐ, ์ €์ž๋“ค์€ โ€œ์ •๋ณด ์ˆจ๊ธฐ๊ธฐ(information-hiding)๊ฐ€ ๊ฐ•๋ ฅํ•œ ํŒจ๋Ÿฌ๋‹ค์ž„โ€์ด๋ผ๊ณ  ๊ถŒํ•œ๋‹ค โ€” ๊ด€์ธก ๊ณต๊ฐ„์„ ์‹ ์ค‘ํžˆ ์—”์ง€๋‹ˆ์–ด๋งํ•ด ๊ด€๋ จ ์—†๋Š” ์ •๋ณด๋ฅผ ๋ฐฐ์ œํ•˜๋ผ๋Š” ๊ฒƒ.

์ด๋ฏธ์ง€ ๋žœ๋คํ™”ยท์†๋ชฉ ์นด๋ฉ”๋ผ๊ฐ€ ์ค‘์š”ํ•˜๋‹ค. ํ”ฝ์…€ ์ด๋™ ๋žœ๋คํ™”๋ฅผ ์ œ๊ฑฐํ•˜๋ฉด SquareยทTransport์—์„œ 47%ยท35% ์ƒ๋Œ€ ํ•˜๋ฝ, ์†๋ชฉ ์นด๋ฉ”๋ผ๋ฅผ ์ œ๊ฑฐํ•˜๋ฉด 9%ยท43% ํ•˜๋ฝ. ์†๋ชฉ ์˜์ƒ์€ ํŒŒ์ง€ ์ •๋ ฌ์„ ๋•๊ณ , ๋žœ๋คํ™”๋Š” ํ–‰๋™ ์˜ˆ์ธก์— ๋ฌด๊ด€ํ•œ ์˜์—ญ์— ๋Œ€ํ•œ ๋ถˆ๋ณ€์„ฑ์„ ๊ธธ๋Ÿฌ ์ค€๋‹ค.

ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ. ํ•™์Šต๋ฅ ์„ 1e-4โ†’1e-3์œผ๋กœ ์˜ฌ๋ฆฌ๋ฉด image ์—์ด์ „ํŠธ๊ฐ€ 35~63% ํ•˜๋ฝ(low-dim์€ ๊ด€๋Œ€). ๊ฒฐ์ •์ (GMM ์—†์ด) ์ •์ฑ…์€ ํŠนํžˆ MH Transport์—์„œ 58% ํ•˜๋ฝ. ํฐ MLP๋Š” ์ผ๊ด€๋˜๊ฒŒ ํ•˜๋ฝ(๊ณผ์ ํ•ฉ), ์–•์€ conv(ResNet ๋Œ€์‹ )๋Š” 25~62% ํ•˜๋ฝ, RNN ์€๋‹‰์ฐจ์›์„ 400โ†’100(low-dim)/1000โ†’400(image)์œผ๋กœ ์ค„์ด๋ฉด 3~58% ํ•˜๋ฝ. ๊ถŒ๊ณ : ํ•™์Šต๋ฅ ๊ณผ ๋„คํŠธ์›Œํฌ ๊ตฌ์กฐ(MLPยทRNN ํฌ๊ธฐ)๋ฅผ ์‹ ์ค‘ํžˆ ํŠœ๋‹ํ•˜๊ณ , GMM ์ •์ฑ…๊ณผ ResNet ์ธ์ฝ”๋”๋ฅผ ๊ธฐ๋ณธ์œผ๋กœ ์“ฐ๋ผ.

์ •์ฑ… ์„ ํƒ๊ณผ ๋ฐ์ดํ„ฐ์…‹ ํฌ๊ธฐ (C4, C3)


(์ขŒ) ์ •์ฑ… ์„ ํƒ ๊ธฐ์ค€์˜ ์˜ํ–ฅ(Fig. 5a) โ€” ๊ฒ€์ฆ ์†์‹ค ์ตœ์†Œ ๋˜๋Š” ๋งˆ์ง€๋ง‰ ์ฒดํฌํฌ์ธํŠธ๋กœ ๋ฐฐํฌ ์ •์ฑ…์„ ๊ณ ๋ฅด๋ฉด ์ตœ์  ๋Œ€๋น„ 10~100% ํ•˜๋ฝ. (์šฐ) ์ด๋ฏธ์ง€ ๊ด€์ธก ๊ฒฐ๊ณผ(Table 3) โ€” BC-RNN์€ ์˜์ƒ๋งŒ์œผ๋กœ๋„ ์ •๋‹ต ์ƒํƒœ ํ•™์Šต๊ณผ ๊ฑฐ์˜ ๊ฐ™์€ ์„ฑ๋Šฅ.

(C4) ์ •์ฑ… ์„ ํƒ์€ ๋ฏธํ•ด๊ฒฐ ๋ฌธ์ œ๋‹ค. ์ง€๋„ํ•™์Šต์‹์œผ๋กœ ๊ฒ€์ฆ ์†์‹ค์ด ์ตœ์†Œ์ธ ์ฒดํฌํฌ์ธํŠธ๋ฅผ ๊ณ ๋ฅด๊ฑฐ๋‚˜ ์˜คํ”„๋ผ์ธ RL ๊ด€ํ–‰๋Œ€๋กœ ๋งˆ์ง€๋ง‰ ์ฒดํฌํฌ์ธํŠธ๋ฅผ ์“ฐ๋ฉด, ์˜จ๋ผ์ธ์œผ๋กœ ๊ณ ๋ฅธ ์ตœ์  ๋Œ€๋น„ 10~100% ํ•˜๋ฝํ•œ๋‹ค. ์ฆ‰ ์ด ๋…ผ๋ฌธ์ด ํ‘œ์—์„œ ๋ณด๊ณ ํ•œ ์ข‹์€ ์ˆ˜์น˜๋“ค์€ โ€œ์‹œ๋ฎฌ์—์„œ ์˜จ๋ผ์ธ ํ‰๊ฐ€๋กœ ์ตœ์  ์ฒดํฌํฌ์ธํŠธ๋ฅผ ๊ณจ๋ž๊ธฐ ๋•Œ๋ฌธโ€์ด๋ฉฐ, ์‹ค์„ธ๊ณ„์—์„œ๋Š” ์ด ์‚ฌ์น˜๊ฐ€ ๋ถˆ๊ฐ€๋Šฅํ•˜๋‹ค โ€” ์˜คํ”„๋ผ์ธ ์ •์ฑ… ์„ ํƒ ์ง€ํ‘œ๊ฐ€ ์ ˆ์‹คํ•˜๋‹ค.

(C3) ๋ฐ์ดํ„ฐ์…‹ ํฌ๊ธฐ. ๋ฐ์ดํ„ฐ๋ฅผ 20%ยท50%๋กœ ์ค„์—ฌ BC-RNN์„ ํ•™์Šต(Fig. 3). LiftยทCan ๊ฐ™์€ ๋‹จ์ˆœ ๊ณผ์ œ๋Š” 20% ๋ฐ์ดํ„ฐ๋กœ๋„ ์œ ๋Šฅํ•œ ์ •์ฑ…(75~100%)์„ ์–ป์ง€๋งŒ, SquareยทTransport ๊ฐ™์€ ๋ณต์žก ๊ณผ์ œ๋Š” ๋ฐ์ดํ„ฐ๋ฅผ ์ค„์ด๋ฉด ํฌ๊ฒŒ ์†ํ•ด๋‹ค โ€” ์—ญ์œผ๋กœ 20%โ†’50%โ†’100%๋กœ ๋Š˜๋ฆด ๋•Œ ์œ ์˜๋ฏธํ•œ ํ–ฅ์ƒ์ด ์žˆ์–ด, ๋ณต์žก ๊ณผ์ œ์—๋Š” ๋” ํฐ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์…‹์ด ๊ฐ€์น˜ ์žˆ์Œ์„ ๋ณด์ธ๋‹ค.

์ด๋ฏธ์ง€ ๊ด€์ธก๊ณผ ์‹ค์ œ ๋กœ๋ด‡ ์ „์ด

์ด๋ฏธ์ง€ ๊ด€์ธก(Table 3)์—์„œ BC-RNN์€ ์ •๋‹ต ๋ฌผ์ฒด ์ƒํƒœ ์—†์ด ์˜์ƒ๋งŒ์œผ๋กœ Square(PH) 82.0, Tool Hang(PH) 67.3์„ ๋‚ด๋ฉฐ, Transport(MH)๋ฅผ ์ œ์™ธํ•˜๋ฉด low-dim๊ณผ ๊ฑฐ์˜ ๊ฐ™์€ ์„ฑ๋Šฅ์„ ์œ ์ง€ํ•œ๋‹ค โ€” ์‹ค์„ธ๊ณ„ ์›์‹œ ๊ฐ๊ฐ ์‹ ํ˜ธ ํ•™์Šต์— ๋‚™๊ด€์  ์‹ ํ˜ธ๋‹ค.

์‹ค์ œ ๋กœ๋ด‡. ์‹œ๋ฎฌ์—์„œ ํŠœ๋‹ํ•œ ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ๊ทธ๋Œ€๋กœ ์‹ค์ œ Franka์— ์ ์šฉํ•ด Lift 96.7%, Can 73.3%, ๊ทน๋‚œ๋„ Tool Hang 3.3%(์ตœ์ข… ์ฒดํฌํฌ์ธํŠธยท30๋กค์•„์›ƒ์ด๋ผ ํ•˜ํ•œ๊ฐ’)๋ฅผ ์–ป์—ˆ๋‹ค. Can์—์„œ ๋žœ๋คํ™” ์ œ๊ฑฐ ์‹œ 26.7%, ์†๋ชฉ ์นด๋ฉ”๋ผ ์ œ๊ฑฐ ์‹œ 43.3%๋กœ, ์‹œ๋ฎฌ์—์„œ ๋ฐœ๊ฒฌํ•œ ๊ด€์ธก ๊ณต๊ฐ„ ๊ตํ›ˆ์ด ์‹ค์ œ์—์„œ๋„ ์žฌํ˜„๋จ์„ ํ™•์ธํ–ˆ๋‹ค.

์ง๊ด€: ์™œ ์ด๋Ÿฐ ๊ฒฐ๊ณผ๊ฐ€ ๋‚˜์˜ค๋Š”๊ฐ€

๋‘ ๊ฐ€์ง€ ํ•ต์‹ฌ ๊ด€์ฐฐ์ด ์„œ๋กœ๋ฅผ ์„ค๋ช…ํ•œ๋‹ค. ์ฒซ์งธ, ์ธ๊ฐ„์€ ๋น„-Markov ์ •์ฑ…์„ ์“ด๋‹ค(C1). ์‚ฌ๋žŒ์ด ์›๊ฒฉ์กฐ์ž‘ํ•  ๋•Œ์˜ ํ–‰๋™์€ ํ˜„์žฌ ์žฅ๋ฉด๋งŒ์ด ์•„๋‹ˆ๋ผ ๋ฐฉ๊ธˆ ๋ฌด์—‡์„ ํ–ˆ๋Š”์ง€, ์–ด๋–ค ํ•˜์œ„ ๋‹จ๊ณ„์— ์žˆ๋Š”์ง€์— ์˜์กดํ•œ๋‹ค. ๊ทธ๋ž˜์„œ ํ˜„์žฌ ์ƒํƒœ๋งŒ ๋ณด๋Š” ์ •์ฑ…(BCยทBCQยทCQL)์€ ์ธ๊ฐ„์˜ ํ–‰๋™ ๋ถ„ํฌ๋ฅผ ์กฐ๊ฑด๋ถ€ ๋‹ค๋ด‰์œผ๋กœ๋งŒ ๋ณผ ์ˆ˜๋ฐ–์— ์—†๊ณ , ์ด๋ฅผ ํ‰๊ท  ๋‚ด๋ ค๋‹ค ๋ฌด๋„ˆ์ง„๋‹ค. RNN์œผ๋กœ ๊ณผ๊ฑฐ๋ฅผ ์กฐ๊ฑดํ™”ํ•˜๋ฉด ์ด ๋‹ค๋ด‰์„ฑ์ด ์ƒ๋‹น ๋ถ€๋ถ„ ํ’€๋ฆฐ๋‹ค โ€” ๊ทธ๋ž˜์„œ BC-RNN์ด ์ด๊ธด๋‹ค.

๋‘˜์งธ, ์˜คํ”„๋ผ์ธ RL์˜ ์ด์ „ ์„ฑ๊ณต์€ ๋ฐ์ดํ„ฐ ๋ถ„ํฌ์— ํŠนํ™”๋ผ ์žˆ์—ˆ๋‹ค(C2). BCQยทCQL์€ ๊ธฐ๊ณ„์ƒ์„ฑ ๋ฐ์ดํ„ฐ์˜ ๋„“๊ณ  ๊ท ์งˆํ•œ ์ปค๋ฒ„๋ฆฌ์ง€์—์„œ Q๊ฐ’์„ ์•ˆ์ •์ ์œผ๋กœ ์ถ”์ •ํ•˜๋„๋ก ์„ค๊ณ„ยท๊ฒ€์ฆ๋๋‹ค. ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ๋Š” ์ข๊ณ , ๋‹ค๋ด‰์ด๋ฉฐ, ์ค€์ตœ์  ๊ถค์ ์ด ๊ตฌ์กฐ์ ์œผ๋กœ ์„ž์—ฌ ์žˆ์–ด ๊ทธ ๊ฐ€์ •์„ ๊นฌ๋‹ค. ์ง„๋‹จ์šฉ Can-Paired์—์„œ์กฐ์ฐจ ์‹คํŒจํ•œ๋‹ค๋Š” ์‚ฌ์‹ค์ด ์ด๋ฅผ ๋ชป๋ฐ•๋Š”๋‹ค. ๊ฒฐ๊ตญ ์ด ๋…ผ๋ฌธ์˜ ๋ฉ”์‹œ์ง€๋Š” โ€œ์ƒˆ ์•Œ๊ณ ๋ฆฌ์ฆ˜์„ ๋งŒ๋“ค๊ธฐ ์ „์—, ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ๋ผ๋Š” ๋ถ„ํฌ์—์„œ ๋ฒค์น˜๋งˆํ‚น๋ถ€ํ„ฐ ๋‹ค์‹œ ํ•˜๋ผโ€๋Š” ๊ฒƒ์ด๋‹ค.

๋น„ํŒ์ ์œผ๋กœ ๋ณด๋ฉด

๊ฐ•์ 

  • ๋ถ„์•ผ์— ๊ธฐ์ค€์„ ์„ ์„ธ์šด ์ธํ”„๋ผ ๋…ผ๋ฌธ. ๋ฐ์ดํ„ฐ์…‹ยท๊ตฌํ˜„ยทํ‰๊ฐ€ ํ”„๋กœํ† ์ฝœ์„ ํ‘œ์ค€ํ™”ยท์˜คํ”ˆ์†Œ์Šคํ™”ํ•ด โ€œ๊ณต์ • ๋น„๊ตโ€๋ฅผ ๊ฐ€๋Šฅํ•˜๊ฒŒ ๋งŒ๋“ค์—ˆ๋‹ค. robomimic์€ ์ดํ›„ ๋กœ๋ด‡ ํ•™์Šตยท๋ชจ๋ฐฉํ•™์Šต ์—ฐ๊ตฌ์˜ ์‚ฌ์‹ค์ƒ ํ‘œ์ค€ ๋ฒค์น˜๋งˆํฌ๊ฐ€ ๋๋‹ค.
  • ํ†ต์ œ์˜ ํญ๊ณผ ์—„๋ฐ€ํ•จ. 5๊ฐœ ๋„์ „(C1โ€“C5)์„ ์‹คํ—˜ ์ถ•๊ณผ ์ผ๋Œ€์ผ ๋Œ€์‘์‹œํ‚ค๊ณ , ๊ฐ ์š”์ธ์„ ๋‹จ๋…์œผ๋กœ ํ”๋“ค์–ด ์„ฑ๋Šฅ ๋ฏผ๊ฐ๋„๋ฅผ ์ •๋Ÿ‰ํ™”ํ•œ๋‹ค. ํŠนํžˆ โ€œ์ •๋‹ต ์ƒํƒœ๋ฅผ ์ถ”๊ฐ€ํ•˜๋ฉด ์˜คํžˆ๋ ค ์„ฑ๋Šฅ์ด ํ•˜๋ฝํ•œ๋‹ค(information-hiding)โ€ ๊ฐ™์€ ๋ฐ˜์ง๊ด€์  ๋ฐœ๊ฒฌ์€ ์‹ค๋ฌด์ž์—๊ฒŒ ์ง์ ‘์  ๊ฐ€์น˜๊ฐ€ ์žˆ๋‹ค.
  • ์‹œ๋ฎฌโ†’์‹ค์ œ ์ „์ด ๊ฒ€์ฆ. ์‹œ๋ฎฌ์—์„œ ํŠœ๋‹ํ•œ ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ๊ทธ๋Œ€๋กœ ์‹ค์ œ ๋กœ๋ด‡์— ์ ์šฉํ•ด ๊ฒฐ๋ก ์˜ ์ด์‹์„ฑ์„ ๋ณด์ธ ์ ์ด ๋ฒค์น˜๋งˆํฌ์˜ ์‹ ๋ขฐ๋„๋ฅผ ๋†’์ธ๋‹ค.
  • ์ •์งํ•œ ์ž๊ธฐ ์ง„๋‹จ. ํ‘œ์˜ ์ข‹์€ ์ˆ˜์น˜๊ฐ€ โ€œ์˜จ๋ผ์ธ์œผ๋กœ ์ตœ์  ์ฒดํฌํฌ์ธํŠธ๋ฅผ ๊ณจ๋ž๊ธฐ ๋•Œ๋ฌธโ€์ž„์„ 4.5์—์„œ ์Šค์Šค๋กœ ๋“œ๋Ÿฌ๋‚ด๊ณ , ์˜คํ”„๋ผ์ธ ์ •์ฑ… ์„ ํƒ์„ ๋ฏธํ•ด๊ฒฐ ๋ฌธ์ œ๋กœ ๋ช…์‹œํ•œ๋‹ค.

์•ฝ์ ยทํ•œ๊ณ„

  • ํ‰๊ฐ€ ์ง€ํ‘œ๊ฐ€ ๋‚™๊ด€์ ์ด๋‹ค. ํ•ต์‹ฌ ๊ฒฐ๊ณผ๊ฐ€ ํ•™์Šต ์ค‘ ์„ฑ๊ณต๋ฅ ์˜ ์ตœ๋Œ“๊ฐ’(์˜จ๋ผ์ธ ์˜ค๋ผํด ์„ ํƒ)์ด๋ผ, ์‹ค์ œ ๋ฐฐํฌ์—์„œ ์–ป์„ ์„ฑ๋Šฅ์˜ ์ƒํ•œ์— ๊ฐ€๊น๋‹ค. ์ €์ž๋„ ์ธ์ •ํ•˜๋“ฏ ์˜คํ”„๋ผ์ธ ์„ ํƒ์œผ๋กœ๋Š” 10~100% ํ•˜๋ฝํ•  ์ˆ˜ ์žˆ์–ด, ํ‘œ์˜ ์ ˆ๋Œ€ ์ˆ˜์น˜๋ฅผ โ€œ์‹ค์‚ฌ์šฉ ์„ฑ๋Šฅโ€์œผ๋กœ ์ฝ์œผ๋ฉด ์•ˆ ๋œ๋‹ค.
  • ์˜คํ”„๋ผ์ธ RL ์‹คํŒจ์˜ ์›์ธ ๊ทœ๋ช…์ด ์‹ค์ฆ์— ๋จธ๋ฌธ๋‹ค. BCQยทCQL์ด ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—์„œ ์™œ ๋ฌด๋„ˆ์ง€๋Š”์ง€๋Š” โ€œ๋ถ„ํฌ/๋‹ค๋ด‰์„ฑโ€ ๊ฐ€์„ค๋กœ ์„ค๋ช…๋˜์ง€๋งŒ, ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ ์Šค์œ•์ด๋‚˜ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ ์ „์šฉ ํŠœ๋‹์ด ์ด๋“ค์—๊ฒŒ ์–ผ๋งˆ๋‚˜ ๊ณต์ •ํ–ˆ๋Š”์ง€๋Š” ๋…ผ์Ÿ ์—ฌ์ง€๊ฐ€ ์žˆ๋‹ค(์˜คํ”„๋ผ์ธ RL์€ ํŠœ๋‹์— ๊ทน๋„๋กœ ๋ฏผ๊ฐํ•˜๋‹ค โ€” ์ด ๋…ผ๋ฌธ ์Šค์Šค๋กœ์˜ C5 ๊ฒฐ๋ก ์ด๊ธฐ๋„ ํ•˜๋‹ค). โ€œ์˜คํ”„๋ผ์ธ RL์ด ๋ณธ์งˆ์ ์œผ๋กœ ๋ชปํ•œ๋‹คโ€๊ธฐ๋ณด๋‹ค โ€œ๊ธฐ๋ณธ ์„ค์ •์œผ๋กœ๋Š” ๋ชปํ•œ๋‹คโ€์— ๊ฐ€๊นŒ์šธ ์ˆ˜ ์žˆ๋‹ค.
  • ์•Œ๊ณ ๋ฆฌ์ฆ˜ ์Šค๋ƒ…์ˆ์˜ ์‹œํšจ. 2021๋…„ ์‹œ์ ์˜ 6๊ฐœ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋น„๊ต๋ผ, ์ดํ›„ Diffusion PolicyยทTransformer ๊ธฐ๋ฐ˜ ์ •์ฑ… ๋“ฑ ํ‘œํ˜„๋ ฅ ๋†’์€ ๋ชจ๋ฐฉํ•™์Šต์ด ๋“ฑ์žฅํ•œ ์ง€๊ธˆ์˜ ์ง€ํ˜•๊ณผ๋Š” ๋‹ค๋ฅด๋‹ค. BC-RNN์˜ ์šฐ์œ„๋Š” โ€œhistory + ํ‘œํ˜„๋ ฅโ€์ด ํ•ต์‹ฌ์ด๋ผ๋Š” ์‹ ํ˜ธ์˜€๊ณ , ํ›„์† ์—ฐ๊ตฌ๊ฐ€ ์ด๋ฅผ ํ™•์žฅํ–ˆ๋‹ค.
  • ๊ณผ์ œยท๊ตฌํ˜„ ํŽธํ–ฅ. ๊ณผ์ œยท์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ(robosuite/MuJoCo)ยท๋ฐ์ดํ„ฐ ์ˆ˜์ง‘๊ธฐ(RoboTurk)๊ฐ€ ์ €์ž ๊ทธ๋ฃน ์ƒํƒœ๊ณ„์— ๋ฌถ์—ฌ ์žˆ์–ด, ๊ฒฐ๋ก ์ด ์ด ํŒŒ์ดํ”„๋ผ์ธ์— ํŠนํ™”๋์„ ์—ฌ์ง€๊ฐ€ ์žˆ๋‹ค. ๋‹ค๋ฅธ ๋กœ๋ด‡ยท๋„๋ฉ”์ธ์œผ๋กœ์˜ ์ผ๋ฐ˜ํ™”๋Š” ๋ณ„๋„ ๊ฒ€์ฆ์ด ํ•„์š”ํ•˜๋‹ค.

๊ด€๋ จ ์—ฐ๊ตฌ์™€์˜ ์ž๋ฆฌ ๋งค๊น€

์ด ๋…ผ๋ฌธ์€ โ€œ๋ฌด์—‡์ด ์ค‘์š”ํ•œ๊ฐ€(what matters)โ€๋ฅ˜ ๋Œ€๊ทœ๋ชจ ์‹ค์ฆ ์—ฐ๊ตฌ์˜ ๋กœ๋ด‡ ์กฐ์ž‘ํŒ์ด๋‹ค. ์˜คํ”„๋ผ์ธ RL ์•Œ๊ณ ๋ฆฌ์ฆ˜(BCQยทCQL ๋“ฑ)์˜ ์ง€ํ˜•์€ Offline RL Survey ๋ฆฌ๋ทฐ์™€ ํ•จ๊ป˜ ์ฝ์œผ๋ฉด ์ข‹๊ณ , ์ด ๋…ผ๋ฌธ์ด ๋˜์ง„ โ€œ๊ธฐ๊ณ„์ƒ์„ฑ์ด ์•„๋‹Œ ์‹ค์ œ ๋ถ„ํฌ์—์„œ ๋ฒค์น˜๋งˆํ‚นํ•˜๋ผโ€๋Š” ๋ฌธ์ œ์˜์‹์€ ์˜จ๋ผ์ธ ์„ค์ •์—์„œ ๊ฐ™์€ ์งˆ๋ฌธ์„ ๋˜์ง„ Batch Online RL ๋ฆฌ๋ทฐ(โ€œWhat Matters for Batch Online RL in Robotics?โ€)์™€ ์ง์ ‘ ๋งž๋‹ฟ๋Š”๋‹ค. ๋ชจ๋ฐฉํ•™์Šต ๊ณ„์—ด์˜ ํ›„์† ํ๋ฆ„์€ Dex Imitation Learning ๋ฆฌ๋ทฐ์—์„œ ์กฐ๋งํ•  ์ˆ˜ ์žˆ๋‹ค. robomimic์€ ์ด ์„ธ ํ๋ฆ„(์˜คํ”„๋ผ์ธ RLยท๋ชจ๋ฐฉํ•™์Šตยท๋กœ๋ด‡ ๋ฒค์น˜๋งˆํฌ)์ด ๋งŒ๋‚˜๋Š” ๊ธฐ์ค€์  ์—ญํ• ์„ ํ•œ๋‹ค.

์š”์•ฝ

์ €์ž๋“ค์ด ์Šค์Šค๋กœ ์ •๋ฆฌํ•œ 6๊ฐœ ๊ตํ›ˆ(L1โ€“L6)์ด ์ด ๋…ผ๋ฌธ์˜ ๊ฒฐ๋ก ์ด๋‹ค.

  1. (L1) ์‹œ๊ฐ„ ์ถ”์ƒํ™” ๋ชจ๋ธ์ด ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—์„œ ๋งค์šฐ ํšจ๊ณผ์ ์ด๋‹ค. BC-RNNยทHBCยทIRIS๊ฐ€ ์‹œ๊ฐ„ ๋ฌธ๋งฅ์„ ๋ฌด์‹œํ•˜๋Š” ์•Œ๊ณ ๋ฆฌ์ฆ˜์„ ํฌ๊ฒŒ ์•ž์„ ๋‹ค.
  2. (L2) ์˜คํ”„๋ผ์ธ RL์„ ์ค€์ตœ์  ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ๋กœ ๊ฐœ์„ ํ•ด์•ผ ํ•œ๋‹ค. ๊ธฐ๊ณ„์ƒ์„ฑ ๋ฐ์ดํ„ฐ์—” ๊ฐ•ํ•˜์ง€๋งŒ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ์—” ์•ฝํ•˜๋‹ค โ€” ์ง„๋‹จ ๋ฐ์ดํ„ฐ์—์„œ์กฐ์ฐจ. history-dependence ๊ฒฐํ•ฉ์ด ์œ ๋งํ•œ ์ถœ๋ฐœ์ .
  3. (L3) ์˜คํ”„๋ผ์ธ ์ •์ฑ… ์„ ํƒ์ด ์‹ค์„ธ๊ณ„์— ์ค‘์š”ํ•˜๋‹ค. ๊ฒ€์ฆ ์†์‹ค/๋งˆ์ง€๋ง‰ ์ฒดํฌํฌ์ธํŠธ๋กœ๋Š” ์ตœ์  ๋Œ€๋น„ ํฌ๊ฒŒ ์†ํ•ด๋‹ค.
  4. (L4) ๊ด€์ธก ๊ณต๊ฐ„์ด ํฌ๊ฒŒ ์ž‘์šฉํ•˜๊ณ  ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ๊ฐ€ ์ค‘์š”ํ•˜๋‹ค. ์ •๋ณด ์ˆจ๊ธฐ๊ธฐ, ์ด๋ฏธ์ง€ ๋žœ๋คํ™”ยท์†๋ชฉ ์นด๋ฉ”๋ผ, ํ•™์Šต๋ฅ ยทGMMยท์ธ์ฝ”๋” ์„ ํƒ์ด ์„ฑ๋Šฅ์„ ์ขŒ์šฐํ•œ๋‹ค.
  5. (L5) ๋Œ€๊ทœ๋ชจ ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ๋กœ ๋” ๋ณต์žกํ•œ ๊ณผ์ œ๋ฅผ ํ’€ ์—ฌ์ง€๊ฐ€ ํฌ๋‹ค. ๋ฐ์ดํ„ฐ๋ฅผ ๋Š˜๋ฆฌ๋ฉด ๋ณต์žก ๊ณผ์ œ ์„ฑ๋Šฅ์ด ์œ ์˜๋ฏธํ•˜๊ฒŒ ์˜ค๋ฅด๊ณ , ํŠœ๋‹ ์—†์ด๋„ Tool Hang์„ ํ’€์—ˆ๋‹ค.
  6. (L6) ๊ฒฐ๋ก ์ด ์‹ค์ œ ๋กœ๋ด‡์œผ๋กœ ์ „์ด๋œ๋‹ค. ์‹œ๋ฎฌ์—์„œ ํŠœ๋‹ํ•œ ์„ค์ •์„ ๊ทธ๋Œ€๋กœ ์‹ค์ œ ๊ณผ์ œ์— ์ ์šฉํ•ด ์žฌํ˜„ํ–ˆ๋‹ค.

์ƒˆ ์•Œ๊ณ ๋ฆฌ์ฆ˜์ด ์•„๋‹ˆ๋ผ ์žฌํ˜„ ๊ฐ€๋Šฅํ•œ ๋ฒค์น˜๋งˆํฌ์™€ ๊ฒ€์ฆ๋œ ๊ตํ›ˆ์„ ๋‚จ๊ธด ๋…ผ๋ฌธ์ด๋ฉฐ, ๊ทธ ์ธํ”„๋ผ(robomimic)์™€ โ€œ์ธ๊ฐ„ ๋ฐ์ดํ„ฐ๋ผ๋Š” ๋ถ„ํฌ์—์„œ ๋‹ค์‹œ ๋ฒค์น˜๋งˆํ‚นํ•˜๋ผโ€๋Š” ๋ฉ”์‹œ์ง€๊ฐ€ ์ดํ›„ ๋กœ๋ด‡ ํ•™์Šต ์—ฐ๊ตฌ์˜ ๊ธฐ์ค€์„ ์ด ๋˜์—ˆ๋‹ค.

Copyright 2026, JungYeon Lee