📃Diffusion Body Schema 리뷰

Diffusion-Based Body Schema Learning Enabling Abnormal-State Adaptation in Musculoskeletal Robots

• Paper Link (arXiv:2608.01029)

• Project Page

• Code/Dataset: 공개 없음 — 논문·프로젝트 페이지 어디에도 릴리스 언급이 없다(2026-08-06 확인).

• 저자: Kento Kawaharazuka(The University of Tokyo), Shuhei Ikemoto(Kyushu Institute of Technology)

• IEEE Robotics and Automation Letters (RA-L), 2026 accepted — arXiv v1 제출 2026-08-02

1. 💡 근골격 로봇의 body schema(관절각↔︎근길이↔︎근장력 관계)를 근육 파단·모터 고착 같은 학습 데이터 밖의 이상상태에서도 재학습 없이 쓸 수 있게 만드는 문제를, 저차원 잠재공간 대신 확산모델의 denoising 과정으로 푼다.
2. ⚙️ 사전학습된 확산모델의 매 denoising 스텝에서 추정 원본 \hat{\boldsymbol{x}}_0에 대한 제약 손실 L_{adapt}의 기울기로 \boldsymbol{x}_t를 한 번 밀고 다시 denoise하는 gradient-guided denoising으로, 파단된 근육의 장력을 0으로, 고착된 모터의 길이를 상한 아래로 몰면서 정적 평형과 목표 관절각을 동시에 만족시킨다.
3. 🎯 MuJoCo 2관절·6근육 모델의 CUT/FIX/BOTH 세 이상조건 각 40 샘플에서, AE·VAE가 지표별로 서로 다른 곳에서 무너지는 반면 확산모델만 4개 지표(파단 장력·고착 길이·정적 평형·관절각) 전부에서 안정적이었다. 다만 적응 1회에 약 0.7 s가 걸려 동적 제어에는 아직 못 쓴다(저자 인정).

---

🔍 Ping Review

🔍 Ping — A light tap on the surface. Get the gist in seconds.

근골격(musculoskeletal) 로봇은 뼈대에 와이어 근육을 여러 개 걸어 관절을 움직인다. 근육 수가 관절 수보다 훨씬 많은 중복(redundancy) 이 이 구조의 최대 장점이고, 근육 하나가 끊어져도 남은 근육으로 계속 움직일 수 있다는 기대가 여기서 나온다. 그런데 그 기대를 실현하려면 하드웨어 중복만으로는 부족하고, 소프트웨어 쪽에서도 “지금 내 몸이 어떤 상태인가”를 나타내는 body schema — 관절각 \boldsymbol{q}, 근길이 \boldsymbol{l}^{motor}, 근장력 \boldsymbol{f} 사이의 관계 모델 — 가 함께 바뀌어 줘야 한다. 문제는 이상상태의 학습 데이터를 미리 모을 수 없다는 것이다. 어떤 근육이 언제 끊어질지 모르고, 끊어진 뒤에 데이터를 모아 재학습할 시간도 없다.

기존 해법은 오토인코더(AE)나 변분 오토인코더(VAE)로 중복공간을 저차원 잠재변수 \boldsymbol{z}_{latent}에 압축해 두고, 이상이 생기면 잠재변수만 최적화해 제약(파단 근육의 장력 0, 고착 근육의 길이 상한)을 맞추는 것이었다. 이 논문의 진단은 간단하다 — 잠재공간은 학습 데이터의 평균적 거동을 담고 있으므로, 그 안을 아무리 뒤져도 데이터 밖(OOD)의 상태에는 닿지 못한다. 그래서 저자들은 압축을 아예 없애고, 원래 정의된 고차원 공간 \boldsymbol{x}=[\boldsymbol{l}^{motor},\boldsymbol{f}]에서 직접·반복적으로 물리적으로 정합한 값을 찾는 확산모델로 갈아탄다. 잠재공간의 “점”을 옮기는 대신, 데이터 공간 전체에 깔린 벡터장을 따라 내려가면서 그 위에 제약의 기울기를 얹는 방식이다.

개념 비교(Fig. 1) — 왼쪽 AE/VAE는 압축된 model space에서 \nabla L_{adapt}를 따라 움직이므로 data space에서는 “변형된 갱신(translated update)”이 되어 OOD 지점(빨간 ×)에 닿지 못한다. 오른쪽 확산모델은 data space 자체가 벡터장으로 표현돼 갱신이 “그대로(identical update)” 전달된다.

핵심 방법론:

학습은 표준 DDPM이다. \boldsymbol{x}_0=[\boldsymbol{l}^{motor},\boldsymbol{f}](정규화됨)에 노이즈를 얹고

\boldsymbol{x}_t=\sqrt{\bar{\alpha}_t}\,\boldsymbol{x}_0+\sqrt{1-\bar{\alpha}_t}\,\boldsymbol{\epsilon},\qquad \boldsymbol{\epsilon}\sim\mathcal{N}(\boldsymbol{0},I)

관절각 \boldsymbol{q}를 조건으로 노이즈를 예측하는 \hat{\boldsymbol{\epsilon}}_t=\boldsymbol{h}^{diff}(\boldsymbol{x}_t,t,\boldsymbol{q})를 학습한다. 즉 이 body schema는 “관절각을 주면 그것을 실현하는 근길이·근장력 조합의 분포”를 학습한다.

적응은 여기에 제약 손실을 얹는 것이다. 파단 근육 집합 \mathcal{I}_{cut}, 고착 근육 집합 \mathcal{I}_{fix}에 대해

\begin{aligned} L_{adapt}(\boldsymbol{\hat{x}}) = &\ C^{adapt}_{cut}\sum_{i\in\mathcal{I}_{cut}}\|f_i\|^2 + C^{adapt}_{fix}\sum_{j\in\mathcal{I}_{fix}}\|\max(0,\,l^{motor}_j-l^{fixed}_j)\|^2\\ &+ C^{adapt}_{fmin}\sum_{i=1}^{M}\max(0,-f_i)^2 + C^{adapt}_{fmax}\sum_{i=1}^{M}\max(0,f_i-f^{max}_i)^2 \end{aligned}

AE/VAE는 \boldsymbol{\hat{x}}=\boldsymbol{h}^{\{ae,vae\}}_{dec}(\boldsymbol{q},\boldsymbol{z}_{latent})로 두고 \boldsymbol{z}_{latent}를 경사하강한다. 확산모델은 매 denoising 스텝마다 현재 \boldsymbol{x}_t에서 원본 추정치를 되돌린 뒤 그 손실의 기울기로 \boldsymbol{x}_t를 직접 민다:

\boldsymbol{\hat{x}}_0=\frac{\boldsymbol{x}_t-\sqrt{1-\bar{\alpha}_t}\,\boldsymbol{\hat{\epsilon}}}{\sqrt{\bar{\alpha}_t}},\qquad \boldsymbol{x}_t\leftarrow\boldsymbol{x}_t-C^{adapt}_{lr}\nabla_{\boldsymbol{x}_t}L_{adapt}(\boldsymbol{\hat{x}}_0),\qquad \boldsymbol{x}_{t-1}=\frac{1}{\sqrt{\alpha_t}}\left(\boldsymbol{x}_t-\frac{1-\alpha_t}{\sqrt{1-\bar{\alpha}_t}}\boldsymbol{\hat{\epsilon}}_t\right)

적응 시에는 \eta를 0으로 두어 추가 노이즈를 넣지 않는다. 기울기 한 걸음 → denoising 한 걸음이 200회 번갈아 도는 구조다.

주요 결과: (수치는 논문 본문에 표가 없어 대부분 Fig. 6 상자그림에서 읽은 중앙값 근사치다.)

• 파단 장력 E_{cut}(N, f^{max}=150 N) — CUT 조건에서 AE-3 ≈44, VAE-3 ≈58, VAE-10 ≈21로 “끊어진 근육”에 여전히 큰 장력이 남는다. AE-10·AE-30·Diff만 0 근처(Diff는 중앙값 ≲1).
• 고착 길이 E_{fix}(m) — FIX·BOTH 조건에서 AE-10(중앙값 ≈4×10⁻⁴, 최대 ≈6.8×10⁻³)과 AE-30(상자 상단 ≈4×10⁻³, 최대 ≈9×10⁻³)만 위배가 남고 나머지는 0 근처.
• 정적 평형 오차 E_\tau(Nm) — 전 조건에서 Diff가 가장 작다(CUT ≈0.3, FIX ≈0.15, BOTH ≈0.2). AE-10 ≈12, AE-30 ≈7~9로 압도적으로 나쁘다.
• 관절각 오차 E_q(rad, 가동범위는 관절당 ±1.0 rad) — Diff ≈0.012~0.015, VAE-10 ≈0.012~0.015로 사실상 동급. 반면 AE-30은 BOTH에서 ≈0.73으로 목표 자세를 거의 포기한다.
• 추론 시간(Fig. 7, i7-10750H CPU + Quadro T2000 Max-Q GPU) — 적응 없이는 AE/VAE가 0.001 s 이내, Diff는 약 0.1 s. 그러나 적응을 켜면 셋 다 약 0.7 s로 수렴한다.

결론:

“저차원 잠재공간에 밀어 넣은 body schema는 데이터 밖으로 나갈 수 없다”는 진단은 설득력이 있고, 그 대안으로 제약 기울기와 denoising을 번갈아 적용한다는 처방은 깔끔하다. 논문이 실제로 보여 준 것은 “확산이 모든 지표에서 1등”이라기보다 “확산만이 4개 지표에서 동시에 무너지지 않는다” 쪽이다 — AE는 파단 제약을 맞추면 관절각을 잃고, VAE는 관절각을 지키면 파단 제약을 못 맞춘다. 다만 검증이 시뮬레이션 2관절·6근육 장난감 모델 하나에 국한되고, 실제 Musashi·Kengoro 같은 실기 검증은 없으며, 코드·데이터도 공개되지 않았다.

---

🔔 Ring Review

🔔 Ring — An idea that echoes. Grasp the core and its value.

한 줄로 시작하면

“몸이 망가졌을 때 적응한다”는 문제는 결국 “학습 분포 밖에서 제약을 만족하는 점을 찾는다”는 문제이고, 잠재공간 최적화는 그 탐색을 학습된 디코더의 상(image) 안에 가둬 버린다. 확산모델은 제약의 기울기를 한 걸음 주고 곧바로 학습된 사전분포(denoising)를 한 걸음 다시 적용하는 번갈아 투영(alternating projection) 구조라, 제약 쪽으로 끌려가면서도 매 스텝 “물리적으로 그럴듯한 곳”으로 되당겨진다. 이 되당김이 AE/VAE의 잠재공간 경사하강에는 없다.

배경: 근골격 로봇의 body schema는 왜 어려운가

논문이 가정하는 하드웨어는 Fig. 2에 정리돼 있다. 모터 축의 풀리에 와이어(근육)를 감고, 그 와이어가 근장력 측정 유닛과 비선형 탄성 스프링을 거쳐 뼈대에 붙는다. 근길이 \boldsymbol{l}^{motor}는 모터의 인크리멘털 엔코더에서, 근장력 \boldsymbol{f}는 장력 측정 유닛의 압력 센서에서 얻는다. 관절각 \boldsymbol{q}는 관절 엔코더가 있으면 직접, 없으면 근길이 변화와 시각 센서를 조합해 추정한다(Kawaharazuka et al., RA-L 2018의 joint-muscle mapping 계열).

근골격 로봇의 기본 구조(Fig. 2) — 근육 = 모터 + 와이어 + 장력 측정 유닛 + 비선형 탄성 스프링. 관측 가능한 세 신호가 \boldsymbol{q}, \boldsymbol{l}^{motor}, \boldsymbol{f}다.

비선형 스프링은 장력–신장 관계를

f_i = k\left(\exp(\alpha\delta_i)-1\right)

로 모델링하고(k: 탄성계수, \alpha: 비선형성, \delta: 신장), 관절각 N개·근육 M개일 때 근육 i에 대해

\delta_i=\phi^{-1}(f_i)=\max\!\left(0,\ l^{geo}_i(\boldsymbol{q})-l^{motor}_i\right), \qquad \delta_i=\frac{1}{\alpha}\log\!\left(\frac{f_i}{k}+1\right)

가 성립한다. 여기서 l^{geo}(\boldsymbol{q})는 관절각에서 정해지는 기하학적 근길이다. \max(0,\cdot)가 붙는 이유가 중요하다 — 와이어는 당길 수만 있고 밀 수 없으므로, 기하학적 길이보다 모터가 더 많이 풀어 주면 근육은 그냥 느슨해진다(slack). 이 단측(one-sided) 성질이 뒤의 제약·평가 전체를 지배한다.

body schema의 목표는 이 세 양의 관계를 학습해, 목표 관절각 \boldsymbol{q}^{ref}를 실현하는 \boldsymbol{l}^{motor}와 \boldsymbol{f}를 추정하는 것이다. 중요한 전제 하나: 위 Eq. (1)–(3)의 물리모델은 평가에만 쓰이고 학습·적응 중에는 전혀 주어지지 않는다. 오직 데이터에서 학습한 (\boldsymbol{q},\boldsymbol{l}^{motor},\boldsymbol{f})의 관계만 갖고 이상상태에 대응해야 한다.

여기가 어려운 지점이다. 근육이 관절보다 많으므로 같은 \boldsymbol{q}를 실현하는 (\boldsymbol{l}^{motor},\boldsymbol{f})는 연속체로 무수히 많다(중복공간). 정상 상태에서는 이 중복이 가변 강성 같은 이득으로 돌아오지만, 이상 상태에서는 “무수히 많은 해 중 새 제약을 만족하는 것”을 골라내야 한다. 재학습 없이, 그것도 학습 때 본 적 없는 제약에 대해.

세 가지 body schema: AE, VAE, 그리고 Diffusion

세 가지 body schema 모델(Fig. 3) — AE(좌)·VAE(중)는 [\boldsymbol{l},\boldsymbol{f}]를 \boldsymbol{z}_q(관절각 대응)와 \boldsymbol{z}_{latent}(중복공간 대응)로 인코딩했다가 복원한다. 확산모델(우)은 [\boldsymbol{l},\boldsymbol{f}]·시간 t·관절각을 입력받아 노이즈 \boldsymbol{\epsilon}_t를 출력할 뿐 병목이 없다.

AE. \boldsymbol{x}=[\boldsymbol{l}^{motor},\boldsymbol{f}]를 인코딩해 (\boldsymbol{z}_q,\boldsymbol{z}_{latent})를 얻고 다시 복원한다. 손실은

L^{ae}_{train}=\|\boldsymbol{x}-\boldsymbol{\hat{x}}\|^2+C^{train}_q\|\boldsymbol{q}-\boldsymbol{z}_q\|^2

두 번째 항이 핵심 장치다. 잠재변수의 일부 \boldsymbol{z}_q를 관절각과 강제로 일치시켜 놓으면, 디코더에 (\boldsymbol{q},\boldsymbol{z}_{latent})를 넣는 것만으로 “이 관절각을 실현하는 중복공간의 한 점”을 뽑아낼 수 있다. 나머지 \boldsymbol{z}_{latent}가 중복공간의 좌표가 된다.

VAE. 같은 구조에 \boldsymbol{z}_{latent}\sim\mathcal{N}(\boldsymbol{\mu}_{latent},\mathrm{diag}(\boldsymbol{\sigma}^2_{latent}))의 재매개변수화와 KL 항을 얹는다:

L^{vae}_{train}=\|\boldsymbol{x}-\boldsymbol{\hat{x}}\|^2+C^{train}_q\|\boldsymbol{q}-\boldsymbol{z}_q\|^2+D_{KL}\big(\mathcal{N}(\boldsymbol{\mu}_{latent},\mathrm{diag}(\boldsymbol{\sigma}^2_{latent}))\,\|\,\mathcal{N}(\boldsymbol{0},I)\big)

KL 항이 잠재공간을 표준정규 쪽으로 정규화한다는 점이 나중에 결과를 가른다. (VAE의 유도 자체는 VAE 리뷰 참고.)

Diffusion. 병목이 없다. \boldsymbol{x}_0=[\boldsymbol{l}^{motor},\boldsymbol{f}]에 스케줄 \bar{\alpha}_t로 노이즈를 얹는 forward 과정과, \hat{\boldsymbol{\epsilon}}_t=\boldsymbol{h}^{diff}(\boldsymbol{x}_t,t,\boldsymbol{q})로 노이즈를 추정해 되돌리는 reverse 과정으로 이루어진다. 관절각 \boldsymbol{q}는 잠재변수가 아니라 조건으로 들어간다. 그래서 AE/VAE에서 “\boldsymbol{z}_q를 관절각에 맞추는” 보조 손실이 하던 역할을, 확산모델은 조건부 생성으로 자연스럽게 흡수한다.

논문은 forward/reverse 식(Eq. 12–14)은 명시하지만 확산모델의 학습 손실식은 따로 쓰지 않는다. 문맥상 표준 \epsilon-예측 MSE로 읽는 것이 자연스럽지만, 재현하려는 독자에겐 명시되지 않은 항목이다.

이상상태의 정의: 두 개의 부등식

이상상태 정의(Fig. 4) — (a) 근육 파단(Cut): 와이어가 끊겨 f_i=0. (b) 모터 고착(Fix): 모터가 멈춰 l^{motor}_i\le l^{fixed}_i.

• 근육 파단(Cut): 근육 i가 완전히 끊어져 f_i=0.
• 모터 고착(Fix): 모터가 멈춰 근길이가 고착 시점 값 l^{fixed}_i에 묶인다 — 다만 등식이 아니라 l^{motor}_i\le l^{fixed}_i의 부등식이다. 와이어의 장력 이방성 때문에 근육은 (기하학적으로) 짧아질 수는 있어도 늘어날 수는 없기 때문이다.

이 부등식 처리는 사소해 보이지만 문제의 성격을 바꾼다. 등식 제약이면 해공간이 저차원 부분다양체로 줄지만, 부등식이면 반공간(half-space) 이 되어 실현 가능 영역이 넓게 남는다. 넓게 남은 영역 안에서 물리적으로도 그럴듯한 점을 고르는 일이 곧 body schema의 몫이 된다.

적응 (1): 잠재공간 최적화

AE/VAE의 적응은 디코더를 고정한 채 잠재변수만 굴리는 것이다:

\boldsymbol{\hat{x}}=\boldsymbol{h}^{\{ae,vae\}}_{dec}(\boldsymbol{q},\boldsymbol{z}_{latent}),\qquad \boldsymbol{z}_{latent}\leftarrow\boldsymbol{z}_{latent}-C^{adapt}_{lr}\nabla_{\boldsymbol{z}_{latent}}L_{adapt}(\boldsymbol{\hat{x}})

L_{adapt}는 Ping에 적은 네 항(파단 장력 0 / 고착 길이 상한 / 장력 하한 0 / 장력 상한 f^{max})이다. 주목할 점 두 가지.

첫째, L_{adapt}에는 목표 관절각 항이 없다. \boldsymbol{q}는 디코더의 입력(확산모델에서는 조건)으로 들어갈 뿐이다. 즉 “\boldsymbol{q}^{ref}를 지키는 일”은 손실이 아니라 모델이 학습한 사전분포가 담당한다. 그래서 잠재변수가 학습 분포에서 멀어질수록 \boldsymbol{q}^{ref}를 지키는 능력이 조용히 무너진다. 평가 지표 E_q가 정확히 이 붕괴를 잰다.

둘째, L_{adapt}에는 정적 평형 항도 없다. 평형은 학습 데이터가 이미 평형해로만 구성돼 있다는 사실을 통해 간접적으로만 강제된다. E_\tau도 마찬가지로 사전분포에 의존하는 지표다.

적응 (2): gradient-guided denoising

확산모델 쪽은 같은 L_{adapt}를 쓰되 적용 지점이 다르다. t=T부터 내려오면서 매 스텝

1. 현재 \boldsymbol{x}_t와 예측 노이즈로 원본 추정치 \boldsymbol{\hat{x}}_0=(\boldsymbol{x}_t-\sqrt{1-\bar{\alpha}_t}\hat{\boldsymbol{\epsilon}})/\sqrt{\bar{\alpha}_t}를 만들고,
2. 그 추정치에서 계산한 제약 손실의 기울기로 \boldsymbol{x}_t를 직접 갱신하고(\boldsymbol{x}_t\leftarrow\boldsymbol{x}_t-C^{adapt}_{lr}\nabla_{\boldsymbol{x}_t}L_{adapt}(\boldsymbol{\hat{x}}_0)),
3. 갱신된 \boldsymbol{x}_t에서 한 스텝 denoise한다(추가 노이즈 \eta는 0).

이 세 줄은 이미지 생성 쪽의 classifier guidance / 확산 기반 역문제 해법(diffusion posterior sampling 계열)의 관례를 body schema에 그대로 옮긴 것이고, 새로움은 기법 자체보다 “근골격 body schema의 이상상태 적응”을 그 틀에 얹었다는 문제 설정에 있다.

직관: 왜 통하는가 (그리고 “저차원”이 진짜 원인일까)

논문의 서사는 “저차원 잠재공간이 병목이라 OOD에 못 간다”이다. 절반은 맞고, 절반은 논문 자신의 수치와 어긋난다.

먼저 어긋나는 쪽부터. 이 실험에서 M=6이므로 데이터 공간은 \boldsymbol{x}=[\boldsymbol{l}^{motor},\boldsymbol{f}]\in\mathbb{R}^{12}, 12차원이다. 그런데 비교 대상 중 AE-30/VAE-30은 잠재 전체 차원이 30, 그중 \boldsymbol{z}_q가 2차원이므로 \boldsymbol{z}_{latent}가 28차원이다. 12차원 데이터를 28차원으로 “압축”한다는 말은 성립하지 않는다. 그럼에도 AE-30은 관절각 오차 E_q에서 가장 나쁘다(BOTH에서 중앙값 ≈0.73 rad). 차원의 크기만으로는 설명되지 않는다.

그렇다면 실제로 무엇이 다른가. 필자가 보기에 결정적인 차이는 매 갱신마다 학습된 사전분포가 다시 적용되는가이다.

• 잠재공간 최적화는 기울기 → 기울기 → 기울기 …다. 디코더는 고정된 함수일 뿐, “이 \boldsymbol{z}는 학습 때 본 적 없다”고 항의하지 않는다. AE는 잠재공간에 아무 정규화가 없으므로(논문 §V-B의 표현대로 “explicit regularization 없이 학습된”) 최적화가 잠재변수를 학습 분포에서 한없이 멀리 끌고 갈 수 있고, 그 지점의 디코더 출력은 더 이상 물리적으로 그럴듯한 (\boldsymbol{l},\boldsymbol{f})가 아니다. 그 결과가 “파단 제약은 맞췄는데 목표 자세는 0.7 rad 어긋남”이다.
• 확산모델의 적응은 기울기 → denoise → 기울기 → denoise …다. denoising 스텝은 정의상 학습 분포 쪽으로 되당기는 연산이므로, 제약이 밀어내는 만큼 사전분포가 되당긴다. 이 교대 구조가 “제약도 만족하고 물리적으로도 그럴듯한” 타협점을 잡아 준다.

이 관점은 논문 결과의 세부 패턴도 잘 설명한다. VAE는 KL 항 덕분에 잠재공간이 표준정규 쪽으로 정규화돼 있어 “먼 곳”이 상대적으로 덜 황당하다 → 그래서 E_q·E_\tau가 AE보다 훨씬 낫다. 반대로 그 정규화가 잠재공간을 조밀하게 만들기 때문에 f_i=0 같은 극단적인 제약을 만족하는 지점까지는 못 간다 → E_{cut}이 나쁘다(VAE-10 중앙값 ≈21 N). AE는 정확히 반대다. 논문이 “AE는 파단을 맞추면 고착을 못 맞추고 그 반대도 성립하는 딜레마에 빠진다”고 쓴 것과 같은 이야기를, 필자는 “제약 항력 vs 사전분포 항력의 균형”으로 읽는다.

정리하면 논문의 Fig. 1 그림(저차원 model space vs 고차원 vector field)은 은유로는 정확하지만 메커니즘 설명으로는 느슨하다. 실제로 작동하는 것은 차원 수가 아니라 사전분포를 반복 적용할 수 있는 표현 형식이다. 확산모델이 데이터를 “벡터장”으로 갖고 있다는 그림의 오른쪽 아래 패널이 오히려 정확한 서술이다.

실험 셋업

실험 모델(Fig. 5) — 2관절·6근육. 길이 0.2 m 베이스 링크에 0.3 m·0.4 m 링크가 회전관절로 직렬 연결되고, 단관절근 4개 + 이관절근 2개가 붙는다. 중력은 -y 방향.

• 모델: 각 링크 질량 2.0 kg, 관절 가동범위 각 [-1.0,\,1.0] rad. 물리 파라미터는 f^{max}=150 N, k=1000 N, \alpha=20.0 m⁻¹.
• 데이터: N^{data}=800 샘플. 관절각을 균일 샘플링하고, MuJoCo 순기구학으로 기하학적 근길이 l^{geo}(\boldsymbol{q})와 근육 자코비안 \boldsymbol{G}(\boldsymbol{q})를 얻은 뒤, 정적 평형을 만족하는 근장력을 \arg\min_{\boldsymbol{f}\in\mathbb{R}^M}\ \|\boldsymbol{f}-\boldsymbol{f}^{ref}\|^2_2 \quad \text{s.t.}\quad -\boldsymbol{G}(\boldsymbol{q})^\top\boldsymbol{f}=\boldsymbol{\tau}^{bias}(\boldsymbol{q}),\ \ \boldsymbol{0}\le\boldsymbol{f}\le\boldsymbol{f}^{max} 로 푼다. \boldsymbol{f}^{ref}를 [0,f^{max}]에서 무작위로 뽑기 때문에 같은 관절각에서도 다양한 장력 패턴(= 중복공간의 여러 점)이 데이터에 들어간다. 이 무작위화가 확산모델이 배울 “분포”의 폭을 만든다. \boldsymbol{\tau}^{bias}는 이 연구에서는 중력 보상 토크다.
• 모델 크기: AE/VAE는 은닉 64 유닛·Tanh의 3층 MLP 인코더·디코더로, 잠재 차원 3/10/30에서 각각 약 10k/11k/14k(AE), 11k/12k/15k(VAE) 파라미터. 확산모델은 은닉 91 유닛 2개·SiLU의 3층 MLP로 약 11k 파라미터. 파라미터 수를 최대한 맞춘 비교라는 점은 공정하게 짚어 둘 만하다.
• 학습: 800개 중 80%/20% 분할, 10000 epoch. 확산 스텝 200, 선형 스케줄러. 계수는 C^{train}_q=2.0, C^{adapt}_{cut}=0.01, C^{adapt}_{fix}=1.0, C^{adapt}_{fmin}=C^{adapt}_{fmax}=0.01, C^{adapt}_{lr}=0.01.
• 이상조건: 6개 근육 중 2개 파단 = CUT, 2개 고착 = FIX, 1개 파단 + 1개 고착 = BOTH. 각 조건 40개 샘플로 평가.

평가 방법이 사실 논문의 숨은 기여다

이상상태에서 “이 (\boldsymbol{l}^{motor},\boldsymbol{f})가 실제로 어떤 관절각을 만드는가”를 알아야 E_q·E_\tau를 잴 수 있는데, 근육 slack이 있는 상황은 물리 시뮬레이션으로 풀기 어렵다. 그래서 저자들은 최적화 기반 순방향 추정기를 따로 만들었다. 근육을 팽팽한 집합

\mathcal{E}(\boldsymbol{\hat{q}})=\Big\{\,i\notin(\mathcal{I}_{cut}\cup\mathcal{I}_{fix})\ \Big|\ f_i>0,\ \ l^{geo}_i(\boldsymbol{\hat{q}})-l^{motor}_i\ge-\varepsilon^{slack}\Big\}

과 느슨한 집합으로 나눈 뒤, 팽팽한 근육에는 등식 잔차 r^{eq}_i=(l^{motor}_i+\phi^{-1}(f_i))-l^{geo}_i(\boldsymbol{\hat{q}})를, 느슨한 근육에는 힌지 잔차 r^{slack}_i=\max(0,\,l^{geo}_i(\boldsymbol{\hat{q}})-l^{motor}_i)를, 고착 근육에는 단측 잔차 r^{fix}_i=\max(0,\,l^{geo}_i(\boldsymbol{\hat{q}})-(l^{fix}_i+\phi^{-1}(f_i)))를 부여하고, Huber 손실의 IRLS(Holland & Welsch, 1977)로 푼다. 여기에 팽팽한 근육만 센 유효 장력 \boldsymbol{f}^{eff}로 만든 토크 불균형 \boldsymbol{\tau}(\boldsymbol{\hat{q}})=-\boldsymbol{G}(\boldsymbol{\hat{q}})^\top\boldsymbol{f}^{eff}-\boldsymbol{\tau}^{bias}(\boldsymbol{\hat{q}})를 정규화 항으로 더해

\min_{\boldsymbol{\hat{q}}\in\mathbb{R}^2}\ \sum_i w_i\left(\frac{r_i(\boldsymbol{\hat{q}})}{s_l}\right)^2+\lambda_\tau\left\|\frac{\boldsymbol{\tau}(\boldsymbol{\hat{q}})}{s_\tau}\right\|^2_2+\lambda_q\|\boldsymbol{\hat{q}}-\boldsymbol{q}^{ref}\|^2_2

를 Gauss-Newton(+ Levenberg 감쇠 \mu)으로 반복해 \boldsymbol{\hat{q}}를 얻는다. 파라미터는 \varepsilon^{slack}=10^{-5} m, s_l=0.03 m, s_\tau=5.0 Nm, \lambda_\tau=0.1, \lambda_q=10^{-3}.

이 추정기는 제안 방법의 일부가 아니라 채점 도구인데, 실은 이것이야말로 “slack이 있는 근골격계의 정합 상태를 푸는” 비자명한 장치다. 다만 \lambda_q\|\boldsymbol{\hat{q}}-\boldsymbol{q}^{ref}\|^2 항이 채점기 안에 들어 있다는 점은 주의해서 볼 필요가 있다(뒤 “약점” 참조).

지표 네 개는 다음과 같다.

E_{cut}=\frac{1}{|\mathcal{I}_{cut}|}\sum_{i\in\mathcal{I}_{cut}}|f_i|,\qquad E_{fix}=\frac{1}{|\mathcal{I}_{fix}|}\sum_{j\in\mathcal{I}_{fix}}\max(0,\,l^{motor}_j-l^{fixed}_j) E_\tau=\|-\boldsymbol{G}(\boldsymbol{\hat{q}})^\top\boldsymbol{f}^{eff}-\boldsymbol{\tau}^{bias}(\boldsymbol{\hat{q}})\|_2,\qquad E_q=\|\boldsymbol{q}^{ref}-\boldsymbol{\hat{q}}\|_2

실험 결과

적응 성능(Fig. 6) — 행: 지표 E_{cut}/E_{fix}/E_\tau/E_q, 열: 이상조건 CUT/FIX/BOTH. 각 상자그림은 40개 이상조건 샘플의 분포. 논문에는 이에 대응하는 수치 표가 없다.

논문 본문에 결과 표가 없으므로, 아래는 Fig. 6에서 눈으로 읽은 중앙값 근사치다(정확한 값은 원문 그림 참조).

지표 (조건)	AE-3	AE-10	AE-30	VAE-3	VAE-10	VAE-30	Diff
E_{cut} [N] (CUT)	≈44	≈1	≈0	≈58	≈21	≈10	≲1
E_{cut} [N] (BOTH)	≈25	≈0	≈0	≈28	≈11	≈2	≈0
E_{fix} [m] (FIX)	≈0	≈4e-4	≈0 (상자 상단 ≈4e-3)	≈0	≈0	≈0	≈0
E_\tau [Nm] (CUT)	≈1.0	≈12	≈8.8	≈1.1	≈0.6	≈2.8	≈0.3
E_\tau [Nm] (BOTH)	≈1.2	≈12.7	≈6.9	≈1.0	≈0.9	≈3.2	≈0.2
E_q [rad] (CUT)	≈0.07	≈0.35	≈0.54	≈0.035	≈0.012	≈0.06	≈0.012
E_q [rad] (BOTH)	≈0.07	≈0.33	≈0.73	≈0.04	≈0.015	≈0.10	≈0.015

읽어야 할 것은 개별 승패가 아니라 패턴이다.

• AE의 딜레마. 잠재차원을 키우면(E_{cut}: AE-3 ≈44 → AE-30 ≈0) 파단 제약은 완벽히 맞추지만, 그 대가로 E_q가 ≈0.07 → ≈0.54(CUT)/≈0.73(BOTH) rad로 폭발한다. 관절 가동범위가 관절당 ±1.0 rad라는 점을 생각하면 목표 자세를 사실상 포기한 해다. “제약을 만족시키기 위해 학습 분포를 완전히 벗어난다”의 교과서적 사례.
• VAE의 반대 딜레마. E_q·E_\tau는 좋은데(E_q VAE-10 ≈0.012) E_{cut}을 못 낮춘다(VAE-10 ≈21 N, f^{max}의 약 14%). “끊어진 근육에 21 N이 걸려 있다”는 해는 물리적으로 의미가 없다.
• 잠재차원의 스위트 스팟은 지표마다 다르다. 논문도 “VAE는 적절한 잠재차원 선택이 결정적”이라고 인정한다 — 실제로 E_q·E_\tau는 VAE-10이 최고지만 E_{cut}은 VAE-30이 낫다. 하나의 잠재차원으로 네 지표를 동시에 만족시키는 설정이 없다.
• 확산모델의 성격. 어느 지표에서도 압도적 1등은 아니다(E_q는 VAE-10과 동급, E_{cut}은 AE-30이 더 낮다). 대신 네 지표 어디서도 무너지지 않는 유일한 방법이다. 이 논문의 주장은 “최고”가 아니라 “일관됨”으로 읽는 게 정확하다.
• 12개 패널 중 2개는 자명하다. FIX 조건의 E_{cut}과 CUT 조건의 E_{fix}는 해당 이상 근육 자체가 없으므로 전 모델이 0으로 찍힌다. 정보를 담은 패널은 10개다.

추론 시간(Fig. 7, 로그 스케일) — 적응 없이는 AE/VAE ≈5×10⁻⁴ s, Diff ≈0.1 s로 200배 차이가 나지만, 적응을 켜면(BOTH) 셋 다 ≈0.7 s로 수렴한다.

추론 시간 그림은 오해를 하나 정정해 준다. “확산모델은 200 스텝이라 느리다”는 직관은 적응을 끈 상태에서만 맞다(0.1 s vs 0.001 s 미만). 정작 이상상태 적응을 켜면 AE/VAE도 잠재변수를 반복 최적화해야 하므로 셋 다 약 0.7 s로 같아진다. 즉 이 논문의 세팅에서 확산모델은 베이스라인보다 느리지 않다. 문제는 0.7 s라는 절대값 자체이고, 이건 저자들도 “정적 동작에는 허용되지만 동적 거동에는 부족하다”고 명시적으로 인정한다.

비판적으로 보면

강점

1. 문제 설정이 정직하다. “이상상태 데이터를 미리 못 모은다 → 재학습 없이 대응해야 한다”는 전제가 실제 근골격 로봇의 운용 현실과 맞고, 그로부터 “사전학습된 생성모델 + 테스트 타임 제약 최적화”라는 방법 선택이 자연스럽게 따라 나온다. 방법을 먼저 정하고 문제를 맞춘 논문이 아니다.
2. 비교가 잘 통제돼 있다. AE·VAE·Diffusion이 모두 3층 MLP, 파라미터 10~15k 수준으로 맞춰져 있고, 적응 손실 L_{adapt}가 세 방법에서 동일하다. 달라지는 것은 “무엇을 최적화 변수로 두는가”(\boldsymbol{z}_{latent} vs \boldsymbol{x}_t)뿐이라 결론의 귀속이 명확하다. AE/VAE의 잠재차원을 3·10·30으로 스윕한 것도 좋다 — 덕분에 “잠재차원을 잘 고르면 되는 것 아닌가”라는 반문에 데이터로 답할 수 있다.
3. 평가 도구를 제대로 만들었다. slack이 있는 근골격계는 물리 시뮬레이션으로 정합 상태를 풀기 어렵다는 문제를 회피하지 않고, IRLS + Gauss-Newton 기반 순방향 추정기를 세워 관절각·평형 오차를 잰다. 이 부분은 재사용 가치가 있는 부산물이다.
4. 결과 해석이 과장되지 않았다. 논문 §V-B는 자기 방법이 어디서 이기고 베이스라인이 왜 지는지를 지표별로 나눠 서술하며, “확산이 전부 이겼다”고 쓰지 않는다.

약점·한계

1. 검증이 시뮬레이션 2관절·6근육 장난감 모델 하나뿐이다. 저자들의 방어 논리는 “실기에서는 근육·관절이 그룹으로 묶여 관리되며(Kawaharazuka et al., RA-L 2021의 automatic grouping) 한 그룹이 대개 관절 5개·근육 10개를 넘지 않으므로, 2관절·6근육과 네트워크 복잡도가 크게 다르지 않다”는 것이다. 이건 모델 용량에 대한 논증일 뿐 물리·센서 현실에 대한 논증이 아니다. 실기에서는 마찰·와이어 늘어짐·엔코더 드리프트·장력 센서 노이즈가 body schema 학습의 실질적 난이도를 지배하며, 이 논문은 그런 항을 하나도 포함하지 않은 이상적인 모델(Eq. 1–3)로 데이터를 생성했다. 같은 저자 그룹이 Musashi·Kengoro라는 실기를 갖고 있는데도 실기 결과가 없다는 점은 아쉽다.
2. 데이터가 800 샘플이고, 그 800개가 어떤 분포인지가 결과를 지배한다. 근장력은 \boldsymbol{f}^{ref}\sim U[0,f^{max}]의 사영으로 만들어지므로, 확산모델이 배우는 “그럴듯한 장력 분포”는 사실상 무작위 중복해의 분포다. 실기에서 수집되는 데이터(특정 제어기가 만든 편향된 장력 패턴)와는 성격이 다르고, 이 차이가 적응 성능에 얼마나 영향을 주는지에 대한 절제 실험이 없다.
3. 적응 반복 횟수가 보고되지 않는다. 확산모델은 200 denoising 스텝 각각에 기울기 한 걸음이 붙어 총 200회로 정해지지만, AE/VAE의 잠재공간 최적화가 몇 번 도는지는 논문 어디에도 없다(전수 검색해도 학습 epoch 10000과 확산 스텝 200만 나온다). Fig. 7에서 세 방법의 적응 시간이 모두 ≈0.7 s로 맞춰져 있다는 사실이 “계산 예산이 대략 맞춰졌다”는 간접 증거이긴 하나, 반복 횟수 자체가 없으면 재현자는 이 비교를 그대로 다시 만들 수 없다.
4. L_{adapt}가 정규화된 값에서 계산되는지 물리 단위에서 계산되는지가 불명확하다. §II-B는 “\boldsymbol{x}는 학습 데이터로 정규화되며 이후 모든 학습 절차 동안 정규화된 것으로 가정한다”고만 쓴다. 적응은 학습이 아니므로 이 문장이 Eq. (18)까지 덮는지 애매하다. 이게 중요한 이유는 C^{adapt}_{cut}=0.01과 C^{adapt}_{fix}=1.0이 100배 차이 나기 때문이다 — 물리 단위라면 f^2\sim10^4과 (\Delta l)^2\sim10^{-6}의 스케일 차를 이 계수들이 전혀 보정하지 못하고, 정규화된 단위라면 균형이 전혀 달라진다. 계수 값은 다 적어 놓고 그 계수가 사는 단위계는 적지 않은 셈이다.
5. 채점기 안에 \lambda_q\|\boldsymbol{\hat{q}}-\boldsymbol{q}^{ref}\|^2 항이 있다. 순방향 추정기가 \boldsymbol{\hat{q}}를 풀 때 목표각으로 끌어당기는 정규화가 들어가 있는데, 그 \boldsymbol{\hat{q}}로 E_q=\|\boldsymbol{q}^{ref}-\boldsymbol{\hat{q}}\|_2를 잰다. \lambda_q=10^{-3}로 작고 근길이 잔차(s_l=0.03 m로 스케일)가 지배하도록 설계된 것으로 보이지만, 평가 지표를 낙관 쪽으로 미는 항이 채점기 안에 있다는 구조 자체는 명시할 가치가 있다. 이 정규화가 없을 때 결과가 어떻게 달라지는지에 대한 민감도 분석은 없다.
6. “저차원 잠재공간이 문제”라는 서사가 자기 실험으로 완전히 지지되지 않는다. 앞의 “직관” 절에서 짚었듯 \boldsymbol{x}\in\mathbb{R}^{12}인데 AE-30의 \boldsymbol{z}_{latent}는 28차원이다. 압축이 아닌데도 가장 크게 실패한다. 즉 진짜 원인은 차원이 아니라 사전분포의 재적용 여부에 가깝고, 논문은 이 구분을 하지 않는다. 확산모델의 스텝 수를 줄이거나(사전분포 재적용 횟수 감소) 잠재 최적화 중간에 인코더-디코더를 왕복시키는(사전분포 재적용 추가) 절제 실험이 있었다면 메커니즘이 확정됐을 것이다.
7. 0.7 s는 제어 루프에 못 들어간다. 저자들도 인정하듯 정적 자세 유지에는 되지만 동적 거동에는 못 쓴다. 그리고 여기서 유의할 점은 이 비용이 확산모델만의 문제가 아니라는 것이다 — AE/VAE의 잠재 최적화도 같은 0.7 s를 쓴다. 즉 “테스트 타임 최적화로 이상상태에 대응한다”는 접근 전체의 비용이지, 확산 스텝 200을 줄인다고 자동으로 해결되지 않는다(적응을 끈 Diff는 이미 0.1 s다). 논문이 제시한 “확산모델 가속 연구를 적용하면 된다”는 전망은 이 구분을 흐린다.
8. 이상상태의 종류가 두 가지뿐이고, 둘 다 깔끔한 부등식이다. 저자들도 회로 고장·센서 노이즈 등을 미래 과제로 든다. 특히 부분 파단(장력이 0이 아니라 감쇠), 센서 자체의 고장(측정된 \boldsymbol{f}가 틀린 경우)처럼 “제약을 손실 함수로 쓸 수 없는” 이상은 이 프레임에 그대로 들어가지 않는다. 이 방법은 “무엇이 고장났는지 이미 알고 있다”를 전제한다 — 고장 검출·식별은 문제 밖이다.
9. 코드·데이터·학습 스크립트가 공개되지 않았다. 프로젝트 페이지에도 릴리스가 없다. 위 3·4번(반복 횟수 미보고, 단위계 불명확)이 코드로도 메워지지 않으므로, 재현은 사실상 재구현 + 하이퍼파라미터 재탐색이다. 모델이 11k 파라미터짜리 MLP라 계산 부담은 없지만, 결론의 정밀 재현(특히 AE/VAE 베이스라인이 “정당하게 튜닝되었는가”)은 확인할 방법이 없다.

관련 연구와의 자리 매김

이 논문은 제1저자의 body schema 계보 위에 정확히 얹혀 있다. 논문이 인용하는 흐름을 정리하면:

계열	대표 연구	적응 방식
데이터 테이블 / 다항식	Nakanishi et al. (ICRA 2010), Ookubo et al. (Humanoids 2015)	없음(정적 모델)
단순 회귀 신경망	Kawaharazuka et al. (RA-L 2018 / RA-L 2019)	온라인 재학습
파단 대응 온라인 학습	Kawaharazuka et al. (Robotics and Autonomous Systems 2022)	이상 데이터를 포함한 재학습, 또는 입력에 파단을 명시하는 학습변수(Tani 2002의 parametric bias 계열)
AE 기반	Musculoskeletal AutoEncoder (Kawaharazuka et al., RA-L 2020)	잠재공간 최적화
VAE 기반	Yoshimitsu, Osa, Ikemoto (IROS 2023, tensegrity 조작기)	잠재공간 최적화
본 논문	Kawaharazuka & Ikemoto (RA-L 2026)	denoising + 제약 기울기 교대

바뀐 지점은 한 문장으로 요약된다: “중복공간을 잠재변수로 압축해 그 좌표를 굴린다”에서 “중복공간의 분포를 그대로 갖고 있다가 제약으로 그 위를 걷는다”로. Musculoskeletal AutoEncoder(RA-L 2020)가 “하나의 네트워크로 상태추정·제어·시뮬레이션을 통합”하는 데 초점을 뒀다면, 이 논문은 그 통합 표현이 이상상태에서 어떻게 무너지는가를 문제 삼고 표현 형식 자체를 바꾼다. 제2저자 Ikemoto의 tensegrity VAE 연구(IROS 2023)가 베이스라인 계보의 한 축이라는 점도 흥미롭다 — 저자들이 자기 계열의 방법을 스스로 베이스라인으로 세워 깎는 구조다.

한편 논문이 다루지 않은 이웃도 있다. 같은 저자의 최근 body schema 연구 두 편 — GeMuCo(Generalized Multisensory Correlational Model, IEEE Robotics & Automation Magazine 2024)와 PIMBS(Efficient Body Schema Learning for Musculoskeletal Humanoids with Physics-Informed Neural Networks, RA-L 2025) — 은 이 논문의 참고문헌에 인용되지 않는다. 특히 PIMBS는 “물리 법칙(토크–장력 관계)을 손실에 넣어 적은 데이터로 body schema를 학습”하는 접근이라, 이 논문의 “물리모델을 학습·적응에 일절 쓰지 않는다”는 설계와 정면으로 대비된다. 800 샘플이라는 데이터 규모를 감안하면 PINN 계열과의 비교(또는 결합 — 확산 사전분포 + 물리 잔차 guidance)는 가장 자연스러운 다음 수인데, 논문에 논의가 없다. RA-L 지면 제약을 감안해도 짚어 둘 공백이다.

기법 쪽 계보로 보면, 이 논문의 적응 절차는 이미지 도메인의 guided diffusion / 확산 기반 역문제 해법을 로봇 신체 모델에 옮긴 것이다. “확산모델은 학습 데이터를 그대로 재생하는 것이 아니라 denoising 과정을 조작해 학습 때 못 본 조합까지 만들어 낼 수 있다”는 성질은 로봇 계획 쪽에서도 반복해서 활용되는데, 짧은 궤적 조각들의 denoising을 서로 조건화해 학습 범위를 넘는 장기 계획을 합성하는 Comp-Diffusior 리뷰가 같은 성질을 다른 축(궤적 길이)에서 쓴 예다. 이 논문은 그 성질을 “물리 제약”이라는 축에서 쓴다.

요약

기여. 근골격 로봇의 body schema를 확산모델로 학습하고, 근육 파단·모터 고착 같은 이상상태에 재학습 없이 대응하는 방법을 gradient-guided denoising으로 정식화했다. AE/VAE 기반 잠재공간 최적화와 동일한 적응 손실·비슷한 파라미터 수로 비교해, 확산모델만이 네 개 지표(파단 장력·고착 길이·정적 평형·관절각)에서 동시에 무너지지 않음을 보였다. 부수적으로 slack이 있는 근골격계의 순방향 상태를 IRLS + Gauss-Newton으로 푸는 평가 도구를 제시했다.

한계. 검증은 MuJoCo 2관절·6근육 모델, 800 샘플, 이상조건 3종 × 40 샘플에 국한된다. 실기(Musashi/Kengoro) 검증이 없고, 마찰·센서 노이즈 같은 실제 비이상성이 데이터에 없다. 적응 반복 횟수와 적응 손실의 단위계가 보고되지 않았고, 코드·데이터도 공개되지 않아 정밀 재현이 어렵다. 적응 1회 0.7 s는 동적 제어에 못 쓰는 수준이며, 이 비용은 확산모델 고유의 것이 아니라 “테스트 타임 최적화” 접근 전체의 것이다.

전망. 논문의 서사(“저차원 병목”)보다 실제 메커니즘(“사전분포의 반복 재적용”)이 더 일반적이라고 본다. 그렇게 읽으면 이 결과는 근골격 로봇을 넘어 중복 센서·액추에이터를 가진 시스템 일반(다관절 중복 팔, 다중 센서 융합, 소프트/텐세그리티 구조)에서 “고장 후 즉시 적응”의 한 가지 표준 레시피가 될 수 있다. 남은 숙제는 셋이다 — ① 실기에서의 검증, ② 0.7 s를 제어 주기 안으로 밀어 넣는 가속(distillation·consistency model 등), ③ 고장을 이미 알고 있다는 전제를 벗고 검출·식별까지 같은 프레임에 넣는 것. 특히 ③은 확산모델의 우도(likelihood) 관점에서 “지금 관측이 body schema로 설명되지 않는다”를 이상 검출 신호로 쓰는 자연스러운 확장 경로가 있어 보인다.