📃DexForce 리뷰

DexForce: Extracting Force-informed Actions from Kinesthetic Demonstrations for Dexterous Manipulation

• Paper Link (arXiv:2501.10356): v2(2025-03-27 개정) 기준으로 읽었다. 제어 이득(k_p, k_v, k_f) 값과 k_f 민감도 실험(Question 3)은 v2 개정에서 추가된 부분이다(e-print 소스의 \rev{} 표시로 확인).

• Project: 태스크별 성공/부분성공/실패 영상, 힘 반영 유무별 롤아웃 영상, 5분 보충 영상이 있다.

• 코드 공개 없음(2026-10-14 확인): 논문 본문과 e-print 소스에 저장소 링크가 없고, 1저자 GitHub에도 해당 레포가 없다. 프로젝트 페이지가 공개한 것은 손목 카메라 어안 렌즈 마운트 부품(Google Drive)과 CoinFT 제작 안내 링크뿐이다.

• Claire Chen, Zhongchun Yu, Hojung Choi, Mark Cutkosky, Jeannette Bohg

• Stanford University, IEEE Robotics and Automation Letters (RA-L) vol. 10, no. 6, 2025 (게재 정보는 프로젝트 페이지 BibTeX 기준. arXiv 본문에는 게재지 표기가 없다)

1. 💡 사람이 로봇 손가락을 직접 잡고 움직이는 kinesthetic 시연은 손의 촉감을 그대로 느낄 수 있지만, 기록되는 손끝 위치에는 사람이 얼마나 세게 눌렀는지가 남지 않는다. DexForce는 손끝 F/T 센서로 잰 접촉력으로 이 빠진 정보를 액션에 되돌려 넣는다.
2. ⚙️ 관측 손끝 위치 \mathbf{x}_o를 측정 접촉력 \mathbf{f} 방향으로 \mathbf{x}_f=\mathbf{x}_o+k_f\mathbf{f}만큼 밀어 넣은 force-informed target을 만들고, 이를 임피던스 제어기로 재생(replay)해 사람 손이 없는 데모를 다시 찍은 뒤 Diffusion Policy를 학습한다.
3. 🎯 6개 접촉 과제에서 force-informed 액션으로 학습한 정책은 평균 76%(137/180) 성공, 관측 위치를 그대로 액션으로 쓴 정책은 180회 중 1회 성공에 그쳤다. 관측에 6축 F/T를 넣으면 AirPods 열기(1→17/30)·너트 풀기(11→26/30)·큐브 밀기(17→27/30)에서 유의하게 좋아진다.

---

🔍 Ping Review

🔍 Ping — A light tap on the surface. Get the gist in seconds.

다지 로봇 손의 모방학습 데이터는 대부분 원격조작으로 모은다. 사람 손의 움직임을 추적해 로봇 손 관절로 리타게팅하는 방식이다. 저자들은 이 방식이 접촉이 많은 정밀 과제에서 두 가지 이유로 막힌다고 본다. 사람 손과 로봇 손의 기구학이 달라 정밀한 동작을 내기 어렵고(human-to-robot correspondence problem), 조작자가 로봇이 느끼는 힘을 느끼지 못한다(haptic feedback 부재). 반면 kinesthetic teaching, 곧 사람이 로봇 손가락을 직접 붙잡고 과제를 수행하는 방식은 두 문제를 동시에 피한다.

문제는 kinesthetic 시연이 상태만 주고 액션은 주지 않는다는 점이다. 손가락으로 벽을 1 N으로 누르든 5 N으로 누르든 손끝은 벽 표면에 멈춰 있으므로 기록되는 위치는 같다. 이 위치를 그대로 위치 목표로 재생하면 로봇은 벽에 손끝을 갖다 대기만 하고 힘을 내지 않는다. DexForce의 핵심은 “어떤 위치 목표를 임피던스 제어기에 주면 시연 때의 힘이 다시 나오는가”를 역산해 그것을 액션 라벨로 쓰는 것이다.

개요(Fig. 1). (a) kinesthetic 시연에서 관측 손끝 위치(파란 원)를 손끝 기저부의 6축 F/T 센서(초록)로 잰 접촉력(주황 화살표) 방향으로 옮겨 force-informed 액션(주황 사각형)을 만든다. (b) 이 액션을 실행하면 로봇이 시연의 힘을 재현해 카메라 배터리를 집는다. (c) 너트 풀기, (d) AirPods 케이스 열기, (e) 상자 세우기. 프로젝트 페이지 상단 영상(원본 15초, 960 px·15 fps로 재인코딩). 조작자가 엄지·검지를 잡고 배터리를 세우는 동안 측정 접촉력, 관측 손끝 위치, force-informed target이 오버레이로 표시된다.

핵심 방법론:

손가락마다 데카르트 임피던스 제어기를 쓴다. 제어력 \mathbf{F}와 관절 토크 \tau는

\mathbf{F}=k_{p}(\mathbf{x}_{d}-\mathbf{x}_{c})-k_{v}\dot{\mathbf{x}}_{c},\qquad \tau=\mathbf{J}^{T}\mathbf{F}+\mathbf{g}

이다(\mathbf{x}_d 목표 손끝 위치, \mathbf{x}_c 현재 위치, \mathbf{J} 손가락 자코비안, \mathbf{g} 중력 보상, k_p=310, k_v=2). 첫 항이 스프링이므로, 준정적(quasi-static)이라고 가정하면 시연의 힘 \mathbf{f}를 내는 목표 위치는 관측 위치를 힘 방향으로 밀어 넣은 점이다.

\mathbf{x}_{f}=\mathbf{x}_{o}+k_{f}\mathbf{f},\qquad k_f=0.0045\ (\text{전 과제 공통, 손으로 튜닝})

데모 수집은 2단계다. Stage 1에서 kinesthetic 시연의 \mathbf{x}_{o,1..T}와 \mathbf{f}_{1..T}로 \mathbf{x}_{f,1..T}를 계산한다. Stage 2에서 그 궤적을 임피던스 제어기로 재생하며 사람 손이 없는 손목 카메라 영상 \mathbf{I}_t, 새 접촉력 \mathbf{f}^*_t, 모멘트 \mathbf{m}^*_t를 기록한다. 정책(CNN 기반 Diffusion Policy)은 (\mathbf{I}_t,\mathbf{f}^*_t,\mathbf{m}^*_t)를 보고 \mathbf{x}_f를 예측하도록 지도학습된다.

주요 결과:

• 액션 절제(Fig. 7): force-informed 액션 정책의 성공은 slide cube 27, reorient smiley 25, open AirPods 17, grasp battery 22, unscrew nut 26, flip box 20회(각 30회 중), 평균 76%(137/180). 관측 위치를 액션으로 쓴 정책은 slide cube 1회를 빼고 전부 0회 성공(1/180).
• 관측 절제(Fig. 8): 6축 F/T 관측은 6개 과제 모두에서 RGB-only보다 성공 수가 같거나 많다. 피셔 정확 검정(\alpha=0.05)으로 유의한 곳은 open AirPods(1→17), unscrew nut(11→26), slide cube(17→27) 세 과제다.
• 이진 접촉 신호(0.55 N 문턱)는 6개 과제 모두에서 6축 F/T보다 낮다.
• OOD(너트가 360°~900° 더 감김, 상자 +100 g): RGB, F/T 정책이 flip box 13/30, unscrew nut 15/30으로 떨어지지만 여전히 RGB-only(8, 11)보다 높다.
• k_f 민감도(Fig. 9): 과제마다 재생이 성공하는 k_f 구간이 있고 여섯 구간이 모두 겹치며, 사용한 0.0045가 모두에 들어간다. 구간이 가장 좁은 과제는 unscrew nut, open AirPods, slide cube로, 힘 관측 이득이 컸던 세 과제와 같다.

결론:

DexForce는 새 정책 구조가 아니라 데이터의 액션 라벨을 어떻게 만들 것인가에 대한 논문이다. kinesthetic 시연의 위치 궤적에는 접촉력이 지워져 있고, 손끝 F/T 측정과 임피던스 제어기의 스프링 모델을 이용하면 그 힘을 위치 목표의 오프셋으로 되살릴 수 있다는 것이 요지다. 효과는 극적이다(1/180 → 137/180). 다만 비교 대상이 “힘을 전혀 반영하지 않은 위치”뿐이고, 재현된 힘을 직접 잰 수치가 없으며, 조작자가 동시에 잡을 수 있는 손가락이 둘이라는 실용 한계를 저자 스스로 인정한다.

---

🔔 Ring Review

🔔 Ring — An idea that echoes. Grasp the core and its value.

한 줄로 시작하면

위치 제어 로봇에게 “누르기”를 가르치려면 목표 위치를 물체 안쪽에 찍어 줘야 한다. 사람이 로봇 손가락을 잡고 시연하면 손끝은 언제나 물체 표면에 멈춰 있으니, 기록된 궤적을 그대로 따라 하는 정책은 표면을 만지기만 하고 힘은 주지 않는다. DexForce는 손끝 기저부의 CoinFT 센서로 잰 힘에 상수 k_f를 곱해 “얼마나 안쪽을 목표로 했어야 했는가”를 복원하고, 이렇게 고친 목표를 실제로 한 번 재생해 사람 손 없는 데이터를 다시 찍는다. 단순한 선형 보정 하나가 6개 접촉 과제에서 성공률을 0.6%에서 76%로 바꾼다는 것이 이 논문의 주장이자 증거다.

배경: 왜 다지 손 데모에서 힘이 빠지는가 (§I·§II)

저자들은 다지 조작의 성공이 “올바른 힘을, 올바른 때에, 올바른 접촉 위치에” 주는 데 달려 있다고 본다(§I 첫 문장). AirPods 케이스 열기와 상자 세우기는 여러 접촉점에서 정밀한 힘이 필요하고, 얇은 카메라 배터리 집기와 너트 풀기는 여기에 더해 접촉을 만들고 끊는 순서까지 맞아야 한다.

이런 데이터를 모으는 지배적 방식은 손 추적 + 리타게팅 원격조작(DexPilot, AnyTeleop, Open-TeleVision, Bunny-VisionPro 등)과 사람 손 시연에서 직접 리타게팅하는 방식(DexCap, ARCap)이다. 리타게팅 계열의 일반 구조는 DexPilot 리뷰에서 다뤘다. 논문은 이 계열의 한계를 두 가지로 정리한다.

1. 기구학 불일치. 사람 손과 로봇 손은 다르게 움직이므로, 자기 손을 움직여 로봇 손에 정밀한 동작을 시키는 것이 직관적이지 않다.
2. 햅틱 피드백 부재. 조작자는 로봇이 느끼는 것을 느끼지 못하므로 물체에 맞는 힘을 주기가 특히 어렵다.

관련 연구 절(§II)은 이 두 축으로 기존 수집법을 다시 분류한다. ResPilot(잔차 GP로 리타게팅 보정)과 Tilde(쌍둥이 로봇 퍼핏)는 기구학 문제를 완화하지만 햅틱이 없다. 외골격·hand-over-hand 계열(웨어러블 로봇 손 등)은 기구학을 맞추지만 힘 센서가 없고 파지 동작만 보였다. 외골격 기반 수집의 최근 흐름은 DexEXO 리뷰를 참고할 수 있다. kinesthetic teaching은 로봇 손 자체를 움직이므로 기구학 불일치가 원천적으로 없고, 조작자가 접촉을 손으로 직접 느낀다.

그러면 왜 다지 손에서 kinesthetic 시연이 널리 쓰이지 않았나. 논문의 답이 곧 출발점이다. kinesthetic 시연이 주는 것은 상태(관측 손끝 위치와 측정 힘)뿐이고, 그 힘을 재현할 액션은 주지 않는다(§I). 손에 힘 센서를 달아도 마찬가지다.

방법 상세 (§III)

하드웨어: 손끝 기저부의 CoinFT

손가락마다 손끝 바로 아래(기저부)에 6축 F/T 센서를 단다. 실험에서는 Allegro Hand의 엄지와 검지에만 CoinFT 두 개를 달았다(Fig. 6). CoinFT는 같은 Stanford 그룹(Cutkosky 랩)이 만든 동전 크기의 정전용량식 6축 센서로, CoinFT 리뷰에서 센서 자체를 다뤘다. 센서를 손끝 기저부에 두는 배치가 kinesthetic 시연에서 중요하다. 조작자가 센서 위쪽 어디를 꽉 잡아도 그 힘은 센서를 지나지 않으므로, 측정값에는 손끝이 물체와 주고받는 접촉력만 남는다(§III, Fig. 1a).

하드웨어 구성(Fig. 6). 손목에 RealSense D435(파랑)와 어안 렌즈 어댑터(분홍, TidyBot++에서 차용)를 달아 손 작업공간 전체를 한 화면에 담고, 엄지·검지 기저부에 CoinFT 두 개(초록)를 단다. 좌하단 삽입 그래프는 힘(N)·모멘트(N·m) 신호 예시다. 사진상 손은 로봇 팔 끝에 장착돼 있으나 본문은 팔을 언급하지 않는다.

데카르트 임피던스 제어 (식 1·2)

DexForce가 명시적 힘 제어 대신 임피던스 제어를 고른 이유는 안정성이다. 저자들은 명시적 힘 제어가 불연속 접촉이 있는 과제에서 특히 불안정하다고 쓰고 Balachandran et al.(2017)을 인용한다. 손가락 하나의 제어력은

\mathbf{F}=k_{p}(\mathbf{x}_{d}-\mathbf{x}_{c})-k_{v}\dot{\mathbf{x}}_{c} \tag{1}

이고 이를 관절 토크로 바꿔 보낸다.

\tau=\mathbf{J}^{T}\mathbf{F}+\mathbf{g} \tag{2}

이득은 자유 공간에서 손끝이 목표 궤적을 따라가도록 맞췄고 k_p=310, k_v=2다. 논문은 이득의 단위를 적지 않는다. 이 점은 아래 직관 절의 검산에서 다시 나온다.

Force-informed target (식 3)

식 (1)의 첫 항은 목표와 현재 위치 사이에 걸린 스프링이다. 손끝이 물체 표면에 멈춰 있고(준정적) 시연 때 손가락이 물체에 \mathbf{f}를 가했다면, 같은 힘을 다시 내려면 목표를 표면 안쪽으로 \mathbf{f}에 비례한 만큼 밀어 두면 된다.

\mathbf{x}_{f}=\mathbf{x}_{o}+k_{f}\mathbf{f} \tag{3}

여기서 \mathbf{f}는 손가락이 물체에 가한 힘이다(그림들은 반대 방향인 -\mathbf{f}, 곧 물체가 손가락에 가한 힘을 화살표로 그린다). k_f는 손으로 튜닝한 스칼라로 전 과제에 0.0045를 쓴다. 저자들은 식 (3)이 소프트 접촉도 마찰도 모델링하지 않지만 많은 과제에 충분했다고 적는다.

식 (3)의 직관(Fig. 2). (a)(b) 조작자가 작게 누르든 크게 누르든 기록되는 손끝 위치(파란 원)는 벽 표면에서 같다. (c)(d) force-informed target(주황 사각형)은 측정 힘에 비례해 벽 안쪽으로 들어가고, 그 차이가 임피던스 제어기의 스프링 길이가 된다.

2단계 데모 수집 절차

2단계 수집 절차(Fig. 3). 예시 과제는 손가락 하나로 보라색 블록을 레일을 따라 빨간 목표 구역까지 미는 것이다. Stage 1에서 kinesthetic 시연의 관측 위치 x_o와 측정 힘으로 x_f를 계산하고, Stage 2에서 x_f 궤적을 재생해 사람 손 없는 데모를 얻는다.

• Stage 1: 시연에서 액션 추출. 손가락마다 길이 T의 \mathbf{x}_{o,1..T}와 \mathbf{f}_{1..T}를 기록하고 식 (3)으로 \mathbf{x}_{f,1..T}를 계산한다.
• Stage 2: 재생으로 최종 데모 생성. Stage 1의 영상에는 조작자의 손이 찍혀 있어 테스트 때(로봇만 보이는) 영상과 분포가 다르다. 그래서 \mathbf{x}_{f,1..T}를 식 (2)의 제어기로 개루프 재생하며 손목 카메라 영상 \mathbf{I}_{1..T}, 새 손끝 위치 \mathbf{x}^*_{o}, 접촉력 \mathbf{f}^*, 모멘트 \mathbf{m}^*를 다시 기록한다. k_f는 “재생이 시연을 성공적으로 재현하도록” 튜닝했다.

Stage 2가 단순히 손을 지우는 장치만은 아니라는 점을 짚어 둘 만하다. 정책의 액션 라벨은 Stage 1에서 계산한 \mathbf{x}_f이고 관측은 Stage 2에서 그 \mathbf{x}_f를 실제로 실행하며 찍은 것이다. 따라서 학습 데이터의 (관측, 액션) 쌍은 “이 명령을 내렸더니 이런 장면과 이런 힘이 관측됐다”는 실제 인과 기록이 된다. kinesthetic 시연의 관측을 그대로 쓰면 그 관측을 만든 것은 로봇 명령이 아니라 사람 손이다.

정책 학습

CNN 기반 Diffusion Policy를 쓴다. 관측은 ResNet18 이미지 특징에 손가락별 Stage 2 접촉력 \mathbf{f}^*_t와 모멘트 \mathbf{m}^*_t를 이어 붙인 것이고, 출력은 force-informed target이며, 실행은 같은 임피던스 제어기로 한다. 논문에 적힌 설정을 모으면 다음과 같다(§III·§IV).

항목	값
임피던스 이득	k_p=310, k_v=2 (단위 미기재)
힘→위치 계수	k_f=0.0045 (전 과제 공통, 단위 미기재)
정책	CNN 기반 Diffusion Policy, 이미지 인코더 ResNet18
관측	손목 RGB(어안) + 손가락별 6축 힘·모멘트
호라이즌	관측 2, 액션 예측 16, 액션 실행 8
학습	1000 epoch
데이터 주기	30 Hz 기록 → 10 Hz로 다운샘플
이미지 크기	128×128 (grasp battery만 256×256)
이진 접촉 문턱(절제용)	힘 크기 > 0.55 N
평가	과제당 동일한 무작위 초기 배치 30개

직관: 사라진 것은 “힘”이 아니라 “스프링의 길이”다

DexForce가 하는 일을 한 문장으로 줄이면 임피던스 제어기의 스프링이 얼마나 늘어나 있어야 했는지를 시연에서 역산하는 것이다. 위치 목표 기반 정책은 목표와 현재 위치의 차이로만 힘을 낼 수 있다. kinesthetic 시연은 손끝이 물체 표면에 붙어 있는 궤적만 남기므로 그 차이가 언제나 0이고, 정책은 “닿아도 밀지 않는” 행동을 배운다. 논문의 Q1 실패 서술이 정확히 이 그림이다. 대부분의 과제에서 관측 위치 정책은 손가락을 물체까지 옮기지만 힘을 전혀 주지 못한다(§IV Q1).

이 관점에서 보면 k_f에는 자연스러운 기준값이 있다. 식 (1)의 준정적 평형에서 손끝이 표면에 멈춰 있으면 \mathbf{F}=k_p(\mathbf{x}_d-\mathbf{x}_c)이고, 이것이 손가락이 물체에 가하는 힘 \mathbf{f}와 같아야 하므로 \mathbf{x}_d-\mathbf{x}_c=\mathbf{f}/k_p, 곧 k_f=1/k_p다. 논문의 k_p=310을 대입하면 1/k_p\approx0.0032이고, 실제로 쓴 k_f=0.0045는 그 약 1.4배다(필자 계산. 논문은 k_p·k_f의 단위를 적지 않으므로 두 값이 같은 단위계라는 가정 아래서만 성립한다). 그림에서 읽은 Fig. 9의 과제별 평균 허용 구간 하한은 약 0.0005~0.0027이라 0.0032는 여섯 과제의 평균 구간에 모두 들어간다. 즉 논문이 “손으로 튜닝한” 상수라 부르는 k_f는 제어 이득에서 바로 나오는 값 근처에 있고, 1.4배의 여유는 마찰·관절 수준 오차·자코비안 오차·준정적 가정 위반 같은 미모델 요소를 흡수하는 몫으로 읽힌다. 이 해석은 필자의 것이며 논문은 k_f와 k_p의 관계를 언급하지 않는다.

이 관점은 Q3의 결론 하나도 다르게 읽게 한다. 저자들은 “k_f를 과제마다 튜닝할 필요가 없다”를 실험으로 보였는데, 식 (1)과 (3)이 같은 스프링을 공유한다면 그것은 놀라운 일이 아니라 설계상 기대되는 결과에 가깝다.

실험 (§IV)

과제와 평가 설정

6개 과제의 설명, 예시 궤적, 성공·부분성공·실패 기준, 학습 데모 수(Fig. 4).

과제	내용	손가락	데모 수	성공	부분 성공
slide cube	레일을 따라 큐브를 빨간 목표 구역까지 민다	1	80	큐브가 목표 구역 안	(정의 없음, 성공/실패만)
reorient smiley	육각 블록을 굴려 웃는 얼굴을 바로 세운다	1	60	바로 선 얼굴	회전은 했으나 틀린 면
open AirPods	AirPods 케이스를 연다	2	150	완전히 열림	부분적으로 열림
grasp battery	얇은 카메라 배터리를 집는다	2	110	집음	들어 올렸으나 집지 못함
unscrew nut	너트를 풀어서 들어 올린다	2	80	풀고 들어 올림	풀었으나 떨어뜨림
flip box	상자를 옆면으로 세운다	2	70	세워져 홀로 섬	홀로 서지 못함

데모는 모두 550개다(필자 합산). 한 손가락 과제 두 개는 외부 환경(레일·책상)을 이용하는 extrinsic dexterity 과제이고 나머지는 두 손가락 과제다. 손가락 수가 둘에서 멈춘 이유를 저자들은 “조작자가 편하게 kinesthetic 시연을 할 수 있는 것이 손가락 두 개까지”라고 밝힌다(§IV Tasks).

초기 배치 범위(Fig. 5). 초록 영역 안에서 물체 자세를 무작위로 두고, 평가는 이 영역에서 뽑은 동일한 30개 배치로 한다. unscrew nut은 시연에서 0°~360° 감긴 상태, OOD에서 360°~900° 감긴 상태다. flip box OOD는 상자를 100 g 무겁게 한다.

Q1. force-informed 액션은 얼마나 중요한가 (Fig. 7)

비교는 단 하나의 변수만 바꾼다. 두 정책 모두 관측은 RGB 특징 + 손가락별 힘·모멘트로 같고, 액션 라벨만 force-informed target이냐 다음 시점의 관측 손끝 위치냐가 다르다.

액션 절제 결과(Fig. 7). 과제별 30회의 성공(초록)·부분성공(노랑)·실패(빨강) 횟수. 관측 손끝 위치로 학습한 정책은 거의 전부 실패한다.

그림의 막대 라벨을 표로 옮기면 다음과 같다.

과제	force-informed (성공/부분/실패)	관측 위치 (성공/부분/실패)
slide cube	27 / 0 / 3	1 / 0 / 29
reorient smiley	25 / 4 / 1	0 / 2 / 28
open AirPods	17 / 8 / 5	0 / 0 / 30
grasp battery	22 / 3 / 5	0 / 0 / 30
unscrew nut	26 / 4 / 0	0 / 23 / 7
flip box	20 / 3 / 7	0 / 1 / 29
합계	137 / 22 / 21 (성공 76.1%)	1 / 26 / 153 (성공 0.6%)

본문의 “90%(slide cube)에서 57%(open AirPods)까지, 평균 76%”는 27/30=90%, 17/30≈56.7%, 137/180≈76.1%로 막대 라벨과 정확히 맞는다.

unscrew nut의 부분 성공 23회가 흥미롭다. 관측 위치 정책은 너트를 푸는 데는 성공하지만 한 번도 집어 올리지 못한다. 저자들은 롤아웃에서 로봇이 너트를 쥐고 비트는 대신 육각 모서리를 밀어서 돌린다는 것을 관찰하고, force-informed 액션이 가장 중요한 것은 집는 단계라고 해석한다. 아래 영상의 오른쪽이 그 장면이다.

unscrew nut 롤아웃(프로젝트 페이지 원본, 8배속 표기). 왼쪽 force-informed 액션 정책은 너트를 풀어 들어 올리고, 오른쪽 관측 위치 액션 정책은 모서리를 밀어 풀기는 하지만 너트를 떨어뜨린다(부분 성공).

open AirPods는 force-informed 정책 중 가장 낮지만(17/30, 부분 8), 저자들은 과제 자체의 성질을 설명한다. 뚜껑을 조금만 열면 자체 무게로 다시 닫히므로 끝까지 밀어 올리는 힘이 필요하다. 관측 위치 정책은 30회 모두 실패했다.

open AirPods 롤아웃(프로젝트 페이지 원본, 4배속 표기). 왼쪽 force-informed 정책은 뚜껑을 열고, 오른쪽 관측 위치 정책은 손가락을 케이스에 대기만 할 뿐 뚜껑을 움직이지 못한다.

Q2. 관측에 힘을 넣으면 무엇이 달라지나 (Fig. 8)

모든 정책을 force-informed target으로 학습하고 관측만 세 가지로 바꾼다.

• RGB, F/T: RGB 특징 + 손가락별 6축 힘·모멘트 원시값
• RGB, 0/1: RGB 특징 + 손가락별 이진 접촉 신호(힘 크기 > 0.55 N이면 1). 이진 접촉으로 충분하다는 선행 연구(Yin et al., Rotating without Seeing, RSS 2023)를 의식한 절제다. 그 논문은 Rotating without Seeing 리뷰에서 다뤘다.
• RGB only: 힘 정보 없음

힘 관측 절제(Fig. 8). 위 세 줄은 분포 내 6개 과제, 아래 줄은 OOD 2개. 화살표는 RGB-only 대비 성공 수의 상대 변화이고 *는 피셔 정확 검정(\alpha=0.05)에서 유의함을 뜻한다. RGB, F/T 행은 Fig. 7의 force-informed 행과 같은 값이다.

성공 횟수(30회 중)만 뽑아 표로 정리하고, 논문의 상대 변화(%)와 함께 퍼센트포인트 차이를 나란히 둔다. 마지막 열의 p값은 필자가 성공 횟수로 다시 계산한 양측 피셔 정확 검정이다.

과제	RGB, F/T	RGB only	RGB, 0/1	F/T vs RGB-only (논문 상대 변화)	같은 차이(%p)	0/1 vs RGB-only (논문)	재계산 p (F/T vs RGB-only)
open AirPods	17	1	1	+1600% *	+53.3	+0.00%	<0.001
unscrew nut	26	11	16	+136% *	+50.0	+45.5%	<0.001
slide cube	27	17	15	+58.8% *	+33.3	−11.8%	0.007
grasp battery	22	17	10	+29.4%	+16.7	−41.2%	0.28
reorient smiley	25	20	14	+25.0%	+16.7	−30.0%	0.23
flip box	20	19	18	+5.26%	+3.3	−5.26%	1.00
flip box (OOD)	13	8	8	+62.5%	+16.7	+0.00%	0.28
unscrew nut (OOD)	15	11	15	+36.4%	+13.3	+36.4%	0.43

재계산한 p값은 논문의 별표 위치(세 과제)와 일치한다. 표에서 읽히는 것은 세 가지다.

1. 6축 F/T는 해치지 않지만, 유의한 도움은 절반이다. 분포 내 6개 과제에서 F/T가 RGB-only보다 낮은 경우는 없다(초록의 “never hurts”는 정확한 표현이다). 그러나 grasp battery·reorient smiley·flip box의 차이는 유의하지 않고, flip box는 30회 중 1회 차이다. 서론의 “improves policy performance for all six tasks”는 초록보다 한 단계 강한 표현이다.
2. 상대 변화(%)는 분모가 작은 과제를 과장한다. open AirPods의 +1600%는 1회 → 17회다. 퍼센트포인트로 보면 open AirPods(+53.3)와 unscrew nut(+50.0)은 거의 같은 크기다.
3. 이진 접촉은 대체로 도움이 안 되지만 예외가 있다. 본문은 “RGB, 0/1 정책은 RGB-only와 같거나 더 나쁜 경향”이라 쓰는데, unscrew nut에서는 0/1이 RGB-only보다 5회 많고(+45.5%), OOD unscrew nut에서는 0/1이 F/T와 같은 15회다. 너트 풀기처럼 접촉 전환이 잦은 과제에서는 “지금 닿아 있는가”만으로도 상당한 정보가 된다는 신호로 읽을 수 있지만, 논문은 이 예외를 따로 논하지 않는다. 6개 분포 내 과제 모두에서 0/1 < F/T라는 진술 자체는 표와 맞는다.

OOD에 대해 저자들은 “약 50%”를 성공했다고 쓴다. 표로 보면 RGB, F/T가 flip box 13/30(43%), unscrew nut 15/30(50%)이다. 두 OOD 모두 RGB, F/T > RGB-only라는 서술은 맞지만, 차이는 통계적으로 유의하지 않다(p=0.28, 0.43, 필자 재계산).

Q3. k_f에 얼마나 민감한가 (Fig. 9)

과제마다 kinesthetic 시연 5개를 골라, k_f=0.0045에서 출발해 0.0001씩 올리고 내리며 재생이 실패할 때까지 시험한다. 상한은 안전을 위해 0.025로 막았다. 성공 판정은 재생이 과제를 완수하는지다.

k_f 민감도(Fig. 9). 막대는 데모 5개에 걸친 허용 k_f 구간의 평균, 오차 막대는 최솟값·최댓값의 표준편차, 빨간 점선은 모든 데모 수집에 쓴 0.0045다.

그림에서 읽은 평균 허용 구간(근사치, 그림 판독)은 다음과 같다.

과제	평균 하한	평균 상한	구간 폭
unscrew nut	≈0.0017	≈0.0077	≈0.006
open AirPods	≈0.0022	≈0.0111	≈0.009
slide cube	≈0.0027	≈0.0118	≈0.009
reorient smiley	≈0.0011	≈0.0145	≈0.013
grasp battery	≈0.0005	≈0.0158	≈0.015
flip box	≈0.0008	≈0.0216	≈0.021

저자들의 세 가지 결론은 이렇다. ① k_f를 과제마다 튜닝할 필요가 없다(구간이 모두 겹치고 0.0045가 모두에 들어간다). ② 접촉 과제는 정확한 힘이 아니라 허용 범위 안의 힘을 요구한다. 너무 작거나 크면 실패하고, 최솟값이 언제나 0보다 크다는 점은 힘을 반영해야 한다는 주장을 뒷받침한다. ③ 구간이 좁은 unscrew nut, open AirPods, slide cube가 더 힘에 민감하며, 이 셋이 Q2에서 힘 관측 이득이 컸던 세 과제와 같다. 저자들은 각각 잦은 접촉 전환, 관절 물체 구동, 물체-환경 마찰을 이유로 든다.

③의 대응은 순위로 보면 꽤 단단하다. 구간 폭 순위(좁은 순: nut, AirPods, slide, smiley, battery, flip)와 Q2 상대 이득 순위(AirPods, nut, slide, battery, smiley, flip)의 스피어만 상관은 약 0.89다(필자 계산, 과제 6개). 다만 저자도 “suggests a correlation”이라고만 쓰고, 과제가 6개뿐이며 구간 폭은 데모 5개의 개루프 재생에서, 이득은 정책 30회 평가에서 나온 서로 다른 양이다.

①에 대해서는 단서가 하나 있다. unscrew nut의 평균 상한은 약 0.0077이지만 오차 막대의 아래쪽 끝이 약 0.0051까지 내려온다. 0.0045가 “comfortably within”이라는 표현은 다른 다섯 과제에는 맞지만 너트 과제에서는 여유가 그리 크지 않다.

비판적으로 보면

강점

• 문제 정의가 날카롭다. kinesthetic 시연이 “상태는 주지만 액션은 주지 않는다”는 관찰과, 그 빠진 액션이 정확히 임피던스 제어기의 스프링 오프셋이라는 연결은 간단하면서 이식성이 높다. 비슷한 원리는 팔에서도 쓰였는데(Hou et al.의 Adaptive Compliance Policy, Ablett et al.의 force-matched IL), 이 논문은 이를 손가락 단위 손끝 F/T와 다지 손으로 옮겼다.
• Q1이 깔끔하게 통제돼 있다. 두 정책은 관측·모델·데이터가 같고 액션 라벨만 다르다. 결과도 애매하지 않다(137/180 대 1/180). 같은 30개 초기 배치로 평가했으므로 과제 내 비교는 짝지어진 비교다.
• Stage 2 재생이 데이터의 인과 일관성을 만든다. 사람 손을 영상에서 지우는 것이 표면적 이유지만, 결과적으로 (관측, 액션) 쌍이 “이 명령이 만든 결과”가 된다. kinesthetic 데이터를 정책 학습에 쓸 때 흔히 무시되는 지점을 구조적으로 해결한다.
• 음성·부분 결과를 그대로 싣는다. 관측 위치 정책이 너트를 23회 풀었다는 사실, 이진 접촉 신호가 RGB-only보다 오히려 나쁜 과제들, 유의하지 않은 개선 세 과제를 숨기지 않는다. 부분 성공을 별도 범주로 기록한 것도 실패 양상을 읽게 해 준다.
• v2 개정이 약점을 보강했다. k_p·k_v·k_f 수치와 k_f 민감도 실험(Q3)이 개정에서 추가돼 “손으로 튜닝한 상수 하나에 모든 것이 걸려 있다”는 의심에 정량적으로 답한다.

약점·한계

• “힘을 재현한다”는 핵심 주장을 힘으로 직접 재지 않았다. Fig. 1(b) 캡션은 force-informed 액션이 “시연의 힘을 재현한다”고 쓰지만, Stage 2에서 기록한 \mathbf{f}^*와 시연의 \mathbf{f}를 비교한 수치(오차·궤적 그림)가 논문에 없다. 근거는 재생과 정책의 과제 성공뿐이다. 두 힘 신호가 모두 기록돼 있으므로 비교 그림 한 장이면 메커니즘 주장이 측정치가 됐을 것이다.
• 베이스라인이 하나뿐이고 가장 약한 쪽이다. 비교 대상은 “힘을 전혀 반영하지 않은 관측 위치”뿐이다. 원격조작으로 같은 과제를 수집한 데이터, 힘을 직접 예측하는 정책, 하이브리드 힘/위치 제어 같은 대안과는 비교하지 않는다. 그래서 76%가 “kinesthetic + 힘 보정”의 효과인지, “어떤 형태로든 힘을 액션에 넣은 것”의 효과인지는 가를 수 없다. 관련 연구 절이 리타게팅 원격조작을 동기로 내세우면서 그 방식과의 정량 비교가 없다는 점도 아쉽다.
• 관측 위치 베이스라인의 정의가 덜 적혀 있다. “다음 시점의 관측 손끝 위치”가 Stage 1 시연의 \mathbf{x}_o인지 Stage 2 재생의 \mathbf{x}^*_o인지 본문에 명시돼 있지 않다. 이미지가 Stage 2에서만 나오므로 후자일 가능성이 높아 보이지만 추정이다.
• 재생 단계의 탈락률·수집 비용이 없다. k_f를 “재생이 시연을 재현하도록” 맞췄다고 하지만, 0.0045에서 실패한 재생이 얼마나 있었는지, 실패한 시연을 버렸는지, 550개 데모를 모으는 데 시간이 얼마나 걸렸는지가 보고되지 않는다. 결론에서 저자 스스로 “대규모 데이터 수집에는 최적이 아닐 수 있다”고 인정하는데, 그 판단의 근거가 될 수치가 없다.
• k_f의 이론적 기준값을 다루지 않는다. 직관 절의 검산처럼 식 (1)과 (3)이 같은 스프링을 공유한다면 k_f\approx1/k_p가 출발점이 될 수 있다. 논문은 k_f를 “hand-tuned”라고만 하고 이득의 단위도 적지 않아, 독자가 이 관계를 확인할 수 없다.
• 재생과 정책 사이의 간극이 설명되지 않는다. Fig. 9를 읽으면 grasp battery는 k_f\approx0.0005라는 매우 작은 보정으로도 재생이 성공한다. 그런데 관측 위치 정책은 같은 과제에서 30회 모두 실패한다. 개루프 재생(시연과 같은 초기 배치, 한 번의 시행)과 폐루프 정책(새 초기 배치)은 다른 조건이므로 모순은 아니지만, 작은 힘 보정이 왜 정책 수준에서는 결정적인지 논문은 말하지 않는다.
• 평가 규모가 작고 반복이 없다. 조건당 정책 1개, 30회 평가다. 30회 중 17회(open AirPods)의 95% 윌슨 신뢰구간은 대략 39%~73%로 넓다(필자 계산). 학습 시드나 데모 부분집합을 바꾼 반복은 보고되지 않는다. Q2의 비유의 차이 세 과제는 이 규모로는 판별할 수 없는 크기다.
• 손가락 둘, 센서 둘의 한계. 조작자가 편하게 잡을 수 있는 손가락이 둘이라 과제가 1~2손가락으로 제한되고, 센서도 엄지·검지에만 있다. 4손가락 손의 나머지 둘은 쓰이지 않는다. 저자도 향후 과제로 남긴다.
• 모멘트는 관측에만 쓰이고 액션에는 안 쓰인다. 식 (3)은 3차원 힘만 쓴다. 6축 센서의 모멘트는 정책 관측에만 들어간다. 손끝 접촉점 위치가 바뀌는 굴리기·비틀기에서 이 단순화가 어디까지 버티는지는 시험되지 않았다.

관련 연구와의 자리 매김

• 다지 손 데모 수집. 리타게팅 원격조작(DexPilot, AnyTeleop, Open-TeleVision)과 사람 손 직접 리타게팅(DexCap, ARCap)은 규모에서 앞서고, Tilde·ResPilot은 기구학 문제를 줄인다. 외골격·hand-over-hand 계열(DexEXO 리뷰)은 착용형으로 기구학을 맞추는 방향이다. DexForce는 규모를 포기하고 기구학 일치 + 직접 햅틱 + 측정 힘을 동시에 얻는 쪽을 택했다. 저자들은 이 통찰이 UMI나 웨어러블 손 같은 확장 가능한 수집법에 흡수되기를 기대한다고 적는다.
• 힘을 액션에 반영하는 모방학습. 팔에서는 DMP·가변 강성·하이브리드 힘/위치 제어 계열이 오래됐고, 최근에는 Adaptive Compliance Policy(Hou et al.)와 see-through visuotactile 센서 기반 force-matched IL(Ablett et al.)이 비슷한 원리로 kinesthetic 시연에서 정책을 배운다. 다지 손에서는 Li et al.(2014), Solak & Jamone(2023)이 있으나 고정 파지(미끄러짐 없는 접촉)를 가정한다. DexForce는 이 가정을 버리고 접촉 전환이 있는 과제를 별도 휴리스틱 없이 다룬다는 점을 차별점으로 내세운다.
• 반례로서의 Peel. How to Peel with a Knife 리뷰의 데이터 수집 비교에서는 kinesthetic 궤적을 ACP식 컴플라이언스 튜닝으로 재생했을 때 성공률이 0%였다. 저자들은 농산물 표면 변이를 이유로 추정한다. DexForce의 Stage 2 재생은 강체 물체 6개 과제에서 성공했으므로, 물체 변이가 큰 과제에서 힘 보정 재생이 얼마나 버티는가는 두 논문을 나란히 놓으면 생기는 열린 질문이다.
• 힘을 관측에 넣는 연구. 팔과 손 모두에서 힘·촉각 관측이 대체로 성능을 올린다는 결과가 많고, 이진 접촉만으로 손안 회전을 해낸 Rotating without Seeing도 있다. DexForce의 기여는 “힘 관측은 해치지 않지만, 정밀·협응 과제에서 이득이 크다”는 과제 의존적 관찰과, 이진 신호가 6축 힘을 대신하지 못한다는 절제다(단 너트 과제는 예외에 가깝다).
• 센서. 손끝 기저부 6축 F/T라는 배치는 CoinFT의 작은 크기 덕분에 가능했다(CoinFT 리뷰). 같은 그룹의 센서-응용 짝이다.

요약

DexForce는 kinesthetic 시연에서 사라지는 정보가 “힘” 자체라기보다 위치 목표와 실제 위치 사이의 스프링 오프셋이라는 점을 짚고, 손끝 F/T 측정과 \mathbf{x}_f=\mathbf{x}_o+k_f\mathbf{f} 한 줄로 그것을 복원한다. 복원한 목표를 한 번 재생해 사람 손 없는 데이터를 다시 찍는 2단계 절차는 (관측, 액션) 쌍의 인과 일관성까지 맞춘다. 효과는 6개 접촉 과제에서 1/180 → 137/180으로 분명하고, 힘 관측은 너트·AirPods·큐브처럼 힘에 민감한 과제에서 크게 도우며, k_f는 과제에 걸쳐 하나의 값으로 충분하다.

한계도 분명하다. 재현된 힘을 직접 잰 수치가 없고, 베이스라인이 가장 약한 하나뿐이며, 재생 탈락률·수집 비용·반복 실험이 보고되지 않는다. 조작자가 다룰 수 있는 손가락이 둘이라는 제약도 크다. 그래서 이 논문의 가치는 대규모 수집 방법이라기보다, 위치 제어 정책에게 “누르기”를 가르치려면 데이터의 액션 라벨부터 고쳐야 한다는 원리를 깔끔한 통제 실험으로 보인 데 있다. 원격조작·외골격·UMI류 수집기에 손끝 힘 센서를 달고 같은 보정을 넣으면 어떻게 되는지가 자연스러운 다음 질문이다.