Perceived Safety

• 다른 이름: subjective safety
• 카테고리: Control › Human in the loop
• 태그: human-robot-interaction, safety, user-studies, trust, evaluation

로봇과 상호작용하거나 로봇 근처에 있을 때 사람이 얼마나 안전하고 차분하며 위협받지 않는다고 느끼는지로, 로봇이 객관적으로 얼마나 안전한지와는 구별된다.

정의

지각된 안전성(Perceived safety)은 로봇 주변에서 안전하다고 느끼는 사람의 주관적 감각, 즉 실제 또는 상상한 상호작용 동안 두려움, 스트레스, 위협감이 없는 상태다. 그 반대인 지각된 위험은 상호작용이 해를 끼칠 수 있다는 예상이다. 지각된 안전성은 물리적 안전과 별개다. 엄격한 힘과 속도 한계 안에 머물도록 설계된 로봇도 사람들을 긴장시킬 수 있고, 무해해 보이는 로봇이 실제 위험을 지닐 수도 있다.

지각된 안전성에는 많은 요인이 영향을 준다. 동작 특성이 가장 강한 요인에 속한다. 속도, 가속도, 로봇이 얼마나 가까이 오는지, 접근 방향, 그리고 동작이 매끄럽고 예측 가능한지가 그것이다. 로봇의 크기, 외관, 소리, 그리고 조명, 시선, 읽기 쉬운 동작을 통해 의도를 알리는지도 중요하며, 사람의 로봇 경험, 상호작용에 대한 통제감, 시스템에 대한 신뢰도 마찬가지다. 지각된 안전성은 노출에 따라 변하는 경향이 있어 신기성 효과에 민감하다.

측정 방법은 크게 세 가지다. 설문지는 사람들에게 자신의 느낌을 평가하게 하는데, 예를 들어 Godspeed 설문지의 지각된 안전성 하위 척도나 지각된 위험을 위한 더 새로운 전용 척도가 있다. 피부 전도도와 심박수 같은 생리적 측정은 상호작용 중의 각성을 포착한다. 행동 측정은 사람들이 무엇을 하는지를 본다. 얼마나 멀리 서 있는지, 머뭇거리거나 움찔하거나 자기 작업 속도를 늦추는지 등이다. 각각 약점이 있으므로 연구들은 흔히 이들을 결합한다.

중요한 이유

로봇 근처에서 안전하지 않다고 느끼는 사람은 로봇이 물리적으로 안전하더라도 더 느리게 일하고, 거리를 두고, 로봇 사용을 피하거나 아예 받아들이기를 거부한다. 따라서 협동 로봇, 서비스 로봇, 보조 로봇이 실제로 쓸모 있으려면 물리적 안전과 함께 지각된 안전성을 고려해 설계해야 한다.

주요 응용

• 협동 로봇과 이동 로봇의 속도, 거리, 접근 경로 조정
• 인간-로봇 상호작용 연구에서의 사용자 경험 평가
• 조명, 소리, 읽기 쉬운 동작 같은 의도 신호 설계
• 보조, 돌봄, 서비스 로봇의 수용성 연구
• 배치 전 로봇 설계나 행동 비교

실제 사례

병원 복도에 모바일 매니퓰레이터를 배치하는 한 팀이 세 가지 접근 행동을 시험한다. 보통 속도의 직선 경로, 더 느린 경로, 그리고 곡선을 그리며 정면에서 다가와 손을 뻗기 전에 잠시 멈추는 경로다. 각 참가자는 피부 전도도를 기록하는 손목 밴드를 착용한 채 세 가지를 무작위 순서로 모두 경험하고, 이후 각각을 지각된 안전성 설문지로 평가한다. 팀은 참가자들이 얼마나 뒤로 물러나는지도 측정한다. 멈춤이 있는 느린 곡선 접근이 가장 좋은 평가와 가장 작은 물러남을 얻어 사람 근처에서의 기본 행동이 되고, 더 빠른 동작은 빈 복도용으로 남겨 둔다.

흔한 오해

• 로봇이 안전 표준을 충족하면 사람들은 안전하다고 느낄 것이다 — 물리적 안전 요구 사항을 준수한다고 해서 사용자가 편안하게 느낀다는 보장은 없다
• 지각된 안전성은 로봇에만 달려 있다 — 사람의 경험, 통제감, 맥락이 이에 크게 영향을 준다
• 설문 문항 하나로 측정하기에 충분하다 — 짧은 척도는 신뢰도가 낮을 수 있으므로, 연구들은 흔히 검증된 척도를 행동 데이터 및 생리 데이터와 결합한다
• 지각된 안전성은 일정하게 유지된다 — 사람들이 로봇에 익숙해지면서 흔히 변한다

알아야 할 사람

• 사용자 연구를 설계하는 HRI 연구자
• 사람 근처에서의 동작을 조정하는 엔지니어
• 서비스 로봇과 보조 로봇의 제품 디자이너
• 협동 작업장을 다루는 안전 엔지니어

관련 기술

• 읽기 쉬운 모션 플래닝(Legible Motion Planning)
• 근접학(Proxemics)
• 갈바닉 피부 반응 센싱(Galvanic Skin Response Sensing)
• 속도 및 분리 감시(Speed and Separation Monitoring)
• 리커트 척도와 의미 분별 척도(Likert and Semantic Differential Scales)

관련 용어

• Godspeed Questionnaire
• Physical Human-Robot Interaction
• Cobot
• Novelty Effect
• Safety Filter
• Trajectory Planning

관련 프로젝트

• evo: De-facto standard tool for evaluating and plotting odometry/SLAM trajectories
• Reachy Mini: Open-source desktop robot from Pollen and Hugging Face with an expressive 6-DoF head
• RoboDojo: Manipulation benchmark that runs in Isaac Sim and on real arms
• Inspect Robots: Define a robotics benchmark once, run any policy on any robot
• SenseNova-RoboRSI: Open runtime that runs, scores and improves robot agents driven by language models
• RAI: Vendor-agnostic agent framework for ROS 2 robots and physical AI