Quartz 5

HRI Safety 分類法：以互動（Interaction）為核心而非機器人學習

Properties1
tagsrobotics, hri, safety, research

10 min read

Question

如果更偏向 Human-Robot Interaction 呢? 上一版列的項目似乎更接近 learning。

Answer

這個觀察是對的。上一則筆記（2026-07-07-hri-safety-taxonomy-beyond-physical.md）列的五類——演算法安全、對抗式安全、對齊/人因安全、感知預測性安全——來源全部是 research/world-models-robot-safety.md，主題是「機器人的決策/學習管線本身安不安全」，即使沒有人類在場（例如自駕車、倉儲機器人）這些威脅模型也成立。這些其實是 robot learning safety，只是剛好也被貼了 HRI 標籤。

真正屬於 HRI safety（安全性質必須依賴「人」的存在、行為或溝通才成立）的分類，vault 中可以整理出以下幾類：

1. 物理共同在場安全 (Physical Co-presence Safety)

上上則討論的 ISO/TS 15066 能量/力限制其實仍屬於這一類的核心——但重點在於：它之所以是 HRI 問題，是因為安全限制必須即時追蹤人體位置、姿勢、是否可後退，而不只是機器人自身動力學。這是與「世界模型安全」的關鍵差異：世界模型安全即使沒有人也存在，物理共同在場安全的定義本身就需要人。

來源：ai/Clippings-physical-hri-safety-constraints-review.md

2. 溝通與可讀性安全 (Communication & Legibility Safety)

安全來自於人類能否預測機器人接下來要做什麼，而不是機器人本身多守規矩：

  • VAM-HRI 2024 #19：聯合優化工作空間物件配置與 AR 虛擬障礙物投影，提升人類動作的「可讀性 (legibility)」，讓協作機器人更準確預測人類目標——安全與流暢性同時提升
  • VAM-HRI 2024 #2：在 VR 模擬核設施中用聽覺化（sonification）把輻射、溫度、可燃氣體等危害轉譯成聲音，讓操作者在視覺資訊飽和時仍能感知危險
  • research/hitl-hri-survey-2024-2026.md 指出：「機器人到人類的回饋管道系統性地比人類到機器人的管道更不完善」（引用 arXiv:2312.00948「Communicating Robot Learning」）——這條 ai/ 分析目前也是一個失效 alias，值得之後修復

來源：research/vam-hri-2024-workshop.md、research/hitl-hri-survey-2024-2026.md

3. 雙向澄清與不確定性溝通安全 (Bidirectional Uncertainty Safety)

安全失效模式不是「機器人做錯了」，而是「機器人在不確定時默默按錯誤的猜測行動，而不是先問清楚」：

  • research/human-robot-interaction.md 與 research/hitl-hri-survey-2024-2026.md 都把「雙向性缺口」列為跨所有 HRI 調查重複出現的結構性問題——現有系統多是指令執行管道，機器人無法主動提問、傳達不確定性、協商任務完成方式
  • VAM-HRI 2025 #7：用 LLM 協助在高風險環境（爆炸物處置等）自動生成安全標注，某種程度是把「不確定性/風險溝通」自動化，但仍是單向（系統標注給人看，人不一定能即時回饋）

來源：research/human-robot-interaction.md、research/hitl-hri-survey-2024-2026.md

4. 共享控制與權限轉移安全 (Shared Control & Authority Handover Safety)

安全風險發生在「誰在控制」這件事本身模糊或轉換不順暢的時刻：

  • VAM-HRI 2025 #2：將 LLM 整合進共享控制 telepresence 系統，用語言模型的場景理解能力輔助操作者在動態非結構化環境中的決策——這類系統的安全問題是「LLM 建議」與「人類意圖」衝突時，權限該歸誰

來源：research/vam-hri-2025-workshop.md

5. 操作者安全與人因工程 (Operator Safety & Human Factors)

跟前面四類保護「旁觀人類」不同，這類保護的是在迴圈中的操作者本人：

  • research/robotic-teleoperation-manipulation.md 指出雙手臂遙操作會讓操作者認知負荷加倍，且「重定向兩隻手臂同時是更難的映射問題」——這是操作者出錯風險的來源，間接影響安全
  • VAM-HRI 2024 #4：透過頭部、眼部、手部追蹤資料做操作者身份辨識，潛在應用是確保只有授權/訓練過的操作者能控制機器人
  • VAM-HRI 2024 #6：比較傳統 Dashboard 介面與 VR Wizard-of-Oz 設定對實驗設計與互動品質的影響——介面選擇會影響操作者的情境感知（situational awareness）
  • VAM-HRI 2024 #20（PhysicalTwin）：讓使用者先在 MR 環境中用虛擬機械手臂練習，再操作真實機器人——這是把「訓練階段」本身當作安全機制，而非只在執行階段做安全限制

來源：research/vam-hri-2024-workshop.md、research/vam-hri-2025-workshop.md、research/robotic-teleoperation-manipulation.md

6. 社交規範與心理/情感安全 (Social-Normative & Psychological Safety)

即使沒有物理傷害風險，機器人行為違反社交預期本身就是一種「不安全感」：

  • research/human-robot-interaction.md：恐懼反應的 7 個維度（恐怖谷效應、隱私擔憂、技術陌生感），尤其在老年人對社交機器人的反應中明顯；信任缺乏統一的建立/崩潰模型
  • VAM-HRI 2024 #7：為聽障兒童設計混合現實應用程式，涉及易受傷族群的無障礙互動安全設計——這類設計失誤造成的不是身體傷害，而是排除、挫折或不信任

來源：research/human-robot-interaction.md、research/vam-hri-2024-workshop.md

7. 示範/教學品質安全 (Demonstration & Teaching-Safety Loop)

這是純「機器人學習安全」框架完全看不到的一類：人類教得不好，機器人就學得不安全，安全問題的根源在人機互動的教學迴路裡，而不在演算法本身：

  • VAM-HRI 2024 #3：研究如何透過 AR 介面讓人類示範者成為更好的機器人教師，明確探討「不完美示範」的特性——一個不安全的示範會直接教出一個不安全的策略，這是物理安全和演算法安全都不會捕捉到的失敗模式，只有在人機互動的教學情境下才存在

來源：research/vam-hri-2024-workshop.md

8. 易受傷族群與輔助情境安全 (Vulnerable-Population & Assistive-Context Safety)

安全標準不能只看「一般成年人」，輔助/復健情境的使用者往往無法自行逃離或糾正危險：

  • VAM-HRI 2025 #9：MR 輔助帕金森氏症顫抖復健系統，77% 患者對傳統復健方式感到挫折——這裡的「安全」包含心理參與動機，而非只有物理傷害
  • VAM-HRI 2024 #5、#21：gaze-driven 頸部外骨骼、SAR 輔助機械手臂介面，服務對象是行動不便使用者，安全設計必須假設使用者無法快速自我修正

來源：research/vam-hri-2025-workshop.md、research/vam-hri-2024-workshop.md

Sources

Vault notes consulted:

Follow-up Questions

  • ai/Clippings-communicating-robot-learning-during-hri.md 也是一個指向不存在檔案（Clippings-communicating-robot-learning-hri）的失效 alias，和上次修復的 physical-hri-safety-constraints 同類問題——這條「機器人到人類回饋管道」的原始分析內容遺失，且正好是「溝通與可讀性安全」這類的核心來源，值得優先修復。
  • vault 中目前沒有一篇文件把「示範品質安全」（人教壞機器人）明確連結到下游的「物理安全」或「演算法安全」——一個不安全的示範具體如何傳導成一個違反 ISO/TS 15066 限制的策略？這中間的因果鏈值得專門研究。
  • 上一則筆記的「機器人學習安全」五類與這一則的「互動安全」八類，兩者的交集點在哪裡？例如 VLA 安全對齊（SafeVLA）如果输入資料來自不安全的人類示範（本則第 7 類），兩個框架該如何整合？

Connections

Graph View