MADRA:面向風險感知具身規劃的多智能體辯論框架
摘要:本文提出無訓練的 MADRA 多智能體辯論風險評估框架,通過集體推理提升具身智能體安全感知;設計分層認知協作規劃架構,構建 SafeAware-VH 家庭安全基準數據集;AI2-THOR 與 VirtualHome 實驗驗證,其不安全任務拒絕率超 90%,大幅降低誤拒率。
一、引言
摘要:本文提出無訓練的 MADRA 多智能體辯論風險評估框架,通過集體推理提升具身智能體安全感知;設計分層認知協作規劃架構,構建 SafeAware-VH 家庭安全基準數據集;AI2-THOR 與 VirtualHome 實驗驗證,其不安全任務拒絕率超 90%,大幅降低誤拒率。
一、引言