技术深度解析
混合系统的可解释规划处于符号AI、神经网络和形式化验证的交叉点。其核心挑战在于弥合任务规划器生成的高层（通常为符号化）计划与学习模型或传统控制器执行的低层连续控制策略之间的鸿沟。
现代架构通常采用分层或神经符号框架。顶层，符号规划器（使用PDDL或其概率变体等语言）在世界的离散抽象上运行，生成一系列抽象动作。此层面的‘解释’涉及论证导致该序列的逻辑前提、目标和约束。然而，真正的复杂性出现在‘中间层’——抽象动作通过学习模型（例如用于轨迹预测的神经网络）被细化为可执行的连续控制。此时，解释必须将符号决策与亚符号数据连接起来。
关键技术路径包括：
1. 计划反事实解释（CXP）： 系统不仅生成最优计划，还能通过展示世界状态或目标的微小变化将如何改变计划，来简洁回答‘为何不选择计划B？’。这依赖于高效的规划空间探索和对比推理。
2. 集成解释生成器： 如 PlanExplainer（一个开源框架）等工具为规划器附加专用模块，追踪决策图，识别关键选择点，并用决定路径的效用值或约束满足度对其进行标注。
3. 形式化方法集成： 来自软件验证的技术正被适配应用。例如，结合了 DryVR（用于混合系统验证）的 ROSPlan 等工具可以为特定计划段生成正确性证书，解释某个动作序列在形式化证明的边界内是安全的。
体现这一趋势的一个重要GitHub仓库是 `xplan-hybrid`，这是一个用于混合领域可解释规划的工具包。它提供了一个库，用于将混合规划问题转换为支持高效求解和解释生成的中间表示。该仓库在过去一年获得了超过1.2k星标，最近的提交侧重于与CARLA等流行模拟器集成，以进行自动驾驶验证。
可解释规划器的性能指标引入了超越计划最优性和速度的新维度。
| 系统 / 方法 | 计划最优性差距 | 解释延迟（毫秒） | 人类理解度评分（1-10） | 验证支持 |
|---|---|---|---|---|
| FastDownward（黑盒） | 0%（最优） | 不适用 | 2.1 | 无 |
| xplan-hybrid（v0.5） | 3-8% | 120-450 | 7.8 | 基础（反事实） |
| IBM Planning with DOX | 5-12% | 80-200 | 6.5 | 强（形式化约束） |
| Neurosymbolic Planner（MIT） | 10-15% | 300-800 | 8.9 | 集成（因果链） |
数据洞察： 上表揭示了固有的权衡：引入可解释性会在计划最优性和计算延迟方面产生成本。来自用户研究的‘人类理解度评分’指标，与原始性能呈现出明显的反向关系，凸显了效率与透明度之间的工程平衡。领先的方法为不同类型的解释能力牺牲了不同量的最优性。
关键参与者与案例研究
推动可解释规划的力量来自面临部署障碍的学术实验室、AI原生公司和工业巨头的联盟。
学术先锋： 麻省理工学院的 Leslie Kaelbling 和庞培法布拉大学的 Hector Geffner 等研究者长期倡导混合推理。Kaelbling在集成任务与运动规划（TAMP）方面的工作现已包含解释模块，可将几何失败（例如‘抓取失败’）转译回符号化计划修订。亚利桑那州立大学 Subbarao Kambhampati 的团队专注于模型协调与计划解释，其发展的理论直接影响了工业工具的开发。
企业实践者：
* Waymo 和 Cruise 已为其自动驾驶车辆规划器开发了内部的‘可解释性栈’。这些系统为远程协助操作员生成易于理解的解释（例如，‘因检测到前方施工且左车道平均速度更快，故变道’），这对于监管申报至关重要。它们的系统通常采用多保真度方法，为人类提供简单摘要，为工程师提供详细的因果图。
* 西门子 和 GE Digital 正将可解释规划嵌入工业资产管理和智能电网软件。西门子的 PSS®ODMS 现已包含模块，用于解释故障后的电网重构计划，向操作员展示导致隔离区段和重新路由供电的一系列决策过程。
* IBM 凭借其规划与优化解决方案，集成了强大的解释功能，特别是在其 Planning with DOX 产品中，强调对业务约束的形式化解释，适用于供应链和资源调度等复杂场景。