arXiv:2608.12555v1 Announce Type: new Abstract: Predictive explanation methods attribute a model output; they do not, by themselves, attribute an intervention effect on the real-world outcome. We introduce the Causal At
ソーシャルアカウントでログイン
在可解释人工智能领域，主流的归因方法（如 LIME、SHAP 等）通常回答的问题是“模型为什么做出这个预测”。但作者指出，这类解释本质上是对模型内部决策机制的描述，并不等同于“如果改变某个输入因素，真实世界的结果会如何变化”这一因果问题。换言之，预测性解释关注的是相关性，而决策者往往需要的是因果性。
针对这一缺口，研究者提出了 CAS 分数。从摘要提供的信息来看，CAS 的设计目标是将归因从“模型输出层面”提升到“干预效应层面”，即衡量某个特征或因素对真实世界结果产生的因果影响。该方法同时适用于局部解释（针对单个预测）和全局解释（针对模型整体行为），这意味着它在解释粒度上具有灵活性。不过，摘要文本在关键处被截断，具体的数学定义、计算流程和实验设置原文未提供完整细节。
由于摘要仅展示了研究动机与方法的引入部分，具体的实验数据和核心结论尚未在给定素材中呈现。从研究定位来看，这项工作回应了可解释人工智能领域一个日益受到关注的批评：现有解释工具擅长描述模型“怎么想”，却未必能告诉使用者“该怎么做”。如果 CAS 分数能够有效量化干预效应，它可能为医疗、公共政策、信用评估等高风险决策场景提供更有行动价值的解释。
值得注意的是，该论文与同日发布的另一篇立场论文《Position: We Need Practical AI Alignment Methods to Mirror Human Reasoning》（来源）形成了呼应——后者主张 AI 系统在实际决策中需要更贴近人类推理方式的实用对齐方法。CAS 所强调的因果归因，某种程度上正是“实用对齐”在解释层面的具体体现：让 AI 的解释不仅忠实于模型，更忠实于真实世界的因果结构。
从目前可见的信息判断，该研究尚处于预印本阶段，未经同行评议。摘要未披露实验设计、数据集规模、基线对比方法或统计显著性检验等关键信息，因此无法评估其经验证据的强度。此外，因果归因本身是一个方法论上极具挑战性的问题——在观察性数据中识别干预效应通常需要严格的识别假设（如无混淆假设、正性假设等），CAS 如何处理这些假设、在违反假设时表现如何，均有待全文公布后才能判断。
对于关注可解释人工智能的读者而言，这篇论文的价值在于提出了一个重要的概念转向：从“解释模型”到“解释干预”。但这一转向能否在技术上成立，取决于 CAS 分数在真实任务中的表现，以及它相对于既有因果归因方法（如因果 Shapley 值、反事实解释等）的增量贡献。在全文和实验数据公开之前，对其实际效果应保持审慎期待。
arXiv:2608.12555v1 Announce Type: new Abstract: Predictive explanation methods attribute a model output; they do not, by themselves, attribute an intervention effect on the real-world outcome. We introduce the Causal Attribution Score (CAS), a compact score architecture for causal explanation. CAS starts from an identified interventional coalition game, allocates the joint intervention contrast with causal Shapley contributions, and converts those raw outcome-scale effects into Local CAS, Signed Local CAS, and two complementary Global CAS summaries. The innovation is not a new Shapley formula, but a local-to-global causal reporting layer with an explicit intervention target. In the known-truth benchmark, eight repeated primary-interaction simulations (n = 2,200 each, three actions) gave mean Local CAS MAE of 0.107 for coalition-aware CAS, compared with 0.173 for one-at-a-time normalisation and 0.213 for a global normalised absolute ATE vector. The paired advantage over one-at-a-time normalisation increased from -0.003 under additivity to 0.091 under strong interactions. On both empirical DoubleML datasets, 401(k) eligibility/net financial assets (n = 9,915) and Pennsylvania reemployment bonus/unemployment duration (n = 5,099), predictive SHAP/TreeSHAP rankings differed materially from Feature-CAS rankings of treatment-effect modifiers. In Pennsylvania, dep1 (exactly one dependent) moved from predictive global rank 13 to Feature-CAS rank 2 and was the leading local Feature-CAS modifier. These results isolate the added value of separating what predicts the outcome from what explains heterogeneity in an estimated causal effect.