大规模识别 LLM 中的交互作用

伯克利 AI 研究提出 SPEX 与 ProxySPEX 算法，可在特征、数据和模型组件归因中大规模识别关键交互作用。SPEX 利用稀疏性与低阶性将交互搜索转化为稀疏恢复问题，ProxySPEX 进一步利用层次结构，以约少 10 倍的消融次数达到 SPEX 的性能。在情感分析任务上，SPEX 在上下文扩展至数千特征时仍保持高忠实度，优于 LIME、Banzhaf 等边际方法。