microsoft/responsible-ai-toolbox

Responsible AI Toolbox is a suite of tools providing model and data exploration and assessment user interfaces and libraries that enable a better understanding of AI systems. These interfaces and libraries empower developers and stakeholders of AI systems to develop and monitor AI more responsibly, and take better data-driven actions.

解决的问题

提供一套全面的工具，用于安全且合乎伦理地评估、开发和部署 AI 系统。帮助开发者和利益相关者识别模型错误，诊断其发生原因，检测不同人口群体间的公平性问题，并理解单个预测背后的推理过程，从而做出更优的数据驱动决策。

工作原理

该工具箱将多个专业开源库整合为一组可视化小部件和仪表板。使用 Error Analysis 找出模型表现不佳的数据群体，使用 Fairlearn 进行公平性评估，使用 InterpretML 实现模型可解释性，使用 DiCE 进行反事实分析（展示输入的微小变化如何改变预测结果），并使用 EconML 进行因果分析，以区分相关性与因果关系。

适用人群

需要调试机器学习模型、确保公平性，并对表格、文本和视觉数据进行全面模型评估的 AI 实践者、模型开发者和业务利益相关者。

主要亮点

负责任的 AI 仪表板：单一界面整合了错误分析、公平性、可解释性和因果分析。
可自定义的工作流：允许用户设计特定的调试路径，例如从模型概览到错误分析，再到数据探索。
广泛的模型支持：兼容遵循 Scikit-learn 规范的模型，以及 PyTorch、TensorFlow 和 Keras。
多模态示例：包含针对文本、视觉和表格数据中分类与回归模型调试的预构建笔记本。