tidymodels/lime

解決する問題

lime は、機械学習における「ブラックボックス」問題に対処します。複雑なモデル（ランダムフォレストや深層ニューラルネットワークなど）は正確な予測を行いますが、人間が解釈するのは困難です。このパッケージは、入力データのどの特徴がその結果に最も強く影響したかを特定することで、モデルが特定の予測を行った理由をユーザーが理解するのに役立ちます。

仕組み

Rプログラミング言語で局所解釈可能なモデル非依存説明（LIME）手法を実装しています。このパッケージは、モデルとトレーニングデータに基づいて「説明者」オブジェクトを作成します。特定の予測を説明するよう要求すると、入力特徴を分析し、モデルの決定に最も寄与した特徴を決定するための重みを計算します。これらの説明を一貫した表形式で提供し、表形式データ、画像、テキスト用の組み込み可視化ツールを含みます。

対象読者

Rで作業し、予測モデルを解釈・デバッグする必要があるデータサイエンティストや機械学習実践者。モデル非依存になるように設計されており、caret、parsnip、mlr などの幅広いモデリングフレームワークで動作します。

ハイライト

• あらゆるブラックボックス分類器に対してモデル非依存の説明を提供。
• 表形式データ、画像、テキストなど、多様なデータ型をサポート。
• Rの慣用的なAPIを提供し、人気のRモデリングパッケージとシームレスに統合。
• 特徴重要度をプロットし、影響力のある画像領域やテキストセグメントを強調表示するための組み込み可視化関数を含む。
• テキストモデルの説明を探索するためのインタラクティブなShinyアプリケーションを備えています。