Captum：PyTorchのモデル解釈用ライブラリ

１．Captum：PyTorchのモデル解釈用ライブラリまとめ

・CaptumはPyTorch用の解釈用ライブラリで最先端のアルゴリズムが利用可能になる
・モデルの出力に寄与する特徴表現の識別が容易になり設計改善や出力調査が可能になる
・視覚化を助けるCaptum Insightsもリリースされ特徴表現の帰属を理解可能にする

２．Captumとは？

以下、ai.facebook.comより「Open-sourcing Captum: A model interpretability library for PyTorch」の意訳です。元記事の投稿は2020年10月10日、Narine Kokhlikyanさん、Vivek Miglaniさん、Edward Wangさん、Orion Reblitz-Richardsonさんによる投稿です。

captumはラテン語でcapturedやcatchの意味で、ad captumで「わかりやすく」の意味になるそうです。って事でcaptumしているアイキャッチ画像のクレジットはPhoto by Anthony Duran on Unsplash

これは何ですか？

Captumは、PyTorch用の強力で柔軟性があり、使いやすいモデル解釈可能性ライブラリです。

Captumにより、解釈可能性のための最先端のアルゴリズムに、PyTorchコミュニティ全体が簡単にアクセスできるようになり、研究者や開発者は、どの特徴表現、ニューロン、レイヤーがモデルの予測に貢献しているかをよりよく理解できます。

Captumは、視覚や文章などの各入力でモデルの解釈可能性をサポートし、その拡張可能な設計により、研究者は新しいアルゴリズムを追加できます。Captumを使用すると、研究者は、ライブラリで利用可能な他の既存のアルゴリズムに対して自分の作業をすばやくベンチマークすることもできます。

モデル開発者であれば、Captumを使用すると、モデルの出力に寄与するさまざまな特徴表現の識別が容易になり、モデルの設計を改善し、予期しない出力の原因を調査できるため、モデルの改善とトラブルシューティングを行うことができます。

また、Captum上に構築された解釈可能性の視覚化ウィジェットであるCaptum Insightsの初期リリースも行います。Captum Insightsは、画像、テキスト、その他の特徴表現で機能し、ユーザーが特徴表現の帰属を理解できるようにします。

Captum Insightは現在、Integrated Gradientsをサポートしており、将来のリリースでは他のアルゴリズムをサポートするように拡張する予定です。

詳細については、captum.aiをご覧ください。

これは何が出来るのですか？

Captumは、Integrated Gradients、DeepLIFT、Conductanceなどの最先端の解釈可能性アルゴリズムを実装しています。開発者は、Captumを使用して特徴表現の重要性を理解したり、ニューラルネットワークを深く掘り下げてニューロンとレイヤーの属性を理解する事ができます。