Activation Atlases：画像分類ニューラルネットワークの深部を探索(3/3)

１．Activation Atlases：画像分類ニューラルネットワークの深部を探索(3/3)まとめ

・ニューラルネットワークが画像分類時に背景も考慮している事も明確に視覚化
・また多様な写真の特徴を組み合わせており食用用途も観賞用途も混在している
・この写真の多様性の混在状態が画像分類時に大きな誤認識に繋がる原因の１つ

２．ニューラルネットワークが誤検出する理由の１つ

以下、ai.googleblog.comより「Exploring Neural Networks with Activation Atlases」の意訳です。元記事の投稿は2019年3月6日、Shan Carterさんによる投稿です。Activation Atlases、直訳すれば活性化の世界地図ですが、ニューラルネットワークの隠れ層で起きているニューロンの活性化の状態をアトラス(世界地図)にして視覚化しようという試みです。これにより、ニューラルネットワークがとんでもない誤認識をする理由が少し判明してきました。例えば、クジラの画像に野球のボールを加えるとそれがサメの画像として認識される理由などです。

Activation Atlasesでは今まで見てきたように地図全体で特定のレイヤーを表示させる事ができます。それに加えて、特定のレイヤーの中からカテゴリ(ImageNetは1,000のカテゴリを持ちます)を1つに絞って地図を作成することもできます

これにより、ネットワークが特定のクラスを分類するために最も頻繁に使用している概念と検出器を明らかにできます。例えば、以下に「red fox(アカギツネ)」の事例をあげます。

ここでは、「red fox」を分類するためにネットワークが何に焦点を当てているのかをより明確に見ることができます。先のとがった耳、赤い毛皮に囲まれた白い鼻、および樹木が茂ったまたは雪に覆われた背景があります。

ここで私達は「tile roof(瓦屋根)」検出器が、多くの異なった倍率や角度を持っている事が確認できます。

「ibex(アイベックス:主に山岳地域に生息するヤギの一種)」検出器は、角や茶色の毛皮だけでなく、岩が多い丘の中腹のようなそのような動物を見つけるかもしれない環境も含まれている事がわかります。

瓦屋根検出器のように、「artichoke(アーティチョーク：松ぼっくりっぽい形状のつぼみが食用にもなるアザミの一種。観賞用の個体は紫色の花を咲かす)」にはアーティチョークの質感のための様々なサイズの検出器がありますが、紫色の花の検出器もあります。これらはおそらくアーティチョークの花を検出しています。

これらのアトラスは、モデル内の微妙な視覚的抽象化を明らかにするだけでなく、後半レイヤーで生じる大きな誤認識も明らかにします。

たとえば、「great white shark(ホオジロザメ)」のActivation Atlasesを見ると、予想どおり水面と背びれが現れますが、野球のボールのように見えるものもあります。つまり、ニューラルネットワークの内部では、赤い野球ボールの縫い目とホオジロザメが口を開いている画像が結びつけられている事がActivation Atlasesにより示唆されました。

(訳注:右下に黄色枠で囲った「baseball」が見える)

野球ボールの切り抜きを使用して、特定の画像のモデルの分類を「コククジラ」から「ホオジロザメ」に切り替える事が可能な事で、これを確かめる事ができます。

(訳注:左図はコククジラ91.0%。右図はホオジロザメが66.7%)

Activation Atlasesが、機械学習をより利用しやすくし、解釈しやすくするためのテクニックの中で有用なツールになることを願っています。あなたが始めるのを助けるために、我々はcolabを通してワンクリックであなたのブラウザですぐに実行できるいくつかのJupyter Note Bookをリリースしました。これは以前にリリースされたツールキットLucidに基づいて構築されており、他の多くの解釈や可視化を助ける手法のコードも含まれています。私たちはあなたが何を発見するかについて考えて興奮しています！