Activation Atlases：画像分類ニューラルネットワークの深部を探索(2/3)

１．Activation Atlases：画像分類ニューラルネットワークの深部を探索(2/3)まとめ

・ニューラルネットワークでは層が進むにつれ概念が洗練されていく
・概念の大枠だけではなく、個別の概念も洗練されていく
・また、新しい概念が古い概念の組み合わせから出現している事もわかった

２．隠れ層の中で行われている事

以下、ai.googleblog.comより「Exploring Neural Networks with Activation Atlases」の意訳です。元記事の投稿は2019年3月6日、Shan Carterさんによる投稿です。Activation Atlases、直訳すれば活性化の世界地図ですが、ニューラルネットワークの隠れ層で起きているニューロンの活性化の状態をアトラス(世界地図)にして視覚化しようという試みです。これにより、ニューラルネットワークがとんでもない誤認識をする理由が少し判明してきました。例えば、クジラの画像に野球のボールを加えるとそれがサメの画像として認識される理由などです。

以下に、ニューラルネットワーク内の1つのレイヤだけを対象にしたActivation Atlasesを示します(画像分類ニューラルネットワークには、6層以上のレイヤが含まれる可能性がある事を思い出してください）。

これはこのレイヤーで画像を分類するためにネットワークが学んだ視覚的概念の宇宙を明らかにします。一見してこのアトラス(地図)にはちょっと圧倒されるかもしれません – たくさんの事が起こっています！この多様性は、ニューラルネットワークが開発したさまざまな視覚的抽象化と概念を反映しています。

Inception v1内の多数のレイヤーのうちの1つであるmixed4cに対するアクティベーションアトラスの概要。ネットワークのほぼ中間です。

訳注:
mixed4cはレイヤーの名前です。Inception 5h-modelの各レイヤーは以下のように命名されています。
mixed3a, mixed3b,
mixed4a, mixed4b, mixed4c, mixed4d, mixed4e,
mixed5a, mixed5b
mixed4cより前のレイヤーはもっと細かい形状に注目しており、後ろのレイヤーではもう少し大きな全体像に注目している事を以下でより具体的に見ていきます。

この詳細では、さまざまな種類の葉や植物の検出器を見ることができます。

ここでは、水、湖、砂州のさまざまな検出器を見ることができます。

ここでは、さまざまな種類の建物や橋が見えます。

前述したように、このネットワークには多くの層があります。これらの概念がネットワークの深部になるにつれてどのように洗練されていくのかを見るために、mixed4cの前後のレイヤーを見てみましょう（各レイヤーは、直前のレイヤーの出力を元に構築されています）。

初期の層、mixed4aでは、曖昧な「哺乳類」領域があります。

ネットワーク内の次の層であるmixed4bでは、動物と人々が絡み合っていて、途中で果物と食べ物が出ています。

layer mixed4cによって、これらの概念はさらに洗練され、地図の中で小さな「半島」として区別されます。

ここまでで、グローバルな構造がレイヤー間で進化するのを見てきましたが、個々の概念もまた、レイヤーが進むにつれてより具体的かつ複雑になります。「キャベツ」のような特定の分類に寄与する3つの層の領域に注目すると、これをはっきりと見ることができます。

左(mixed3b)：この初期のレイヤーは他のレイヤーと比べてあまり特徴的ではありません。中央(mixed4c)：中間レイヤーでは、画像は間違いなく葉に似ていますが、他の種類の植物にも当てはまるような特徴です。右(mixed5b)：最後のレイヤーでは、画像はキャベツに非常に特有のもので、葉は丸いボール状に湾曲しています。