Google Developers Japan: ニューラルネットワークが「何を見ているか」を可視化する Activation Atlas

Local blog for Japanese speaking developers

ニューラルネットワークが「何を見ているか」を可視化する Activation Atlas

2019年3月28日木曜日

この記事は Shan Carter による Google AI Blog の記事 "Exploring Neural Networks with Activation Atlases" を元に翻訳・加筆したものです。詳しくは元記事をご覧ください。

code { background-color: transparent }投稿者: Google AI ソフトウェアエンジニア、Shan Carter
デファクトOpenAIActivation Atlas でニューラルネットワークを探索するJupyter ノートブック

画像認識用ニューラルネットワーク Inception V1 の層の 1 つを Activation Atlas で表示した詳細イメージ。ネットワークが画像を分類するために、さまざまに異なる種類の画像検出を適用していことがわかる。たとえば、果物のような構造、ハチの巣状のパターン、織物のような質感など。

ImageNetInception V1カルボナーラシュノーケルフライパンUMAP

左: ランダムな 100 万個のイメージをネットワークに入力し、画像ごとに空間的な活性化状態を 1 つ、ランダムに収集する。中央: 活性化状態を UMAP に渡し、2 次元まで次元を減らす。その結果をプロットする。似たような活性化状態は互いに近くに配置される。右: グリッドを描画し、セルに対応する活性化状態の平均を計算して、平均化した活性化状態の特徴を反転させる。

Inception V1 の多くの層の 1 つ（mixed4c）を Activation Atlas で表現した概要図。ネットワークの中ほどに存在する層を表している。

この付近では、さまざまな種類の葉や植物を検出していることがわかる。

ここでは、さまざまな水域、湖、砂州を検出している。

ここには、さまざまな建物や橋がある。

前の層である mixed4a には、漠然とした「哺乳類」の領域がある。

ネットワークの次の層の mixed4b では、動物と人が分かれ、その間には果物や食べものが現れている。

mixed4c 層では、以上のような概念がさらに細分化され、小さな「半島」状になって区別されている。

左: 最初に近い層。ほかの層に比べると、具体性が低い。中央: 中ほどの層では、明らかに葉のようなイメージだが、種類まではわからない。右: 最後の層では、葉が球状に丸まっているキャベツ特有のイメージになっている。

中ほどの層である mixed4c（左および中央）では、砂と水は別々の概念になっている。「砂州」という分類項目は、その両方と強く結びついている。その後の層である mixed5b（右）と比較すると、2 つの概念が 1 つの活性化状態として融合していると考えられる。

ここから、ネットワークが「アカギツネ」に分類する際に、何に注目しているかがよくわかる。耳がとがっていること、赤い毛で鼻の周りが白くなっていること、背景が森や雪であることがあげられる。

ここでは、さまざまな拡大率や角度の「瓦屋根」を検出している。

「アイベックス」では、角と茶色い毛皮を検出していることがわかる。それだけでなく、アイベックスがいる岩場などの環境も検出している。

瓦屋根の場合と同じく、「チョウセンアザミ」でもさまざまな大きさのチョウセンアザミの画像を検出している。それに加えて、紫色の花を検出している部分もある。チョウセンアザミの花を検出しようとしているものと考えられる。

Jupyter ノートブックColabLucidKaz Sato - Staff Developer Advocate, Google Cloud

ラベル

ブログアーカイブ

2021
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2020
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2019
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2018
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2017
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2016
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2015
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2

2014
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2013
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2012
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2011
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2010
- 12
- 11

Feed

"プロダクトに関するご意見はプロダクトフォーラムにお願いします"

Google
Privacy
Terms