Google Developers Japan: ニューラルネットワークが「何を見ているか」を可視化する Activation Atlas

Local blog for Japanese speaking developers

ニューラルネットワークが「何を見ているか」を可視化する Activation Atlas

2019年3月28日木曜日

この記事は Shan Carter による Google AI Blog の記事 "Exploring Neural Networks with Activation Atlases" を元に翻訳・加筆したものです。詳しくは元記事をご覧ください。

code { background-color: transparent }投稿者: Google AI ソフトウェアエンジニア、Shan Carter
デファクトOpenAIActivation Atlas でニューラルネットワークを探索するJupyter ノートブック

画像認識用ニューラルネットワーク Inception V1 の層の 1 つを Activation Atlas で表示した詳細イメージ。ネットワークが画像を分類するために、さまざまに異なる種類の画像検出を適用していことがわかる。たとえば、果物のような構造、ハチの巣状のパターン、織物のような質感など。

ImageNetInception V1カルボナーラシュノーケルフライパンUMAP

左: ランダムな 100 万個のイメージをネットワークに入力し、画像ごとに空間的な活性化状態を 1 つ、ランダムに収集する。中央: 活性化状態を UMAP に渡し、2 次元まで次元を減らす。その結果をプロットする。似たような活性化状態は互いに近くに配置される。右: グリッドを描画し、セルに対応する活性化状態の平均を計算して、平均化した活性化状態の特徴を反転させる。

Inception V1 の多くの層の 1 つ（mixed4c）を Activation Atlas で表現した概要図。ネットワークの中ほどに存在する層を表している。

この付近では、さまざまな種類の葉や植物を検出していることがわかる。

ここでは、さまざまな水域、湖、砂州を検出している。

ここには、さまざまな建物や橋がある。

前の層である mixed4a には、漠然とした「哺乳類」の領域がある。

ネットワークの次の層の mixed4b では、動物と人が分かれ、その間には果物や食べものが現れている。

mixed4c 層では、以上のような概念がさらに細分化され、小さな「半島」状になって区別されている。

左: 最初に近い層。ほかの層に比べると、具体性が低い。中央: 中ほどの層では、明らかに葉のようなイメージだが、種類まではわからない。右: 最後の層では、葉が球状に丸まっているキャベツ特有のイメージになっている。

中ほどの層である mixed4c（左および中央）では、砂と水は別々の概念になっている。「砂州」という分類項目は、その両方と強く結びついている。その後の層である mixed5b（右）と比較すると、2 つの概念が 1 つの活性化状態として融合していると考えられる。

ここから、ネットワークが「アカギツネ」に分類する際に、何に注目しているかがよくわかる。耳がとがっていること、赤い毛で鼻の周りが白くなっていること、背景が森や雪であることがあげられる。

ここでは、さまざまな拡大率や角度の「瓦屋根」を検出している。

「アイベックス」では、角と茶色い毛皮を検出していることがわかる。それだけでなく、アイベックスがいる岩場などの環境も検出している。

瓦屋根の場合と同じく、「チョウセンアザミ」でもさまざまな大きさのチョウセンアザミの画像を検出している。それに加えて、紫色の花を検出している部分もある。チョウセンアザミの花を検出しようとしているものと考えられる。

Jupyter ノートブックColabLucidKaz Sato - Staff Developer Advocate, Google Cloud

ラベル

ブログアーカイブ

2019
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2018
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2017
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2016
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2015
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2

2014
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2013
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2012
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2011
- 12
- 11
- 10
- 9
- 8
- 7
- 6
- 5
- 4
- 3
- 2
- 1

2010
- 12
- 11

Feed

"プロダクトに関するご意見はプロダクトフォーラムにお願いします"

Google Japan

Google Japan Blog
Google ウェブマスター向け公式ブログ
Google Apps アップデートブログ

Products

Android Blog
Chrome Blog
Lat Long Blog

Developers

Google Developers
Google Developers Japan YouTube
Google Developers Japan Forum

Google
Privacy
Terms