[2104.13369] Explaining in Style: Training a GAN to explain a classifier in StyleSpace

Image classification models can depend on multiple different semantic attributes of the image. An explanation of the decision of the classifier needs to both discover and visualize these properties. Here we present StylEx, a method for doing this, by training a generative model to specifically explain multiple attributes that underlie classifier decisions. A natural source for such attributes is the StyleSpace of StyleGAN, which is known to generate semantically meaningful dimensions in the image. However, because standard GAN training is not dependent on the classifier, it may not represent these attributes which are important for the classifier decision, and the dimensions of StyleSpace may represent irrelevant attributes. To overcome this, we propose a training procedure for a StyleGAN, which incorporates the classifier model, in order to learn a classifier-specific StyleSpace. Explanatory attributes are then selected from this space. These can be used to visualize the effect of cha

1 mentions: @Maxwell_110
Date:

Referring Tweets

@Maxwell_110
@Maxwell_110 StylEx 📝 t.co/9CDWkrCeFt StylEx は画像分類モデルの説明手法 StyleGAN-base の生成モデルを,説明対象である分類モデルを利用して学習し,学習後の style space の変化に対する分類確率の変化を検証 これにより,画像内の位置だけでなく,属性(色・形等)の寄与も分離して視覚化が可能 t.co/uHRDci5ZHW

Related Entries

Get started
Read more Get started
0 users, 1 mentions 2021/08/05 22:40
TF/JAX Tutorials - Part1 | Kaggle
Read more TF/JAX Tutorials - Part1 | Kaggle
0 users, 1 mentions 2021/08/23 22:37
[1803.05549] Object Detection in Video with Spatiotemporal Sampling Networks
Read more [1803.05549] Object Detection in Video with Spatiotemporal Sampling Networks
0 users, 1 mentions 2021/12/09 22:37
[2104.10419] PP-YOLOv2: A Practical Object Detector
Read more [2104.10419] PP-YOLOv2: A Practical Object Detector
0 users, 1 mentions 2022/04/14 22:38
GitHub - understandable-machine-intelligence-lab/Quantus: Quantus is an eXplainable AI toolkit for r...
Read more GitHub - understandable-machine-intelligence-lab/Quantus: Quantus is an eXplainable AI toolkit for r...
0 users, 1 mentions 2022/06/14 22:38
Kaggle_meetup_3rd LT ( Sberbank Russian Housing Market ) - Speaker Deck
Read more Kaggle_meetup_3rd LT ( Sberbank Russian Housing Market ) - Speaker Deck
0 users, 1 mentions 2022/07/14 12:11

ML-Newsについて

機械学習の技術に関する情報は流速も早いし、分野も多様でキャッチアップが大変です。Twitterで機械学習用のリストを作っても、普段は機械学習以外の話題が多く流れており、効率的に情報収集するのは困難です。

ML-NewsはSNSを情報源とした機械学習に特化したニュースサイトです。機械学習に関する論文、ブログ、ライブラリ、コンペティション、発表資料、勉強会などの最新の情報を効率的に収集できます。

機械学習を応用した自然言語処理、画像認識、情報検索などの分野の情報や機械学習で必要になるデータ基盤やMLOpsの話題もカバーしています。
安定したサイト運営のためにGitHub sponsorを募集しています。

お知らせ

  • 2021/12/31: デザインを刷新しました
  • 2021/04/08: 日本語とKaggleのカテゴリを新設しました