[2106.01596] Attention-Guided Supervised Contrastive Learning for Semantic Segmentation

Contrastive learning has shown superior performance in embedding global and spatial invariant features in computer vision (e.g., image classification). However, its overall success of embedding local and spatial variant features is still limited, especially for semantic segmentation. In a per-pixel prediction task, more than one label can exist in a single image for segmentation (e.g., an image contains both cat, dog, and grass), thereby it is difficult to define 'positive' or 'negative' pairs in a canonical contrastive learning setting. In this paper, we propose an attention-guided supervised contrastive learning approach to highlight a single semantic object every time as the target. With our design, the same image can be embedded to different semantic clusters with semantic attention (i.e., coerce semantic masks) as an additional input channel. To achieve such attention, a novel two-stage training strategy is presented. We evaluate the proposed method on multi-organ medical image se

1 mentions: @asam9891
Date:

Referring Tweets

@asam9891
@asam9891 [2106.01596] Attention-Guided Supervised Contrastive Learning for Semantic Segmentation 画像内に複数物体が映ってると対照学習の性能が落ちるので注意機構で荒いマスクを作ってマスク領域毎に対照学習する話 t.co/8YomCl7k1S

Related Entries

Krylov Subspace Method for Nonlinear Dynamical Systems with Random Noise
Read more Krylov Subspace Method for Nonlinear Dynamical Systems with Random Noise
1 users, 1 mentions 2020/09/18 02:21
Inference and Prediction Diverge in Biomedicine: Patterns
Read more Inference and Prediction Diverge in Biomedicine: Patterns
0 users, 6 mentions 2020/10/09 06:53
【AI論文解説】万能な事前学習済みモデルを得るために最低限必要なものは何か? -詳細編-(CVPR2021論文紹介) - YouTube
Read more 【AI論文解説】万能な事前学習済みモデルを得るために最低限必要なものは何か? -詳細編-(CVPR2021論文紹介) - YouTube
0 users, 1 mentions 2021/09/30 07:37
ニューラルネットワークのベイズ推論 / Bayesian inference of neural networks - Speaker Deck
Read more ニューラルネットワークのベイズ推論 / Bayesian inference of neural networks - Speaker Deck
3 users, 0 mentions 2021/12/17 18:09
T5v1.1
Read more T5v1.1
0 users, 1 mentions 2021/12/30 03:08

ML-Newsについて

機械学習の技術に関する情報は流速も早いし、分野も多様でキャッチアップが大変です。Twitterで機械学習用のリストを作っても、普段は機械学習以外の話題が多く流れており、効率的に情報収集するのは困難です。

ML-NewsはSNSを情報源とした機械学習に特化したニュースサイトです。機械学習に関する論文ブログライブラリコンペティション発表資料勉強会などの最新の情報を効率的に収集できます。

機械学習を応用した自然言語処理、画像認識、情報検索などの分野の情報や機械学習で必要になるデータ基盤やMLOpsの話題もカバーしています。
安定したサイト運営のためにGitHub sponsorを募集しています。

お知らせ

  • 2021/12/31: デザインを刷新しました
  • 2021/04/08: 日本語Kaggleのカテゴリを新設しました