CNNは位置情報を知っているのではないか? | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア

CNNは位置情報を知っているのではないか? | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア

 3つの要点✔️ CNNは位置情報をエンコードしている✔️ 0パディングによって位置情報を学習する✔️ 深い層に位置情報は保持されているHow Much Position Information Do Convolutional Neural Networks Encode?written by Md Amirul Islam, Sen Jia, Neil D. B. Bruce(Submitted on 22 Jan 2020)Comments: Accepted to ICLR2020Subjects: Computer Vision and Pattern Recognition (cs.CV); Machine Learning (cs.LG)Paper Official Code COMM CodeはじめCNNは分類や検出タスクなどの多くのコンピュータビジョンタスクで成功してきました。基本的にCNNは物体の特徴抽出器としての役割がメインです。なぜなら、局所的なフィルタによって学習され、基本的には位置情報は持たないとされているからです。そのため、この点を指摘され、カプセルネットなどの位置情報の獲得をメインとしたモデルも提案されています。なので多くの皆さんが、CNNは位置情報をほとんど持たないと考えていませんか?しかし、この研究でその暗黙的に考えられてきた考えが覆るかもしれません。図1をご覧ください。図1. 画像の顕著領域上段を見てください。左では真ん中にいる男性に顕著領域があります。同じようにほとんどの画像が真ん中周辺に顕著領域が存在していることがわかります。次に上段の青いラインで画像をクロップした画像を下段に示しています。ここでおかしなことに気付きます。画像をクロップしただけなので、テクスチャ等にはなんの変化もないので顕著領域が変わることはないはずです。しかし、クロップした画像の顕著領域は明らかに左にシフト(中央領域)しています。(これは学習画像的にも顕著領域は画像の中央部にあることを学習したためにこの現象が起きたのだと思います。

5 mentions: @ai_scholar@lempiji
Date:

Referring Tweets

@ai_scholar
@ai_scholar ”Paddingが「死角」を生む!?そんな盲点を検証!” この記事にも関連する新たな仮説検証 今まで暗黙的に考えられていた仮説を否定し、新たな仮説を提唱しています! とにかく研究全体がお洒落で、驚かされます。 t.co/aFg3Xi7zTO
@lempiji
@lempiji CNNがpaddingで位置情報エンコーディングして持ってるの常識だと思っていたので、みんな位置不変とか本気で信じているらしきことにとても驚いてます…こういうことも論文にするの大事ですね(´・ω・`) CNNは位置情報を知っているのではないか? | AI-SCHOLAR t.co/LrPpvdIfMM

Related Entries

生成画像を思い通りに!? 生成画像の制御ができる新たなGANフレームワーク”VCGAN” | AI-SCHOLAR
Read more 生成画像を思い通りに!? 生成画像の制御ができる新たなGANフレームワーク”VCGAN” | AI-SCHOLAR
0 users, 5 mentions 2019/12/10 00:00
カクカクした映像でもFPSを上げてぬるぬる動かせる!Depth-Aware Video Frame Interpolation  | AI-SCHOLAR
Read more カクカクした映像でもFPSを上げてぬるぬる動かせる!Depth-Aware Video Frame Interpolation  | AI-SCHOLAR
1 users, 5 mentions 2020/02/18 19:55
GANが生成したデータは何? | AI-SCHOLAR
Read more GANが生成したデータは何? | AI-SCHOLAR
1 users, 3 mentions 2020/02/25 22:13
Attention Map を活用した顔画像の超解像度技術「CAGFace」 | AI-SCHOLAR
Read more Attention Map を活用した顔画像の超解像度技術「CAGFace」 | AI-SCHOLAR
0 users, 2 mentions 2020/03/08 18:55
Mischief : Transformerモデルを単純な "いたずら" 攻撃によって騙す | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア
Read more Mischief : Transformerモデルを単純な "いたずら" 攻撃によって騙す | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア
0 users, 2 mentions 2020/12/02 12:00

ML-Newsについて

機械学習の技術に関する情報は流速も早いし、分野も多様でキャッチアップが大変です。Twitterで機械学習用のリストを作っても、普段は機械学習以外の話題が多く流れており、効率的に情報収集するのは困難です。

ML-NewsはSNSを情報源とした機械学習に特化したニュースサイトです。機械学習に関する論文ブログライブラリコンペティション発表資料勉強会などの最新の情報を効率的に収集できます。

機械学習を応用した自然言語処理、画像認識、情報検索などの分野の情報や機械学習で必要になるデータ基盤やMLOpsの話題もカバーしています。
安定したサイト運営のためにGitHub sponsorを募集しています。

お知らせ

  • 2021/12/31: デザインを刷新しました
  • 2021/04/08: 日本語Kaggleのカテゴリを新設しました