【MobileViT】携帯で使用可能な軽量ViT | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア

【MobileViT】携帯で使用可能な軽量ViT | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア

3つの要点✔️ CNNとViTの良いところ取りをした携帯でも使える軽量モデル✔️ ViTの学習に必要な複雑なデータ水増しを必要としない✔️ 様々なタスクのバックボーンとして使え、全ての実験でSOTAを達成MobileViT: Light-weight, General-purpose, and Mobile-friendly Vision Transformerwritten by Sachin Mehta, Mohammad Rastegari(Submitted on 5 Oct 2021)Comments: Published on arxiv.Subjects: Computer Vision and Pattern Recognition (cs.CV); Artificial Intelligence (cs.AI); Machine Learning (cs.LG)code:   本記事で使用している画像は論文中のもの、紹介スライドのもの、またはそれを参考に作成したものを使用しております。  はじめにTransformerは機械翻訳で提案されて以来BERTをはじめとした幅広い自然言語処理のタスクで応用されていますが、画像認識分野に応用したVision Transformer(ViT)でも様々なタスクでSOTAを生み出し続けています。しかし、ViTはCNNのような局所的な特徴を上手く検出できる機構を持たないため、CNN以上の性能を出すためには大規模なデータセットやCNN以上のパラメータ数が必要なことが携帯端末で利用する上でネックとなっていました。その一方、ViTが持つself attention機構は大域的な関係を考慮することができる特性がありCNNに代わるアーキテクチャとして注目されています。今回紹介するmobileViTは、局所的な検出を得意とするCNNと大域的な情報処理を得意とするViTをハイブリッドにした軽量モデルです。mobileViTはCNN以下のパラメータ数でそれ以上の性能を達成するだけでなく、基本的なデータ水増しでも精度が出るモデルとなっています。

4 mentions: @ai_scholar
Keywords: 論文
Date:

Referring Tweets

@ai_scholar
@ai_scholar CNNとViTの構造をハイブリットに用いCNNと同程度のパラメータ数でそれ以上の精度を達成したmobileViT。ツイッターでバズったこのモデルをお届けします。 t.co/Q4xvZKk4F8

Related Entries

多変量時系列異状検知にグラフ・アテンションを用いたMTAD-GAT | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア
Read more 多変量時系列異状検知にグラフ・アテンションを用いたMTAD-GAT | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア
0 users, 5 mentions 2021/06/30 12:08
グラフの含む情報をフルに活用した生成・対照自己教師あり学習異状検知 | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア
Read more グラフの含む情報をフルに活用した生成・対照自己教師あり学習異状検知 | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア
0 users, 5 mentions 2021/10/08 18:05
1枚のアノテーションでsemantic part segmentationが可能に! | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア
Read more 1枚のアノテーションでsemantic part segmentationが可能に! | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア
0 users, 3 mentions 2021/11/04 18:07
Kaggleランカーの7人に聞いた、2021年面白かったコンペ7選と論文7選 | 宙畑
Read more Kaggleランカーの7人に聞いた、2021年面白かったコンペ7選と論文7選 | 宙畑
46 users, 16 mentions 2022/04/19 01:37
爆速・低消費電力で深層学習もグラフ探索も条件付き最適化も行える?!脳型計算機の定量的実力 | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア
Read more 爆速・低消費電力で深層学習もグラフ探索も条件付き最適化も行える?!脳型計算機の定量的実力 | AI-SCHOLAR | AI:(人工知能)論文・技術情報メディア
0 users, 4 mentions 2022/07/08 13:38

ML-Newsについて

機械学習の技術に関する情報は流速も早いし、分野も多様でキャッチアップが大変です。Twitterで機械学習用のリストを作っても、普段は機械学習以外の話題が多く流れており、効率的に情報収集するのは困難です。

ML-NewsはSNSを情報源とした機械学習に特化したニュースサイトです。機械学習に関する論文ブログライブラリコンペティション発表資料勉強会などの最新の情報を効率的に収集できます。

機械学習を応用した自然言語処理、画像認識、情報検索などの分野の情報や機械学習で必要になるデータ基盤やMLOpsの話題もカバーしています。
安定したサイト運営のためにGitHub sponsorを募集しています。

お知らせ

  • 2021/12/31: デザインを刷新しました
  • 2021/04/08: 日本語Kaggleのカテゴリを新設しました