contrastive learning

ヘルスケア

SegCLR:対照学習で教師なしで人間の脳をマッピングを作成(2/2)

1.SegCLR:対照学習で教師なしで人間の脳をマッピングを作成(2/2)まとめ ・SegCLRは脳細胞の小さな断片に対してもヒトとマウスの細胞型を正確推定可能 ・マウス大脳のシナプスの接続相手を分類する事で脳結合性の自動解析も可能 ・リッ...
モデル

LiT:画像エンコーダを凍結してマルチモーダルな対象学習の性能を向上(1/2)

1.LiT:画像エンコーダを凍結してマルチモーダルな対象学習の性能を向上(1/2)まとめ ・画像分類などでは事前学習後にタスク毎に微調整に固有データが必要になるので手間がかかる ・代替手法には画像とテキストを使う対照学習があるが微調整手法に...
学習手法

XMC-GAN:クロスモーダルな対照学習でテキストから画像を生成(1/2)

1.XMC-GAN:クロスモーダルな対照学習でテキストから画像を生成(1/2)まとめ ・テキストの説明文から画像を生成する合成タスクは最近大きな注目を集めている ・従来の画像合成手法はGANを使うケースが多いがモード崩壊などの問題を抱える ...
入門/解説

対照学習で最良のビューを選択するための原則(2/2)

1.対照学習で最良のビューを選択するための原則(2/2)まとめ ・InfoMin仮説を検証のため相互情報量を徐々に減らすと逆U字型の曲線が観察される ・アーキテクチャ等の違いにもかかわらず、直近の対照学習は暗黙的にInfoMin仮説に従って...
入門/解説

対照学習で最良のビューを選択するための原則(1/2)

1.対照学習で最良のビューを選択するための原則(1/2)まとめ ・異なる角度から物体をみても、それが同じ物体である事を認識するのは機械にとって困難 ・これを実現する主な手法は対照学習と言いラベル付きデータを必要としない自己教師型 ・Info...
学習手法

SimCLR:対照学習により自己教師学習の性能を向上

1.SimCLR:対照学習により自己教師学習の性能を向上 ・同じ画像同士の特徴量を最大化しつつ違う画像同士の特徴量を最小化する事を対照学習という ・SimCLRは自己教師および半教師でありながら対照学習により教師あり学習に迫るスコアを達成 ...