学習手法 SimCLR:対照学習により自己教師学習の性能を向上
１．SimCLR:対照学習により自己教師学習の性能を向上 ・同じ画像同士の特徴量を最大化しつつ違う画像同士の特徴量を最小化する事を対照学習という ・SimCLRは自己教師および半教師でありながら対照学習により教師あり学習に迫るスコアを達成 ...
半教師
学習手法 
入門／解説 人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(3/3)
１．人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(3/3)まとめ ・ビジネスにAIを採用させる事を成功するためにはビジネス固有のカスタムソリューションが必要 ・より複雑なデータサイエンスの問題には、特...
基礎理論 機械学習のトップマインドによる2020年のAI予測(3/3)
１．機械学習のトップマインドによる2020年のAI予測(3/3)まとめ ・ニューラルネットワークを訓練する際の計算は非常に無駄が多く根本的な再考が必要 ・AIの解釈可能性の向上にはニューラルシンボリックアプローチが有用とIBMは考えている ...
基礎理論 機械学習のトップマインドによる2020年のAI予測(1/3)
１．機械学習のトップマインドによる2020年のAI予測(1/3)まとめ ・AIは単純な精度よりもパフォーマンスに重きを置いて評価されるようになっていく可能性が高い ・機械学習フレームワークの覇権争いは収束し次の主戦場はアクセラレータや量子化...
入門／解説 VTAB:視覚タスク用のベンチマーク(2/2)
１．VTAB:視覚タスク用のベンチマーク(2/2)まとめ ・VTABによる評価では最高パフォーマンスを示した特徴表現学習アルゴリズムはS4L ・S4L(Self-Supervised Semi-Supervised Learning)は特に...
ビッグデータ データ拡張を教師なしで実現し半教師付き学習の性能を向上(2/2)
１．データ拡張を教師なしで実現し半教師付き学習の性能を向上(2/2)まとめ ・UDA、教師なしデータ拡張を使うと半教師付き学習が教師付き学習を上回る性能を出すようになる ・拡張元となるラベル付きデータが少なくとも多くとも教師付き学習の最先端...
入門／解説 データ拡張を教師なしで実現し半教師付き学習の性能を向上(1/2)
１．データ拡張を教師なしで実現し半教師付き学習の性能を向上(1/2)まとめ ・ラベル付きデータが不足している際にデータを水増しする手法は進歩している ・しかし、基本的には教師付き学習でのみ利用可能な手法であった ・今回、ラベルなしデータを教...
モデル Off-Policy Classification:強化学習モデルを選別する新手法(1/2)
１．Off-Policy Classification:強化学習モデルを選別する新手法(1/2)まとめ ・完全ポリシー外強化学習は過去に収集されたデータのみを使って学習するタイプの強化学習 ・物理的なロボットがなくてもモデルをトレーニングが...
入門／解説 Weak Supervision:機械学習のための新しいプログラミングパラダイム(1/4)
１．Weak Supervision:機械学習のための新しいプログラミングパラダイム(1/4)まとめ ・weak supervisionとは、SMEからもたらされる高レベル情報、またはノイズの多い情報を活用する事 ・過去の同様な手法にはAc...
モデル GANにおけるラベル付きデータの必要性の低減(2/2)
１．GANにおけるラベル付きデータの必要性の低減(2/2)まとめ ・回転タスクによって意味のある特徴を学習させた後に更に学習をさせる ・これによりサンプル効率が高まり高品質なラベル付けが可能 ・GANで使う様々な機能をまとめたCompare...
モデル GANにおけるラベル付きデータの必要性の低減(1/2)
１．GANにおけるラベル付きデータの必要性の低減(1/2)まとめ ・Conditional GANはトレーニングにラべル付きデータを必要とする ・本論文ではGANをトレーニングする際に必要なラベル付きデータ量を減らす ・未ラベル付け画像を回...
入門／解説 2018年の機械学習とAIの主な進歩と2019年の主な傾向(2/2)
１．2018年の機械学習とAIの主な進歩と2019年の主な傾向(2/2)まとめ ・ELMoやBERTなどの自然言語処理分野におけるトランスファーラーニングの成功 ・プライバシー問題やAIのディストピアに繋がる利用が注目を集めた事 ・オンライ...