学習手法 SRRとSPADE:自己教師／半教師あり学習で完全教師あり学習を凌駕する異常検知(1/2)
１．SRRとSPADE:自己教師／半教師あり学習で完全教師あり学習を凌駕する異常検知(1/2)まとめ ・従来の異常検知は完全にラベル付けされたデータに対して有効だが、ラベル付けは非常に手間がかかるため必ずしも現実的な設定ではない ・ラベルな...
ensemble
学習手法 
学習手法 Plex:何をすればディープラーニングの信頼性を高める事が出来るのか？(2/2)
１．Plex:何をすればディープラーニングの信頼性を高める事が出来るのか？(2/2)まとめ ・Plexは各サブモデルが予測を行って集約することでより効率的なアンサンブルを行う ・Plexはタスク毎にチューニングせずともモデルの出力そのままで...
基礎理論 モデルのアンサンブルは貴方が思っているよりも凄い(2/2)
１．モデルのアンサンブルは貴方が思っているよりも凄い(2/2)まとめ ・モデルカスケードはアンサンブルの早期終了を可能にするため計算量を節約できる場合がある ・カスケードは調査した全ケースで単一モデルよりも優れた性能を示し速度や精度が向上 ...
基礎理論 モデルのアンサンブルは貴方が思っているよりも凄い(1/2)
１．モデルのアンサンブルは貴方が思っているよりも凄い(1/2)まとめ ・アンサンブルとカスケードは既存のモデルを集めてその出力を組み合わせて解とする手法 ・アンサンブルはよく知られているがディープモデルの中核要素とは見なされていない事が多い...
アプリケーション Googleマップでインドの言葉の翻字を改善(2/2)
１．Googleマップでインドの言葉の翻字を改善(2/2)まとめ ・複数モデルのアンサンブルを採用する事で個々のモデルより大幅に高品質の翻字を実現 ・従来のPOI名に対して今回のアンサンブル翻字手法で品質と対応範囲が大幅に改善された ・今後...
入門／解説 モデルが出力する「予測の不確実性」はどこまで信用できますか？(2/2)
１．モデルが出力する「予測の不確実性」はどこまで信用できますか？(2/2)まとめ ・モデルは予測の不確実性が増した事を認識せずに自信を持って間違う傾向がある ・ディープアンサンブルがデータの変化に対する耐久性を最も改善するシンプルな戦略 ・...
学習手法 Snorkel MeTaLを用いた大規模マルチタスク学習(4/4)
１．Snorkel MeTaLを用いた大規模マルチタスク学習(4/4)まとめ ・小文字化BERTと非小文字化BERTの結果をアンサンブルする事により更に高いスコアを更新 ・Snorkelは、トレーニングデータを迅速に作成、モデル化、および管...