学習手法 SRRとSPADE:自己教師／半教師あり学習で完全教師あり学習を凌駕する異常検知(2/2)
１．SRRとSPADE:自己教師／半教師あり学習で完全教師あり学習を凌駕する異常検知(2/2)まとめ ・多くの半教師あり学習法は、ラベル付きデータとラベル無しデータが同じ分布を持つと仮定しているが現実は異なる事が多い ・SPADEはラベル無...
unsupervised learning
学習手法 学習手法 SRRとSPADE:自己教師／半教師あり学習で完全教師あり学習を凌駕する異常検知(1/2)
１．SRRとSPADE:自己教師／半教師あり学習で完全教師あり学習を凌駕する異常検知(1/2)まとめ ・従来の異常検知は完全にラベル付けされたデータに対して有効だが、ラベル付けは非常に手間がかかるため必ずしも現実的な設定ではない ・ラベルな...
モデル MixIT：教師なし学習で野鳥の鳴き声を聞き分けて分離する(2/2)
１．MixIT：教師なし学習で野鳥の鳴き声を聞き分けて分離する(2/2)まとめ ・分離モデルには過剰分離や文脈の喪失などの潜在的な問題が存在している事はわかっている ・分離されたチャンネルとオリジナルの音声を使って分類する事で最良の結果を得...
モデル MixIT：教師なし学習で野鳥の鳴き声を聞き分けて分離する(1/2)
１．MixIT：教師なし学習で野鳥の鳴き声を聞き分けて分離する(1/2)まとめ ・機械学習を使って鳥の唄声で種を分類する事は鳴き声の重複や自然音の混入により困難 ・音声データから自動的に対象音を分離する教師なし学習であるMixIT手法を新規...
モデル Image GPT：自然言語処理用の人工知能で画像を生成(1/3)
１．Image GPT：自然言語処理用の人工知能で画像を生成(1/3)まとめ ・文章生成で有名になった人工知能を画像でトレーニングすると品質の高い画像を生成できた ・iGPTと名付けられたこのモデルは物体の外観など画像の特性を理解しているよ...
入門／解説 対照学習で最良のビューを選択するための原則(2/2)
１．対照学習で最良のビューを選択するための原則(2/2)まとめ ・InfoMin仮説を検証のため相互情報量を徐々に減らすと逆U字型の曲線が観察される ・アーキテクチャ等の違いにもかかわらず、直近の対照学習は暗黙的にInfoMin仮説に従って...
入門／解説 GoogleのリサーチサイエンティストColin Raffelへのインタビュー(2/2)
１．GoogleのリサーチサイエンティストColin Raffelへのインタビュー(2/2)まとめ ・転移学習の刺激的な進歩の大爆発が技術の見極めを難しくさせT5に繋がった ・教師無し学習でラベルなしデータセットを活用する事が標準になる未来...
学習手法 DADS：教師なしで有用なスキルを発見する強化学習(1/2)
１．DADS：教師なしで有用なスキルを発見する強化学習(1/2)まとめ ・教師有り強化学習はシミュレーション環境を飛び出して現実世界の複雑な動作を学習できるようになった ・しかし、様々なタスク用に報酬関数を手動で設計する必要がありこれがボト...
モデル 集積カプセルオートエンコーダー(3/6)
１．集積カプセルオートエンコーダー(3/6)まとめ ・オブジェクトカプセルは、様々な種類のオブジェクトに特化して学習できる事がわかった ・MNISTとSVHNを対象にしたカプセルオブジェクトをクラスタ化すると最先端の結果が得られた ・より表...
学習手法 集積カプセルオートエンコーダー(1/6)
１．集積カプセルオートエンコーダー(1/6)まとめ ・脳が備えている自己教師と帰納的バイアスのお蔭で人間が効率的な学習が可能になっている可能性がある ・この直感によって教師なしバージョンのカプセルネットワークが新たに開発された ・カプセルネ...
入門／解説 データ拡張を教師なしで実現し半教師付き学習の性能を向上(1/2)
１．データ拡張を教師なしで実現し半教師付き学習の性能を向上(1/2)まとめ ・ラベル付きデータが不足している際にデータを水増しする手法は進歩している ・しかし、基本的には教師付き学習でのみ利用可能な手法であった ・今回、ラベルなしデータを教...
モデル MuseNet:ショパン風のレディガガ、ビートルズ風のハリポッターのテーマ(1/4)
１．MuseNet:ショパン風のレディガガ、ビートルズ風のハリポッターのテーマ(1/4)まとめ ・MuseNetは楽曲のスタイルを他の楽曲にコピーできる人工知能 ・大きな違和感を感じないような自然な形で異なったスタイルを融合可能 ・従来の同...