入門／解説 SimPLe：ビデオモデルを用いてポリシー学習をシミュレート(2/2)
１．SimPLe：ビデオモデルを用いてポリシー学習をシミュレート(2/2)まとめ ・SimPLeはモデルベース強化学習でありサンプル効率性が高い ・他のモデルフリー強化学習の２倍程度のサンプル効率性を達成 ・モデルフリー強化学習のパフォーマ...
調査/研究
入門／解説 入門／解説 ニューラルネットワークの並列訓練の限界を測定(2/2)
１．ニューラルネットワークの並列訓練の限界を測定(2/2)まとめ ・有効な最大バッチサイズはある程度ワークロードのあらゆる側面に依存 ・しかし大きいバッチサイズの恩恵を受ける事ができる条件はまだ不明 ・最適化アルゴリズムのわずかな変更が訓練...
入門／解説 ニューラルネットワークの並列訓練の限界を測定(1/2)
１．ニューラルネットワークの並列訓練の限界を測定(1/2)まとめ ・バッチサイズとトレーニング時間の減少の関係を追及した論文が発表 ・作業負荷によって異なるがどのような最適化／データ／モデルも３つの段階がある事を確認 ・サイズに比例して時間...
入門／解説 水害予測と機械学習ワークショップの概要
１．水害予測と機械学習ワークショップの概要まとめ ・テルアビブで水害の専門家と機械学習の専門家によるワークショップが開催 ・従来の専門知識と機械学習を組み合わせることによってグローバル規模の解決策が達成されると考えている ・洪水予測コミュニ...
入門／解説 Google Faculty Research Awards 2018
１．Google Faculty Research Awards 2018まとめ ・Google Faculty Researchの助成対象研究が決定 ・40カ国と320以上の大学から910の提案があり158のプロジェクトが採用された ・次...
入門／解説 Snorkel Drybell：既存知識を活用して機械学習用ラベル付きデータを自動作成(2/3)
１．Snorkel Drybell：既存知識を活用して機械学習用ラベル付きデータを自動作成(2/3)まとめ ・Snorkel DryBellでトレーニングデータをラベリングしたラベルは手作業のラベルより精度が低い ・しかし生成的モデリング手...
入門／解説 Snorkel Drybell：既存知識を活用して機械学習用ラベル付きデータを自動作成(1/3)
１．Snorkel Drybell：既存知識を活用して機械学習用ラベル付きデータを自動作成(1/3)まとめ ・既存の知識を活用して機械学習用のラベル付きデータを自動で作成する手法が発表 ・手動でラベル付けした何万ものデータと同等の有用性を持...
入門／解説 GboardにおけるRNNベースの手書き認識(1/2)
１．GboardにおけるRNNベースの手書き認識(1/2)まとめ ・Googleは2015年から手書き文字入力アプリを提供していたが当初は機械学習ベースではなかった ・RNNベースに改良した結果、エラー率を大幅に改善する事ができた ・RNN...
入門／解説 Activation Atlases：画像分類ニューラルネットワークの深部を探索(3/3)
１．Activation Atlases：画像分類ニューラルネットワークの深部を探索(3/3)まとめ ・ニューラルネットワークが画像分類時に背景も考慮している事も明確に視覚化 ・また多様な写真の特徴を組み合わせており食用用途も観賞用途も混在...
入門／解説 Activation Atlases：画像分類ニューラルネットワークの深部を探索(2/3)
１．Activation Atlases：画像分類ニューラルネットワークの深部を探索(2/3)まとめ ・ニューラルネットワークでは層が進むにつれ概念が洗練されていく ・概念の大枠だけではなく、個別の概念も洗練されていく ・また、新しい概念が...
入門／解説 Activation Atlases：画像分類ニューラルネットワークの深部を探索(1/3)
１．Activation Atlases：画像分類ニューラルネットワークの深部を探索(1/3)まとめ ・隠れ層で起きているニューロンの活性化状態を地図にして視覚化しようという試み ・UMAPで高次元ベクトルを二次元に変換しグリッドにまとめて...
入門／解説 GPT-2が自動生成したその他の文章(3/3)
１．GPT-2が自動生成したその他の文章(3/3)まとめ ・GPT-2が自動作成した事実を強引に捻じ曲げる文章とフェイクニュースの２つの紹介 ・どちらも25回の試行を行っているためGPT-2的には作りにくい文章だったかもしれないが出来が良い...