入門/解説

入門/解説

Google Faculty Research Awards 2018

1.Google Faculty Research Awards 2018まとめ ・Google Faculty Researchの助成対象研究が決定 ・40カ国と320以上の大学から910の提案があり158のプロジェクトが採用された ・次...
入門/解説

Snorkel Drybell:既存知識を活用して機械学習用ラベル付きデータを自動作成(2/3)

1.Snorkel Drybell:既存知識を活用して機械学習用ラベル付きデータを自動作成(2/3)まとめ ・Snorkel DryBellでトレーニングデータをラベリングしたラベルは手作業のラベルより精度が低い ・しかし生成的モデリング手...
入門/解説

Snorkel Drybell:既存知識を活用して機械学習用ラベル付きデータを自動作成(1/3)

1.Snorkel Drybell:既存知識を活用して機械学習用ラベル付きデータを自動作成(1/3)まとめ ・既存の知識を活用して機械学習用のラベル付きデータを自動で作成する手法が発表 ・手動でラベル付けした何万ものデータと同等の有用性を持...
入門/解説

GboardにおけるRNNベースの手書き認識(1/2)

1.GboardにおけるRNNベースの手書き認識(1/2)まとめ ・Googleは2015年から手書き文字入力アプリを提供していたが当初は機械学習ベースではなかった ・RNNベースに改良した結果、エラー率を大幅に改善する事ができた ・RNN...
入門/解説

Activation Atlases:画像分類ニューラルネットワークの深部を探索(3/3)

1.Activation Atlases:画像分類ニューラルネットワークの深部を探索(3/3)まとめ ・ニューラルネットワークが画像分類時に背景も考慮している事も明確に視覚化 ・また多様な写真の特徴を組み合わせており食用用途も観賞用途も混在...
入門/解説

Activation Atlases:画像分類ニューラルネットワークの深部を探索(2/3)

1.Activation Atlases:画像分類ニューラルネットワークの深部を探索(2/3)まとめ ・ニューラルネットワークでは層が進むにつれ概念が洗練されていく ・概念の大枠だけではなく、個別の概念も洗練されていく ・また、新しい概念が...
入門/解説

Activation Atlases:画像分類ニューラルネットワークの深部を探索(1/3)

1.Activation Atlases:画像分類ニューラルネットワークの深部を探索(1/3)まとめ ・隠れ層で起きているニューロンの活性化状態を地図にして視覚化しようという試み ・UMAPで高次元ベクトルを二次元に変換しグリッドにまとめて...
入門/解説

GPT-2が自動生成したその他の文章(3/3)

1.GPT-2が自動生成したその他の文章(3/3)まとめ ・GPT-2が自動作成した事実を強引に捻じ曲げる文章とフェイクニュースの2つの紹介 ・どちらも25回の試行を行っているためGPT-2的には作りにくい文章だったかもしれないが出来が良い...
入門/解説

GPT-2が自動生成したその他の文章(2/3)

1.GPT-2が自動生成したその他の文章(2/3)まとめ ・GPT-2が得意とする文章である指輪物語の二次創作と宿題 ・指輪物語は物語内に出てくる固有名詞しか使っておらず物語としてほぼ成立している ・宿題の方はダラダラと要旨を掴みにくい文章...
入門/解説

GPT-2が自動生成したその他の文章(1/3)

1.GPT-2が自動生成したその他の文章(1/3)まとめ ・GPT-2が出力したユニコーン以外の文章の紹介 ・プレスリリース、ニュース、芸能ニュース、の3種類 ・部署名等は実在の名称を入れてくるので流し読みしていると読めてしまう 2.GPT...
入門/解説

MeRL:強化学習でまばらで仕様が曖昧な報酬に対応(1/3)

1.MeRL:強化学習でまばらで仕様が曖昧な報酬に対応(1/3)まとめ ・強化学習はアクションに対するフィードバック(報酬)が重要 ・報酬が疎であったり報酬に繋がる行動が不明では学習が困難 ・特に仕様が不明確な報酬は予想外の行動に繋がる可能...
入門/解説

量子プロセッサの極低温制御への道(1/2)

1.量子プロセッサの極低温制御への道(1/2)まとめ ・Googleの試算によれば第一世代の量子コンピュータはおよそ100万量子ビットを必要とする ・Googleが開発した最新の量子プロセッサであるBristleconeでさえも72量子ビッ...