転移学習

モデル

Off-Policy Classification:強化学習モデルを選別する新手法(2/2)

1.Off-Policy Classification:強化学習モデルを選別する新手法(2/2)まとめ ・OPCはSim-to-Realテクニックによって訓練されたモデルの評価に対しても有効であった ・OPCのスコアと現実世界のタスクの成功...
入門/解説

Snorkel MeTaLを用いた大規模マルチタスク学習(2/4)

1.Snorkel MeTaLを用いた大規模マルチタスク学習(2/4)まとめ ・Snorkel MeTaLが最先端のスコアを達成するために辿った教師信号を具体的に解説 ・伝統的な教師信号から開始し、次の段階は事前学習からの転移学習 ・そして...
入門/解説

Snorkel MeTaLを用いた大規模マルチタスク学習(1/4)

1.Snorkel MeTaLを用いた大規模マルチタスク学習(1/4)まとめ ・教師あり学習問題に取り組む際に必要な要素はモデル、ハードウェアおよび訓練データの3つ ・モデルはオープンソース文化、ハードウェアはクラウドにより最新の物が比較的...
モデル

EfficientNet:AutoMLとモデルのスケーリングによりCNNの精度と効率を向上(2/2)

1.EfficientNet:AutoMLとモデルのスケーリングによりCNNの精度と効率を向上(2/2)まとめ ・EfficientNetのベースネットワークはAutoML MNASフレームワークによって開発された ・EfficientNe...
入門/解説

Weak Supervision:機械学習のための新しいプログラミングパラダイム(4/4)

1.Weak Supervision:機械学習のための新しいプログラミングパラダイム(4/4)まとめ ・Snorkelの研究は続けられており、ラベル付け関数の自動生成!など、様々な場面での活躍が見込まれる ・マルチタスクラーニング(MTL)...
入門/解説

Weak Supervision:機械学習のための新しいプログラミングパラダイム(1/4)

1.Weak Supervision:機械学習のための新しいプログラミングパラダイム(1/4)まとめ ・weak supervisionとは、SMEからもたらされる高レベル情報、またはノイズの多い情報を活用する事 ・過去の同様な手法にはAc...
モデル

Snorkel Drybell:既存知識を活用して機械学習用ラベル付きデータを自動作成(3/3)

1.Snorkel Drybell:既存知識を活用して機械学習用ラベル付きデータを自動作成(3/3)まとめ ・実製品として利用しにくい機能や知識もSnorkel DryBellでラベル付きデータを出力可能 ・転移したラベル付きデータを利用す...
学習手法

機械学習で自撮りにリアルタイムに拡張現実を適用(2/3)

1.機械学習で自撮りにリアルタイムに拡張現実を適用(2/3)まとめ ・TensorFlow LiteとGPUバックエンドアクセラレーションでパフォーマンス向上と消費電力削減を達成 ・パフォーマンスと効率特性を変えた様々なモデルアーキテクチャ...
学習手法

GPipe:大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(3/3)

1.GPipe:大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(3/3)まとめ ・GPipeを使って5億5,700万のパラメータのAmoebaNet-Bで84.3%のTop-1 Accuracyを達成 ・Top-5 ...
入門/解説

GPT-2:より良い言語モデルとそれが暗示する事(2/3)

1.GPT-2:より良い言語モデルとそれが暗示する事(2/3)まとめ ・GPT-2はWinograd Schema、LAMBADA、およびその他の言語モデリング用タスクで最先端のスコアを達成 ・質問回答、読解力、要約、翻訳などの他の言語タス...
入門/解説

2018年のGoogleの研究成果を振り返って(2/6)

1.2018年のGoogleの研究成果を振り返って(2/6)まとめ ・Googleの2018年のAI関連の研究や成果の振り返り ・量子コンピューターと自然言語理解と知覚について ・研究開発の結果から実際の製品として世に出たものまで幅広く紹介...
入門/解説

人工知能を創造するために生物の知能の仕組みを探求する試み(3/6)

1.人工知能を創造するために生物の知能の仕組みを探求する試み(3/6)まとめ ・脳は機能的にも解剖学的にもモジュールとして分離した構造になっている ・現在のAIは平坦な構造であるため脳同等機能を実現するには不適かもしれない ・人工的知能と生...