オフライン強化学習に関する楽観的な見解(2/2)
１．オフライン強化学習に関する楽観的な見解(2/2)まとめ ・教師あり学習のアンサンブル手法を応用してREMと言う新しい強化学習アルゴリズムを開発 ・REMはオフライン設定とオンライン設定で比較するとオフライン設定の方が高い性能を出せていた ・オフライン強化学習の性能にはデータセットのサイズ、構成、及びアルゴリズムが関係する可能性がある ２．オフライン強化学習にとって重要な要素 以下、ai.goo […]
自己教師
1/4ページ
SimCLR:対照学習により自己教師学習の性能を向上
１．SimCLR:対照学習により自己教師学習の性能を向上 ・同じ画像同士の特徴量を最大化しつつ違う画像同士の特徴量を最小化する事を対照学習という ・SimCLRは自己教師および半教師でありながら対照学習により教師あり学習に迫るスコアを達成 ・対照学習ではデータ水増しを行うがランダムな切り抜きとランダムな色ズレの組み合わせが有効 ２．SimCLRとは？ 以下、ai.googleblog.comより「 […]
T5:Text-To-Text Transfer Transformerと転移学習の探索(1/3)
１．T5:Text-To-Text Transfer Transformerと転移学習の探索(1/3)まとめ ・転移学習を用いたNLP関連技術の進歩が速すぎて何が効果的なのか評価することが困難になった ・最も効果的な転移学習手法を調べ、得た洞察を元にT5と呼ばれる新しいモデルを開発 ・T5は多くのNLPベンチマークで最先端の結果を達成し、様々な下流タスクに微調整可能 ２．T5とは？ 以下、ai.g […]
Google Research：2019年の振り返りと2020年以降に向けて(7/8)
- 2020.01.19
- ロボット, 強化学習, モバイル, AI for Social Good, ベンチマーク, TPU, クラウド, 視覚, neurips, gan, transformer, 自己教師, federated learning, mediapipe, jeff dean
１．Google Research：2019年の振り返りと2020年以降に向けて(7/8)まとめ ・機械学習をロボットの制御に応用するために特に強化学習を使った研究が行われた ・世界モデルの学習やポリシーにランダム性を取り込む事、オープンソースなハードなど ・TensorFlowは2.0がリリースされコンパイラ等の周辺ツールも続々改良されている ２．ロボット制御とコミュニティへの支援 以下、ai. […]
人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(1/3)
１．人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(1/3)まとめ ・AIが現実世界で益々使われるようになり拡張現実を組み合わせることで顧客体験が変わっていく可能性 ・2020年も言語モデルの分野で目覚ましい進歩が見られチューリングテストの合格に近づく可能性 ・ディープラーニングの表面的な活用だけでなく新しいアルゴリズム開発が科学分野で行われる可能性 ２．研究 […]