インフラ GPipe：大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(2/3)
１．GPipe：大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(2/3)まとめ ・GPipeを使うとCloud TPUv2で利用可能なパラメータを8200万から3億1800万に増やす事ができる ・TPUv3ではアクセ...
人工知能/機械学習
インフラ インフラ GPipe：大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(1/3)
１．GPipe：大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(1/3)まとめ ・最近のニューラルネットワークはTPUアクセラレータのメモリに収めるのが難しいくらい巨大化している ・しかし、性能とパラメータ数には強い...
AI関連その他 AutoRL：自動強化学習による長距離ロボットナビゲーションの実現(2/3)
１．AutoRL：自動強化学習による長距離ロボットナビゲーションの実現(2/3)まとめ ・PRMのようなサンプリングベースのプランナーを使う事によって長距離ナビゲーションを実現できる ・強化学習ベースのローカルプランナーがノード間を接続でき...
学習手法 AutoRL：自動強化学習による長距離ロボットナビゲーションの実現(1/3)
１．AutoRL：自動強化学習による長距離ロボットナビゲーションの実現(1/3)まとめ ・AutoMLの強化学習版であるAutoRLを使ってロボットを遠く離れた場所までお使いに行かせる研究 ・現在のロボットは近距離を安全に移動するためのロー...
学習手法 MT-DNN：BERTを凌駕するMicrosoftの新しいNLPモデル
１．MT-DNN：BERTを凌駕するMicrosoftの新しいNLPモデルまとめ ・MT-DNNはマイクロソフトが発表した新しい自然言語処理モデルでBERTを上回るスコアを出した ・2015年に提案したモデルに基づいて構築されマルチタスク学...
モデル MeRL：強化学習でまばらで仕様が曖昧な報酬に対応(3/3)
１．MeRL：強化学習でまばらで仕様が曖昧な報酬に対応(3/3)まとめ ・報酬が疎になる作業を学習させるためにカルバック・ライブラー情報量(KL)を利用している ・カルバック・ライブラー情報量は、2つの異なる確率分布がどの程度異なるかを示す...
学習手法 MeRL：強化学習でまばらで仕様が曖昧な報酬に対応(2/3)
１．MeRL：強化学習でまばらで仕様が曖昧な報酬に対応(2/3)まとめ ・偶然成功した行動は強化学習エージェントが作業を一般化する際に有害な影響を与える ・MeRLでは成功した行動の特徴に基づいて偶然の成功と意図的な成功を区別した補助的な報...
学習手法 PlaNet：画像入力から世界モデルを学ぶ強化学習(3/3)
１．PlaNet：画像入力から世界モデルを学ぶ強化学習(3/3)まとめ ・PlaNetは一つのエージェントで６つの異なるタスクを行うように訓練する事ができた ・比較的単純なタスクに対する学習は遅かったが複雑なタスクは素早く学習し高いレベルに...
学習手法 PlaNet：画像入力から世界モデルを学ぶ強化学習(2/3)
１．PlaNet：画像入力から世界モデルを学ぶ強化学習(2/3)まとめ ・エージェントは特定の操作によってボールの位置やゴールまでの距離がどのように変化するか想像出来る ・大量の計算が必要な画像作成を省略し将来の報酬を予測するだけでよいので...
学習手法 PlaNet：画像入力から世界モデルを学ぶ強化学習(1/3)
１．PlaNet：画像入力から世界モデルを学ぶ強化学習(1/3)まとめ ・PlaNetはモデルベース(Model-based)強化学習であり世界モデルを学ぶ強化学習 ・世界モデルを学ぶと従来より少ないデータで効率的な学習を行う事ができる ・...
モデル AlphaStar：StarCraftIIでプロプレーヤーに勝った人工知能(5/3)
１．AlphaStar：StarCraftIIでプロプレーヤーに勝った人工知能(5/3)まとめ ・DeepmindのAlphaStarは素晴らしい成果を収めたのは確かだが戦略で勝ったわけではない ・本来設定されているユニット間の相性が成立し...
AI関連その他 AlphaStar：StarCraftIIでプロプレーヤーに勝った人工知能(4/3)
１．AlphaStar：StarCraftIIでプロプレーヤーに勝った人工知能(4/3)まとめ ・AlphaStarと対戦したプロは新しい戦略の発見に繋がったと評価 ・AlphaStarで培った技術は他のAI関連作業にも応用が可能 ・AIの...