AI

47/114ページ

Activation Atlases:画像分類ニューラルネットワークの深部を探索(1/3)

AI
  • 2019.03.10

1.Activation Atlases:画像分類ニューラルネットワークの深部を探索(1/3)まとめ ・隠れ層で起きているニューロンの活性化状態を地図にして視覚化しようという試み ・UMAPで高次元ベクトルを二次元に変換しグリッドにまとめて一目で閲覧可能に ・これによりニューラルネットワークの内部で起きている事が更に理解しやすくなった 2.Activation Atlasesとは? 以下、ai.g […]

GPipe:大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(3/3)

AI
  • 2019.03.09

1.GPipe:大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(3/3)まとめ ・GPipeを使って5億5,700万のパラメータのAmoebaNet-Bで84.3%のTop-1 Accuracyを達成 ・Top-5 Accuracyでは97%、どちらも追加データなしに達成 ・CIFAR-10の最高精度99%、そしてCIFAR-100の精度も91.3%を達成 2.GPipeに […]

GPipe:大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(2/3)

AI
  • 2019.03.08

1.GPipe:大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(2/3)まとめ ・GPipeを使うとCloud TPUv2で利用可能なパラメータを8200万から3億1800万に増やす事ができる ・TPUv3ではアクセラレータのメモリが16 GBに倍増しており更に多いパラメータが利用可能になる ・また、モデルを分割してアクセラレータに分散させる事により3.5倍の速度アップも見 […]

GPipe:大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(1/3)

AI
  • 2019.03.07

1.GPipe:大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(1/3)まとめ ・最近のニューラルネットワークはTPUアクセラレータのメモリに収めるのが難しいくらい巨大化している ・しかし、性能とパラメータ数には強い相関がありニューラルネットワークの大規模化は避けえない ・GPipeはモデルとデータを分割して学習させる事により大規模ネットワークの学習を可能にする 2.GPi […]

AutoRL:自動強化学習による長距離ロボットナビゲーションの実現(3/3)

AI
  • 2019.03.06

1.AutoRL:自動強化学習による長距離ロボットナビゲーションの実現(3/3)まとめ ・PRM-RLにAutoRLでトレーニングしたローカルプランナーを組み合わせる等多数の改良をした ・SLAMマップでsim2realギャップの解消に成功し、分散型ロードマップで大規模マップにも対応した ・数百メートル範囲を自律的に移動可能なロボットの実現し、移動困難な人々の自律性を支援する道を開いた 2.Aut […]

1 47 114