学習手法 Big Transfer(BiT):視覚タスクで大規模な事前トレーニングを活用(2/3)
１．Big Transfer(BiT):視覚タスクで大規模な事前トレーニングを活用(2/3)まとめ ・BERTと同様にBiTも事前トレーニング済みのモデルを下流タスク用データで微調整をして転移学習する ・事前トレーニングで使用する画像の量と...
人工知能/機械学習
学習手法 学習手法 Big Transfer(BiT):視覚タスクで大規模な事前トレーニングを活用(1/3)
１．Big Transfer(BiT):視覚タスクで大規模な事前トレーニングを活用(1/3)まとめ ・視覚タスクにおけるラベル付きデータの欠如を軽減する一般的なアプローチは事前学習 ・事前学習は実際にかなりうまく機能するが非常に大規模データ...
AI関連その他 機械学習を用いて賢い繊維を実現(2/3)
１．機械学習を用いて賢い繊維を実現(2/3)まとめ ・e繊維はシンプルなジェスチャーと操作に対して応答を行う事を設計ガイドラインを定めている ・12人の実験参加者から収集したジェスチャーを機械学習させ94%のジェスチャー認識精度を達成 ・一...
学習手法 Data Echoing：バッチデータを再利用する事でアクセラレータを最大限に活用(1/2)
１．Data Echoing：バッチデータを再利用する事でアクセラレータを最大限に活用(1/2)まとめ ・アクセラレータは並行して処理を増やす事とトレーニングをより速く処理する事で学習速度を向上できる ・並行して処理には限界がある事がわかっ...
モデル 深層強化学習の力でロボットが俊敏で知的な移動を実現(3/3)
１．深層強化学習の力でロボットが俊敏で知的な移動を実現(3/3)まとめ ・階層強化学習では高レベルポリシーと低レベルポリシーは同時にトレーニングされる ・トレーニング目的はロボットの軌道から得られる総報酬を最大化する事 ・学習完了後は高レベ...
学習手法 深層強化学習の力でロボットが俊敏で知的な移動を実現(2/3)
１．深層強化学習の力でロボットが俊敏で知的な移動を実現(2/3)まとめ ・ロボットにオフィス内を移動させる等の複雑なタスクは速度、方向、高さを複数回調整する必要がある ・従来は複雑なタスクを複数の階層的小タスクに分解することで解決していたが...
学習手法 深層強化学習の力でロボットが俊敏で知的な移動を実現(1/3)
１．深層強化学習の力でロボットが俊敏で知的な移動を実現(1/3)まとめ ・強化学習のサンプル効率の悪さは依然として多くのアルゴリズムにとって主要なボトルネック ・脚式ロボットのためのデータ効率の良い強化学習として効率的な学習方法を発表 ・必...
モデル Loss-Conditional Training:損失関数を改良してモデルのバリエーションを統合(2/2)
１．Loss-Conditional Training:損失関数を改良してモデルのバリエーションを統合(2/2)まとめ ・学習ベースの画像圧縮に応用すると圧縮率と画像品質を係数で調整する事ができる ・スタイル転送に応用すると元画像との類似性...
モデル Loss-Conditional Training:損失関数を改良してモデルのバリエーションを統合(1/2)
１．Loss-Conditional Training:損失関数を改良してモデルのバリエーションを統合(1/2)まとめ ・多くの機械学習アプリケーションでは、モデルのパフォーマンスを一つの数値で表現する事ができない ・画質と圧縮率のようなト...
学習手法 深層強化学習を使って半導体チップの設計を自動化
１．深層強化学習を使って半導体チップの設計を自動化 ・機械学習に専用ハードウェアを使用する事が増えているがチップ設計に数年単位の時間がかかる ・チップ設計を強化学習に行わせて、過去の経験から学び、時間をかけて改善するアプローチを実現 ・これ...
モデル ロボット工学における進化的メタラーニングの探索(3/3)
１．ロボット工学における進化的メタラーニングの探索(3/3)まとめ ・ES-MAMLは優れたパフォーマンスを持つが現実世界に展開する事は依然として困難 ・現実世界のデータをできるだけ少なくするために、新規にバッチ山登り法を導入 ・その結果、...
モデル ロボット工学における進化的メタラーニングの探索(2/3)
１．ロボット工学における進化的メタラーニングの探索(2/3)まとめ ・MAMLの代わりに進化的戦略であるES-MAMLを使うと確率性に関する競合を回避できる ・ESはパラメータが少ないため展開が容易で電力効率が高く効率的でコンパクトな学習が...