学習手法 Dreamer：長期視点で考える事が出来る強化学習(3/3)
１．Dreamer：長期視点で考える事が出来る強化学習(3/3)まとめ ・モデルベースのエージェントは500万フレーム未満、シミュレーション内の28時間で効率的に学習可能 ・モデルフリーのエージェントは学習が遅く1億フレーム、23日間に相当...
学習手法 学習手法 Dreamer：長期視点で考える事が出来る強化学習(2/3)
１．Dreamer：長期視点で考える事が出来る強化学習(2/3)まとめ ・強力な世界モデルでさえ、正確に予測できる範囲が限られており多くは近視眼的だった ・Dreamerは、バリューネットワークとアクターネットワークでこの制限を克服 ・Dr...
モデル Dreamer：長期視点で考える事が出来る強化学習(1/3)
１．Dreamer：長期視点で考える事が出来る強化学習(1/3)まとめ ・世界モデルを使用しない強化学習は学習に大量の試行錯誤と時間が必要なため実用性が制限される ・世界モデルを使用する強化学習もプランニングメカニズムがネックになり能力が制...
モデル Neural Tangents：高速に手軽にニューラルネットワークの幅を無限に拡張(2/2)
１．Neural Tangents：高速に手軽にニューラルネットワークの幅を無限に拡張(2/2)まとめ ・無限幅のアンサンブルは単純な閉形式であるが有限幅のアンサンブルと顕著に一致している ・無限幅のニューラルネットワークは有限幅のネットワ...
モデル Neural Tangents：高速に手軽にニューラルネットワークの幅を無限に拡張(1/2)
１．Neural Tangents：高速に手軽にニューラルネットワークの幅を無限に拡張(1/2)まとめ ・最近の多くの研究結果はDNNの幅を無限に拡張していくとガウス過程に収束していく事を示している ・この収束が有効である限り勾配降下の収束...
モデル Soli：Pixel4のMotion Senseを実現する革新的なレーダー(3/3)
１．Soli：Pixel4のMotion Senseを実現する革新的なレーダー(3/3)まとめ ・ジェスチャーを分類するには、2つの課題とサイズや電力要件をクリアする必要があった ・1つは全てのユーザーが固有の動きをする事で、スワイプなどの...
モデル Soli：Pixel4のMotion Senseを実現する革新的なレーダー(2/3)
１．Soli：Pixel4のMotion Senseを実現する革新的なレーダー(2/3)まとめ ・Soliは繊細な動きを検出して認識するために、受信信号の時間的変化を利用 ・ターゲットの位置のズレは物体の速度に比例してドップラー周波数として...
AI関連その他 Soli：Pixel4のMotion Senseを実現する革新的なレーダー(1/3)
１．Soli：Pixel4のMotion Senseを実現する革新的なレーダー(1/3)まとめ ・Pixel 4はMotion Senseによりスマートフォンに触れることなくさまざまな方法でPixelを操作可能 ・Motion Senseは...
その他の分野 MediaPipe Objectron:モバイル上でリアルタイムに物体の三次元形状を認識(2/2)
１．MediaPipe Objectron:モバイル上でリアルタイムに物体の三次元形状を認識(2/2)まとめ ・実世界データとAR合成データを組み合わせることで、精度を約10%向上させる事に成功 ・バックボーンとなっている技術は、Mobil...
モデル MediaPipe Objectron:モバイル上でリアルタイムに物体の三次元形状を認識(1/2)
１．MediaPipe Objectron:モバイル上でリアルタイムに物体の三次元形状を認識(1/2)まとめ ・物体検出は広く研究されているが、ほとんどの研究は二次元で物体を検出する技術 ・MediaPipe Objectronはモバイル上...
学習手法 ELECTRA：NLPの事前トレーニングを効率的に改良(2/2)
１．ELECTRA：NLPの事前トレーニングを効率的に改良(2/2)まとめ ・ELECTRAを他のNLPモデルと比較すると同じ計算量であれば従来の方法よりも大幅にスコアが改善した ・単一GPUで4日間で学習可能でELECTRA-smallは...
学習手法 ELECTRA：NLPの事前トレーニングを効率的に改良(1/2)
１．ELECTRA：NLPの事前トレーニングを効率的に改良(1/2)まとめ ・既存のNLP用の事前トレーニング手法には言語モデルとマスク言語モデルの２種類がある ・マスク言語モデルは双方向なので言語モデルより優位だが入力文の全てを学習に利用...