モデル RNN-T:全てをニューラルネットワークで実装したオンデバイス音声認識の実現(1/2)
１．RNN-T:全てをニューラルネットワークで実装したオンデバイス音声認識の実現(1/2)まとめ ・スマホで実行可能ニューラルネットワークベースの音声認識が発表 ・音声をクラウドに送って認識する従来型システムより応答が早い ・コネクショニス...
モデル AI関連その他 機械学習で自撮りにリアルタイムに拡張現実を適用(3/3)
１．機械学習で自撮りにリアルタイムに拡張現実を適用(3/3)まとめ ・光の反射や他の物体との重なりを意識したAR眼鏡を実現 ・非常にリアルなメイクアップ(化粧)効果も輝度を意識した素材で実現 ・このテクノロジーは最新のARCore SDKで...
学習手法 機械学習で自撮りにリアルタイムに拡張現実を適用(2/3)
１．機械学習で自撮りにリアルタイムに拡張現実を適用(2/3)まとめ ・TensorFlow LiteとGPUバックエンドアクセラレーションでパフォーマンス向上と消費電力削減を達成 ・パフォーマンスと効率特性を変えた様々なモデルアーキテクチャ...
AI関連その他 機械学習で自撮りにリアルタイムに拡張現実を適用(1/3)
１．機械学習で自撮りにリアルタイムに拡張現実を適用(1/3)まとめ ・拡張現実（AR）は、デジタルコンテンツや情報を現実世界に重ね合わせる技術 ・ARを現実に重ね合わせるためには現実世界の動きを正確に補足する必要がある ・2つのディープニュ...
学習手法 GboardにおけるRNNベースの手書き認識(2/2)
１．GboardにおけるRNNベースの手書き認識(1/2)まとめ ・タッチポイントをベジエ曲線にし、ベジエ曲線をQRNNでデコーダ行列に変換する ・デコーダ行列をCTCデコーダで最終的な文字に最も確からしい文字に変換する ・新しい文字認識モ...
入門／解説 GboardにおけるRNNベースの手書き認識(1/2)
１．GboardにおけるRNNベースの手書き認識(1/2)まとめ ・Googleは2015年から手書き文字入力アプリを提供していたが当初は機械学習ベースではなかった ・RNNベースに改良した結果、エラー率を大幅に改善する事ができた ・RNN...
入門／解説 Activation Atlases：画像分類ニューラルネットワークの深部を探索(3/3)
１．Activation Atlases：画像分類ニューラルネットワークの深部を探索(3/3)まとめ ・ニューラルネットワークが画像分類時に背景も考慮している事も明確に視覚化 ・また多様な写真の特徴を組み合わせており食用用途も観賞用途も混在...
入門／解説 Activation Atlases：画像分類ニューラルネットワークの深部を探索(2/3)
１．Activation Atlases：画像分類ニューラルネットワークの深部を探索(2/3)まとめ ・ニューラルネットワークでは層が進むにつれ概念が洗練されていく ・概念の大枠だけではなく、個別の概念も洗練されていく ・また、新しい概念が...
入門／解説 Activation Atlases：画像分類ニューラルネットワークの深部を探索(1/3)
１．Activation Atlases：画像分類ニューラルネットワークの深部を探索(1/3)まとめ ・隠れ層で起きているニューロンの活性化状態を地図にして視覚化しようという試み ・UMAPで高次元ベクトルを二次元に変換しグリッドにまとめて...
学習手法 GPipe：大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(3/3)
１．GPipe：大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(3/3)まとめ ・GPipeを使って5億5,700万のパラメータのAmoebaNet-Bで84.3％のTop-1 Accuracyを達成 ・Top-5 ...
インフラ GPipe：大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(2/3)
１．GPipe：大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(2/3)まとめ ・GPipeを使うとCloud TPUv2で利用可能なパラメータを8200万から3億1800万に増やす事ができる ・TPUv3ではアクセ...
インフラ GPipe：大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(1/3)
１．GPipe：大規模ニューラルネットワークを効率的に訓練するオープンソースライブラリ(1/3)まとめ ・最近のニューラルネットワークはTPUアクセラレータのメモリに収めるのが難しいくらい巨大化している ・しかし、性能とパラメータ数には強い...