入門／解説 Google Research：2019年の振り返りと2020年以降に向けて(6/8)
１．Google Research：2019年の振り返りと2020年以降に向けて(6/8)まとめ ・従来は分割して段階的に行った作業を大規模ニューラルネットワークで一気にやる事が主流になりつつある ・これらの研究結果はBERTの検索エンジン...
transformer
入門／解説 入門／解説 Google Research：2019年の振り返りと2020年以降に向けて(5/8)
１．Google Research：2019年の振り返りと2020年以降に向けて(5/8)まとめ ・2019年はニューラルネットワークのトレーニングにどのような力学が働くのか特性を理解を目指した ・AutoMLの研究も継続し、既存モデルの改...
AI関連その他 Google Research：2019年の振り返りと2020年以降に向けて(4/8)
１．Google Research：2019年の振り返りと2020年以降に向けて(4/8)まとめ ・新たに開発した54量子ビットプロセッサで量子超越性を達成し一万年かかる計算を200秒で実現 ・計算時に発生する量子エラーの訂正に焦点を当てて...
ヘルスケア Google Research：2019年の振り返りと2020年以降に向けて(3/8)
１．Google Research：2019年の振り返りと2020年以降に向けて(3/8)まとめ ・機械学習をクラウド上ではなくスマートフォン上で実行する事に注力し音声、視覚、文字の認識が可能に ・これによりプライバシー保護と応答速度向上、...
入門／解説 Google Research：2019年の振り返りと2020年以降に向けて(2/8)
１．Google Research：2019年の振り返りと2020年以降に向けて(2/8)まとめ ・AIの他の分野への応用では様々な組織とコラボし多くの論文発表や芸術作品に繋がった ・日常生活を支援するAIとしては視覚、聴覚、音声に困難を抱...
入門／解説 Google Research：2019年の振り返りと2020年以降に向けて(1/8)
１．Google Research：2019年の振り返りと2020年以降に向けて(1/8)まとめ ・Google Researchを率いるJeff Deanによる恒例の年初投稿。去年の振り返りと今後の方向性 ・AIの倫理的利用についてはモデ...
入門／解説 人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(1/3)
１．人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(1/3)まとめ ・AIが現実世界で益々使われるようになり拡張現実を組み合わせることで顧客体験が変わっていく可能性 ・2020年も言語モデルの分野で目覚...
基礎理論 機械学習のトップマインドによる2020年のAI予測(3/3)
１．機械学習のトップマインドによる2020年のAI予測(3/3)まとめ ・ニューラルネットワークを訓練する際の計算は非常に無駄が多く根本的な再考が必要 ・AIの解釈可能性の向上にはニューラルシンボリックアプローチが有用とIBMは考えている ...
入門／解説 機械学習のトップマインドによる2020年のAI予測(2/3)
１．機械学習のトップマインドによる2020年のAI予測(2/3)まとめ ・Jeff Deanはマルチモーダル学習とマルチタスク学習の進歩を期待 ・Anandkumarは反復アルゴリズム、自己教師学習の進化を予測 ・顔認識AIなど個人のプライ...
基礎理論 機械学習のトップマインドによる2020年のAI予測(1/3)
１．機械学習のトップマインドによる2020年のAI予測(1/3)まとめ ・AIは単純な精度よりもパフォーマンスに重きを置いて評価されるようになっていく可能性が高い ・機械学習フレームワークの覇権争いは収束し次の主戦場はアクセラレータや量子化...
基礎理論 ALBERT:軽量化と冗長性排除をしたBERT(1/2)
１．ALBERT:軽量化と冗長性排除をしたBERT(1/2)まとめ ・AIのNLPのパフォーマンスを向上させている主要な要因は複雑で特定は困難 ・ALBERTを設計していく中で得られた鍵は、モデルの容量をより効率的に割り当てる事であった ・...
入門／解説 Deep Double Descent:ディープラーニングは二度、パフォーマンスが向上する(2/2)
１．Deep Double Descent:ディープラーニングは二度、パフォーマンスが向上する(2/2)まとめ ・4.5倍以上のサンプルを使ってトレーニングをしているのにパフォーマンスが低下してしまう事もある ・逆により多くの学習をさせる事...