基礎理論 Reformer:効率的なTransformer(1/2)
１．Reformer:効率的なTransformer(1/2)まとめ ・TransformerはLSTMより大きなコンテキストウィンドウを持つため文脈を理解する能力が高い ・しかしTransformerを更に拡張しようとするとAttenti...
基礎理論 
入門／解説 モデルが出力する「予測の不確実性」はどこまで信用できますか？(2/2)
１．モデルが出力する「予測の不確実性」はどこまで信用できますか？(2/2)まとめ ・モデルは予測の不確実性が増した事を認識せずに自信を持って間違う傾向がある ・ディープアンサンブルがデータの変化に対する耐久性を最も改善するシンプルな戦略 ・...
入門／解説 モデルが出力する「予測の不確実性」はどこまで信用できますか？(1/2)
１．モデルが出力する「予測の不確実性」はどこまで信用できますか？(1/2)まとめ ・学習時に使用したデータと製品展開後に扱うデータが同じようなデータ分布になる事は現実世界では少ない ・トレーニングデータと実際のデータの分布に差がある事は「共...
入門／解説 機械学習を利用して今現在の天気予報を行う(3/3)
１．機械学習を利用して今現在の天気予報を行う(3/3)まとめ ・従来の天気予報モデルと比較した結果、短期的未来を予測する能力は機械学習モデルが最も高かった ・しかし、５時間以上先の天気では物理学を考慮するHRRRの性能の方が高かった ・短期...
入門／解説 機械学習を利用して今現在の天気予報を行う(2/3)
１．機械学習を利用して今現在の天気予報を行う(2/3)まとめ ・従来のオプティカルフローアルゴリズムは嵐の勢いが変化する事などは考慮出来ていない ・物理学から得られた大気の動きに関する知見は利用せず、画像予測問題として天気予報に挑戦 ・画像...
入門／解説 機械学習を利用して今現在の天気予報を行う(1/3)
１．機械学習を利用して今現在の天気予報を行う(1/3)まとめ ・従来の天気予報は大規模システムにより１～１０日間の比較的遠い将来の天気が予報されてきた ・０～６時間程度の比較的近い未来の天気を予測するナウキャスティングという予報が増えた ・...
入門／解説 Explainable AI:説明可能なAI(3/3)
１．Explainable AI:説明可能なAI(3/3)まとめ ・xAIよりAIが内包する偏見(bias)の解決に力を割くべきと主張する人もいる ・人間の意思決定も理由を説明できていない可能性があるが機械に説明を求めるのは意義があるのか？...
入門／解説 Explainable AI:説明可能なAI(2/3)
１．Explainable AI:説明可能なAI(2/3)まとめ ・説明可能なAIを実現するためにはデータとモデルとユーザを理解する事が必要になる ・「説明可能性に関する機能」は、主要部分の設計段階でAIモデル/システムに組み込む必要がある...
入門／解説 Explainable AI:説明可能なAI(1/3)
１．Explainable AI:説明可能なAI(1/3)まとめ ・グローバルなAI経済は2022年までに約1.2兆ドルから約3.9兆ドルに増加すると予想されている ・このように広く使われるようになったAIだが根拠を説明できないという問題を...
入門／解説 Google Research：2019年の振り返りと2020年以降に向けて(8/8)
１．Google Research：2019年の振り返りと2020年以降に向けて(8/8)まとめ ・機械学習研究を促進するためにデータセットを公開しGoogle Dataset Searchで探しやすくした ・数百万のタスクを処理しつつ新し...
ロボット Google Research：2019年の振り返りと2020年以降に向けて(7/8)
１．Google Research：2019年の振り返りと2020年以降に向けて(7/8)まとめ ・機械学習をロボットの制御に応用するために特に強化学習を使った研究が行われた ・世界モデルの学習やポリシーにランダム性を取り込む事、オープンソ...
入門／解説 Google Research：2019年の振り返りと2020年以降に向けて(6/8)
１．Google Research：2019年の振り返りと2020年以降に向けて(6/8)まとめ ・従来は分割して段階的に行った作業を大規模ニューラルネットワークで一気にやる事が主流になりつつある ・これらの研究結果はBERTの検索エンジン...