学習手法 REALM：言語特徴表現モデルに検索機能を持たせる(1/2)
１．REALM：言語特徴表現モデルに検索機能を持たせる(1/2)まとめ ・事前トレーニング済みモデルは世界に関する知識を事前トレーニングで取得する ・モデルの重みの中に抽象化された概念として取り込まれるため取り扱いが困難 ・REALMは学習...
脳
学習手法 
ヘルスケア HEAD STRONG シリコンバレー式頭がよくなる全技術の読書感想
１．HEAD STRONG シリコンバレー式頭がよくなる全技術の読書感想まとめ ・バターコーヒーで有名になったデイブさんの第2弾は食事以外の頭に良い事も解説 ・基本的には他所でも頭に良いと言われている事であり第1弾ほど極端ではない ・食事部...
学習手法 AttentionAgent：重要度が低い情報を無視する強化学習エージェント(1/2)
１．AttentionAgent：重要度が低い情報を無視する強化学習エージェント(1/2)まとめ ・人間は選択的注意の仕組みにより膨大な情報を圧縮し意思していると考えられている ・強化学習エージェントは逆に全視覚情報に加えて将来予測まで情報...
ライフプラン SPARTAN VIRTUAL RACEに参加
１．SPARTAN VIRTUAL RACEに参加まとめ ・ステイホームをしていると食事が変わってなくても体重が確実に増えてベルトがきつくなる ・このままではコレステロールで血管が詰まる恐れがあるので運動量を増やしたいと考えていた ・丁度、...
ビッグデータ Data Echoing：バッチデータを再利用する事でアクセラレータを最大限に活用(2/2)
１．Data Echoing：バッチデータを再利用する事でアクセラレータを最大限に活用(2/2)まとめ ・画像分類、言語モデリング、物体検出でデータエコーがディスクI/Oを削減できる事が検証された ・場合によっては、データエコーによる再利用...
入門／解説 ハエの脳のニューロン接続を見える化(2/2)
１．ハエの脳のニューロン接続を見える化(2/2)まとめ ・フロードフィリングネットワークにより校正にかかる時間が大幅に短縮できた ・また、自動シナプス検出用のモデルも訓練する事で更に堅牢性を向上した ・ヘミブレインコネクトーム使って中心複合...
入門／解説 ハエの脳のニューロン接続を見える化(1/2)
１．ハエの脳のニューロン接続を見える化(1/2)まとめ ・ショウジョウバエの脳の半分がどのように相互接続されているかニューロン構造の詳細判明 ・昨年時点の研究では３D画像を自動再構築する所まで出来ていたが接続詳細まではわからなかった ・判明...
入門／解説 Explainable AI:説明可能なAI(3/3)
１．Explainable AI:説明可能なAI(3/3)まとめ ・xAIよりAIが内包する偏見(bias)の解決に力を割くべきと主張する人もいる ・人間の意思決定も理由を説明できていない可能性があるが機械に説明を求めるのは意義があるのか？...
入門／解説 Explainable AI:説明可能なAI(2/3)
１．Explainable AI:説明可能なAI(2/3)まとめ ・説明可能なAIを実現するためにはデータとモデルとユーザを理解する事が必要になる ・「説明可能性に関する機能」は、主要部分の設計段階でAIモデル/システムに組み込む必要がある...
入門／解説 Google Research：2019年の振り返りと2020年以降に向けて(5/8)
１．Google Research：2019年の振り返りと2020年以降に向けて(5/8)まとめ ・2019年はニューラルネットワークのトレーニングにどのような力学が働くのか特性を理解を目指した ・AutoMLの研究も継続し、既存モデルの改...
入門／解説 Google Research：2019年の振り返りと2020年以降に向けて(2/8)
１．Google Research：2019年の振り返りと2020年以降に向けて(2/8)まとめ ・AIの他の分野への応用では様々な組織とコラボし多くの論文発表や芸術作品に繋がった ・日常生活を支援するAIとしては視覚、聴覚、音声に困難を抱...
基礎理論 機械学習のトップマインドによる2020年のAI予測(1/3)
１．機械学習のトップマインドによる2020年のAI予測(1/3)まとめ ・AIは単純な精度よりもパフォーマンスに重きを置いて評価されるようになっていく可能性が高い ・機械学習フレームワークの覇権争いは収束し次の主戦場はアクセラレータや量子化...