アプリケーション rǝ：ディープラーニングとクラウドソーシングで昔の街並みを再現(2/2)
１．rǝ：ディープラーニングとクラウドソーシングで昔の街並みを再現(2/2)まとめ ・建物の再構築に使用できる歴史的画像は1つしかない事が多く三次元再構成は非常に困難 ・粗い三次元構造を生成した後に窓や階段などの個々の構成部品を再構成して組...
neural network
アプリケーション 
モデル pQRNN：射影とクラスタリングで一部のNLPタスクを効率化(1/2)
１．pQRNN：射影とクラスタリングで一部のNLPタスクを効率化(1/2)まとめ ・昨年発表したPRADOはパラメータ数が少なくとも最先端のパフォーマンスを実現した ・PRADOはタスクに最も関連するトークンのみを学習するためパラメータを少...
ヘルスケア DeepVariant 1.0によるゲノム解析精度の向上(3/4)
１．DeepVariant 1.0によるゲノム解析精度の向上(3/4)まとめ ・DeepVariantはコードが共通なためIllumina、PacBio、Oxford Nanoporeを同時に改善 ・その他にも拡張データセットを使ったトレー...
モデル RigL：ニューラルネットワークの冗長性を動的に最適化(3/3)
１．RigL：ニューラルネットワークの冗長性を動的に最適化(3/3)まとめ ・RigLのパフォーマンスはトレーニング時間を伸ばすと基本時間の百倍までは常に改善された ・ResNet-50では最先端のtop 1精度、MobileNet-v1で...
モデル RigL：ニューラルネットワークの冗長性を動的に最適化(2/3)
１．RigL：ニューラルネットワークの冗長性を動的に最適化(2/3)まとめ ・RigLはランダムマスクから開始し大きな勾配を持つ接続をアクティブする ・大きな勾配を持つ接続は損失を最も迅速に減少させることが期待出来るため ・RigLは他の手...
モデル RigL：ニューラルネットワークの冗長性を動的に最適化(1/3)
１．RigL：ニューラルネットワークの冗長性を動的に最適化(1/3)まとめ ・最新のディープニューラルネットワークアーキテクチャは冗長性が高い場合が多い ・重要度の低い接続を刈り取る事で疎なニューラルネットワークに改良すると性能が上がる ・...
モデル Panoptic-DeepLab:総括的に風景を理解する新手法(2/2)
１．Panoptic-DeepLab:総括的に風景を理解する新手法(2/2)まとめ ・Panoptic-DeepLabはエンコーダ、ASPP、デコーダ、予測ヘッドから構成される ・拡大畳み込みにより通常の畳み込みより物体の境界の詳細を保持す...
入門／解説 AutoML-Zero：誤差逆伝播法をゼロから再発見した進化的アルゴリズム(2/2)
１．AutoML-Zero：誤差逆伝播法をゼロから再発見した進化的アルゴリズム(2/2)まとめ ・AutoML-Zeroは探索空間が非常にまばらになり正確に動作するアルゴリズムが少なくなるケースがある ・適切な時間内に解が見つからない可能性...
モデル Loss-Conditional Training:損失関数を改良してモデルのバリエーションを統合(2/2)
１．Loss-Conditional Training:損失関数を改良してモデルのバリエーションを統合(2/2)まとめ ・学習ベースの画像圧縮に応用すると圧縮率と画像品質を係数で調整する事ができる ・スタイル転送に応用すると元画像との類似性...
モデル EfficientDet：規模の拡張が容易で効率的な物体検出ネットワーク(2/2)
１．EfficientDet：規模の拡張が容易で効率的な物体検出ネットワーク(2/2)まとめ ・EfficientDetは物体検出器の解像度/深さ/幅を一緒に拡大する、新しい複合スケーリング手法を採用 ・三つの最適化の結果、従来の最先端モデ...
モデル EfficientDet：規模の拡張が容易で効率的な物体検出ネットワーク(1/2)
１．EfficientDet：規模の拡張が容易で効率的な物体検出ネットワーク(1/2)まとめ ・物体検出アプリケーションは様々な場所で必要とされるため計算能力の限界など様々な制約を受ける ・様々な制約にも適応できる正確で効率的な物体検出アプ...
学習手法 SimCLR:対照学習により自己教師学習の性能を向上
１．SimCLR:対照学習により自己教師学習の性能を向上 ・同じ画像同士の特徴量を最大化しつつ違う画像同士の特徴量を最小化する事を対照学習という ・SimCLRは自己教師および半教師でありながら対照学習により教師あり学習に迫るスコアを達成 ...