基礎理論 CAP12:音声の抑揚を理解する小型で普遍的な音声特徴表現(2/3) 1.CAP12:音声の抑揚を理解する小型で普遍的な音声特徴表現(2/3)まとめ ・CAP12に基づくモデルは8つのパラ言語タスクの5つでタスク特化モデルよりも優れている ・CAP12をスマートフォンで使えるようにするため知識蒸留を使用して既... 2022.03.19 基礎理論
基礎理論 モデルのアンサンブルは貴方が思っているよりも凄い(2/2) 1.モデルのアンサンブルは貴方が思っているよりも凄い(2/2)まとめ ・モデルカスケードはアンサンブルの早期終了を可能にするため計算量を節約できる場合がある ・カスケードは調査した全ケースで単一モデルよりも優れた性能を示し速度や精度が向上 ... 2021.11.28 基礎理論
基礎理論 ディープなネットワークもワイドなネットワークも同じ事を学習しているのか?(1/2) 1.ディープなネットワークもワイドなネットワークも同じ事を学習しているのか?(1/2)まとめ ・ニューラルネットワークの性能を調整する際はネットワークの深さや幅が調整される ・しかし精度以外にこれらの違いがどのように影響するかについての理解... 2021.05.13 基礎理論
入門/解説 Deep Double Descent:ディープラーニングは二度、パフォーマンスが向上する(1/2) 1.Deep Double Descent:ディープラーニングは二度、パフォーマンスが向上する(1/2)まとめ ・モデルサイズ、データサイズ、トレーニング時間を増加させるとパフォーマンスは向上し悪化し向上する ・この現象はCNN、ResNe... 2019.12.08 入門/解説