モデル MBT：動画における新しいモダリティ融合モデル(2/3)
１．MBT：動画における新しいモダリティ融合モデル(2/3)まとめ ・マルチモーダルモデルで複雑性が増す問題は、注意の流れを削減して緩和する事が可能 ・本研究では融合レイヤーの位置と注意のボトルネックを用いて注意の流れを制限した ・中期融合...
モデル モデル MBT：動画における新しいモダリティ融合モデル(1/3)
１．MBT：動画における新しいモダリティ融合モデル(1/3)まとめ ・人は複数の感覚からの入力を通して世界と関わり情報を組み合わせる事が可能 ・同様に複数の入力を取扱可能なモデルをマルチモーダルな機械学習モデルという ・MBTと呼ぶ動画にお...
アプリケーション 飛行機の運行ルートを最適化し二酸化炭素の排出を削減(2/2)
１．飛行機の運行ルートを最適化し二酸化炭素の排出を削減(2/2)まとめ ・機体割当問題はノードとアーク(円弧)の集合によって特徴づけられる有向グラフと見なせる ・ネットワーク内のフローバランスを維持しながらフローコストの合計を最小化する問題...
アプリケーション 飛行機の運行ルートを最適化し二酸化炭素の排出を削減(1/2)
１．飛行機の運行ルートを最適化し二酸化炭素の排出を削減(1/2)まとめ ・国際民間航空機関が設定したCO2削減目標を達成するため航空会社が知恵を絞っている ・二酸化炭素排出量を削減する方法に適切な機体を適切なルートに配置する事がある ・機体...
学習手法 Shift-Robust GNN：データの偏りに堅牢なグラフニューラルネットワーク(3/3)
１．Shift-Robust GNN：データの偏りに堅牢なグラフニューラルネットワーク(3/3)まとめ ・ラベル付与されたサンプルが偏っている場合にSR-GNN正則化で30～40%の分類性能向上が可能 ・グラフの畳み込みを高速化するために線...
学習手法 Shift-Robust GNN：データの偏りに堅牢なグラフニューラルネットワーク(2/3)
１．Shift-Robust GNN：データの偏りに堅牢なグラフニューラルネットワーク(2/3)まとめ ・データセットの分布の変化と分類精度の間に強い負の相関があり変化に伴い性能が劣化 ・シフト堅牢正則化器で学習サンプルとラベルなしデータサ...
学習手法 Shift-Robust GNN：データの偏りに堅牢なグラフニューラルネットワーク(1/3)
１．Shift-Robust GNN：データの偏りに堅牢なグラフニューラルネットワーク(1/3)まとめ ・GNNは学習サンプルが一様にランダムに選択されるIIDなサンプルである事を仮定している ・現実世界のデータは通常IIDではないため、偏...
モデル SPL:ゆるくラベル付けされた動画に疑似的なラベルを付与して動画認識を改善(3/3)
１．SPL:ゆるくラベル付けされた動画に疑似的なラベルを付与して動画認識を改善(3/3)まとめ ・SPLは様々な事前学習手法のいずれよりも優れておりどのようなデータセットにも適用可能 ・SPLは学習を複雑にせず教師-生徒ベースの学習フレーム...
モデル SPL:ゆるくラベル付けされた動画に疑似的なラベルを付与して動画認識を改善(2/3)
１．SPL:ゆるくラベル付けされた動画に疑似的なラベルを付与して動画認識を改善(2/3)まとめ ・SPLは、教師-生徒学習の枠組みを発展させたシンプルな手法で教師モデルと生徒モデルからなる ・動画検索時に使用したテキストと教師が予測したラベ...
モデル SPL:ゆるくラベル付けされた動画に疑似的なラベルを付与して動画認識を改善(1/3)
１．SPL:ゆるくラベル付けされた動画に疑似的なラベルを付与して動画認識を改善(1/3)まとめ ・動画認識モデルの学習には大量の動画に手動で注釈を付ける必要がある場合が多く労力がかかる ・ゆるくラベル付けした動画から視覚的知識を学習する手法...
基礎理論 CAP12：音声の抑揚を理解する小型で普遍的な音声特徴表現(3/3)
１．CAP12：音声の抑揚を理解する小型で普遍的な音声特徴表現(3/3)まとめ ・生徒モデルをマッチングさせる手法はグローバルとローカルの２種があるがローカルを使った ・パラ言語情報の中間特徴表現は徐々に増加し、次に減少し、再び増加する二峰...
基礎理論 CAP12：音声の抑揚を理解する小型で普遍的な音声特徴表現(2/3)
１．CAP12：音声の抑揚を理解する小型で普遍的な音声特徴表現(2/3)まとめ ・CAP12に基づくモデルは8つのパラ言語タスクの5つでタスク特化モデルよりも優れている ・CAP12をスマートフォンで使えるようにするため知識蒸留を使用して既...