基礎理論

基礎理論

CAP12:音声の抑揚を理解する小型で普遍的な音声特徴表現(1/3)

1.CAP12:音声の抑揚を理解する小型で普遍的な音声特徴表現(1/3)まとめ ・機械システムは口調、感情、マスク有無など、パラ言語的な側面に苦戦している ・最先端モデルは超大規模なモデルであるためモバイル機器上の実行は現実的でない ・6つ...
基礎理論

オームの法則を使って代替経路問題を解く(2/2)

1.オームの法則を使って代替経路問題を解く(2/2)まとめ ・電流を求めるにはキルヒホッフの法則とオームの法則を用いて電圧に関する方程式を解く ・方程式を高速で解くためにガウスの消去法を使って回路をシンプルに変換する ・ボトルネックを特定す...
基礎理論

オームの法則を使って代替経路問題を解く(1/2)

1.オームの法則を使って代替経路問題を解く(1/2)まとめ ・電気の流れの興味深い特性を道路ネットワークの経路問題に応用した事例の紹介 ・送信元と送信先の間に代替経路を構築する問題で電気の流れから得たアイデアを利用 ・抵抗を区間を横断するの...
学習手法

StylEx:犬と猫の違いは何かを視覚的に説明する新しい手法(2/2)

1.StylEx:犬と猫の違いは何かを視覚的に説明する新しい手法(2/2)まとめ ・StylExは分類器を説明するものであり、現実世界の分類を説明するものではない ・現実世界におけるクラスラベル間の物理的な違いを特徴付けるとは限らない ・分...
学習手法

StylEx:犬と猫の違いは何かを視覚的に説明する新しい手法(1/2)

1.StylEx:犬と猫の違いは何かを視覚的に説明する新しい手法(1/2)まとめ ・ニューラルネットワークが何に着目して画像を分類しているか特定する事は困難 ・従来手法は注目している場所や全体的な特徴はわかるが特徴が分離できていない ・St...
基礎理論

BERTは文法を理解しているのか?頻度を見ているだけなのか?(2/2)

1.BERTは文法を理解しているのか?頻度を見ているだけなのか?(2/2)まとめ ・BERTは主語と動詞の一致ルールで単純な経験則モデルより良い性能である ・主語と動詞が一致すべき事と高頻度の単語がより可能性が高い事を知っている ・一致が従...
基礎理論

BERTは文法を理解しているのか?頻度を見ているだけなのか?(1/2)

1.BERTは文法を理解しているのか?頻度を見ているだけなのか?(1/2)まとめ ・言語モデルは機能する理由が不透明な事が多く更なる改善の妨げになっている ・英語の主語と動詞の一致規則を正しく適用するBERTモデルの能力を調査した ・初見の...
基礎理論

RLiable: 強化学習における信頼性の高い性能評価指標(2/2)

1.RLiable: 強化学習における信頼性の高い性能評価指標(2/2)まとめ ・同じ実験を他で繰り返した場合の集約指標を予測する層別ブートストラップ信頼区間を提唱 ・パフォーマンスプロファイルによりアルゴリズム間の定性的な比較が一目瞭然と...
基礎理論

RLiable: 強化学習における信頼性の高い性能評価指標(1/2)

1.RLiable: 強化学習における信頼性の高い性能評価指標(1/2)まとめ ・平均値や中央値などを評価指標にしたままでは強化学習の性能を見誤る可能性がある ・より多く試行して性能評価する事は限られた計算機資源の観点から現実的ではない ・...
基礎理論

モデルのアンサンブルは貴方が思っているよりも凄い(2/2)

1.モデルのアンサンブルは貴方が思っているよりも凄い(2/2)まとめ ・モデルカスケードはアンサンブルの早期終了を可能にするため計算量を節約できる場合がある ・カスケードは調査した全ケースで単一モデルよりも優れた性能を示し速度や精度が向上 ...
基礎理論

モデルのアンサンブルは貴方が思っているよりも凄い(1/2)

1.モデルのアンサンブルは貴方が思っているよりも凄い(1/2)まとめ ・アンサンブルとカスケードは既存のモデルを集めてその出力を組み合わせて解とする手法 ・アンサンブルはよく知られているがディープモデルの中核要素とは見なされていない事が多い...
プライバシー

実用的な差分プライベートクラスタリング(2/2)

1.実用的な差分プライベートクラスタリング(2/2)まとめ ・プライベート・クラスタリング・アルゴリズムの前処理は通常と異なるので留意が必要 ・今回のアルゴリズムは全てのデータポイントが収まるような半径の入力が必要 ・半径が正確である必要は...