基礎理論 CAP12：音声の抑揚を理解する小型で普遍的な音声特徴表現(1/3)
１．CAP12：音声の抑揚を理解する小型で普遍的な音声特徴表現(1/3)まとめ ・機械システムは口調、感情、マスク有無など、パラ言語的な側面に苦戦している ・最先端モデルは超大規模なモデルであるためモバイル機器上の実行は現実的でない ・6つ...
基礎理論 
ヘルスケア ProtENN:ディープラーニングでタンパク質に注釈付けをする(3/3)
１．ProtENN:ディープラーニングでタンパク質に注釈付けをする(3/3)まとめ ・ProtENNが配列並びベースの手法と相補的な情報を学習することを実証してアンサンブルした ・取り組みの成果として680万件の新しいタンパク質配列の注釈セ...
ヘルスケア ProtENN:ディープラーニングでタンパク質に注釈付けをする(2/3)
１．ProtENN:ディープラーニングでタンパク質に注釈付けをする(2/3)まとめ ・既存手法は直線的な並びに着目しているがタンパク質は隣接していないアミノ酸の影響も受ける ・畳み込みニューラルネットワークを使用して非局所的なアミノ酸の相互...
ヘルスケア ProtENN:ディープラーニングでタンパク質に注釈付けをする(1/3)
１．ProtENN:ディープラーニングでタンパク質に注釈付けをする(1/3)まとめ ・タンパク質のアミノ酸配列の構造と機能の関係を理解することは科学にとって非常に重要 ・機能が未知のタンパク質はまだ多く、信頼性の高い注釈が付与されていないも...
モデル CoVeR：画像と動画で協調学習を行い行動認識を改善(2/2)
１．CoVeR：画像と動画で協調学習を行い行動認識を改善(2/2)まとめ ・CoVeRで学習したモデルは追加微調整を行う事なく複数のデータセットに直接適用可能 ・複数のデータセットで協調学習したCoVeRは標準的な手法よりも良い結果を出す事...
モデル CoVeR：画像と動画で協調学習を行い行動認識を改善(1/2)
１．CoVeR：画像と動画で協調学習を行い行動認識を改善(1/2)まとめ ・行動認識は応用範囲が広いので研究コミュニティの注目を集める分野となっている ・行動認識モデルを別の異種データセットで調整するとパフォーマンスが低下する ・画像と映像...
プライバシー 厳密な差分プライバシー保証を持つ連合学習(3/3)
１．厳密な差分プライバシー保証を持つ連合学習(3/3)まとめ ・米国国勢調査より強い基準のFLモデルを本番環境に配備するという成果を達成した ・他のMLモデルや製品でも実用的で利用可能であるとはまだ言えず研究は続く ・ユーザーの潜在的なプラ...
プライバシー 厳密な差分プライバシー保証を持つ連合学習(2/3)
１．厳密な差分プライバシー保証を持つ連合学習(2/3)まとめ ・多くの外部要因によって利用可能なデバイスの数が大幅に変化し得るので困難であった ・学習に参加可能な端末が少ないとランダム性がないためプライバシーが緩まる事になる ・累積和と負相...
プライバシー 厳密な差分プライバシー保証を持つ連合学習(1/3)
１．厳密な差分プライバシー保証を持つ連合学習(1/3)まとめ ・連合学習は学習データをデバイスに残したままモデルの学習が可能でプライシー重視 ・ユーザーデータを使って学習するモデルにとって重要なもう一つの原則は匿名化処理 ・差分プライバシー...
モデル CIW:ノイズの多いラベルを使ってディープニューラルネットを訓練する新手法(3/3)
１．CIW:ノイズの多いラベルを使ってディープニューラルネットを訓練する新手法(3/3)まとめ ・Mixupは元データセットから一対のサンプルを抽出して新しいサンプルを人工的に生成する手法 ・MixupをCIW法を使ってクリーンなサンプルに...
モデル CIW:ノイズの多いラベルを使ってディープニューラルネットを訓練する新手法(2/3)
１．CIW:ノイズの多いラベルを使ってディープニューラルネットを訓練する新手法(2/3)まとめ ・標準的なモデルは各サンプルに一律の重みを割り当てるためノイズに過剰適合してしまう ・CIWで学習したモデルはノイズの影響を回避して良好な判定境...
モデル CIW:ノイズの多いラベルを使ってディープニューラルネットを訓練する新手法(1/3)
１．CIW:ノイズの多いラベルを使ってディープニューラルネットを訓練する新手法(1/3)まとめ ・ノイズの多いラベルはクリーンなデータで学習したモデルの精度を低下させることが多い ・ノイズの多いデータで直接機械学習モデルを学習させる手法を新...