基礎理論 CAP12：音声の抑揚を理解する小型で普遍的な音声特徴表現(1/3)
１．CAP12：音声の抑揚を理解する小型で普遍的な音声特徴表現(1/3)まとめ ・機械システムは口調、感情、マスク有無など、パラ言語的な側面に苦戦している ・最先端モデルは超大規模なモデルであるためモバイル機器上の実行は現実的でない ・6つ...
self-supervised learning
基礎理論 
モデル MMCC:ラベル付けされていない動画から将来を予測する(2/2)
１．MMCC:ラベル付けされていない動画から将来を予測する(2/2)まとめ ・MMCCはラベル無しで時間的なサイクルを見つけるようにモデルを学習させる ・学習完了後MMCCはビデオの複雑な変化を捉えて意味のある状態変化を識別可能 ・時間的に...
学習手法 取り返しのつかない行動を避ける可逆性を意識した自己教師型強化学習(3/3)
１．取り返しのつかない行動を避ける可逆性を意識した自己教師型強化学習(3/3)まとめ ・時間的順序をモデル化して行動可逆性を予測し探索と制御を効率化出来る事を示した ・自己教師型であるため行動の可逆性に関する事前知識を必要とせず様々な環境に...
学習手法 取り返しのつかない行動を避ける可逆性を意識した自己教師型強化学習(1/3)
１．取り返しのつかない行動を避ける可逆性を意識した自己教師型強化学習(1/3)まとめ ・強化学習エージェントは試行錯誤を繰り返するで元に戻せない行動をしてしまう事がある ・現実のロボットが部品破損につながる可能性のあるアクションを実行するこ...
ヘルスケア MICLe:自己教師あり学習で医療用画像の分類精度を向上(3/3)
１．MICLe:自己教師あり学習で医療用画像の分類精度を向上(3/3)まとめ ・自己教師事前トレーニングは分布がシフトするデータセットに堅牢であった ・自己教師事前トレーニングはラベル効率が高く少ないラベルで性能向上可能 ・自己教師事前トレ...
ヘルスケア MICLe:自己教師あり学習で医療用画像の分類精度を向上(2/3)
１．MICLe:自己教師あり学習で医療用画像の分類精度を向上(2/3)まとめ ・SimCLRはデータ増強によってのみペアを構築するので医療用画像の特性を活用できない ・MICLeはマンモグラムの正面図と側面図など病理を複数視点から撮影した画...
ヘルスケア MICLe:自己教師あり学習で医療用画像の分類精度を向上(1/3)
１．MICLe:自己教師あり学習で医療用画像の分類精度を向上(1/3)まとめ ・医療画像分類にディープラーニングを適用することへの関心が高まっている ・しかし対照学習などの直近の画像分類タスクの進歩は十分に検討されていない ・医療画像分類に...
基礎理論 教師あり学習を使って外れ値を発見する(3/3)
１．教師あり学習を使って外れ値を発見する(3/3)まとめ ・異常検出は必ずしも完全に異なるか否かではなく一部に欠陥があるか否かで定義される ・回転予測と分布増強対照学習はテクスチャ異常検出では高い性能を発揮できない ・テクスチャ異常検出用に...
基礎理論 教師あり学習を使って外れ値を発見する(2/3)
１．教師あり学習を使って外れ値を発見する(2/3)まとめ ・通常の対照学習は、異常値ではない通常のサンプルの特徴表現が球上に均一に分散される ・1クラス対照学習では支障が出るため分布増強(DA:Distribution Augmentati...
基礎理論 教師あり学習を使って外れ値を発見する(1/3)
１．教師あり学習を使って外れ値を発見する(1/3)まとめ ・アノマリー検出、外れ値検出、分布外検出は欠陥品検出や不正取引検出など応用範囲が広い ・1クラスサポートベクターマシンは異常検出に良く使われるが最近の進歩の恩恵を受けていない ・自己...
学習手法 HuBERT：話言葉を音声から直接学習する自己教師あり特徴表現学習(2/2)
１．HuBERT：話言葉を音声から直接学習する自己教師あり特徴表現学習(2/2)まとめ ・HuBERTは完全に音声データだけでトレーニングされたNLPシステムを開発するのに役立つ ・AI音声アシスタントは人が発音するニュアンスや感情を考慮し...
学習手法 HuBERT：話言葉を音声から直接学習する自己教師あり特徴表現学習(1/2)
１．HuBERT：話言葉を音声から直接学習する自己教師あり特徴表現学習(1/2)まとめ ・他の人の話を聞いたり交流するだけで音声をよりよく認識して学習するAIは大きな目標 ・実現には単語だけでなく話者の個性、感情、割り込みなど、多くを分析す...