学習手法 オフライン強化学習における未解決の課題への取り組み(3/3)
１．オフライン強化学習における未解決の課題への取り組み(3/3)まとめ ・オフラインRLを改善するためには履歴データにない行動を学習する必要がある ・既存手法は履歴データにない行動を過度に過大評価してしまう問題があった ・基本的に悲観的な予...
学習手法 学習手法 オフライン強化学習における未解決の課題への取り組み(2/3)
１．オフライン強化学習における未解決の課題への取り組み(2/3)まとめ ・D4RLは現実的なアプリケーションを念頭に作られたベンチマークである事が特徴 ・タスクの目的と違う目的を実行した記録から学習する能力などが試される ・タスクと標準化さ...
入門／解説 オフライン強化学習における未解決の課題への取り組み(1/3)
１．オフライン強化学習における未解決の課題への取り組み(1/3)まとめ ・強化学習は医療など試行錯誤によるデータ収集が難しい現実世界には適用が難しい ・オフラインRLは実際に動かさなくても過去に収集されたデータを使って学習可能なため有望 ・...
入門／解説 MentorMix：現実世界の誤ラベルがディープラーニングに及ぼす影響を調査(3/3)
１．MentorMix：現実世界の誤ラベルがディープラーニングに及ぼす影響を調査(3/3)まとめ ・誤ラベルを処理する簡単な方法はクリーンなデータセットで事前トレーニングすること ・合成ノイズで良好に機能する手法は現実のノイズの多いラベルで...
モデル MentorMix：現実世界の誤ラベルがディープラーニングに及ぼす影響を調査(2/3)
１．MentorMix：現実世界の誤ラベルがディープラーニングに及ぼす影響を調査(2/3)まとめ ・MentorMixは合成ノイズと現実世界のノイズの両方に対処できる効果的な手法 ・MentorMixはMentorNetとMixupに基づい...
入門／解説 MentorMix：現実世界の誤ラベルがディープラーニングに及ぼす影響を調査(1/3)
１．MentorMix：現実世界の誤ラベルがディープラーニングに及ぼす影響を調査(1/3)まとめ ・ディープラーニングの学習には大規模データが必要だが大規模になると誤ラベルが混ざる ・ラベルにノイズが多い場合の対処法は研究されてきたが合成し...
モデル LaBSE：言語に依存しないBERT仕様のEmbedding(2/2)
１．LaBSE：言語に依存しないBERT仕様のEmbedding(2/2)まとめ ・Tatoebaに登録されている言語を使った検証では主要14言語では他の手法と大きな差はなかった ・全112言語を含めてテストを行った場合、従来手法に20%近...
基礎理論 LaBSE：言語に依存しないBERT仕様のEmbedding(1/2)
１．LaBSE：言語に依存しないBERT仕様のEmbedding(1/2)まとめ ・多言語アプローチは有用ではあるがパフォーマンスを維持しながら対応言語を増やすのは困難 ・LaBSEは109の言語を使って訓練したBERT仕様で多言語共通なe...
モデル MediaPipe BlazePose：リアルタイムにオンデバイスでポーズを追跡(2/2)
１．MediaPipe BlazePose：リアルタイムにオンデバイスでポーズを追跡(2/2)まとめ ・Tracking Modelはキーポイントの「ヒートマップとオフセット」の組合わせを教師として使用 ・20%の誤差であれな許容範囲(PC...
モデル MediaPipe BlazePose：リアルタイムにオンデバイスでポーズを追跡(1/2)
１．MediaPipe BlazePose：リアルタイムにオンデバイスでポーズを追跡(1/2)まとめ ・動画内の人間のポーズを推定する技術はARやフィットネス向けのアプリなどで重要 ・BlazePoseは人体のポーズを知覚する新しい手法で既...
モデル REALM：言語特徴表現モデルに検索機能を持たせる(2/2)
１．REALM：言語特徴表現モデルに検索機能を持たせる(2/2)まとめ ・REALMでは、最適なドキュメントの選択は、最大内積検索を使っている ・REALMはOpen-QAタスクで30倍以上のパラメータを持つT5を約4ポイント上回った ・画...
学習手法 REALM：言語特徴表現モデルに検索機能を持たせる(1/2)
１．REALM：言語特徴表現モデルに検索機能を持たせる(1/2)まとめ ・事前トレーニング済みモデルは世界に関する知識を事前トレーニングで取得する ・モデルの重みの中に抽象化された概念として取り込まれるため取り扱いが困難 ・REALMは学習...