学習手法 Scaled Q-learning：強化学習も大規模言語モデルみたいに事前学習をしたいです(2/2)
１．Scaled Q-learning：強化学習も大規模言語モデルみたいに事前学習をしたいです(2/2)まとめ ・Scaled Q-Learningは強化学習であるにも関わらず規模を拡大する事が有利になるべき乗スケーリング特性を持っている ...
multi-task learning
学習手法 学習手法 Scaled Q-learning：強化学習も大規模言語モデルみたいに事前学習をしたいです(1/2)
１．Scaled Q-learning：強化学習も大規模言語モデルみたいに事前学習をしたいです(1/2)まとめ ・強化学習は学習結果の流用が難しく、ゼロから学習するのは非常にお金がかかるので敷居を下げる様々な工夫が考案されている ・Scal...
モデル FindIt：テキストの指示に基づいて画像内からサンドイッチの左半分を特定可能な統合モデル(2/2)
１．FindIt：テキストの指示に基づいて画像内からサンドイッチの左半分を特定可能な統合モデル(2/2)まとめ ・３つのタスク全てを同じ入力を取るように適応させ学習の効率化を行った ・全てのタスクに対して標準的な物体検出損失を使ったが驚くほ...
モデル FindIt：テキストの指示に基づいて画像内からサンドイッチの左半分を特定可能な統合モデル(1/2)
１．FindIt：テキストの指示に基づいて画像内からサンドイッチの左半分を特定可能な統合モデル(1/2)まとめ ・物体レベルの識別タスクは３種類あるが別々に研究される事が多い ・３種のタスクに柔軟に対応できるFindItと呼ばれる統一視覚モ...
モデル CoCa：様々な視覚タスクのバックボーンとして利用できる基盤モデル(1/2)
１．CoCa：様々な視覚タスクのバックボーンとして利用できる基盤モデル(1/2)まとめ ・機械学習モデルは幅広いタスクに対応可能な大規模基盤モデルを元に設計する事が多い ・自然言語処理では、BERT、T5、GPT-3などの事前学習済大規模モ...
モデル CoVeR：画像と動画で協調学習を行い行動認識を改善(2/2)
１．CoVeR：画像と動画で協調学習を行い行動認識を改善(2/2)まとめ ・CoVeRで学習したモデルは追加微調整を行う事なく複数のデータセットに直接適用可能 ・複数のデータセットで協調学習したCoVeRは標準的な手法よりも良い結果を出す事...
モデル CoVeR：画像と動画で協調学習を行い行動認識を改善(1/2)
１．CoVeR：画像と動画で協調学習を行い行動認識を改善(1/2)まとめ ・行動認識は応用範囲が広いので研究コミュニティの注目を集める分野となっている ・行動認識モデルを別の異種データセットで調整するとパフォーマンスが低下する ・画像と映像...
ロボット BC-Z:ロボットは完全に新しい作業を指示に従って実行できるようになれるのか？(2/2)
１．BC-Z:ロボットは完全に新しい作業を指示に従って実行できるようになれるのか？(2/2)まとめ ・模倣学習の拡張でロボットが未経験の新しいタスクに対応できるようになる可能性を示した ・言語モデルが学習した概念同士の関連がロボットに柔軟性...
学習手法 TAG：マルチタスク学習で一緒にトレーニングすべきタスクを知る(2/2)
１．TAG：マルチタスク学習で一緒にトレーニングすべきタスクを知る(2/2)まとめ ・TAGは1つのタスクに関してのみモデルのパラメータを更新してその影響を調べる ・ネットワーク内の各タスクが他のタスクとどのように相互作用するかについての情...
学習手法 TAG：マルチタスク学習で一緒にトレーニングすべきタスクを知る(1/2)
１．TAG：マルチタスク学習で一緒にトレーニングすべきタスクを知る(1/2)まとめ ・多くの機械学習モデルは、通常、一度に1つのタスクを学習する事に重点を置いている ・多数のタスクから同時に学習すると性能が向上する場合がありこれをマルチタス...
ヘルスケア SeqSNR：ICU患者の臓器機能不全をマルチタスク学習を使って予測(2/2)
１．SeqSNR：ICU患者の臓器機能不全をマルチタスク学習を使って予測(2/2)まとめ ・ICU患者の治療後の状況を正確に予測する事は患者にとっても人員配置計画にとっても重要 ・従来の機械学習は特定の有害事象だけを予測するシングルタスク学...
ヘルスケア SeqSNR：ICU患者の臓器機能不全をマルチタスク学習を使って予測(1/2)
１．SeqSNR：ICU患者の臓器機能不全をマルチタスク学習を使って予測(1/2)まとめ ・ICU患者の治療後の状況を正確に予測する事は患者にとっても人員配置計画にとっても重要 ・従来の機械学習は特定の有害事象だけを予測するシングルタスク学...