モデル MGDT：41種のゲームを人間同等にプレイ可能なTransformer(2/2)
１．MGDT：41種のゲームを人間同等にプレイ可能なTransformer(2/2)まとめ ・MGDTは様々な経験を学習した方が専門家レベルのデモのみを学習するより優れている ・他の学習システムと比較してモデルサイズの増加に伴う性能向上がよ...
モデル モデル MGDT：41種のゲームを人間同等にプレイ可能なTransformer(1/2)
１．MGDT：41種のゲームを人間同等にプレイ可能なTransformer(1/2)まとめ ・現在の強化学習は様々な個別タスクの意思決定に秀でるが汎用性に関する研究は少ない ・自然言語、視覚、生成モデルの分野ではTransformerが活躍...
ヘルスケア 転移学習手順を改良して医療用モデルを少量データでも開発しやすくする(2/2)
１．転移学習手順を改良して医療用モデルを少量データでも開発しやすくする(2/2)まとめ ・事前学習を３ステップにする事で最大で600倍少ないデータで高品質なモデルを学習可能 ・この手法はモデルのアーキテクチャやデータセットに依存しないことが...
ヘルスケア 転移学習手順を改良して医療用モデルを少量データでも開発しやすくする(1/2)
１．転移学習手順を改良して医療用モデルを少量データでも開発しやすくする(1/2)まとめ ・胸部X線画像は一般に他の医療用画像診断よりも安価で身近な存在だが有効活用できていない ・機械学習モデルは有効活用に貢献するが大規模なラベル付きデータは...
学会 ICML 2022におけるGoogleの存在感
１．ICML 2022におけるGoogleの存在感まとめ ・7/17から7/22の間インターネット上のヴァーチャルイベントとしてICML 2022が開催 ・Google社員も多数参加し101の論文やワークショップを12、チュートリアルを3開...
学習手法 Plex:何をすればディープラーニングの信頼性を高める事が出来るのか？(2/2)
１．Plex:何をすればディープラーニングの信頼性を高める事が出来るのか？(2/2)まとめ ・Plexは各サブモデルが予測を行って集約することでより効率的なアンサンブルを行う ・Plexはタスク毎にチューニングせずともモデルの出力そのままで...
学習手法 Plex:何をすればディープラーニングの信頼性を高める事が出来るのか？(1/2)
１．Plex:何をすればディープラーニングの信頼性を高める事が出来るのか？(1/2)まとめ ・機械学習は学習データから分離したテストデータに適用した場合に最も精度が高くなる ・しかし、現実世界で直面するデータが学習データと一致している事はほ...
データセット 画像の説明文を利用して視覚的質問回答データを作成(2/2)
１．画像の説明文を利用して視覚的質問回答データを作成(2/2)まとめ ・質問回答モデルと質問生成モデルの両方を使用して一貫性をチェックした ・既存データセットから生成したサンプルの66%~87%が妥当と評価された ・従来データに存在しなかっ...
データセット 画像の説明文を利用して視覚的質問回答データを作成(1/2)
１．画像の説明文を利用して視覚的質問回答データを作成(1/2)まとめ ・視覚的質問回答(VQA)は画像から視覚的に読み取れる質問に回答するシステム ・視覚と自然言語を同時に扱う必要がありマルチタスクで質問範囲が限定されていない ・VQAシス...
モデル CMT-DeepLa：パノプティックセグメンテーションをクラスタ問題として考える(2/2)
１．CMT-DeepLab：パノプティックセグメンテーションをクラスタ問題として考える(2/2)まとめ ・マスクtransformerをクラスタリングの観点から再定義すると性能と解釈可能性が大幅に向上 ・kMaX-DeepLabは修正が簡単...
モデル CMT-DeepLa：パノプティックセグメンテーションをクラスタ問題として考える(1/2)
１．CMT-DeepLab：パノプティックセグメンテーションをクラスタ問題として考える(1/2)まとめ ・パノプティックセグメンテーションは車や人等の実体と雲や道路等の意味的存在を同時に扱う ・従来はインスタンスセグメンテーションとセマンテ...
学習手法 Director：マネージャーの上に社長を配置して疎らな報酬に挑む(2/2)
１．Director：マネージャーの上に社長を配置して疎らな報酬に挑む(2/2)まとめ ・Directorは世界モデルに基づく2つの最先端アルゴリズムより高いスコアを出した ・必ずしも長期目線の探索を必要としてないタスクでも高いスコアを出せ...