基礎理論 Underspecification：検証データで測定した精度のみに頼る事の落とし穴(3/3)
１．Underspecification：検証データで測定した精度のみに頼る事の落とし穴(2/3)まとめ ・標準的な検証データセットを使ったテストだけでは医療用モデルの動作を保証できていない ・自然言語処理など他のタスクでも性別に相関する挙...
人工知能/機械学習
基礎理論 基礎理論 Underspecification：検証データで測定した精度のみに頼る事の落とし穴(2/3)
１．Underspecification：検証データで測定した精度のみに頼る事の落とし穴(2/3)まとめ ・ImageNetで良好に機能する画像分類モデルは破損画像では不十分な性能しか出せない ・ImageNetで同等パフォーマンスを達成す...
基礎理論 Underspecification：検証データで測定した精度のみに頼る事の落とし穴(1/3)
１．Underspecification：検証データで測定した精度のみに頼る事の落とし穴(1/3)まとめ ・機械学習モデルは現実世界で使用すると予期していなかった動作をする事がある ・検証を行ったモデルであっても製品展開後に一貫性がなくなる...
モデル SimVLM：弱い教師を使ったシンプルな視覚言語モデル(2/2)
１．SimVLM：弱い教師を使ったシンプルな視覚言語モデル(2/2)まとめ ・SimVLMは非常に単純な構成であるにもかかわらず最先端のモデルを凌駕 ・微調整せずともドイツ語で画像の説明文を作成するなどゼロショットが可能 ・SimVLMは教...
モデル SimVLM：弱い教師を使ったシンプルな視覚言語モデル(1/2)
１．SimVLM：弱い教師を使ったシンプルな視覚言語モデル(1/2)まとめ ・視覚言語モデリングは、視覚的な入力に言語を対応させて理解する土台となる ・視覚入力と言語入力の両方から単一の特徴空間を学習する手法で近年大きく進歩した ・SimV...
基礎理論 ディープラーニング比較用のベースラインを利用しやすくする(2/2)
１．ディープラーニング比較用のベースラインを利用しやすくする(2/2)まとめ ・不確実性ベースラインでは、モデル、データセット、評価指標を選択可能 ・各ベースラインのトレーニング/評価パイプラインはPythonファイルに含まれる ・ベースラ...
基礎理論 ディープラーニング比較用のベースラインを利用しやすくする(1/2)
１．ディープラーニング比較用のベースラインを利用しやすくする(1/2)まとめ ・MLモデルのパフォーマンスは「基準となるモデル(ベースライン)」と比較して測定される ・ベースラインモデルを説明している論文からベースラインモデルを完全再現する...
ヘルスケア MICLe:自己教師あり学習で医療用画像の分類精度を向上(3/3)
１．MICLe:自己教師あり学習で医療用画像の分類精度を向上(3/3)まとめ ・自己教師事前トレーニングは分布がシフトするデータセットに堅牢であった ・自己教師事前トレーニングはラベル効率が高く少ないラベルで性能向上可能 ・自己教師事前トレ...
ヘルスケア MICLe:自己教師あり学習で医療用画像の分類精度を向上(2/3)
１．MICLe:自己教師あり学習で医療用画像の分類精度を向上(2/3)まとめ ・SimCLRはデータ増強によってのみペアを構築するので医療用画像の特性を活用できない ・MICLeはマンモグラムの正面図と側面図など病理を複数視点から撮影した画...
ヘルスケア MICLe:自己教師あり学習で医療用画像の分類精度を向上(1/3)
１．MICLe:自己教師あり学習で医療用画像の分類精度を向上(1/3)まとめ ・医療画像分類にディープラーニングを適用することへの関心が高まっている ・しかし対照学習などの直近の画像分類タスクの進歩は十分に検討されていない ・医療画像分類に...
学会 ICCV 2021におけるGoogleの存在感
１．ICCV 2021におけるGoogleの存在感まとめ ・10/10-10/17にネット上のヴァーチャルイベントとしてICCV 2021が開催 ・Google社員も多数参加し50以上の出版物の公開やワークショップを開催 ・本サイトで概要を...
モデル FLAN：指示調整により初見タスク実行能力を向上した言語モデル(2/2)
１．FLAN：指示調整により初見タスク実行能力を向上した言語モデル(2/2)まとめ ・FLANはGPT-3よりサイズが小さいがゼロショット設定のGPT-3を上回った ・一部のタスクでは小数ショット設定のGPT-3よりも優れた結果を出した ・...