モデル | ページ 8

CIW:ノイズの多いラベルを使ってディープニューラルネットを訓練する新手法(3/3)

１．CIW:ノイズの多いラベルを使ってディープニューラルネットを訓練する新手法(3/3)まとめ・Mixupは元データセットから一対のサンプルを抽出して新しいサンプルを人工的に生成する手法・MixupをCIW法を使ってクリーンなサンプルに...

2022.03.09

モデル学習手法

１．CIW:ノイズの多いラベルを使ってディープニューラルネットを訓練する新手法(2/3)まとめ・標準的なモデルは各サンプルに一律の重みを割り当てるためノイズに過剰適合してしまう・CIWで学習したモデルはノイズの影響を回避して良好な判定境...

2022.03.08

モデル学習手法

１．CIW:ノイズの多いラベルを使ってディープニューラルネットを訓練する新手法(1/3)まとめ・ノイズの多いラベルはクリーンなデータで学習したモデルの精度を低下させることが多い・ノイズの多いデータで直接機械学習モデルを学習させる手法を新...

2022.03.07

モデル学習手法

１．4D-Net:センサーの奥行情報とカメラのRGB画像を同時に扱う(2/2)まとめ・軽量なNASを用いて２タイプのセンサー入力と特徴表現間の接続を学習させた・4D-Netは従来手法より多いセンサー入力を使用しているが半分の応答速度で精...

2022.03.06

モデル学習手法

１．4D-Net:センサーの奥行情報とカメラのRGB画像を同時に扱う(1/2)まとめ・人間は世界を時間軸を加えた4次元で体感しているが自律走行車やロボットには不可能・センサーで取得した奥行情報と画像を時間的に並んだデータとして組み合わせ...

2022.03.05

モデル学習手法

１．Nested Hierarchical Transformer:ViTに数行のコードを加えるだけでデータ効率を大幅に向上(3/3)まとめ・階層的アーキテクチャは空間的な関係を保持しておりCAMを適用して解釈が可能・モデルの収束速度が...

2022.02.19

モデル学習手法

１．Nested Hierarchical Transformer:ViTに数行のコードを加えるだけでデータ効率を大幅に向上(2/3)まとめ・Nested Hierarchical Transformerは各ノードが持つ情報が重複していな...

2022.02.18

モデル学習手法

１．Nested Hierarchical Transformer:ViTに数行のコードを加えるだけでデータ効率を大幅に向上(1/3)まとめ・Vision Transformer(ViT)とその亜種は視覚理解タスクで最近大きく注目されてい...

2022.02.17

モデル学習手法

１．MixIT：教師なし学習で野鳥の鳴き声を聞き分けて分離する(2/2)まとめ・分離モデルには過剰分離や文脈の喪失などの潜在的な問題が存在している事はわかっている・分離されたチャンネルとオリジナルの音声を使って分類する事で最良の結果を得...

2022.01.30

モデル学習手法

１．MixIT：教師なし学習で野鳥の鳴き声を聞き分けて分離する(1/2)まとめ・機械学習を使って鳥の唄声で種を分類する事は鳴き声の重複や自然音の混入により困難・音声データから自動的に対象音を分離する教師なし学習であるMixIT手法を新規...

2022.01.29

モデル学習手法

１．LaMDA：人間より機知に富んだ会話が可能な対話モデル(2/2)まとめ・品質指標は微調整の有無にかかわらず、モデルパラメータの数とともに一般に改善する・根拠性はモデルサイズが大きくなると向上するが外部の知識源を参照する事が可能・微...

2022.01.28

モデル

１．LaMDA：人間より機知に富んだ会話が可能な対話モデル(1/2)まとめ・LaMDAは最大1370億のパラメータを持つ対話に特化したニューラル言語モデル・微調整を行い外部の知識ソースを活用する方法をモデルを教えて品質を向上した・品質...

2022.01.27

モデル