モデル 幅広い内容の質問に長文で回答可能な質問回答システムの進歩と課題(2/2)
１．幅広い内容の質問に長文で回答可能な質問回答システムの進歩と課題(2/2)まとめ・Routing TransformersとREALMに基づいた質問応答システムは従来のスコアを更新・しかし既存のベンチマークには進歩を妨げるいくつかの問題が...
transformer
モデル モデル 幅広い内容の質問に長文で回答可能な質問回答システムの進歩と課題(1/2)
１．幅広い内容の質問に長文で回答可能な質問回答システムの進歩と課題(1/2)まとめ・事実に基づく質問回答タスクに比べると長文形式の質問回答タスクの研究は非常に少ない・長文形式の質問回答をRouting Transformerと検索ベースのモ...
基礎理論 Deep Bootstrap Framework：データが無限に存在する世界ではディープラーニングはどうなるか？(2/2)
１．Deep Bootstrap Framework：データが無限に存在する世界ではディープラーニングはどうなるか？(2/2)まとめ・優れたモデルとトレーニングとは、理想世界で迅速で現実世界では迅速すぎない事・事前トレーニングの主な効果は理...
基礎理論 ディープラーニングコースを受講した生徒からの興味深い質問(4/4)
１．ディープラーニングコースを受講した生徒からの興味深い質問(4/4)まとめ・パラメータ数は相関且つ冗長なためモデル容量の目安として最適ではない・モデル容量は一般化に関連するがDNNを把握するための概念ではなさそう・専門家以外の人に、AGI...
アプリケーション より少ないデータから表形式データを推論することを学習(2/2)
１．より少ないデータから表形式データを推論することを学習(2/2)まとめ・パフォーマンスを向上させるために反事実条件と合成の2つの新しい事前トレーニングを導入・経験則を用いてデータの一部分のみを使って計算効率を最適化出来ないかを調査・トーク...
アプリケーション より少ないデータから表形式データを推論することを学習(1/2)
１．より少ないデータから表形式データを推論することを学習(1/2)まとめ・自然言語推論は通常の文章を対象にした研究は多いが構造化データに適用する研究は少ない・EMNLP 2020で表形式データ解析用にカスタマイズされた初の事前トレーニングタ...
アプリケーション Jukebox：歌声を含む生のオーディオを生成可能なニューラルネット(2/2)
１．Jukebox：歌声を含む生のオーディオを生成可能なニューラルネット(2/2)まとめ・Jukeboxは局所的には一貫性のある音楽を作成できるが曲全体で見るとまだ構造把握が甘い・ダウンサンプリングとアップサンプリングを行っているためノイズ...
アプリケーション Jukebox：歌声を含む生のオーディオを生成可能なニューラルネット(1/2)
１．Jukebox：歌声を含む生のオーディオを生成可能なニューラルネット(1/2)まとめ・音楽におけるスタイル転送が歌声を含む生の音声データで可能なOpen AIのJukeboxの紹介・CD品質の音楽は1,000万を超えるタイムステップにな...
AI関連その他 Google Research：2020年の振り返りと2021年以降に向けて(3/5)
１．Google Research：2020年の振り返りと2021年以降に向けて(3/5)まとめ・機械学習アルゴリズムや基礎理論の研究により効率的な手法の探求が前進・強化学習は履歴データの利用やサンプル効率の向上、適用分野の拡大・AutoM...
AI関連その他 Google Research：2020年の振り返りと2021年以降に向けて(2/5)
１．Google Research：2020年の振り返りと2021年以降に向けて(2/5)まとめ・機械学習の応用は脳の構造解析から有望な分子化合物の探索、チップセットの設計など多岐に・責任あるAIは解釈可能性の向上やバイアスの削減、安全性の...
モデル CLIP：学習していない視覚タスクを実行可能なニューラルネット(3/3)
１．CLIP：学習していない視覚タスクを実行なニューラルネット(3/3)まとめ・CLIPは一般的な物体認識には優れているが抽象的または体系的なタスクには苦戦・CLIPは、言葉遣いや言い回しに過敏で機能させるために試行錯誤も必要・分類対象の設...
モデル CLIP：学習していない視覚タスクを実行可能なニューラルネット(2/3)
１．CLIP：学習していない視覚タスクを実行なニューラルネット(2/3)まとめ・ゼロショット機能実現は単純に事前トレーニングタスクを規模拡大するだけで十分だった・CLIPは視覚タスクの抱える課題であるデータが高コストである事などを軽減する・...