入門／解説 フレシェ距離を使用したオーディオとビジュアルの品質測定(1/3)
１．フレシェ距離を使用したオーディオとビジュアルの品質測定(1/3)まとめ ・生成モデルが生成した画像や音声を定量的に評価する手法は従来は存在しなかった ・この課題を解決するフレシェオーディオ距離(FAD)とフレシェビデオ距離(FVD)の2...
調査/研究
入門／解説 入門／解説 敵対的サンプルはバグではなく人間には知覚できない高度な特徴(4/5)
１．敵対的サンプルはバグではなく人間には知覚できない高度な特徴(4/5)まとめ ・最近の研究は敵対的サンプルは、分類に関係のない特徴を活用していると言う世界観を支持している ・しかし、今回の研究結果は分類に関係のない特徴を活用していると言う...
入門／解説 最も役に立った機械学習に関する10の無料オンラインコース
１．最も役に立った機械学習に関する10の無料オンラインコースまとめ ・FastAIのJeremy HowardさんがTwitterで紹介してたまとめの意訳 ・英語の授業ですがどんなコースが評価されてるかの目安として ・良い評判を聞いた事のあ...
入門／解説 M4:超多言語、大規模ニューラル機械翻訳(2/3)
１．M4:超多言語、大規模ニューラル機械翻訳(2/3)まとめ ・使用可能なすべてのデータを使用してトレーニングすると低リソース言語の翻訳品質が劇的に向上 ・超多言語モデルは一般化に効果的であり多言語全体の特徴表現の類似性を捕捉できている可能...
入門／解説 M4:超多言語、大規模ニューラル機械翻訳(1/3)
１．M4:超多言語、大規模ニューラル機械翻訳(1/3)まとめ ・機械翻訳システムの品質は飛躍的に進歩しているが品質は学習用データの量に依存している ・学習用データが少ない言語では学習用データが多い言語ほど品質を向上できていない問題がある ・...
入門／解説 ROBEL:3Dプリンタで作成可能な強化学習用ロボット(2/3)
１．ROBEL:3Dプリンタで作成可能な強化学習用ロボット(2/3)まとめ ・ROBELにはD'Clawを用いた操作タスクとD'Kittyを用いた歩行タスクが用意されている ・２つの機関でドキュメントと指示書のみを用いてROBELの構築と再...
入門／解説 敵対的サンプルはバグではなく人間には知覚できない高度な特徴(3/5)
１．敵対的サンプルはバグではなく人間には知覚できない高度な特徴(3/5)まとめ ・堅牢ではない特徴が存在しなくてもバグから敵対的サンプルを構築できる ・しかし、バグから構築した敵対的サンプルによる学習は転移しない ・堅牢ではない特徴は転移し...
入門／解説 敵対的サンプルはバグではなく人間には知覚できない高度な特徴(2/5)
１．敵対的サンプルはバグではなく人間には知覚できない高度な特徴(2/5)まとめ ・敵対的サンプルがバグではなく人間にできない特徴説に対するコメント集 ・堅牢な特徴の定義から単純化したモデルを使って調査する案など様々 ・スタイル転送の際に堅牢...
入門／解説 敵対的サンプルはバグではなく人間には知覚できない高度な特徴(1/5)
１．敵対的サンプルはバグではなく人間には知覚できない高度な特徴(1/5)まとめ ・敵対的サンプルを使ってトレーニングしたモデルが敵対的でないデータを扱う事が出来る事が判明 ・堅牢なデータセットを使ってトレーニングしたモデルが自明でない特徴を...
入門／解説 PAWS：自然言語の言い換えの理解を促進する新しいデータセット(3/3)
１．PAWS：自然言語の言い換えの理解を促進する新しいデータセット(3/3)まとめ ・BERTなどの強力なモデルはPAWSでトレーニングすると大幅に性能が向上 ・BOWなどの文脈情報を学習できないモデルではPAWSを使っても性能向上せず ・...
入門／解説 PAWS：自然言語の言い換えの理解を促進する新しいデータセット(2/3)
１．PAWS：自然言語の言い換えの理解を促進する新しいデータセット(2/3)まとめ ・PAWSの作成には「言い換えペアになるかはわからないが意味ある文章を作成する単語交換モデル」を使用 ・単語変換モデルの出力結果を人間の評価者が目で言い換え...
ビッグデータ PAWS：自然言語の言い換えの理解を促進する新しいデータセット(1/3)
１．PAWS：自然言語の言い換えの理解を促進する新しいデータセット(1/3)まとめ ・語順が変わっても意味が変わらないフレーズを言い換えペア、意味が変わるペアを非言い換えペアと言う ・言い換えペアと非言い換えペアの識別は最先端のモデルでも苦...