入門／解説 敵対的サンプルはバグではなく人間には知覚できない高度な特徴(2/5)
１．敵対的サンプルはバグではなく人間には知覚できない高度な特徴(2/5)まとめ ・敵対的サンプルがバグではなく人間にできない特徴説に対するコメント集 ・堅牢な特徴の定義から単純化したモデルを使って調査する案など様々 ・スタイル転送の際に堅牢...
dahara1
入門／解説 入門／解説 敵対的サンプルはバグではなく人間には知覚できない高度な特徴(1/5)
１．敵対的サンプルはバグではなく人間には知覚できない高度な特徴(1/5)まとめ ・敵対的サンプルを使ってトレーニングしたモデルが敵対的でないデータを扱う事が出来る事が判明 ・堅牢なデータセットを使ってトレーニングしたモデルが自明でない特徴を...
学習手法 強化学習を使って量子計算を改善(2/2)
１．強化学習を使って量子計算を改善(2/2)まとめ ・次のステップとして量子制御コスト関数をオンポリシーRLを使って最適化した ・オンポリシーRLとオフポリシーRLの違いは制御ポリシーが制御コストとは独立して表されること ・新しいフレームワ...
モデル 強化学習を使って量子計算を改善(1/2)
１．強化学習を使って量子計算を改善(1/2)まとめ ・量子コンピュータの構成要素である量子ビットは周囲の微量なエネルギーの影響を受ける ・更には制御用ツールによってもたらされる干渉などの影響も受けて誤差が拡大してしまう ・強化学習を使用して...
入門／解説 PAWS：自然言語の言い換えの理解を促進する新しいデータセット(3/3)
１．PAWS：自然言語の言い換えの理解を促進する新しいデータセット(3/3)まとめ ・BERTなどの強力なモデルはPAWSでトレーニングすると大幅に性能が向上 ・BOWなどの文脈情報を学習できないモデルではPAWSを使っても性能向上せず ・...
入門／解説 PAWS：自然言語の言い換えの理解を促進する新しいデータセット(2/3)
１．PAWS：自然言語の言い換えの理解を促進する新しいデータセット(2/3)まとめ ・PAWSの作成には「言い換えペアになるかはわからないが意味ある文章を作成する単語交換モデル」を使用 ・単語変換モデルの出力結果を人間の評価者が目で言い換え...
ビッグデータ PAWS：自然言語の言い換えの理解を促進する新しいデータセット(1/3)
１．PAWS：自然言語の言い換えの理解を促進する新しいデータセット(1/3)まとめ ・語順が変わっても意味が変わらないフレーズを言い換えペア、意味が変わるペアを非言い換えペアと言う ・言い換えペアと非言い換えペアの識別は最先端のモデルでも苦...
モデル エンドツーエンドモデルによる多言語リアルタイム音声認識(2/2)
１．エンドツーエンドモデルによる多言語リアルタイム音声認識(2/2)まとめ ・多言語モデルはトレーニングセット内に頻繁に表れる言語の特徴表現からより多くの影響を受ける ・利用可能なデータが多い言語から多くの影響を受けてしまうので言語情報を入...
モデル エンドツーエンドモデルによる多言語リアルタイム音声認識(1/2)
１．エンドツーエンドモデルによる多言語リアルタイム音声認識(1/2)まとめ ・音声データからニューラルネットワークが学習した「知識」の多くは他の言語に流用できる ・この洞察を元に利用可能な音声データが多い言語で学習した結果をマイナーな言語に...
入門／解説 FaceForensics：ディープフェイク検出研究用のベンチマーク
１．FaceForensics：ディープフェイク検出研究用のベンチマークまとめ ・ディープラーニングは数年前には実現不可能と思われていた技術を実現させた ・悪用の危険性が高い偽動画、すなわちディープフェイクも広まってしまった ・ディープフェ...
入門／解説 機械学習を使った洪水予測の仕組み(3/3)
１．機械学習を使った洪水予測の仕組み(3/3)まとめ ・過去の水位測定値を過去の浸水と相関させ水理モデルの修正箇所を特定できるようにした ・水文モデルに関するいくつかの基礎研究にも取り組んでおりマルチタスクラーニングを適用 ・従来モデルより...
入門／解説 機械学習を使った洪水予測の仕組み(2/3)
１．機械学習を使った洪水予測の仕組み(2/3)まとめ ・標準的な光学画像に基づいて1m単位で標高データを作成する手法を開発 ・水量と標高マップで水理モデル開発が開始できたが三乗で増える計算量が問題になった ・TPU上での実行用にモデルを最適...