モデル 強化学習を使って量子計算を改善(1/2)
１．強化学習を使って量子計算を改善(1/2)まとめ ・量子コンピュータの構成要素である量子ビットは周囲の微量なエネルギーの影響を受ける ・更には制御用ツールによってもたらされる干渉などの影響も受けて誤差が拡大してしまう ・強化学習を使用して...
モデル 入門／解説 PAWS：自然言語の言い換えの理解を促進する新しいデータセット(3/3)
１．PAWS：自然言語の言い換えの理解を促進する新しいデータセット(3/3)まとめ ・BERTなどの強力なモデルはPAWSでトレーニングすると大幅に性能が向上 ・BOWなどの文脈情報を学習できないモデルではPAWSを使っても性能向上せず ・...
入門／解説 PAWS：自然言語の言い換えの理解を促進する新しいデータセット(2/3)
１．PAWS：自然言語の言い換えの理解を促進する新しいデータセット(2/3)まとめ ・PAWSの作成には「言い換えペアになるかはわからないが意味ある文章を作成する単語交換モデル」を使用 ・単語変換モデルの出力結果を人間の評価者が目で言い換え...
ビッグデータ PAWS：自然言語の言い換えの理解を促進する新しいデータセット(1/3)
１．PAWS：自然言語の言い換えの理解を促進する新しいデータセット(1/3)まとめ ・語順が変わっても意味が変わらないフレーズを言い換えペア、意味が変わるペアを非言い換えペアと言う ・言い換えペアと非言い換えペアの識別は最先端のモデルでも苦...
モデル エンドツーエンドモデルによる多言語リアルタイム音声認識(2/2)
１．エンドツーエンドモデルによる多言語リアルタイム音声認識(2/2)まとめ ・多言語モデルはトレーニングセット内に頻繁に表れる言語の特徴表現からより多くの影響を受ける ・利用可能なデータが多い言語から多くの影響を受けてしまうので言語情報を入...
モデル エンドツーエンドモデルによる多言語リアルタイム音声認識(1/2)
１．エンドツーエンドモデルによる多言語リアルタイム音声認識(1/2)まとめ ・音声データからニューラルネットワークが学習した「知識」の多くは他の言語に流用できる ・この洞察を元に利用可能な音声データが多い言語で学習した結果をマイナーな言語に...
入門／解説 FaceForensics：ディープフェイク検出研究用のベンチマーク
１．FaceForensics：ディープフェイク検出研究用のベンチマークまとめ ・ディープラーニングは数年前には実現不可能と思われていた技術を実現させた ・悪用の危険性が高い偽動画、すなわちディープフェイクも広まってしまった ・ディープフェ...
入門／解説 機械学習を使った洪水予測の仕組み(3/3)
１．機械学習を使った洪水予測の仕組み(3/3)まとめ ・過去の水位測定値を過去の浸水と相関させ水理モデルの修正箇所を特定できるようにした ・水文モデルに関するいくつかの基礎研究にも取り組んでおりマルチタスクラーニングを適用 ・従来モデルより...
入門／解説 機械学習を使った洪水予測の仕組み(2/3)
１．機械学習を使った洪水予測の仕組み(2/3)まとめ ・標準的な光学画像に基づいて1m単位で標高データを作成する手法を開発 ・水量と標高マップで水理モデル開発が開始できたが三乗で増える計算量が問題になった ・TPU上での実行用にモデルを最適...
インフラ 機械学習を使った洪水予測の仕組み(1/3)
１．機械学習を使った洪水予測の仕組み(1/3)まとめ ・AIの力でより良い社会の実現を目指すGoogleの会社方針の一環として、洪水予測に取り組んでいる ・まずは様々な河川条件をシミュレートする水理モデルの3D視覚化を行った ・次にリアルタ...
モデル Ihmehimmeli：スパイキングニューラルネットワークにおける時間的符号化(3/3)
１．Ihmehimmeli：スパイキングニューラルネットワークにおける時間的符号化(3/3)まとめ ・スパイクネットワークが数字の特徴をどのように学習したかも視覚化できた ・他にも生物にヒントを得た様々なニューラルネットワークを研究中 ・人...
モデル Ihmehimmeli：スパイキングニューラルネットワークにおける時間的符号化(2/3)
１．Ihmehimmeli：スパイキングニューラルネットワークにおける時間的符号化(2/3)まとめ ・学習は従来の人工ニューラルネットワークと同様で逆伝播を使用して行われる ・スパイクネットワークはMNISTで97.96％の精度を達成し、こ...