paws

Google Research:2019年の振り返りと2020年以降に向けて(8/8)

AI

1.Google Research:2019年の振り返りと2020年以降に向けて(8/8)まとめ ・機械学習研究を促進するためにデータセットを公開しGoogle Dataset Searchで探しやすくした ・数百万のタスクを処理しつつ新しいタスクにも自動的に対応する機械学習が長期的目標 ・多様な研究者グループが安心して研究出来る事や新たに参入する研究者に対する支援なども重要 2.オープンデータと […]

BERTのGoogle検索エンジンへの実践投入

AI

1.BERTのGoogle検索エンジンへの実践投入まとめ ・文脈を理解するAIとして昨年秋に話題になったBERTがGoogle検索に実践投入 ・従来より検索語の意図を理解する能力が高まり英語検索の10%程度が改善された ・改良された学習結果は順次世界各国に展開され強調スニペットなども改善される 2.BERTによるGoogle検索エンジンの改良 以下、www.blog.googleより「Unders […]

PAWS:自然言語の言い換えの理解を促進する新しいデータセット(3/3)

AI

1.PAWS:自然言語の言い換えの理解を促進する新しいデータセット(3/3)まとめ ・BERTなどの強力なモデルはPAWSでトレーニングすると大幅に性能が向上 ・BOWなどの文脈情報を学習できないモデルではPAWSを使っても性能向上せず ・PAWS-Xを多言語BERTモデルでパフォーマンス評価したところ言語横断的な手法が優れていた 2.PAWS-Xの評価 以下、ai.googleblog.comよ […]

PAWS:自然言語の言い換えの理解を促進する新しいデータセット(2/3)

AI

1.PAWS:自然言語の言い換えの理解を促進する新しいデータセット(2/3)まとめ ・PAWSの作成には「言い換えペアになるかはわからないが意味ある文章を作成する単語交換モデル」を使用 ・単語変換モデルの出力結果を人間の評価者が目で言い換えペアであるか否かをチェックを実施 ・PAWS-Xもニューラルマシン翻訳(NMT)サービスと人間の翻訳家の組み合わせでデータセットを作成 2.PAWSの作成方法 […]

PAWS:自然言語の言い換えの理解を促進する新しいデータセット(1/3)

AI

1.PAWS:自然言語の言い換えの理解を促進する新しいデータセット(1/3)まとめ ・語順が変わっても意味が変わらないフレーズを言い換えペア、意味が変わるペアを非言い換えペアと言う ・言い換えペアと非言い換えペアの識別は最先端のモデルでも苦戦するがそれはデータセットがないため ・言い換えペアと非言い換えペアを集中的に学習するためのデータセットPAWSが公開された 2.PAWSとは? 以下、ai.g […]