1.ICLR 2021におけるGoogleの存在感まとめ
・2021年5月3日(月)から7日(金)まで仮想空間でICLR 2021が開催
・Google AIブログで概要が発表済みの論文も10存在するので要チェック
・Gradient Boosted Decision Treesがニューラルに追いつかれた
2.ICLR 2021とは?
以下、ai.googleblog.comより「Google at ICLR 2021」の意訳です。元記事は2021年5月3日、Jaqui HermanさんとTim Herrmannさんによる投稿です。
あまり捻りのないアイキャッチ画像のクレジットはPhoto by Adrian Curiel on Unsplash
今週(訳注:2021年5月3日(月)から7日(金)なので、例によって既に終わっております)、深層学習に焦点を当てた仮想空間でおこなわれる会議である第9回表現学習国際学会(ICLR 2021:International Conference on Learning Representations)が始まりました。ディープラーニングの最新の研究の一部と、コンピュータービジョン、計算生物学(computational biology)、音声認識、テキスト理解などの分野へのその応用を紹介する会議およびワークショップを提供します。
ICLR 2021のプラチナスポンサーとして、Googleは、100を超える受理された出版物と、組織委員会およびワークショップへの参加により、強力な存在感を示します。ICLR 2021に登録している場合は、Googleの講演をご覧になり、何十億もの人々の興味深い問題を解決するためのGoogleでの取り組みについて学んでいただければ幸いです。
以下のリストに示されている私たちの研究の詳細をご覧ください(太字はGoogle社員)
以下、例によってとっても長いリスト
・・・・
Officers and Board Members 2
Organizing Committee 2
Area Chairs 61
Publications 105
Workshops 14
ai.googleblog.comに関連記事が投稿されて翻訳済みの研究は以下です。
(1)An Image is Worth 16×16 Words: Transformers for Image Recognition at Scale
(2)Evolving Reinforcement Learning Algorithms
(3)LEAF: A Learnable Frontend for Audio Classification
(4)Primal Wasserstein Imitation Learning
(5)Rethinking Attention with Performers
(6)The Deep Bootstrap Framework: Good Online Learners are Good Offline Generalizers
(7)Mastering Atari with Discrete World Models
(9)Learning and Evaluating Representations for Deep One-class Classification
(10)Dataset Meta-Learning from Kernel Ridge Regression
・・・
ザーッとタイトルを斜め読みして個人的に気になったのは
・Are Neural Rankers Still Outperformed by Gradient Boosted Decision Trees?
ニューラルネットワーク全盛の現在でも、非ニューラルネットワーク手法の方が勝る事もある例として良く紹介されるGradient Boostがついにニューラル手法に追いつかれたようです。追記)「BERTとTF-Rankingを使ってランキングシステムの透明性と解釈可能性を向上」で本件が少し触れています。
・Colorization Transformer
白黒画像のカラー化をTransformerを使ってやったらとっても良い感じで場合によっては元のカラー画像よりイイネ!と人間が評価したとの事
3.ICLR 2021におけるGoogleの存在感関連リンク
(1)ai.googleblog.com
Google at ICLR 2021
(2)iclr.cc
2021 Conference
(3)openreview.net
ARE NEURAL RANKERS STILL OUTPERFORMED BY GRADIENT BOOSTED DECISION TREES?(PDF)
COLORIZATION TRANSFORMER