AI、機械学習、データサイエンス、ディープラーニングの2021年の進展と2022年の予測リサーチ編(1/2)

AI

1.AI、機械学習、データサイエンス、ディープラーニングの2021年の進展と2022年の予測リサーチ編(1/2)まとめ

・OpenAIのCLIPは文章と画像をつなぐ、とてもエキサイティングな可能性を提示した
・文章から画像を作成するテクノロジーはクリエイティブな人々に新しいツールを提供
・2022年は更にモデルが大きくなり新しいマルチモーダルモデルが出現するだろう

2.人工知能やマシンラーニング界隈の2020年の振り返りと2021年の予測

以下、www.kdnuggets.comより「AI, Analytics, Machine Learning, Data Science, Deep Learning Research Main Developments in 2021 and Key Trends for 2022」の意訳です。元記事の投稿は2021年12月、Matthew Mayoさんによる投稿です。

個人的にはまだ全然そんな落ち着いた気分にはなってないのですが、早いもので今年もこの振り返りの時期が来てしまいました。

アイキャッチ画像のクレジットはPhoto by Tarryn Myburgh on Unsplash

新しい年が近づいており、2021年がもうすぐ終わろうとしています。この1年、AI、統計解析、機械学習、データサイエンス、ディープラーニングの研究において際立った進歩が見られ、2022年は明るい年になると思われます。

KDnuggetsの伝統に従って今年もまた、今年起こったこと、そして次に起こるかもしれないことについて、専門家に意見を求めました。今年は、AI、統計解析、機械学習、データサイエンス、ディープラーニングの研究リーダーたちに、次のような質問をしました。

2021年のAI、データサイエンス、機械学習研究の主な動きと、2022年の主なトレンドは何ですか?

本記事は研究分野(research)からアプローチしていますが、今後数日のうち、技術開発(technology)と事業(industry)視点から同じ問いに答えた記事もご紹介予定です。

今回の意見交換会に参加された方々には、このような慌ただしい時期にお時間を割いていただき、それぞれの見識やご意見をお寄せいただいたことに感謝いたします。Anima Anandkumar, Louis Bouchard, Andriy Burkov, Charles Martin, Gaurav Menghani, Ines Montani, Dipanjan Sarkar, そして Rosaria Silipo。

それでは早速、AI、統計解析、機械学習、データサイエンス、ディープラーニング研究の2021年の主要動向と2022年の主要トレンドについてご紹介します。

(1)Anima Anandkumar:NVIDIAのML研究ディレクター、カリフォルニア工科大学のBren Professor

AI4Scienceは、パンデミックが複数の領域の科学者を結集させる重要な触媒として機能したことで、昨年、大きく成熟しました。

私たちは、Covid-19 ウイルスとその微粒子の相互作用を理解するために、AIを使って強化された 10億の原子を扱う画期的な分子シミュレーションを見ました。

また、乱流などの複雑な科学的シミュレーションを初めて解くことができる新しいAI手法を目の当たりにしました。また、多くの病院が手を取り合い、プライバシーを保護した連合学習(federated learning)プラットフォームを使用して、患者のためのAIを使ったケアモデルを共同でトレーニングしているのを目にしました。言語モデルはさらに大きくなりましたが、バイアスの問題に対する認識が広まったことで、これらのモデルの検査が深まり、害を減らすための少数ショット方式や微調整の手法が開発されました。

(2)Louis Bouchard:YouTubeやMediumで「What’s AI」を投稿しAIを身近なものにすることに力を注いでいます

最初の質問は、私にとってはむしろ簡単な答えです。私はGitHubのリポジトリでAIの主要な動向を管理しているので、すぐに答えられます。CLIPは、文章と画像をつなぐ、とてもエキサイティングな可能性を提示してくれました。もちろん、これは私の頭に最初に浮かんだものですが、今年はもっと多くの素晴らしい発見や進歩がありました。私が作成したgithubのまとめリストbest_AI_papers_2021をぜひご覧ください。KDnuggetsでもこれを共有しており、2021年の最も興味深いAI研究を、動画デモ、記事、該当する場合はコードで取り上げています。

2022年も、画像合成やテキストから画像への応用において、これまで以上に大きなステップで、多くのエキサイティングな発見があり、また多くの技術的進歩が起きると信じています。もちろん、私のYouTubeチャンネルやブログで、このようなエキサイティングなトレンドを取り上げ続けますので、トレンド研究の最新情報を入手したい方は、ぜひご覧ください

(3)Andriy Burkov:データサイエンスのディレクター、機械学習チームのリーダー、「Hundred-Page Machine Learning」「The Machine Learning Engineering」の著者

2021年のAIの主な進歩は、文章から画像を作成するDALL·Eおよび同様のテクノロジーでした。このようなテクノロジーは、クリエイティブな人々にまったく新しいツールを提供し、クリエイティブなプロセスを民主化します。 2022年には、ビデオや音楽など、クリエイティブなAIの例がさらに増えると思います。モデルが大きくなり、新しいマルチモーダルモデルが出現します。

(4)Charles Martin:NLP & SearchのAIスペシャリスト、Distinguished Engineer

2021年、パンデミックがまだ続く中、ネット通販や汎用的なオンライン活動が大きく盛り上がり、データサイエンスや機械学習を運用してオンライン販売や業務改善を図ろうとする企業が増えています。このため、縦割り組織の純粋なデータサイエンス活動から、より多くのML/AIモデルを実運用に移そうとする動きがあり、MLエンジニアリング、ML Ops、およびデータ中心AIへの需要が高まっています。

また、従来の機械学習手法(XGBoostなど)が依然として企業で主流である一方、ベクトル空間検索、グラフニューラルネットワーク、そしてもちろんコンピュータビジョンのアプリケーションなど、より現代的なAIがその地位を確立しつつあります。また、因果関係を示す事ができる機械学習(Causal machine learning)にも関心が集まっています。企業は機械学習の手法がなぜ機能するのかを知る必要があるためです。

2022年には、MLとAIはますます標準的なソフトウェア製品の開発ライフサイクルの一部となり、その開発、展開、監視を管理するための優れたエンタープライズ・ツールが出現するでしょう。

3.Webbigdataの補足

2020年のお正月明けにいきなりOpenAIから発表されたCLIPは確かに衝撃でした。モデルも公開されているので私も以下で遊んでみています。

最新の人工知能はスタジオジブリの名場面をどこまで認識できるのか?
最新の人工知能はスタジオジブリの映画を知っているのか?

そしてOpenAIのマルチモーダルに関する後続研究は以下に進みました。

文字情報と画像情報を同じ概念として認識できる人工知能の出現(1/2)
文字情報と画像情報を同じ概念として認識できる人工知能の出現(2/2)

更にGoogleが同様なコンセプトで開発したモデルがALIGNで、

ALIGN:ノイズの多い文章を教師に使って視覚と言語で共通する特徴表現を学習(1/3)
ALIGN:ノイズの多い文章を教師に使って視覚と言語で共通する特徴表現を学習(2/3)
ALIGN:ノイズの多い文章を教師に使って視覚と言語で共通する特徴表現を学習(3/3)

その進化系が先日発表されたMURALです。

MURAL:ヒンディー語で野菜を入れない麺が入った丼を検索されても対応画像を探せる人工知能(1/2)
MURAL:ヒンディー語で野菜を入れない麺が入った丼を検索されても対応画像を探せる人工知能(2/2)

2021年のマルチモーダルは画像と文章を同時に扱うモデルが大きく発展しましたが、脳の感覚置換能力を実現する強化学習も年末に発表されましたから、私もマルチモーダル対応モデルは2022年に飛躍すると思います。

4.人工知能やマシンラーニング界隈の2020年の振り返りと2021年の予測(1/2)関連リンク

1)www.kdnuggets.com
AI, Analytics, Machine Learning, Data Science, Deep Learning Research Main Developments in 2021 and Key Trends for 2022

2)github.com
louisfb01 / best_AI_papers_2021

タイトルとURLをコピーしました