AI、機械学習、データサイエンス、ディープラーニングの2020年の進展と2021年の予測リサーチ編(3/3)

１．AI、機械学習、データサイエンス、ディープラーニングの2020年の進展と2021年の予測リサーチ編(3/3)まとめ

・説明可能なAI(xAI)は実用フェーズに移行し始めており多くの実用的な実装が利用可能
・機械学習の解釈可能性(MLI)解釈にも引き続き焦点が当てらデータ分析時に重要となる
・巨大なモデルだけでなく小型で効率的なモデルに焦点を当てる傾向も始まっている

２．AIやMLの2020年の主要な進展と2021年のトレンド予測

以下、www.kdnuggets.comより「AI, Analytics, Machine Learning, Data Science, Deep Learning Research Main Developments in 2020 and Key Trends for 2021」の意訳です。元記事の投稿は2020年12月、Matthew Mayoさんによる投稿です。

アイキャッチ画像のクレジットはPhoto by Gio Almonte on Unsplash

(6)Dipanjan Sarkarは、Applied Materialsのデータサイエンスリード、機械学習のGoogle Developer Expert、著者、コンサルタント

昨年の私の予測によると、2020年は間違いなくNLPの年であり、Transformerが質問回答、検索、翻訳などの難しい問題を簡単に解決する道を切り開いています。説明可能なAI(xAI:eXplainable AI)は、Gartnerの予測によれば「期待の膨らみ」フェーズから移行し始めており、様々な問題やデータにわたる複雑なモデルを説明するために、多くの実用的な実装が利用可能であり、使用されています。

2021年には、特に視覚と自然言語処理の両方で、強力でありながら効率的なモデルが登場すると確信しています。DistilBERT、Reformer、Performerなどの効率的なTransformerモデルの進歩はすでに見られています。

TensorFlowのようなディープラーニングフレームワークは、TFLiteとTF.jsを備えたモバイルおよびIoTデバイス向けのMLに焦点を当てており、エッジコンピューティングとオンデバイスコンピューティングが求められています。

また、SimCLR、SimSiam、SwAVなどの方法論を使用した深層学習の分野で、教師なし学習と自己教師あり学習に関連する分野でのさらなる進歩が見込まれます。

これらは、適応段階でより良いパフォーマンスを提供できるため、モデルの事前トレーニングで大きな成功を収めています。最後になりましたが、コードをほとんど書く必要のない自動機械学習プラットフォームと責任あるAI(responsible AI)は、他に注意すべき2つの領域です。そこには確かにいくつかの関心と進歩が期待できるからです。

Rosaria Silipo(@DMR_Rosaria)は、KNIMEのプリンシパルデータサイエンティスト

2020年、この特異な年に、将来についての不確実性が高まっており、データサイエンスソリューションを機能させて結果を生み出す準備をすることに注目が集まっています。この傾向はおそらく2021年も続くでしょう。

製品展開は、データサイエンスプロジェクトの重要なフェーズであり、前のステップで見過ごされていた全ての間違いが再び表面化します。そのため、従来のエンタープライズ機能に加えて、転移中の不必要なミスを回避するために、トレーニング環境内からアプリケーションを作成する必要性を感じ始めています。

2021年には、データ分析プロセスの解釈にも焦点が当てられます。特に、ブラックボックスモデルの機械学習の解釈可能性(MLI:Machine Learning Interpretability)または説明可能な人工知能(xAI:eXplainable AI)技術を介したライフサイエンスに焦点が当てられます。

ちなみに、世界の多くの国でCOVIDによる孤立が続くと、機械学習や人工知能に関する本の数が急増するのではないかと思います。

Rachael Tatman(@rctatman)は、自然言語処理に取り組んでいるRasaのデベロッパーアドボケイト

多くの人がおそらくGPT-3を今年のNLPの主要な新しい開発と見なすだろうと私は知っています。しかし、これは、既存のNLP手法を、大多数のNLPアプリケーションにとってまったく現実的ではないレベルの規模に拡張したものだと思います。

私が個人的にはるかにエキサイティングだと思うのは、それでも十分に機能する小型で効率的なモデルに焦点を当てる傾向が高まっていることです。最初のSustaiNLP 2020ワークショップは、この良い例です。研究の観点からは、限られたデータとコンピューティングリソースで非常に優れたモデルパフォーマンスを実現する方法を見つけることは、この分野で大きな課題になるだけでなく、本当にやりがいのあることだと思います。

Daniel Tunkelangは、検索、発見、ML / AIを専門とする独立コンサルタント

2020年、AIは段階的に改善を続けてきました。自然言語の理解と生成のためのtransformerベースのモデルが繰り返されるのを見てきましたが、最も注目すべきはOpenAIのGPT-3です。自動運転車は、引き続き実運用化され主流になるための準備を行っています。より広義には、AIは単なる流行語から、あらゆる業界の企業にとって重要な機能へと移行しました。

一方、2020年はCovid-19パンデミックによって支配されてきました。AIはウイルスとの戦いに参加してきましたが、さらに興味深いのは、パンデミックのために、機械学習に取り組んだり勉強するほとんどの人が自宅でそうしていることです。パンデミック後も勤務と教育で在宅が主流となる事が続く場合(これは可能性が高いと思われます)、2つの競合する傾向を期待できます。

一方では、AIの専門知識は特定地域に結び付けられるのではなく、真にグローバルになります。一方、テクノロジーの巨大企業は小規模なローカル企業を餌食にし、グローバルに人材を採用します。

それでも、リモートワークがAIのグローバル化を推進しているとしても、米国と中国の間の対立の高まりがAIを分裂させています。今後10年間はAIの軍拡競争に費やす可能性が高いようです。

追伸
この投稿の提出期限である11月30日、DeepMindの研究者は、AlphaFoldシステムが、過去50年間生物学の大きな課題であったタンパク質の折り畳み問題を革新的な精度と速度で予測することにより、隔年で開催されるタンパク質構造予測の重要評価(CASP:Critical Assessment of Techniques for Protein Structure Prediction)コンテストの課題を解決した事を発表しました。この発表を深く理解してコメントするのは時間が足りませんが、これは確かに2020年の最大のAIブレークスルーになる可能性があります。