nlp

入門/解説

人工知能とデータサイエンスの2019年の主な進展と2020年の予測developments編(1/3)

1.人工知能とデータサイエンスの2019年の主な進展と2020年の予測developments編(1/3)まとめ ・「分析業務」および「AIを現行業務に適用する業務」のステータスと認識の改善 ・解釈する必要があるデータは、常に偏見に対するリ...
入門/解説

LaserTagger:制御可能で効率的な文章生成アプローチ(1/2)

1.LaserTagger:制御可能で効率的な文章生成アプローチ(1/2)まとめ ・Transformerをベースとしたseq2seqモデルは高い性能を持つが文章生成に使うと3つの弱点がある ・幻覚、大量のトレーニングデータ、推論速度、の3...
入門/解説

人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(3/3)

1.人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(3/3)まとめ ・ビジネスにAIを採用させる事を成功するためにはビジネス固有のカスタムソリューションが必要 ・より複雑なデータサイエンスの問題には、特...
入門/解説

人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(2/3)

1.人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(2/3)まとめ ・高速なトレーニング手法の研究、使い勝手の良いハードウェアを用いた高速トレーニング ・より多くのデータと計算機資源を投入する事でより良...
入門/解説

人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(1/3)

1.人工知能とデータサイエンスの2019年の主な進展と2020年の予測research編(1/3)まとめ ・AIが現実世界で益々使われるようになり拡張現実を組み合わせることで顧客体験が変わっていく可能性 ・2020年も言語モデルの分野で目覚...
入門/解説

機械学習のトップマインドによる2020年のAI予測(2/3)

1.機械学習のトップマインドによる2020年のAI予測(2/3)まとめ ・Jeff Deanはマルチモーダル学習とマルチタスク学習の進歩を期待 ・Anandkumarは反復アルゴリズム、自己教師学習の進化を予測 ・顔認識AIなど個人のプライ...
基礎理論

ALBERT:軽量化と冗長性排除をしたBERT(2/2)

1.ALBERT:軽量化と冗長性排除をしたBERT(2/2)まとめ ・パラメータの因数分解と冗長性の排除を行う事でわずかなBERTよりパラメータを89%削減 ・パラメータサイズを削減した事により計算機資源に余裕が生まれ、モデルの規模を改めて...
基礎理論

ALBERT:軽量化と冗長性排除をしたBERT(1/2)

1.ALBERT:軽量化と冗長性排除をしたBERT(1/2)まとめ ・AIのNLPのパフォーマンスを向上させている主要な要因は複雑で特定は困難 ・ALBERTを設計していく中で得られた鍵は、モデルの容量をより効率的に割り当てる事であった ・...
AI関連その他

胸部X線画像を用いた深層学習モデルの開発(2/2)

1.胸部X線画像を用いた深層学習モデルの開発(2/2)まとめ ・モデルは放射線科医が一貫して見逃した病巣をしばしば特定する事があった ・また、逆にモデルが見逃した病巣を放射線科医が発見する事もあった ・ディープラーニングと人間のスキルを組み...
モデル

胸部X線画像を用いた深層学習モデルの開発(1/2)

1.胸部X線画像を用いた深層学習モデルの開発(1/2)まとめ ・胸部X線は多くの疾患の検出のための重要で利用しやすい臨床画像ツールだが解釈が難しい場合がある ・ディープラーニングを画像診断に適用したくとも正確な臨床ラベルがないとモデルの評価...
モデル

Cloud TPU v3 PodsがAI学習にかかる時間を競うコンペで最速記録を達成

1.Cloud TPU v3 PodsがAI学習にかかる時間を競うコンペで最速記録を達成まとめ ・Cloud TPU v3 Podsが機械学習モデルの学習時間を測るベンチマークであるMLPerfで最速記録を達成 ・オンプレミスが主体のNVI...
モデル

BERTのGoogle検索エンジンへの実践投入

1.BERTのGoogle検索エンジンへの実践投入まとめ ・文脈を理解するAIとして昨年秋に話題になったBERTがGoogle検索に実践投入 ・従来より検索語の意図を理解する能力が高まり英語検索の10%程度が改善された ・改良された学習結果...