学習手法 GO：グラフ最適化用強化学習(1/3)
１．GO：グラフ最適化用強化学習(1/3)まとめ ・大規模モデルは多様なアクセラレータが混在する環境でトレーニングされるようになってきた ・MLコンパイラは多くの複雑な最適化問題を解決する必要があるが手動設計には限界がある ・この制限を克服...
人工知能/機械学習
学習手法 
AI関連その他 トレーニングデータ抽出攻撃：大規模言語モデルが記憶してしまうプライバシー情報(2/2)
１．トレーニングデータ抽出攻撃：大規模言語モデルが記憶してしまうプライバシー情報(2/2)まとめ ・トレーニングデータ抽出攻撃の目標は言語モデルが何を記憶しているかを予測する事 ・ニュースヘッドライン、ログ、コード、個人情報などの幅広いコン...
AI関連その他 トレーニングデータ抽出攻撃：大規模言語モデルが記憶してしまうプライバシー情報(1/2)
１．トレーニングデータ抽出攻撃：大規模言語モデルが記憶してしまうプライバシー情報(1/2)まとめ ・言語モデルがトレーニング時に使用したデータの詳細を漏洩してしまう危険性が指摘された ・大規模言語モデルを非公開データを使って公開している際に...
AI関連その他 AI、機械学習、データサイエンス、ディープラーニングの2020年の進展と2021年の予測リサーチ編(3/3)
１．AI、機械学習、データサイエンス、ディープラーニングの2020年の進展と2021年の予測リサーチ編(3/3)まとめ ・説明可能なAI(xAI)は実用フェーズに移行し始めており多くの実用的な実装が利用可能 ・機械学習の解釈可能性(MLI)...
AI関連その他 AI、機械学習、データサイエンス、ディープラーニングの2020年の進展と2021年の予測リサーチ編(2/3)
１．AI、機械学習、データサイエンス、ディープラーニングの2020年の進展と2021年の予測リサーチ編(2/3)まとめ ・年末恒例のAIやデータサイエンス分野の2020年の進展と2021年のトレンド予測リサーチ編 ・従来はデータからモデルを...
AI関連その他 AI、機械学習、データサイエンス、ディープラーニングの2020年の進展と2021年の予測リサーチ編(1/3)
１．AI、機械学習、データサイエンス、ディープラーニングの2020年の進展と2021年の予測リサーチ編(1/3)まとめ ・年末恒例のAI分野の今年の進展と来年のトレンド予測のリサーチ編 ・2020年の進展はTransformerを使ったGP...
アプリケーション MediaPipe Holistic：オンデバイスで顔、手、ポーズを同時に予測(2/2)
１．MediaPipe Holistic：オンデバイスで顔、手、ポーズを同時に予測(2/2)まとめ ・MediaPipe Holisticは2017年モデルや中価格帯のスマホほぼリアルタイムで実行可能 ・モデルがほとんど独立しているため、速...
アプリケーション MediaPipe Holistic：オンデバイスで顔、手、ポーズを同時に予測(1/2)
１．MediaPipe Holistic：オンデバイスで顔、手、ポーズを同時に予測(1/2)まとめ ・MediaPipeはスマホで人間のポーズ、顔、手をリアルタイムで認識するフレームワーク ・従来のMediaPipeシリーズは各モデルで個々...
学会 NeurIPS 2020におけるGoogleの存在感
１．NeurIPS 2020におけるGoogleの存在感まとめ ・12/6 - 12/12に今年最大の機械学習会議であるNeurIPS 2020が仮想空間で開催 ・Googleは180を超える論文で強力な存在感を示し講演やワークショップも開...
アプリケーション 時系列予測にAutoMLを使用する(2/2)
１．時系列予測にAutoMLを使用する(2/2)まとめ ・最新コンペであるM5予測コンペでAutoMLは銀メダルゾーンにあたる成績を収めた ・人間の参加者が数か月かかったモデル設計を2時間と人的介入なしでAutoMLは達成 ・他のデータセッ...
アプリケーション 時系列予測にAutoMLを使用する(1/2)
１．時系列予測にAutoMLを使用する(1/2)まとめ ・時系列予測は重要だがモデルの作成に専門知識が必要で現実世界では利用に制限がある ・AutoMLはMLモデルの作成プロセスを自動化することでMLをより広く利用可能にする ・現実世界のコ...
モデル ViT：規模拡大可能な画像認識用のTransformers(2/2)
１．ViT：規模拡大可能な画像認識用のTransformers(2/2)まとめ ・画像タスク用に特化したモデルは不要であるか最適ではない可能性がある ・データのサイズが増え続けており画像タスクに関する新しいアプローチが必要 ・ViTは視覚タ...