入門／解説 データ拡張を教師なしで実現し半教師付き学習の性能を向上(1/2)
１．データ拡張を教師なしで実現し半教師付き学習の性能を向上(1/2)まとめ ・ラベル付きデータが不足している際にデータを水増しする手法は進歩している ・しかし、基本的には教師付き学習でのみ利用可能な手法であった ・今回、ラベルなしデータを教...
BERT
入門／解説 入門／解説 機械学習を使ってバスの運行情報を予測(3/3)
１．機械学習を使ってバスの運行情報を予測(3/3)まとめ ・曜日や時刻などの時間的特徴表現を使うと予測の元データの車の速度が一定でも遅延が明確になる ・全てを取り入れた運行予測はまだ完全ではないが現実のバスの運行時間と1.5分以内のズレに留...
モデル TensorNetwork:効率的なテンソル計算のためのオープンソースライブラリ(2/2)
１．TensorNetwork:効率的なテンソル計算のためのオープンソースライブラリ(2/2)まとめ ・量子状態など指数関数的に計算が増える難問に取り組む際はテンソルネットワークが使用される事が多い ・テンソルネットワークは機械学習でも使わ...
モデル TensorNetwork:効率的なテンソル計算のためのオープンソースライブラリ(1/2)
１．TensorNetwork:効率的なテンソル計算のためのオープンソースライブラリ(1/2)まとめ ・量子状態など指数関数的に計算が増える難問に取り組む際はテンソルネットワークが使用される事が多い ・テンソルネットワークは機械学習でも使わ...
学習手法 Snorkel MeTaLを用いた大規模マルチタスク学習(4/4)
１．Snorkel MeTaLを用いた大規模マルチタスク学習(4/4)まとめ ・小文字化BERTと非小文字化BERTの結果をアンサンブルする事により更に高いスコアを更新 ・Snorkelは、トレーニングデータを迅速に作成、モデル化、および管...
学習手法 Snorkel MeTaLを用いた大規模マルチタスク学習(3/4)
１．Snorkel MeTaLを用いた大規模マルチタスク学習(3/4)まとめ ・自然言語推論(NLI)に関連するデータを用いてマルチタスク学習を実施 ・特殊な句読点を使用している文など特殊な事例に関して固有のタスクヘッドを追加して対応 ・「...
入門／解説 Snorkel MeTaLを用いた大規模マルチタスク学習(2/4)
１．Snorkel MeTaLを用いた大規模マルチタスク学習(2/4)まとめ ・Snorkel MeTaLが最先端のスコアを達成するために辿った教師信号を具体的に解説 ・伝統的な教師信号から開始し、次の段階は事前学習からの転移学習 ・そして...
入門／解説 Snorkel MeTaLを用いた大規模マルチタスク学習(1/4)
１．Snorkel MeTaLを用いた大規模マルチタスク学習(1/4)まとめ ・教師あり学習問題に取り組む際に必要な要素はモデル、ハードウェアおよび訓練データの３つ ・モデルはオープンソース文化、ハードウェアはクラウドにより最新の物が比較的...
入門／解説 (2018年4月時点で)データサイエンス初学者が知っておくと便利な10のツール(1/2)
１．(2018年4月時点で)データサイエンス初学者が知っておくと便利な10のツール(1/2)まとめ ・2018年4月時点でアメリカでデータサイエンティストが知っておくべきと見なされたツールの紹介 ・2018年後半に一つのブレークスルーがあっ...
モデル MuseNet:ショパン風のレディガガ、ビートルズ風のハリポッターのテーマ(1/4)
１．MuseNet:ショパン風のレディガガ、ビートルズ風のハリポッターのテーマ(1/4)まとめ ・MuseNetは楽曲のスタイルを他の楽曲にコピーできる人工知能 ・大きな違和感を感じないような自然な形で異なったスタイルを融合可能 ・従来の同...
入門／解説 2019年4月時点のGANに関する未解決な問題(7/7)
１．2019年4月時点のGANに関する未解決な問題(7/7)まとめ ・GANのディスクリミネータも分類器であるため敵対的サンプルの影響を受ける可能性はある ・しかし、従来の攻撃より偶発的攻撃と呼ばれる事になりそうな攻撃が懸念事項となる ・３...
AI関連その他 TossingBot：物理学と深層学習の統合(2/2)
１．TossingBot：物理学と深層学習の統合(2/2)まとめ ・TossingBotは物理学と深層学習、及び残差物理学を組み合わせて高性能を実現 ・残差物理学とは物理学が提供する理論値と現実世界のズレをニューラルネットワークで埋める作業...