neural network

基礎理論

集積カプセルオートエンコーダー(4/6)

1.集積カプセルオートエンコーダー(4/6)まとめ ・カプセルアクティベーションを取得する手順は二段階にわけてPCAEとOCAEで行われる ・PCAE、パーツカプセルオートエンコーダーはパーツを検出してそれらを画像に再結合する ・OCAE、...
モデル

集積カプセルオートエンコーダー(2/6)

1.集積カプセルオートエンコーダー(2/6)まとめ ・カプセルネットワークは、画像からパーツとパーツのポーズを推測する ・次にパーツとポーズを使用してオブジェクトについて推論する事が出来る ・カプセルネットワークの手法は人間の知覚と似ている...
学習手法

集積カプセルオートエンコーダー(1/6)

1.集積カプセルオートエンコーダー(1/6)まとめ ・脳が備えている自己教師と帰納的バイアスのお蔭で人間が効率的な学習が可能になっている可能性がある ・この直感によって教師なしバージョンのカプセルネットワークが新たに開発された ・カプセルネ...
モデル

Parrotron:発声が困難な人のために音声コミュニケーションを改善する試み(3/3)

1.Parrotron:発声が困難な人のために音声コミュニケーションを改善する試み(3/3)まとめ ・Parrotronはエンドツーエンドで音声を変換するため従来のカスケード型システムより優位性がある ・第一に仮に誤認識をしても、音響的に似...
AI関連その他

Parrotron:発声が困難な人のために音声コミュニケーションを改善する試み(1/3)

1.Parrotron:発声が困難な人のために音声コミュニケーションを改善する試み(1/3)まとめ ・発声に困難を抱える人々にとってスマートスピーカなどの音声インターフェースは利用が難しい ・Parrotronは流暢でない非定型の発声パター...
入門/解説

ディープニューラルネットワークにおける一般化ギャップの予測(2/2)

1.ディープニューラルネットワークにおける一般化ギャップの予測(2/2)まとめ ・一般化ギャップと対数変換したマージン分布の統計的情報はほぼ完全に線形回帰式で表現可能 ・マージン分布にモデルの一般化度合いに関する重要な情報が含まれている可能...
モデル

グラフデータを機械学習で扱いやすくするための革新(1/3)

1.グラフデータを機械学習で扱いやすくするための革新(1/3)まとめ ・グラフはノード(頂点)とエッジ(辺)で構成され概念間の関係を表す事が出来る ・しかしグラフは離散的データであり機械学習が好む連続的データではない ・グラフを機械学習で良...
モデル

EfficientNet:AutoMLとモデルのスケーリングによりCNNの精度と効率を向上(1/2)

1.EfficientNet:AutoMLとモデルのスケーリングによりCNNの精度と効率を向上(1/2)まとめ ・畳み込みニューラルネットワークをスケールアップして精度と効率を向上させる新手法が発表 ・EfficientNetと命名されたこ...
モデル

Translatotron:入力された音声を外国語の音声に直接翻訳する試み(1/2)

1.Translatotron:入力された音声を外国語の音声に直接翻訳する試み(1/2)まとめ ・従来の音声翻訳システムは入力された音声を一旦テキストにし、それを翻訳して再び音声に戻していた ・Translatotronは中間のテキストを生...
入門/解説

2019年4月時点のGANに関する未解決な問題(4/7)

1.2019年4月時点のGANに関する未解決な問題(4/7)まとめ ・GANが収束する条件についてはまだ良くわかっていないがGANだけの問題ではない ・GAN固有の問題について掘り下げるアプローチは主に3つの手法がある ・3手法ともに有望で...
モデル

MorphNet:学習済みニューラルネットワークをより速くより小さく改良(2/2)

1.MorphNet:学習済みニューラルネットワークをより速くより小さく改良(2/2)まとめ ・MorphNetは圧縮対象をサイズや計算量などから選べる事に加えて3つの重要な特徴がある ・ネットワークの構造そのものを変更する事がある、大規模...
学習手法

MorphNet:学習済みニューラルネットワークをより速くより小さく改良(1/2)

1.MorphNet:学習済みニューラルネットワークをより速くより小さく改良(1/2)まとめ ・AutoMLのようなニューラルネットワークサーチは思った以上に時間とお金がかかる可能性がある ・既に存在する学習済みニューラルネットワークを特定...