nips

学習手法

GO:グラフ最適化用強化学習(2/3)

1.GO:グラフ最適化用強化学習(2/3)まとめ ・GOはGraphSAGEを利用しておりトレーニング時に見た事がないグラフに対して一般化可能 ・GOは規模拡大可能なAttentionが含まれノード間の距離が離れていても依存関係を捕捉可 ・...
モデル

PWIL:敵対的トレーニングに依存しない摸倣学習(2/2)

1.PWIL:敵対的トレーニングに依存しない摸倣学習(2/2)まとめ ・PWILは敵対的手法でないためエージェントとエキスパートを直接類似させる事が可能 ・最先端の摸倣学習は敵対的トレーニングに依存しているアルゴリズム的に不安定 ・PWIL...
公平性

TFCO:制約付き最適化ライブラリを使用して公平性の目標を設定(3/3)

1.TFCO:制約付き最適化ライブラリを使用して公平性の目標を設定(3/3)まとめ ・制約が適用されるグループがデータセット内で過小評価されてしまう可能性があることに注意が必要 ・各グループの割合が高い別のリバランスされたデータセットに制約...
公平性

TFCO:制約付き最適化ライブラリを使用して公平性の目標を設定(2/3)

1.TFCO:制約付き最適化ライブラリを使用して公平性の目標を設定(2/3)まとめ ・「正しい」制約とは、何を持って公平とするか、または問題とユーザーの要件によって異なる ・矛盾する制約を課す事も可能なので適切な解決策がない制約を指定しない...
公平性

TFCO:制約付き最適化ライブラリを使用して公平性の目標を設定(1/3)

1.TFCO:制約付き最適化ライブラリを使用して公平性の目標を設定(1/3)まとめ ・機械学習モデルは競合する考慮事項間でバランスを取るようなケースに対処するのが難しい ・TFCOライブラリを使用すると複数の異なる基準に基づく機械学習の問題...
学習手法

グラフデータを機械学習で扱いやすくするための革新(3/3)

1.グラフデータを機械学習で扱いやすくするための革新(3/3)まとめ ・グラフのembedding手法は有用であるが手動で設定しなければならない多数のハイパーパラメータを持つ ・第二の論文で紹介している「Watch Your Step」はハ...
モデル

グラフデータを機械学習で扱いやすくするための革新(2/3)

1.グラフデータを機械学習で扱いやすくするための革新(2/3)まとめ ・従来のほとんどの手法は各ノードに対して単一のembeddingが学習されなければならないと仮定している ・現実のネットワークは複数の重複するコミュニティと複数の役割が同...
モデル

グラフデータを機械学習で扱いやすくするための革新(1/3)

1.グラフデータを機械学習で扱いやすくするための革新(1/3)まとめ ・グラフはノード(頂点)とエッジ(辺)で構成され概念間の関係を表す事が出来る ・しかしグラフは離散的データであり機械学習が好む連続的データではない ・グラフを機械学習で良...
入門/解説

Weak Supervision:機械学習のための新しいプログラミングパラダイム(1/4)

1.Weak Supervision:機械学習のための新しいプログラミングパラダイム(1/4)まとめ ・weak supervisionとは、SMEからもたらされる高レベル情報、またはノイズの多い情報を活用する事 ・過去の同様な手法にはAc...
モデル

RNN-T:全てをニューラルネットワークで実装したオンデバイス音声認識の実現(2/2)

1.RNN-T:全てをニューラルネットワークで実装したオンデバイス音声認識の実現(2/2)まとめ ・RNN-Tモデルは従来モデルに比べて1/5のサイズ圧縮に成功 ・更にTensorFlow Liteのモデル最適化ツールキットで1/4にサイズ...
入門/解説

DeepDreamで最初期に作成された画像が見つかる(3/3)

1.DeepDreamで最初期に作成された画像が見つかる(3/3)まとめ ・DeepDreamが犬の画像に偏るのは元のニューラルネットがImageNetであるため ・ImageNetはfine-grained classification用...
入門/解説

人工知能を創造するために生物の知能の仕組みを探求する試み(6/6)

1.人工知能を創造するために生物の知能の仕組みを探求する試み(6/6)まとめ ・スタンフォードでは「知性の出現に関する潜在的な法則」を解明するプロジェクトが立ち上がった ・そのために異なる分野を横断し、自由にアイデアを交換する新しい研究コミ...