optimization

公平性

TFCO:制約付き最適化ライブラリを使用して公平性の目標を設定(1/3)

1.TFCO:制約付き最適化ライブラリを使用して公平性の目標を設定(1/3)まとめ ・機械学習モデルは競合する考慮事項間でバランスを取るようなケースに対処するのが難しい ・TFCOライブラリを使用すると複数の異なる基準に基づく機械学習の問題...
AI関連その他

Google Research:2019年の振り返りと2020年以降に向けて(4/8)

1.Google Research:2019年の振り返りと2020年以降に向けて(4/8)まとめ ・新たに開発した54量子ビットプロセッサで量子超越性を達成し一万年かかる計算を200秒で実現 ・計算時に発生する量子エラーの訂正に焦点を当てて...
学習手法

MobileNetV3:次世代のオンデバイス視覚モデル(2/3)

1.MobileNetV3:次世代のオンデバイス視覚モデル(2/3)まとめ ・MobileNetV3の探索スペースはh-swishとsqueeze-and-excitationで改良が施されている ・ネットワークの最後に新しい効率的な〆(l...
モデル

強化学習を使って量子計算を改善(1/2)

1.強化学習を使って量子計算を改善(1/2)まとめ ・量子コンピュータの構成要素である量子ビットは周囲の微量なエネルギーの影響を受ける ・更には制御用ツールによってもたらされる干渉などの影響も受けて誤差が拡大してしまう ・強化学習を使用して...
入門/解説

偏微分方程式をより良く近似するために機械学習を利用(2/2)

1.偏微分方程式をより良く近似するために機械学習を利用(2/2)まとめ ・人間によるヒューリスティックな観察をニューラルネットワークに学習させる事が基本的アイディア ・ニューラルネットワークを従来のシミュレーション手法の要素と組み合わせる事...
入門/解説

2019年4月時点のGANに関する未解決な問題(4/7)

1.2019年4月時点のGANに関する未解決な問題(4/7)まとめ ・GANが収束する条件についてはまだ良くわかっていないがGANだけの問題ではない ・GAN固有の問題について掘り下げるアプローチは主に3つの手法がある ・3手法ともに有望で...
学習手法

MorphNet:学習済みニューラルネットワークをより速くより小さく改良(1/2)

1.MorphNet:学習済みニューラルネットワークをより速くより小さく改良(1/2)まとめ ・AutoMLのようなニューラルネットワークサーチは思った以上に時間とお金がかかる可能性がある ・既に存在する学習済みニューラルネットワークを特定...
入門/解説

ニューラルネットワークの並列訓練の限界を測定(2/2)

1.ニューラルネットワークの並列訓練の限界を測定(2/2)まとめ ・有効な最大バッチサイズはある程度ワークロードのあらゆる側面に依存 ・しかし大きいバッチサイズの恩恵を受ける事ができる条件はまだ不明 ・最適化アルゴリズムのわずかな変更が訓練...
入門/解説

2018年のGoogleの研究成果を振り返って(3/6)

1.2018年のGoogleの研究成果を振り返って(3/6)まとめ ・Googleの2018年のAI関連の研究や成果の振り返り ・コンピュテーショナルフォトグラフィー、アルゴリズム、ソフトウェア ・研究開発の結果から実際の製品として世に出た...
モデル

Google AIプリンストン研究所で行われる現在および将来の研究(1/2)

1.Google AIプリンストン研究所で行われる現在および将来の研究(1/2)まとめ ・来年、プリンストン大学の側にGoogleが新しく研究所を開設予定 ・新しい研究所では大規模機械学習の最適化や制御理論および強化学習が注力される ・大規...
入門/解説

NeurIPS 2018のTest of Time AwardはThe Trade-Offs of Large Scale Learning

1.NeurIPS 2018のTest of Time AwardはThe Trade-Offs of Large Scale Learningまとめ ・NeurlIPSのTest of Time Awardは現在に大きな影響を及ぼした過去...