データセット SGD:スキーマガイド付き対話学習用データセット(2/2)
１．SGD:スキーマガイド付き対話学習用データセット(2/2)まとめ ・SGDデータセットは関数とそのパラメータをリスト化するマスタースキーマアプローチを採用していない ・代わりにスキーマガイドアプローチを採用しスキーマの特徴表現を学習させ...
人工知能/機械学習
データセット データセット SGD:スキーマガイド付き対話学習用データセット(1/2)
１．SGD:スキーマガイド付き対話学習用データセット(1/2)まとめ ・バーチャルアシスタントの保守運用や機能追加の難しさは適切なデータセットがない事が一因 ・Schema-Guided Dialogueデータセット(SGD)はこの問題に対...
モデル Cloud TPU v3 PodsがAI学習にかかる時間を競うコンペで最速記録を達成
１．Cloud TPU v3 PodsがAI学習にかかる時間を競うコンペで最速記録を達成まとめ ・Cloud TPU v3 Podsが機械学習モデルの学習時間を測るベンチマークであるMLPerfで最速記録を達成 ・オンプレミスが主体のNVI...
モデル BERTのGoogle検索エンジンへの実践投入
１．BERTのGoogle検索エンジンへの実践投入まとめ ・文脈を理解するAIとして昨年秋に話題になったBERTがGoogle検索に実践投入 ・従来より検索語の意図を理解する能力が高まり英語検索の10%程度が改善された ・改良された学習結果...
学習手法 ディープラーニングを使用して嗅覚を学習(2/2)
１．ディープラーニングを使用して嗅覚を学習(2/2)まとめ ・今回の研究で開発したGNNによる特徴表現は立体異性体を区別できないが臭気予測には支障がなかった ・GNNで学習した特徴表現を中間層から色彩におけるRGBのような「匂い埋め込み」を...
学習手法 ディープラーニングを使用して嗅覚を学習(1/2)
１．ディープラーニングを使用して嗅覚を学習(1/2)まとめ ・嗅覚は非常に多くの生物で共有される感覚であるが機械学習の研究対象としては軽視されている ・聴覚や視覚の機械学習事例から考えるに入力分子から最終結果である匂いを予測できるようになる...
モデル 動画用ニューラルネットワークを自動で探索する試み(3/3)
１．動画用ニューラルネットワークを自動で探索する試み(3/3)まとめ ・従来モデルより大幅に早くビデオ認識が可能なTiny Video Networksも自動探索する事ができた ・アーキテクチャの自動進化中に実行時間を考慮し計算量を削減する...
モデル 動画用ニューラルネットワークを自動で探索する試み(2/3)
１．動画用ニューラルネットワークを自動で探索する試み(2/3)まとめ ・AssembleNetでは、様々なサブネットワークを融合する新しい方法を検討した ・目的は、ビデオの外観と動きの視覚的な手がかりをまとめて、より優れた特徴表現を学習する...
モデル 動画用ニューラルネットワークを自動で探索する試み(1/3)
１．動画用ニューラルネットワークを自動で探索する試み(1/3)まとめ ・現在動画用のモデルは通常既存の画像用モデルなどを元に手動で拡張設計されている ・動画用モデルは時空間情報を扱うためAutoMLのような自動化アプローチが困難 ・この課題...
学習手法 M4:超多言語、大規模ニューラル機械翻訳(3/3)
１．M4:超多言語、大規模ニューラル機械翻訳(3/3)まとめ ・低リソース言語の数を増やすと高リソース言語の翻訳の品質が低下する現象が観察される ・これを敷設ために良い学習アルゴリズムやモデルパラメータ数を増やす試みを行った ・最終的に50...
学習手法 ROBEL:3Dプリンタで作成可能な強化学習用ロボット(3/3)
１．ROBEL:3Dプリンタで作成可能な強化学習用ロボット(3/3)まとめ ・ROBELは剛い物体も柔らかい物体も扱う事が出来、予期せぬ妨害や障害に関しても対応可能 ・複数のD'Clawが経験を共有することで、タスクをまとめてより速く学習す...
学習手法 強化学習を使って量子計算を改善(2/2)
１．強化学習を使って量子計算を改善(2/2)まとめ ・次のステップとして量子制御コスト関数をオンポリシーRLを使って最適化した ・オンポリシーRLとオフポリシーRLの違いは制御ポリシーが制御コストとは独立して表されること ・新しいフレームワ...