学習手法

学習手法

LOLNeRF:1枚の画像から3次元構造を学ぶ(1/2)

1.LOLNeRF:1枚の画像から3次元構造を学ぶ(1/2)まとめ ・2次元画像から3次元形状を理解する手法は複数視点のデータに依存している ・1枚の画像から3次元構造を知ることができると便利だが解決困難とされている ・LOLNeRFは単一...
ロボット

ロボットが地形を見て適切な歩き方を選択できるようになる(2/2)

1.ロボットが地形を見て適切な歩き方を選択できるようになる(2/2)まとめ ・最初にセマンティックセグメンテーションモデルを学習させる事で学習を効率化 ・速度ポリシーからの指令に基づいて歩行スタイルを計算するようにした ・登山同を従来手法よ...
ロボット

ロボットが地形を見て適切な歩き方を選択できるようになる(1/2)

1.ロボットが地形を見て適切な歩き方を選択できるようになる(1/2)まとめ ・4足歩行ロボットの能力は大幅に向上したが不整地を対象とした研究は少ない ・不整地では地形特性の推定が重要だが既存の知覚運動システムでは困難 ・階層的な学習フレーム...
学習手法

OptFormer:パラメータ名など言語情報を参考にハイパーパラメータを最適化(2/2)

1.OptFormer:パラメータ名など言語情報を参考にハイパーパラメータを最適化(1/2)まとめ ・OptFormerは様々な最適化アルゴリズムを正確に模倣できるようになった ・OptFormerは最適化目標値の予測とその不確実性の推定が...
学習手法

OptFormer:パラメータ名など言語情報を参考にハイパーパラメータを最適化(1/2)

1.OptFormer:パラメータ名など言語情報を参考にハイパーパラメータを最適化(1/2)まとめ ・ハイパーパラメータの最適化はモデルの性能を左右する可能性があるため大事 ・従来のハイパーパラメータ探索法はパラメータ数や範囲が同一である事...
AI関連その他

Rax:JAXで使えるランキングシステム用ライブラリ(2/2)

1.Rax:JAXで使えるランキングシステム用ライブラリ(2/2)まとめ ・RaxはNDCGを近似してノイズを加える事で微分と局所最適化問題を解決した ・他のJax関連ツールとスムーズに連携できるようにRaxは設計されている ・JAXのT5...
AI関連その他

Rax:JAXで使えるランキングシステム用ライブラリ(1/2)

1.Rax:JAXで使えるランキングシステム用ライブラリ(1/2)まとめ ・ランク付けは、様々な領域にまたがる中核的な問題で機械学習技術であるLTRが良く使用される ・比較的新しい機械学習フレームワークであるJAXで動作するLTRライブラリ...
学習手法

iterative co-tokenization:動画内でボウルに注がれた2番目の食材が何か答えられるようにする(2/2)

1.iterative co-tokenization:動画内でボウルに注がれた2番目の食材が何か答えられるようにする(2/2)まとめ ・反復的共同トークン化アルゴリズムは他の最新モデルよりも性能とサイズに優れる ・計算量も他の手法よりも低...
学習手法

iterative co-tokenization:動画内でボウルに注がれた2番目の食材が何か答えられるようにする(1/2)

1.iterative co-tokenization:動画内でボウルに注がれた2番目の食材が何か答えられるようにする(1/2)まとめ ・自動字幕、動画分析、動画を使った質問回答(VideoQA)など動画を使ったアプリは増えている ・Vid...
モデル

MPNAS:写真も絵画も扱えるモデルを自動生成可能なニューラルアーキテクチャ探索(2/2)

1.MPNAS:写真も絵画も扱えるモデルを自動生成可能なニューラルアーキテクチャ探索(2/2)まとめ ・高度に関連したドメイン間ではネットワーク内のパスと構成要素の大部分が重複する ・MPNASから得られたモデルは従来モデルと比較して効率と...
モデル

MPNAS:写真も絵画も扱えるモデルを自動生成可能なニューラルアーキテクチャ探索(1/2)

1.MPNAS:写真も絵画も扱えるモデルを自動生成可能なニューラルアーキテクチャ探索(1/2)まとめ ・視覚タスクではデータ領域が写真や絵画などで異なる場合は別々にモデルを学習させる事が多い ・異なる領域を共同で学習させる試みはマルチドメイ...
学習手法

LocoProp:レイヤー毎に最適化を行いバックプロパゲーションを効率化(2/2)

1.LocoProp:レイヤー毎に最適化を行いバックプロパゲーションを効率化(2/2)まとめ ・LocoProp はレイヤー単位に正則化、出力目標、損失関数を使用してネットワークを分解 ・重み更新はシンプルなオプティマイザーを使用するが性能...