natural language processing

ロボット

VLMaps:ロボットナビゲーションのための視覚-言語マップ(1/2)

1.VLMaps:ロボットナビゲーションのための視覚-言語マップ(1/2)まとめ ・人が物理的な世界でロボットより優れたナビゲーションが出来るのは周辺環境を認知する地図を構築する能力を持つため ・視覚と言語の共同モデルを学習する事が増えてき...
ヘルスケア

2022年のGoogleのAI研究の成果と今後の展望~医療編~(2/2)まとめ

1.2022年のGoogleのAI研究の成果と今後の展望~医療編~(2/2)まとめ ・産科超音波検査は、質の高い妊産婦ケアの重要な要素ですが低・中所得国の女性の50%が超音波検査を受けられない ・低価格でバッテリー駆動の超音波診断装置とスマ...
データセット

FRMT:複数地域で使われる共通言語の微妙な差異を扱う能力を測る機械翻訳用ベンチマーク(1/2)

1.FRMT:複数地域で使われる共通言語の微妙な差異を扱う能力を測る機械翻訳用ベンチマーク(1/2)まとめ ・ブラジルとポルトガルではポルトガル語が話されているように多くの言語には、地域によって様々なバリエーションがある ・しかし、現在の機...
モデル

LLaMA、chatGPT値下げ、FLAN-UL2:直近の巨大ゴリラ同士の殴り合い

1.LLaMA、chatGPT値下げ、FLAN-UL2:直近の巨大ゴリラ同士の殴り合いまとめ ・一週間前にMetaが最大650億のパラーメーターを持つLLaMAを非商用ライセンスで公開 ・三日前にOpenAIがchatGPTのAPI経由での...
学会

EMNLP 2022におけるGoogleの存在感

1.EMNLP 2022におけるGoogleの存在感まとめ ・2022年12月7日~11日にアラブ首長国連邦アブダビでEMNLP2022が開催 ・Google社員も多数参加し50以上の論文やワークショップに積極的に参加 ・本サイトで概要を翻...
モデル

ReAct:わからなかったらググって、ググった情報を元にもう一度ググって必要な情報を探せる人工知能(2/2)

1.ReAct:わからなかったらググって、ググった情報を元にもう一度ググって必要な情報を探せる人工知能(2/2)まとめ ・ReActの軌跡を用いてより小さな言語モデルの微調整を行うことも検討中 ・ReActが推論を誤った際、人間が道筋を編集...
ロボット

CaP:自分で自分の制御プログラムを書くロボットの実現にむけて(1/2)

1.CaP:自分で自分の制御プログラムを書くロボットの実現に向けて(1/2)まとめ ・ロボットが人間からの指示を受けて自分自身の制御コードを書く時代が到来 ・最新の言語モデルはプログラミング言語を記述できるのでロボット制御も可能 ・言語モデ...
データセット

UL2 20B:オープンソースとして公開された200億パラメータを持つ統一言語モデル(1/2)

1.UL2 20B:オープンソースとして公開された200億パラメータを持つ統一言語モデル(1/2)まとめ ・言語モデルは事前学習のやり方により得意なタスクと不得意タスクが分かれる ・事前学習用の効果的な統一フレームワークを作成があればより効...
モデル

FindIt:テキストの指示に基づいて画像内からサンドイッチの左半分を特定可能な統合モデル(2/2)

1.FindIt:テキストの指示に基づいて画像内からサンドイッチの左半分を特定可能な統合モデル(2/2)まとめ ・3つのタスク全てを同じ入力を取るように適応させ学習の効率化を行った ・全てのタスクに対して標準的な物体検出損失を使ったが驚くほ...
学習手法

OptFormer:パラメータ名など言語情報を参考にハイパーパラメータを最適化(1/2)

1.OptFormer:パラメータ名など言語情報を参考にハイパーパラメータを最適化(1/2)まとめ ・ハイパーパラメータの最適化はモデルの性能を左右する可能性があるため大事 ・従来のハイパーパラメータ探索法はパラメータ数や範囲が同一である事...
モデル

PaLM-SayCan:飲み物をこぼしてしまったからちょっと助けて!とロボットに頼めるようになる(2/2)

1.PaLM-SayCan:飲み物をこぼしてしまったからちょっと助けて!とロボットに頼めるようになる(2/2)まとめ ・ポリシーの学習には10台のロボットで11ヶ月間収集したデモデータ+αを使用 ・更にシミュレーションでオンラインデータを収...
データセット

画像の説明文を利用して視覚的質問回答データを作成(2/2)

1.画像の説明文を利用して視覚的質問回答データを作成(2/2)まとめ ・質問回答モデルと質問生成モデルの両方を使用して一貫性をチェックした ・既存データセットから生成したサンプルの66%~87%が妥当と評価された ・従来データに存在しなかっ...