AI

FLAN:指示調整により初見タスク実行能力を向上した言語モデル(2/2)

1.FLAN:指示調整により初見タスク実行能力を向上した言語モデル(2/2)まとめ ・FLANはGPT-3よりサイズが小さいがゼロショット設定のGPT-3を上回った ・一部のタスクでは小数ショット設定のGPT-3よりも優れた結果を出した...
AI

FLAN:指示調整により初見タスク実行能力を向上した言語モデル(1/2)

1.FLAN:指示調整により初見タスク実行能力を向上した言語モデル(1/2)まとめ ・モデルが意味のある文章を生成するためには現実世界の知識と物事を抽象化する能力が必要 ・モデルは規模拡大するとこれらの知識を自動的に取得するが条件は明確...
AI

FedJAX:連合学習のシミュレーションをJAXで容易に実行(2/2)

1.FedJAX:連合学習のシミュレーションをJAXで容易に実行(2/2)まとめ ・GPU、TPU 1 TensorCore、マルチコアTPUと2つのデータセットでFedJAXを評価 ・TPUを使用するとfederated EMNIST...
AI

FedJAX:連合学習のシミュレーションをJAXで容易に実行(1/2)

1.FedJAX:連合学習のシミュレーションをJAXで容易に実行(1/2)まとめ ・連合学習を使用するとデータをスマホからクラウドに送信せずともモデルトレーニングが可能 ・連合学習を研究する際の使いやすさを重視したJAXベースのFedJ...
AI

道路網を効率的に分割して最短経路探索を高速化(2/2)

1.道路網を効率的に分割して最短経路探索を高速化(2/2)まとめ ・最初に緊密に接続されたノード同士をグループ化してグラフを小さくする ・これを実現するためにランダムウォークを使用して閉じた領域を捜している ・閉じた領域群をグループ化...
タイトルとURLをコピーしました