アプリケーション Googleドキュメントで要約を自動生成(2/2)
１．Googleドキュメントで要約を自動生成(2/2)まとめ ・知識蒸留でPegasusをTransformerとRNNのハイブリッドアーキテクチャに蒸留 ・その結果オリジナルと同等の品質を保ちながら、待ち時間と必要メモリを大幅に改善 ・課...
dahara1
アプリケーション アプリケーション Googleドキュメントで要約を自動生成(1/2)
１．Googleドキュメントで要約を自動生成(1/2)まとめ ・Googleドキュメントに要約文を作成して自動的に生成／提案する機能が実装された ・全ユーザーが要約を追加可能だが自動生成はGoogle Workspaceのビジネスユーザーの...
アプリケーション DALL·E 2:言葉による指示を理解してリアルな画像や芸術作品を作り出す人工知能
１．DALL·E 2:言葉による指示を理解してリアルな画像や芸術作品を作り出す人工知能まとめ ・昨年発表されたDALL·E言語解釈能力と生成画像の品質を更に高めたDALL·E 2が発表された ・DALL·Eの画像は少し稚拙な画像もあったがD...
学習手法 PRIME：過去のシミュレーションログ使ってアクセラレータを新規に設計(3/3)
１．PRIME：のシミュレーションログ使ってアクセラレータを新規に設計(3/3)まとめ ・PRIMEは複数アプリケーション対応とゼロショット対応の２つの目的で設計されている ・一部モデルではシミュレータ駆動型の方が待ち時間が短いがPRIME...
学習手法 PRIME：過去のシミュレーションログ使ってアクセラレータを新規に設計(2/3)
１．PRIME：のシミュレーションログ使ってアクセラレータを新規に設計(2/3)まとめ ・PRIMEを未知のアプリケーションに汎化させるためにレイヤー数など高レベル特徴を与えている ・PRIMEはEdgeTPUに比べて2.69倍(t-RNN...
学習手法 PRIME：過去のシミュレーションログ使ってアクセラレータを新規に設計(1/3)
１．PRIME：のシミュレーションログ使ってアクセラレータを新規に設計(1/3)まとめ ・ハードウェア設計には多くのシミュレーションが必要でMLがあっても手間がかかる作業 ・過去データを使ってモデルを学習させ、次世代のアクセラレータを設計で...
量子コンピュータ 古典的アルゴリズムと量子アルゴリズムを組み合わせて量子モンテカルロ法を実現(3/3)
１．古典的アルゴリズムと量子アルゴリズムを組み合わせて量子モンテカルロ法を実現(3/3)まとめ ・古典的コンピュータと量子コンピュータの分業で両方のリソースを有効に活用できた ・過去最大規模の16量子ビットを使ってダイヤモンド結晶中の炭素の...
量子コンピュータ 古典的アルゴリズムと量子アルゴリズムを組み合わせて量子モンテカルロ法を実現(2/3)
１．古典的アルゴリズムと量子アルゴリズムを組み合わせて量子モンテカルロ法を実現(2/3)まとめ ・フェルミ粒子には負符号問題というマイナスのエネルギーを持っているように見えるケースがある ・この負符号問題を量子コンピュータと古典的コンピュー...
量子コンピュータ 古典的アルゴリズムと量子アルゴリズムを組み合わせて量子モンテカルロ法を実現(1/3)
１．古典的アルゴリズムと量子アルゴリズムを組み合わせて量子モンテカルロ法を実現(1/3)まとめ ・量子コンピュータ進歩しているが古典的アルゴリズムの方が効果的な事に変わりはない ・しかし古典的手法で量子力学をシミュレーションすると非常に貧弱...
モデル MBT：動画における新しいモダリティ融合モデル(3/3)
１．MBT：動画における新しいモダリティ融合モデル(3/3)まとめ ・少数のattentionボトルネックを使用しても計算量はそれほど大きく増えずほぼ一定に保たれる ・MBTの融合ボトルネックは画像のより小さな領域にAttentionを集中...
モデル MBT：動画における新しいモダリティ融合モデル(2/3)
１．MBT：動画における新しいモダリティ融合モデル(2/3)まとめ ・マルチモーダルモデルで複雑性が増す問題は、注意の流れを削減して緩和する事が可能 ・本研究では融合レイヤーの位置と注意のボトルネックを用いて注意の流れを制限した ・中期融合...
モデル MBT：動画における新しいモダリティ融合モデル(1/3)
１．MBT：動画における新しいモダリティ融合モデル(1/3)まとめ ・人は複数の感覚からの入力を通して世界と関わり情報を組み合わせる事が可能 ・同様に複数の入力を取扱可能なモデルをマルチモーダルな機械学習モデルという ・MBTと呼ぶ動画にお...