モデル CALM:簡単な語順には手間をかけないようにして人工知能による文章生成を高速化(1/2)
１．CALM:簡単な語順には手間をかけないようにして人工知能による文章生成を高速化(1/2)まとめ ・文章生成タスクは直前の単語に基づいて行われるため並列化が困難である ・幾つかの単語は他の単語より次の単語を予測することが簡単な事実に着目し...
モデル 
モデル UnCLIP:画像生成人工知能DALL·E 2のオープンソース実装が動かしやすくなる
１．UnCLIP:画像生成人工知能DALL·E 2のオープンソース実装が動かしやすくなる ・画像生成人工知能の先駆けとなったDALL·E 2のオープンソース実装が改装 ・Diffusersライブラリに統合されたためStableDiffusi...
アプリケーション speaker labels:誰の発言がわかるように音声データにラベルをつけるスマホアプリ(2/2)
１．speaker labels:誰の発言かわかるように音声データにラベルをつけるスマホアプリ(2/2)まとめ ・音声をembedding化した後、複数のクラスタリング手法で話者推定を実施する ・メイン処理に渡す前に予備的アルゴリズムで事前...
アプリケーション speaker labels:誰の発言がわかるように音声データにラベルをつけるスマホアプリ(1/2)
１．speaker labels:誰の発言かわかるように音声データにラベルをつけるスマホアプリ(1/2)まとめ ・Pixel用の音声録音アプリRecorderは便利だが誰が何を言ったのかが不明確 ・録音中にリアルタイムで各発言者にユニークな...
モデル RT-1:現実世界の大規模データを取り扱い可能なロボット操作用Transformer(2/2)
１．RT-1:現実世界の大規模データを取り扱い可能なロボット操作用Transformer(2/2)まとめ ・RT-1は他のロボットの経験を観察する事で新しいスキルを身につける事が可能 ・SayCanとRT-1を組み合わせる事によって初見のキ...
モデル RT-1:現実世界の大規模データを取り扱い可能なロボット操作用Transformer(1/2)
１．RT-1:現実世界の大規模データを取り扱い可能なロボット操作用Transformer(1/2)まとめ ・機械学習は大規模データセットとそれを活用可能なモデルによって進歩している ・ロボット分野は大規模データセットもそれを活用できるモデル...
量子コンピュータ 量子コンピュータを使って理論検証ではなく新規発見を行う(2/2)
１．量子コンピュータを使って理論検証ではなく新規発見を行う(2/2)まとめ ・量子シミュレーションは理論予測の検証に使われることがほとんどであった ・今回は予測されていなかった現象を実験的調査で初めて発見する事ができた ・光子に「束縛状態」...
量子コンピュータ 量子コンピュータを使って理論検証ではなく新規発見を行う(1/2)
１．量子コンピュータを使って理論検証ではなく新規発見を行う(1/2)まとめ ・量子シミュレーションは理論予測の検証に使われることがほとんどであった ・今回は予測されていなかった現象を実験的調査で初めて発見する事ができた ・光子に「束縛状態」...
画像生成 DreamBoothで鬼滅の刃の隊服をナウシカに着てもらう事は妥協すれば可能
１．DreamBoothで鬼滅の刃の隊服をナウシカに着てもらう事は妥協すれば可能まとめ ・指定の仕方を工夫すると「服と羽織」は同時に取り込む事が出来た ・概念は絵柄など、他のスタイルにも影響を与えるので組み合わせ困難 ・３概念を同時に組み合...
プライバシー 匿名化した確率的勾配降下法で広告の効果測定を行う(2/2)
１．匿名化した確率的勾配降下法で広告の効果測定を行う(2/2)まとめ ・バッチサイズはノイズの量の削減などDP-SGDの学習の様々な側面に影響する ・大きなサイズのバッチ学習によりプライベートモデルの有用性が大幅に向上する ・DP-SGDを...
プライバシー 匿名化した確率的勾配降下法で広告の効果測定を行う(1/2)
１．匿名化した確率的勾配降下法で広告の効果測定を行う(1/2)まとめ ・プライバシーと使い勝手の良さを両立するMLアルゴリズムが求められている ・最も広く使われているアルゴリズムはDP-SGDと呼ばれるSGDの拡張版 ・DP-SGDは計算負...
学会 EMNLP 2022におけるGoogleの存在感
１．EMNLP 2022におけるGoogleの存在感まとめ ・2022年12月7日～11日にアラブ首長国連邦アブダビでEMNLP2022が開催 ・Google社員も多数参加し50以上の論文やワークショップに積極的に参加 ・本サイトで概要を翻...