業界/分野

学習手法

DALL-E 2がセンシティブな画像を生成しないようにするための工夫(2/3)

1.DALL-E 2がセンシティブな画像を生成しないようにするための工夫(2/3)まとめ・生成モデルは学習データに似たデータを生成しようとするが元データが偏っている場合がある・学習データを選別すると元データ内の偏りが増幅してしまったり新規に...
学習手法

DALL-E 2がセンシティブな画像を生成しないようにするための工夫(1/3)

1.DALL-E 2がセンシティブな画像を生成しないようにするための工夫(1/3)まとめ・DALL-E 2は強力な画像生成モデルだがOpenAIのポリシーに違反しない工夫をしている・工夫の一部にDALL-E 2の学習データを直接変更する事前...
量子コンピュータ

観測困難な量子状態をそのままデータとして扱える量子機械学習の優位性(2/2)

1.観測困難な量子状態をそのままデータとして扱える量子機械学習の優位性(2/2)まとめ・従来は原子やその他の量子オブジェクトを使って量子状態を測定してデータとした・QMLでは、量子状態を測定するのではなく、量子状態を保存する事が可能になる・...
量子コンピュータ

観測困難な量子状態をそのままデータとして扱える量子機械学習の優位性(1/2)

1.観測困難な量子状態をそのままデータとして扱える量子機械学習の優位性(1/2)まとめ・量子の観測の困難さはよく知られており、実体が波なのか粒なのかも判明しないほど・量子に関する実験は量子状態の観測が必要になるため機械学習でもデータ収集が困...
画像生成

Latent Diffusion Modelsを使ってテキストから画像を生成

1.Latent Diffusion Modelsを使ってテキストから画像を生成まとめ・Latent DiffusionはDALL·E Flowが内部で呼んでいるモデルのベースとなったモデル・DALL·E同様にテキストから画像の生成だけでな...
アプリケーション

DALL·E Flow:複数のモデルを組み合わせて入力文に基づいたHD画像を作成(2/2)

1.DALL·E Flow:複数のモデルを組み合わせて入力文に基づいたHD画像を作成(2/2)まとめ・DALL-E Flowのサーバーは、ピーク時に21GBのVRAMを持つ1つのGPUを必要とする・12GBのGPUではDALL-E Flow...
アプリケーション

DALL·E Flow:複数のモデルを組み合わせて入力文に基づいたHD画像を作成(1/2)

1.DALL·E Flow:複数のモデルを組み合わせて入力文に基づいたHD画像を作成(1/2)まとめ・DALL·E Flowは幾つかのモデルを連携させてDALL·Eの性能や表現力を底上げする試み・DALL·E と拡散モデルとSwinIRを組...
学習手法

30億のパラメータを持つ巨大モデルを学習させた際の知見

1.30億のパラメータを持つ巨大モデルを学習させた際の知見まとめ・非常に巨大なモデルを学習させる際は混合精度と全精度で違いが出る可能性がある・通常の学習では問題は発生しないが学習の収束が見込めるトレーニングの後半に出る・DALL·E meg...
アプリケーション

Googleアシスタントが文脈を意識できる理由(2/2)

1.Googleアシスタントが文脈を意識できる理由(2/2)まとめ・言い換えシステムは3種の異なるタイプの生成器を用いて候補を生成している・言い換え候補からいくつかの信号を抽出しMLモデルで最も有望な候補を選択・本手法は、問い合わせ文を処理...
アプリケーション

Googleアシスタントが文脈を意識できる理由(1/2)

1.Googleアシスタントが文脈を意識できる理由(1/2)まとめ・人は会話時に文脈を意識して効率的な会話を行っているが機械が文脈を意識する事は困難・Googleアシスタントは以前の問い合わせや回答で定義された文脈を参照する事が可能・以前の...
アプリケーション

複数のトレードオフを念頭にワイヤレスネットワークを自動設計(3/3)

1.複数のトレードオフを念頭にワイヤレスネットワークを自動設計(3/3)まとめ・近接したサイトは干渉を起こすため明示的に禁止して良い解決策へと探索を誘導している・オートプランニングは3つの競合する目的のバランスをとる必要があるので候補を出力...
アプリケーション

複数のトレードオフを念頭にワイヤレスネットワークを自動設計(2/3)

1.複数のトレードオフを念頭にワイヤレスネットワークを自動設計(2/3)まとめ・詳細な地理データを使用することで正確な経路損失予測が可能になり分散計算で高速実行が可能・オートプランニングの入力には需要点候補拠点、予測信号強度、および予算枠を...