プライバシー Connect the Dots:差分プライバシーのより効率的なプライバシーコスト推定(2/2)
１．Connect the Dots:差分プライバシーのより効率的なプライバシーコスト推定(2/2)まとめ ・Connect-the-Dotsは離散化して戻す事で効率的な計算を行うアルゴリズム ・Connect-the-Dotsは先行実装に...
dp-sgd
プライバシー プライバシー Connect the Dots:差分プライバシーのより効率的なプライバシーコスト推定(1/2)
１．Connect the Dots:差分プライバシーのより効率的なプライバシーコスト推定(1/2)まとめ ・差分プライバシーはプライバシーを保証した上で分析や機械学習を可能にする ・差分プライバシーでは個々のアルゴリズムを合成した際の特性...
プライバシー 匿名化した確率的勾配降下法で広告の効果測定を行う(2/2)
１．匿名化した確率的勾配降下法で広告の効果測定を行う(2/2)まとめ ・バッチサイズはノイズの量の削減などDP-SGDの学習の様々な側面に影響する ・大きなサイズのバッチ学習によりプライベートモデルの有用性が大幅に向上する ・DP-SGDを...
プライバシー 匿名化した確率的勾配降下法で広告の効果測定を行う(1/2)
１．匿名化した確率的勾配降下法で広告の効果測定を行う(1/2)まとめ ・プライバシーと使い勝手の良さを両立するMLアルゴリズムが求められている ・最も広く使われているアルゴリズムはDP-SGDと呼ばれるSGDの拡張版 ・DP-SGDは計算負...
プライバシー 差分プライバシーを使って大規模な画像分類モデルを学習(2/2)
１．差分プライバシーを使って大規模な画像分類モデルを学習(1/2)まとめ ・差分プライバシーのプライバシーと実用性の両立は様々な工夫が必要となる ・フルバッチトレーニングと公開データを使った転移学習を組み合わせた ・DP-SGDはJAXで高...
プライバシー 差分プライバシーを使って大規模な画像分類モデルを学習(1/2)
１．差分プライバシーを使って大規模な画像分類モデルを学習(1/2)まとめ ・大量データを集約して学習データにしていてもモデルは個人に関する特徴を取り込み可能 ・個人に関する特徴が符号化されないようにするため連合学習の重要性が高まっている ・...