プライバシー 厳密な差分プライバシー保証を持つ連合学習(3/3)
１．厳密な差分プライバシー保証を持つ連合学習(3/3)まとめ ・米国国勢調査より強い基準のFLモデルを本番環境に配備するという成果を達成した ・他のMLモデルや製品でも実用的で利用可能であるとはまだ言えず研究は続く ・ユーザーの潜在的なプラ...
プライバシー
プライバシー プライバシー 厳密な差分プライバシー保証を持つ連合学習(2/3)
１．厳密な差分プライバシー保証を持つ連合学習(2/3)まとめ ・多くの外部要因によって利用可能なデバイスの数が大幅に変化し得るので困難であった ・学習に参加可能な端末が少ないとランダム性がないためプライバシーが緩まる事になる ・累積和と負相...
プライバシー 厳密な差分プライバシー保証を持つ連合学習(1/3)
１．厳密な差分プライバシー保証を持つ連合学習(1/3)まとめ ・連合学習は学習データをデバイスに残したままモデルの学習が可能でプライシー重視 ・ユーザーデータを使って学習するモデルにとって重要なもう一つの原則は匿名化処理 ・差分プライバシー...
プライバシー 差分プライバシーを使って大規模な画像分類モデルを学習(2/2)
１．差分プライバシーを使って大規模な画像分類モデルを学習(1/2)まとめ ・差分プライバシーのプライバシーと実用性の両立は様々な工夫が必要となる ・フルバッチトレーニングと公開データを使った転移学習を組み合わせた ・DP-SGDはJAXで高...
プライバシー 差分プライバシーを使って大規模な画像分類モデルを学習(1/2)
１．差分プライバシーを使って大規模な画像分類モデルを学習(1/2)まとめ ・大量データを集約して学習データにしていてもモデルは個人に関する特徴を取り込み可能 ・個人に関する特徴が符号化されないようにするため連合学習の重要性が高まっている ・...
プライバシー Federated Reconstruction：部分的に端末内で連合学習を行い連合学習の規模を拡大(2/2)
１．Federated Reconstruction：部分的に端末内で連合学習を行い連合学習の規模を拡大(2/2)まとめ ・部分的端末内連合学習のための手法であるFederated Reconstructionを発表 ・Federated ...
プライバシー Federated Reconstruction：部分的に端末内で連合学習を行い連合学習の規模を拡大(1/2)
１．Federated Reconstruction：部分的に端末内で連合学習を行い連合学習の規模を拡大(1/2)まとめ ・連合学習はユーザーがクラウドに生データを送ることなくモデルを学習することが可能 ・各ユーザーで傾向が異なっていても全...
プライバシー 実用的な差分プライベートクラスタリング(2/2)
１．実用的な差分プライベートクラスタリング(2/2)まとめ ・プライベート・クラスタリング・アルゴリズムの前処理は通常と異なるので留意が必要 ・今回のアルゴリズムは全てのデータポイントが収まるような半径の入力が必要 ・半径が正確である必要は...
プライバシー 実用的な差分プライベートクラスタリング(1/2)
１．実用的な差分プライベートクラスタリング(1/2)まとめ ・k-meansクラスタリングは機密性の高いデータセットを処理する際は問題がある ・データポイントが他と大幅に離れていると単一のクラスタを構成してしまうため ・差分プライバシー方式...
プライバシー FedJAX：連合学習のシミュレーションをJAXで容易に実行(2/2)
１．FedJAX：連合学習のシミュレーションをJAXで容易に実行(2/2)まとめ ・GPU、TPU 1 TensorCore、マルチコアTPUと2つのデータセットでFedJAXを評価 ・TPUを使用するとfederated EMNIST-6...
プライバシー FedJAX：連合学習のシミュレーションをJAXで容易に実行(1/2)
１．FedJAX：連合学習のシミュレーションをJAXで容易に実行(1/2)まとめ ・連合学習を使用するとデータをスマホからクラウドに送信せずともモデルトレーニングが可能 ・連合学習を研究する際の使いやすさを重視したJAXベースのFedJAX...
プライバシー 三菱UFJ信託の個人データ銀行
１．三菱UFJ信託の個人データ銀行まとめ ・信託銀行大手の「三菱ＵＦＪ信託銀行」が個人情報銀行を来年度中にも参入予定 ・スマホアプリを使って個人に健康診断や月々の支出などデータを登録して貰う ・個人から同意を得て預かった個人情報データを企業...