AI関連その他 トレーニングデータ抽出攻撃：大規模言語モデルが記憶してしまうプライバシー情報(1/2)
１．トレーニングデータ抽出攻撃：大規模言語モデルが記憶してしまうプライバシー情報(1/2)まとめ ・言語モデルがトレーニング時に使用したデータの詳細を漏洩してしまう危険性が指摘された ・大規模言語モデルを非公開データを使って公開している際に...
security
AI関連その他 
その他の分野 Windows10のAIアシスタント「Cortana」が誰でもPCを使えるようにサポート
１．Windows10のAIアシスタント「Cortana」が誰でもPCを使えるようにサポートまとめ ・Windows10搭載人工知能のCortanaがロックをかけたPCへの侵入をサポート ・Cortanaが応答中は検索窓が出現し簡易操作可能...
AI関連その他 Amazon Echoがプライベートな会話を誤送信した事件
１．Amazon Echoがプライベートな会話を誤送信した事件まとめ ・Amazon Echoが夫婦の会話を録音して夫婦の友人に誤送信する事件があった ・抜群のタイミングで誤検知が重なったために起こったとアマゾンは発表 ・正規利用でこういっ...
プライバシー センサーと人工知能による情報漏えい対策
１．センサーと人工知能による情報漏えい対策まとめ ・人気ブラウザFireFoxが4つのセンサーAPIを非推奨にする計画 ・これらのセンサーはユーザの許可を得ずにアプリが利用できる ・センサーから得た情報を人工知能で解析する様々な手段が発見さ...
プライバシー GoogleのAI研究チームの2017年成果プライバシーとセキュリティ
１．GoogleのAI研究チームの2017年成果プライバシーとセキュリティまとめ ・昨年のGoogleBrainの研究成果にプライバシーとセキュリティに関わるものがあった ・プライバシーは病歴等のセンシティブな個人情報を保護しながら学習する...
AI関連その他 音声認識システムを騙す方法
１．音声認識システムを騙す方法まとめ ・音声に特殊な加工をして人工知能を騙す方法が論文で発表される ・人間が聞き取れる音声とまるで違う音声を認識させ任意のボイスコマンドを実行できる ・将来的に偽装音声を放送させて実行できるようになると大きな...
プライバシー スマホ暗証番号をスマホの入力時の傾きから推測する論文が公開
・入力時のスマホの傾きから暗証番号を推測する実験をシンガポールの大学が公開 ・ファイルアクセスなどと異なり端末の傾きはユーザ許可なしに取得可能 ・暗証番号を推測するために機械学習が使われ最高認識率は83.7% スラッシュドットの記事から引用...
その他の分野 画像認識システムを騙す方法
テッククランチに興味深い記事があがっていた。 画像認識システムを騙して空港の警備をすり抜ける方法…Googleの研究者たちがステッカーで実験 １．机の上にバナナを置く（左）と画像認識システムは正確にバナナと認識する（右） ２．バナナの横にト...