1.求められるデータ利活用の安全性

近年、データは現代における石油と喩えられ、データの利活用が企業における競争力の源泉となっている。スマートフォンやIoTデバイスの普及に伴うデータ量の増加と、AIやデータ分析技術の発展の両輪が噛み合うことによりデータの重要性は今後も増していく。

企業には競争力強化のためにデータを収集し、活用したいというモチベーションが存在し、消費者からもデータを活用した利便性の高いサービスが求められている。

その一方で、人々のプライバシーに関する意識は年々高まっており、企業は消費者のデータプライバシーを適切に保護管理することが求められる。EUにおけるGDPR（注1）の施行や日本における度重なる個人情報保護法の改正もこうした背景に起因している（資料1）。

企業におけるデータ利活用と消費者のプライバシー保護の文脈は一見相反しているように見えるが、この二つは大きなムーブメントとなっており、いずれも後戻りすることはない。企業は消費者のプライバシーに最大限配慮しながら安全にデータを利活用することが今後より一層求められることとなる。

日本では本人への十分な説明がないまま、内定辞退率や交通系ICカードの乗車履歴などのプライバシー情報を第三者提供した事例がある。このような、データの目的外利用や漏えいなどのプライバシーに係る問題を起こした場合、一時的に非難が集まるだけでなく、消費者からの信頼を回復するために長い時間と大きな労力が必要となる。

こうした問題を避け、適切にデータを利活用するためのプライバシーに関する新技術が台頭しており、プライバシー強化技術（Privacy Enhancing Technologies：PETs）と称されている。本ジャーナルではプライバシー強化技術の中から、従来のプライバシー保護技術にない強力な性質を持つ差分プライバシーという技術を紹介したい。

2.従来のプライバシー保護技術の限界

個人のプライバシー情報を割り出そうとする攻撃者はさまざまな手法を用いるが、従来のプライバシー保護技術は特定の攻撃に対する安全性を保証するものであり、新しい攻撃手法が生み出された場合は場当たり的な対処が要求される。

個人単位のデータのプライバシーを保護する手法である仮名化・匿名化を例に説明しよう。仮名化・匿名化は個人の識別子（注2）を削除することによりプライバシーを保護する手法だが、準識別子（注3）に特徴的な情報が残った場合は個人の特定リスクが残る。これに対処する方法として、K-匿名化（注4）という技術を用いることで、同じ準識別子を含むデータを複製し、個人の特定を困難にできる。しかし、K-匿名化を使った場合も準識別子に属さない病名などの機微情報は推定できてしまうなどの弱点があり、これに対処することはできない。

具体的な例を上げて説明しよう。資料2の例では、匿名加工したとしても身長が特長的であり、特定のリスクの残る2番目の個人の身長をK-匿名化により180cm以上とし、個人を一意に特定することを不可能としている。一方、個人は特定できなくとも身長180cm以上の人が膵臓がんを既往症に持つことは知られてしまうこととなり、機微情報を推定されるリスクが残る。

このように、K-匿名化のような従来のプライバシー保護技術は、ある特定の弱点に対する防御策であり、想定されていない他の弱点には対応できない。これを攻撃モデルに依存している状態と呼び、新たな弱点が判明した時点で別の手法により対処を行うといった後追いのプライバシー対策をすることになる。これでは攻撃者とのイタチごっこが延々に繰り返されてしまう。

3.差分プライバシーの概要

差分プライバシーとは、平均や中央値などの統計データに対してノイズ（注5）を加えることで、同じような有用性を持つ統計データを出力しながらも、統計データのもとになる個人に関する情報の逆算を困難にする技術である。

データを統計データとして公開する場合、個人単位の情報が集約されるため、一見プライバシーのリスクが低く見えるがそうではない。公開されているデータと攻撃者の手元にあるデータの突き合わせにより、プライバシー情報が漏えいするケースが存在する。ある企業が単純な統計データとして平均年収を公開しており、攻撃者が情報を取得したいターゲット以外の統計データを入手できた場合（注6）を想定しよう。この場合、攻撃者は公開情報と手元のデータセットの統計データの差分からターゲットの年収というプライバシー情報をいとも簡単に特定することができてしまう（資料3）。

差分プライバシーは出力のデータにプライバシーを保護するためのノイズを加えることにより、その名の通り統計データの差分から個人の情報を逆算する攻撃を困難にする。公開する統計データが差分プライバシー適用済みであると宣言することにより、攻撃者はターゲットの情報の真の値にたどり着くことが困難になるため、攻撃のモチベーションも削ぐことが可能となる。

資料4のケースでは、統計データである平均年収にノイズを加えることにより、攻撃者からターゲットが知られたくない年収の真の値を秘匿することが可能だ。1万円というわずかなノイズだが、差分から算出したターゲット年収の真の値は100万円ずれることとなり、プライバシーが十分に保護される。また、母集団が大きい場合はさらに微量なノイズであっても同等のプライバシーを確保することが可能となる。

差分プライバシーは統計データにノイズを加えることにより安全性を向上させる技術だが、ノイズを加えるということは元の統計データとの誤差が発生する分、有用性が低下するということでもある。実業務に適用する場合はこのトレードオフの調整を、有用性が失われることに配慮しながら、データそのものが持つプライバシーリスクや公開範囲によるリスクなどを踏まえて適切に行う必要がある。

4.差分プライバシーの特性

差分プライバシーが求められる背景には、昨今のデータ量の増加に加え、コンピューター処理能力の向上が挙げられる。これにより、今までは難しかった複数のデータの重ね合わせにより、個人のプライバシー情報を復元するデータベース再構築攻撃が現実的になっているなど、データを悪用しようとする攻撃者有利な状況になっている。

2章で述べた通り、従来のプライバシー保護技術は特定の攻撃に対する安全性を保証するものであったが、差分プライバシーは攻撃モデルに依存しない安全性を持ち、データベース再構築攻撃も含めた任意の攻撃に対する安全性を保証することができる。

その要因は、差分プライバシーの本質がキーとなっている。差分プライバシーの本質は、“ある個人がいない場合でも同じような統計データを出力すること”であり、有用性が保たれる範囲で個人の影響を薄めることを目標としている（資料5）。

差分プライバシー適用後の統計データは、攻撃者が個人の情報を逆算しようとしてもその確証を得ることができない。つまり、他のデータと重ね合わせること自体が無意味となるため、データが大量に出回っている昨今であっても攻撃者が保有するデータに依存しない安全性を保証できるのだ。さらにこの安全性は、差分プライバシー適用後の統計データそのものが持つ、情報復元の難しさを指標にした安全性であり、特定の攻撃に対する安全性ではない。以上が、差分プライバシーが攻撃者が保有するデータと攻撃手法に依存しない安全性を持つとされるゆえんである。特定の攻撃から守るために場当たり的な対策を行わざるを得なかった従来のプライバシー保護技術と比較して、これがいかに強力な性質であるかがわかるだろう。差分プライバシーは、攻撃者とのイタチごっこを終わらせる可能性を秘めている。

5.差分プライバシーの事例と活用方法

差分プライバシーは、巨大IT企業や政府機関などで実例があり、2020年の米国における国勢調査公表には差分プライバシーが用いられた。国勢調査局には人種や民族などの重大なプライバシーを保護しながらも、正確な人口統計データを提供しなければならないという二律背反する要件があったが、差分プライバシーによりこれを実現している。

日本においても、大手損害保険会社にて自動車走行データに差分プライバシーを用いた事例が存在する。同社はこれまでも運転挙動を分析して、地方自治体への提供を行っていたが、これを曜日や性別などの詳細な属性での分析を可能とするために差分プライバシーを用いた。詳細な情報を活用することで、個人の居場所や行動履歴などが読み取られるリスクを守っている。この事例では、曜日や性別などのメッシュごとの傾向がわかれば良いため、指標の有用性を傾向がつかめる範囲とし、分析への影響が出ない範囲でプライバシーの度合いを調整したという（資料6）。

差分プライバシーは平たく言ってしまえば「データを外部に安全に公開するための技術」であるが、外部とは必ずしも社外とは限らない。社内においても、プライバシー性が高く、他部門にすら公開することが難しいデータに差分プライバシーを用いることで、専門組織のリソースや他部門のデータと合わせての分析が可能となるだろう。

近年では情報漏えいなどの事故そのものではなく、管理体制の不備などもGDPRの制裁対象になるなど、社内におけるデータの取扱も厳格化されている。社内におけるデータ分析であってもデータサイエンティストがプライバシー情報に触れることがないように、差分プライバシーを用いて分析することが当たり前になる未来があるかもしれない。

6.差分プライバシーの今後

5章で事例を挙げたが、差分プライバシーは現状ほとんどが実証実験レベルのものであり、一般企業への普及にはまだ時間がかかるだろう。Gartner社のレポートにおいても差分プライバシーは黎明期と位置づけられており、普及までに5〜10年を要するとされている。

差分プライバシーは統計データのプライバシーをより強固にする技術であるため、プライバシー要件の高いデータの主な特徴や傾向などの外観を分析したい場合などに適すると考えられる。逆に、単純な匿名化で要件を満たすようなプライバシー要件の低いデータや、個人単位で細かい分析をしたい場合などには適さない。このように、すべてのデータが差分プライバシーに適するわけではないため、実証実験フェーズを経ることで、適用範囲が明確になっていくだろう。

また、この手の技術は、さまざまな分析基盤やソリューションに標準搭載されるなど、誰もが手軽に利用できるようになって初めて普及してきたと言えるが、現状は差分プライバシーに精通したベンダーやエンジニアのみが触れる技術である。スタートアップ企業を中心に、分析機能も一体となった差分プライバシーソリューションが提供され始めているが、このような適用のハードルを下げるソリューションが開発されることも普及に向けた要件の一つとなるだろう。

最後に、差分プライバシーは未知の攻撃にも耐えうる安全性を持つ技術であるが、それだけですべてのプライバシーの問題を解決できるわけではない。差分プライバシーの適用領域外のプライバシーに関しては、他の技術と合わせて複合的に保護していく必要がある。企業においては秘密計算（注7）なども含めて技術や適用領域の選定を行うスキルが求められる（資料7）。

プライバシー強化技術はプライバシー保護の潮流を乗りこなし、データの活用を推進していくための強力な武器となる。これを使いこなすことができれば、企業のデータ利活用には確実な追い風となる。プライバシーの問題に尻込みして歩みを止めるのではなく、消費者に安心を与えるために使いこなすという目線を持ってプライバシー強化技術についての理解を深めていくべきだろう。