Fragen und Antworten: Differential Privacy

Wie können Technologien zum Schutz der Privatsphäre dazu beitragen, den Wert von Behördendaten zu steigern?

Georges-Simon Ulrich:

Technologien zum Schutz der Privatsphäre (Privacy Enhancing Technologies, PET) wie Differential Privacy (DP) ermöglichen eine sichere und vertrauliche Nutzung von Daten unter Wahrung der Privatsphäre und können so dazu beitragen, das Potenzial der Behördendaten vollumfänglich auszuschöpfen. Mithilfe von PET können Behörden Erkenntnisse aus schützenswerten Daten gewinnen, ohne diese dem Risiko von Missbrauch oder unbefugtem Zugriff auszusetzen. Durch den verstärkten Schutz der Privatsphäre ermöglichen PET eine umfassendere Datenanalyse und erleichtern die Zusammenarbeit zwischen den eidgenössischen Departementen sowie mit externen Partnern aus Wissenschaft und Zivilgesellschaft. Damit wird die faktenbasierte Entscheidfindung und Politikentwicklung gefördert, was wiederum die Qualität der öffentlichen Dienste und den gesellschaftlichen Nutzen erhöht.

Warum konzentriert sich das Bundesamt für Statistik auf Differential Privacy (DP)?

Georges-Simon Ulrich:

Als zentraler Knotenpunkt im Datenökosystem der Schweiz setzt das Bundesamt für Statistik (BFS) das Once-Only-Prinzip um. Dieses schreibt vor, dass Informationen nur einmal erhoben und dann von allen staatlichen Stellen genutzt werden sollen. Hierzu muss der Datenzugriff streng geregelt werden und es braucht einen sorgfältigen Umgang mit den Offenlegungsrisiken, damit die Vertraulichkeit der Daten gewährleistet ist. In seiner Funktion als Verwalter hochsensibler Daten erhält das BFS viele Anfragen von verschiedenen Interessengruppen, kann aber in der Regel keine Informationen herausgeben, da es an das Statistikgeheimnis gebunden ist. Darüber hinaus birgt die Veröffentlichung von Statistiken auch die Gefahr von Rückschlüssen auf Einzelpersonen und damit einer Verletzung ihrer Privatsphäre. Um dieses Problem anzugehen, hat sich das BFS intensiv mit der statistischen Offenlegungskontrolle (robuste Methoden zum Schutz sensibler Informationen, die dennoch die notwendigen statistischen Analysen ermöglichen) befasst und ist somit gut gerüstet, diese Herausforderungen zu meistern. DP-basierte Lösungen, die von den Behörden anderer Länder (z. B. dem US Census Bureau) bereits eingesetzt werden, versprechen einen robusteren, flexibleren und theoretisch fundierteren Ansatz zur Kontrolle des Offenlegungsrisikos als herkömmliche Methoden.

Warum ist es für die Behörden (aus Bürgersicht) wichtig, den Einsatz von DP zu prüfen?

Georges-Simon Ulrich:

Die Auseinandersetzung mit DP ist für die Behörden entscheidend, um das Vertrauen der Bürgerinnen und Bürger zu stärken. DP verringert das Risiko einer potenziellen Extraktion personenbezogener Daten, wenn amtliche Statistiken veröffentlicht oder Daten zu Forschungszwecken oder zur Verbesserung von Dienstleistungen an Dritte weitergegeben werden. Durch diesen Schutz können die Menschen darauf vertrauen, dass ihre Privatsphäre von den Verwaltungsstellen respektiert und geschützt wird und sind dadurch eher bereit, datengestützte Initiativen zu unterstützen und sich daran zu beteiligen. Dies ermöglicht es den Behörden wiederum, fundierte Entscheidungen zu treffen und die öffentlichen Dienstleistungen im Interesse der Allgemeinheit zu verbessern.

Wie wird sich DP auf die Nutzung von Daten und die Datenwissenschaft auswirken?

Bertrand Loison:

Mithilfe von DP lassen sich Daten vertraulich und unter Gewährleistung der Privatsphäre analysieren, sodass die Datenwissenschaft wertvolle Erkenntnisse gewinnen und dennoch sicherstellen kann, dass sensible Informationen geschützt bleiben. Da die Zuverlässigkeit und Sicherheit der öffentlichen Verwaltung erwiesen sind, kann DP zu umfassenderen und innovativeren datengesteuerten Lösungen beitragen. Dieser Ansatz erhöht nicht nur die Effizienz der öffentlichen Dienste, sondern fördert auch das Vertrauen der Öffentlichkeit in die Datenpraxis, was letztlich zu einer fundierteren Entscheidungsfindung und besseren gesellschaftlichen Errungenschaften führt.

Warum ist das DSCC der richtige Ort für die Weiterentwicklung vonDP-Lösungen?

Christine Choirat:

Als Innovationszentrum sucht das DSCC aktiv nach Möglichkeiten, Datenwissenschaft in der Schweizer Bundesverwaltung voranzutreiben. Da ein echter Bedarf am Zugang zu schützenswerten Daten aus allen Bereichen der Gesellschaft besteht, müssen diese Arbeiten unbedingt gefördert werden. Datenwissenschaft ist ohne Daten nicht möglich.

Warum die Zusammenarbeit mit OpenDP?

Christine Choirat:

OpenDP spielt eine führende Rolle, wenn es darum geht, DP dank einer vertrauenswürdigen Implementierung leichter zugänglich zu machen. Das Fellowship-Programm ermöglichte eine Zusammenarbeit sowohl bei der Entwicklung praktischer Lösungen als auch bei der Weiterentwicklung von DP-Methoden in verschiedenen Bereichen

Welche formellen Garantien erhalten die Bürgerinnen und Bürger für den Schutz ihrer persönlichen Daten?

Raphaël de Fondeville:

DP ist ein formaler mathematischer Rahmen, der garantiert, dass aus Statistiken, Algorithmen der künstlichen Intelligenz und ganz allgemein aus Datenprodukten, das aus Personendaten abgeleitet werden, keine personenbezogenen Informationen extrahiert werden können. Insbesondere stellen DP-basierte Schutzmechanismen sicher, dass sich personenbezogene Daten nicht zuverlässig extrahieren lassen. Mit anderen Worten lässt sich z. B. nicht mit 100-prozentiger Sicherheit feststellen, ob eine Person an einer bestimmten Krankheit leidet. Eine Extraktion mit einem geringeren Zuverlässigkeitsgrad bleibt aber möglich. Mit DP lässt sich kontrollieren, bis zu welchem Grad die Zuverlässigkeit der Daten bei einem Angriff erhöht werden kann. Wenn ein Angreifer davon ausgeht, dass Alice mit einer Wahrscheinlichkeit von 10% an einer seltenen Krankheit leidet, sorgt DP dafür, dass er die Wahrscheinlichkeit nicht mithilfe der verfügbaren Verwaltungsdaten auf beispielsweise 40% erhöhen kann. Ausserdem ist diese Garantie zukunftssicher, d. h. sie ist unabhängig von den Informationen und technischen Mitteln, die Angreifern heute oder in Zukunft zur Verfügung stehen. Schliesslich sind die Schutzmassnahmen im Rahmen von DP vollständig transparent, ohne die Gewährleistung der Vertraulichkeit zu gefährden: Die genauen Parameter des Zufallsmechanismus können veröffentlicht werden, sodass die Nutzenden seinen Einfluss auf das Ergebnis berücksichtigen und möglicherweise korrigieren können.

Wie könnte DP in realen, für die Bundesverwaltung relevanten Szenarien umgesetzt werden (z. B. Datenanalyse für öffentliche Dienste)?

Raphaël de Fondeville:

Jedes Mal, wenn ein Datenprodukt erstellt und veröffentlicht wird, besteht das Risiko, dass personenbezogene Daten extrahiert werden. Um das Vertrauen der Öffentlichkeit zu bewahren, muss dieses Risiko verstanden und kontrolliert werden. Aus diesem Grund wird der verwaltungsinterne und -externe Einsatz von DP für jede Datenverwendung ausserhalb des ursprünglichen Erhebungszwecks vorangetrieben. Es herrscht immer noch die falsche Annahme, dass eine Anonymisierung möglich ist. Aus technischer Sicht handelt es sich dabei um ein leeres Versprechen, denn die Erstellung eines Datenprodukts birgt immer das Risiko einer Extraktion personenbezogener Daten. Mithilfe von DP kann dieses Risiko aber formal quantifiziert werden, sodass die Behörden und die Bevölkerung den Nutzen des Datenprodukts und das Risiko der Offenlegung personenbezogener Daten abwägen können. DP sollte beispielsweise immer dann angewendet werden, wenn Daten für Forschungszwecke weitergegeben oder einer anderen Stelle der Bundesverwaltung für Analysen zur Verfügung gestellt werden. Noch wichtiger ist die Ermittlung des Risikos einer Extraktion von personenbezogenen Daten in Sektoren, in denen Daten zwischen öffentlichen und privaten Stellen ausgetauscht werden, wie etwa im Gesundheitswesen.

Wie lassen sich die spezifischen Anwendungen von DP beschreiben, die im Rahmen der Fellowship erforscht wurden?

Raphaël de Fondeville:

DP garantiert, dass keine personenbezogenen Daten offengelegt werden. Wenn die Daten jedoch georeferenziert sind, d. h. wenn jede Person einem bestimmten Ort, beispielsweise dem Hauptwohnsitz, zugeordnet ist, steigt das Extraktionsrisiko. Teilen sich grosse Personengruppen denselben geografischen Standort, würde eine Extraktion für eine Person bedeuten, dass potenziell schützenswerte Informationen für die gesamte Gruppe offengelegt werden. Die Möglichkeiten zur formalen Kontrolle des Offenlegungsrisikos durch die Anwendung eines Zufallsmechanismus auf georeferenzierte Daten sind noch nicht gleich ausgereift wie bei Einzelpersonen. Im Rahmen der Fellowship wurden mögliche Lösungen zur Lösung dieses Problems geprüft.

Welche Grenzen bestehen aktuell?

Raphaël de Fondeville:

Die meisten Methoden beruhen derzeit auf Ad-hoc-Lösungen, die nicht die gleichen Vorteile wie DP bieten: Insbesondere versprechen sie weder Zukunftssicherheit, noch erlauben sie eine Quantifizierung des Risikos für alle Datenprodukte. Das Angebot eines zufallsbasierten Ansatzes zur Quantifizierung des Risikos der Extraktion personenbezogener Daten sowohl auf individueller als auch auf geografischer Ebene wäre für die Verwaltung von grossem Nutzen, da es das Vertrauen der Bevölkerung in die Behörden aufrechterhalten, wenn nicht sogar stärken würde.

Was ist ein konkretes Beispiel dafür, wie DP im Rahmen der Fellowship genutzt wurde und wie die Schweizer Bundesverwaltung davon profitieren könnte?

Pauline Maury-Laribière:

Die Verwendung von Daten bedeutet immer eine Abwägung zwischen Nutzen und Schutz der Privatsphäre. Insbesondere dann, wenn die Datenverteilung Extremwerte aufweist (was etwa bei Einkommensdaten der Fall ist), ist der Zufallsmechanismus sehr wichtig, um ein gewisses Mass an Privatsphäre zu wahren. Ein hoher Datenschutz verringert jedoch häufig den Nutzen der Daten. Bei der Fellowship ging es darum, Lösungen zu entwickeln, mit denen die Wirkung des Zufallsmechanismus begrenzt und gleichzeitig der Datenschutz gewährleistet wird.

Welche Grenzen bestehen aktuell?

Pauline Maury-Laribière:

Theoretische Lösungen sind notwendig, aber ebenso wichtig ist es, der öffentlichen Statistik zuverlässige Instrumente zur Datenabfrage zur Verfügung zu stellen. Ihre effiziente und sichere Implementierung birgt grosse Herausforderungen, die im Rahmen von opendp (der Bibliothek von OpenDP) angegangen werden. Insbesondere werden einige datenwissenschaftliche Tools wie Polars, eine Bibliothek zur effizienten Arbeit mit Tabellen, in die opendp-Bibliothek implementiert, um die Nutzung der DP-Algorithmen zu ermöglichen.