https://mp.weixin.qq.com/s/dXDLke1YnIZoi9j0Q5df-A
Von Super nervös
Zusammenfassung: Vor kurzem hat das niederländische Gericht in Den Haag einen Fall bezüglich des Risikoanzeigesystems der niederländischen Regierung verhandelt. In der jüngsten Entscheidung ordnete das Gericht die sofortige Aussetzung des Tools zur Aufdeckung von Sozialbetrug SyRI an, da es gegen die Europäische Menschenrechtskonvention verstößt, weil es gegen die Privatsphäre und die Menschenrechtsnormen verstößt. Das Ergebnis dieser Entscheidung ist der erste Fall in diesem Bereich. Wird der Alarm für andere Erkennungssysteme ausgelöst?
Schlüsselwörter: Datenschutz in den Niederlanden
Am 29. Oktober 2019 erhielt das Haager Gericht in den Niederlanden eine Beschwerde. Dies ist eine Klage mehrerer Organisationen und Einzelpersonen in den Niederlanden gegen SyRI (Systeem Risico Indicatie), ein niederländisches Tool zur Aufdeckung von Sozialbetrug.
Am 5. Februar 2020 ordnete das niederländische Gericht in Den Haag an, dass das SyRI-Instrument für verarmte Gemeinden in den Niederlanden sofort eingestellt werden sollte, da es gegen die Datenschutz- und Menschenrechtsrichtlinien verstößt und nicht den Anforderungen von Artikel 8 Absatz 2 der Europäischen Menschenrechtskonvention entspricht.
Das Gericht stellte in seiner Entscheidung fest, dass SyRI das Recht auf Privatsphäre verletzt
. Die einschlägigen Gesetze bezüglich des Einsatzes von SyRI sind ebenfalls nicht bindend
Was genau soll SyRI verbieten?
Berichten zufolge ist das Risikoindikatorsystem SyRI der niederländischen Regierung ein Risikoberechnungsmodell, das vom niederländischen Ministerium für Soziales und Beschäftigung in den letzten zehn Jahren entwickelt wurde, um die Möglichkeit von persönlichem Betrug und Missbrauch von Leistungen, Zulagen und Steuern vorherzusagen.
SyRI wird hauptsächlich in einkommensschwachen Gemeinden eingesetzt, wobei eine große Menge personenbezogener sensibler Daten verwendet wird, die von Regierungsbehörden gesammelt wurden, wie z. B. Beschäftigungs-, Schulden- und Sozialaufzeichnungen sowie Bildungs- und Wohnungsgeschichte, und anschließend mithilfe eines geheimen Algorithmus analysiert wird, wer möglicherweise ist Es besteht ein höheres Risiko für Sozialbetrug.
Kurz gesagt, das System überprüft potenzielle Betrüger anhand von Daten zu zivilrechtlichen Angelegenheiten.
Die Bereitstellung des SyRI-Systems hat viele Kontroversen ausgelöst
Bei der Anhörung im Oktober 2019 lehnte die Regierung die Offenlegung des Arbeitsprinzips von SyRI ab, da sie befürchtete, dass das System von Betrügern verwendet werden könnte, nachdem der Algorithmus zur Risikoberechnung erläutert wurde.
Sie haben jedoch offengelegt, dass das System falsch positive Ergebnisse liefert (das heißt, das System kennzeichnet Personen fälschlicherweise als Betrugsrisiko). Die Regierung erklärte, dass sie diese "False Positives" verwenden würden, um die Fehler in ihrem Modell zu korrigieren.
Wenn das System feststellt, dass jemand einem Betrugsrisiko ausgesetzt ist, benachrichtigt es die zuständige Regierungsbehörde, die den "Verdächtigen" untersuchen kann. Es ist erwähnenswert, dass alle Regierungsbehörden die Liste der vom System überwachten Personalinformationen anzeigen können.
Bevor das System deaktiviert werden sollte, wurde es von Regierungsbehörden in
fünf Städten eingesetzt, darunter Rotterdam, Eindhoven und Haarlem.
Übermäßige Überwachung der Privatsphäre, was zu Unzufriedenheit führt
Unerwartet wurde dieses Risikoerkennungssystem, dessen Entwicklung viele Jahre in Anspruch nahm, vor Gericht gestellt.
Am 29. Oktober 2019 reichten sechs niederländische Organisationen (einschließlich der größten Gewerkschaften in den Niederlanden FNV und Privacy First) sowie die Schriftsteller Tommy Wieringa und Maxim Maximruru eine Klage gegen SyRI ein. Sie sagten dem Richter: "Dieses System ist zu weit und jeder Bürger wird bedingungslos verdächtigt."
In der Klage wird behauptet, SyRI habe gegen Datenschutzgesetze und Menschenrechtsrichtlinien verstoßen
Eine Koalition von Datenschutz- und Wohlfahrtsrechtsgruppen ist der Ansicht, dass SyRI ärmere Bürger überfordert, und wenn kein Verdacht auf Verhalten besteht, verstößt dies gegen Menschenrechtsnormen.
Das Gericht stellte in der Entscheidung fest, dass das SyRI-System gegen Artikel 8 Absatz 2 der Europäischen Menschenrechtskonvention (EMRK) verstößt. Gemäß den Bestimmungen dieser Klausel dürfen öffentliche Einrichtungen die Privatsphäre des Privat- und Familienlebens, des Wohnsitzes und der Kommunikation nicht beeinträchtigen.
Der Richter ist der Ansicht, dass das SyRI-System keine ausreichenden und legitimen Gründe für eine Verletzung des Privatlebens der Menschen hat und daher illegal ist.
Am Ende entschied das Gericht, dass die Datenschutzmaßnahmen im SyRI-Gesetz unzureichend waren und dass seine Betriebsmethode "stark an Transparenz mangelte", und ordnete die Aussetzung der Nutzung des Systems an.
Natürlich kann die niederländische Regierung auch gegen die Entscheidung Berufung einlegen.
Dieser Fall ist ein Weckruf für andere Erkennungssysteme
Da Regierungen auf der ganzen Welt zunehmend künstliche Intelligenz und Risikomodelle verwenden, um Wohlfahrts- und andere Finanzdienstleistungen zu verwalten, hat der Fall eine wichtige Referenzbedeutung für Rechtsstreitigkeiten, die durch solche Technologien verursacht werden.
Der UN-Sonderberichterstatter für extreme Armut und Menschenrechte, Philip Alston, begrüßt das Urteil. Er sagte: "Dies ist ein klarer Sieg für alle Beteiligten, dass das SyRI-System eine ernsthafte Bedrohung für die Menschenrechte darstellt."
Philip Alston erklärte, dass die Privatsphäre armer Bürger häufig verletzt wird und
streng kontrolliert und kontrolliert werden muss.
Er wies auch darauf hin, dass dies das erste Mal vor Gerichten auf der ganzen Welt ist, dass Wohlfahrtsbehörden die Nutzung digitaler Technologien und großer Mengen digitaler Informationen aus Gründen der Menschenrechte einstellen. Dies war eine Referenz für andere Gerichte und ein Weckruf für andere Politiker. Es ist ein Meilenstein.
Die britische Regierung beschleunigt auch die Entwicklung von Robotern im Wohlfahrtssystem. Als Reaktion darauf sagte Stephen Timms, Vorsitzender des Ausschusses für Arbeit und Rentenauswahl des Unterhauses: "Diese niederländische Gerichtsentscheidung zeigt, dass das Parlament anfangen sollte, aufmerksam zu sein. Die Regierung setzt Technologie ein, um die Rechte der Bürger im Sozialversicherungssystem zu schützen. "
—— Ende—— Scannen Sie 
den QR-Code und schließen Sie sich der KI-Diskussionsgruppe an,
um qualitativ hochwertigere Datensätze zu erhalten,
um die Anwendung künstlicher Intelligenz zu verstehen.
Folgen Sie dem Top-Meeting und
antworten Sie auf das Papier "Reader", um Details und
aufregendere Inhalte zu erhalten (klicken Sie auf das Bild, um es zu lesen).