Eine britische Polizeiaufsichtsbehörde hat gewarnt, dass Fehler bei der Gesichtserkennung ethnische Minderheiten dem Risiko unrechtmäßiger Verhaftungen aussetzen könnten. Laut The Guardian stellten Inspektoren fest, dass einige Beamte aufgrund potenzieller Treffer aus nachträglichen Gesichtserkennungsabfragen handelten, ohne ausreichend zusätzliche Überprüfungen vorzunehmen. Dieser Befund verstärkt die wachsende Besorgnis über Fälle unrechtmäßiger Verhaftungen durch Gesichtserkennung im Vereinigten Königreich und wirft eine praktische Frage auf: Was schützt eine Person, wenn Software auf das falsche Gesicht zeigt?

Der Quellartikel ist kurz, daher beschränkt sich dieser Beitrag auf das, was berichtet wurde, und erläutert den weiteren Kontext sorgfältig.

Was die Inspektoren über nachträgliche Gesichtserkennung feststellten

Die nachträgliche Gesichtserkennung unterscheidet sich von Live-Systemen, die Gesichter in Echtzeit scannen, während Personen eine Kamera passieren. Bei einer nachträglichen Abfrage nimmt die Polizei ein Bild einer interessierenden Person, etwa einen Standbild aus einer CCTV-Aufnahme, und vergleicht es mit einer Bilddatenbank, um potenzielle Treffer zu erzeugen.

Das entscheidende Wort ist „potenziell“. Ein Treffer der Software ist eine Spur, keine Identifizierung. Laut dem Bericht des Guardian stellten die Inspektoren fest, dass einige Beamte diese Ergebnisse als Grundlage für Maßnahmen behandelten, ohne ausreichend weitere Überprüfungen durchzuführen. In der Praxis bedeutet das, dass einem möglichen Treffer mehr Gewicht beigemessen wurde, als ihm zustand, bevor eine Verhaftung erfolgte.

Dies ist ebenso sehr ein Verfahrensproblem wie ein Technologieproblem. Selbst ein leistungsfähiger Algorithmus erzeugt falsche Treffer, sodass die anschließenden menschlichen Überprüfungen die wichtigste Absicherung gegen Fehler darstellen.

Warum ethnische Minderheiten einem höheren Risiko durch Übereinstimmungsfehler ausgesetzt sind

Die Warnung der Aufsichtsbehörde hebt ausdrücklich das Risiko für ethnische Minderheiten hervor. Die Sorge ist, dass Übereinstimmungsfehler nicht gleichmäßig über die Bevölkerung verteilt auftreten. Wenn ein System für bestimmte Gruppen mit höherer Wahrscheinlichkeit falsche Treffer erzeugt, dann haben diese Gruppen eine höhere Chance, fälschlicherweise als Verdächtige markiert zu werden.

Kombiniert man dies mit unzureichender Überprüfung, verstärkt sich das Risiko. Ein falscher Treffer, der ordnungsgemäß geprüft wird, wird frühzeitig erkannt. Ein falscher Treffer, der ungeprüft übernommen wird, kann zu einer Anhaltung, einer Verhaftung oder Schlimmerem führen. Die Sorge der Aufsichtsbehörde gilt der Kombination: fehleranfällige Übereinstimmung plus schwache Verifizierung.

Das ist auch der Grund, warum die Details, wie eine Abfrage durchgeführt und überprüft wird, eine Rolle spielen. Wer die Kandidatenliste prüft, welche weiteren Beweise erforderlich sind und wie mit Meinungsverschiedenheiten umgegangen wird – all das bestimmt, ob ein Fehler eine reale Person erreicht.

Wo britische Schutzmaßnahmen und Rechtsvorschriften versagen

Die Feststellungen der Inspektoren deuten darauf hin, dass Schutzmaßnahmen auf dem Papier existieren, aber in der Praxis nicht immer konsequent angewendet werden. Diese Lücke ist ein Grund dafür, dass die Regierung die Regelungen überprüft hat. Wir haben ihren Plan zur Verschärfung des rechtlichen Rahmens in unserem Beitrag über britische Polizeiregeln zur Gesichtserkennung nach den Oxford-Street-Kameras behandelt, und die Feststellungen der Aufsichtsbehörde sprechen für klarere, durchsetzbare Standards bei nachträglichen wie auch bei Live-Abfragen.

Die Dokumentation ist ein Ansatzpunkt, um zu verstehen, wie Schutzmaßnahmen funktionieren sollen. Das Innenministerium hat eine Datenschutzfolgenabschätzung für die Live-Gesichtserkennung der Einwanderungsbehörde veröffentlicht, die wir in unserem Blick auf die LFR-Datenschutzfolgenabschätzung des Innenministeriums zusammengefasst haben. Die Lektüre solcher Dokumente zeigt, welche Risiken die Behörden anerkennen und welche Maßnahmen zur Risikominderung sie versprechen. Die Prüfung besteht darin, ob diese Versprechen in der Praxis eingehalten werden – genau das untersuchen Inspektionen wie diese.

Es ist auch erwähnenswert, dass Gesichtserkennung nicht auf die Polizei beschränkt ist. Auch Einzelhändler nutzen sie, und dieselben Fragen zur Genauigkeit und zu Rechtsbehelfen gelten dort ebenfalls. Unsere Berichterstattung über Facewatch-Warnungen und britische Einkäufer beleuchtet diese Seite des Bildes.

Welche Rechte Sie haben, wenn Sie falsch identifiziert werden

Der Quellartikel legt keine individuellen Rechtsbehelfe dar, daher handelt es sich im Folgenden um allgemeine Hinweise und nicht um Rechtsberatung.

  • Fragen Sie nach der Grundlage. Wenn Sie angehalten oder verhaftet werden, können Sie nach dem Grund fragen. Wenn Gesichtserkennung involviert war, fragen Sie, ob weitere Beweise Sie mit dem Vorfall verbinden.
  • Fordern Sie Ihre Daten an. Nach britischem Datenschutzrecht können Sie grundsätzlich eine Betroffenenanfrage (Subject Access Request) stellen, um personenbezogene Daten einzusehen, die eine Organisation über Sie speichert, wobei die Polizei manchmal Ausnahmen geltend machen kann.
  • Führen Sie Aufzeichnungen. Notieren Sie Daten, Uhrzeiten, Orte und die Namen oder Dienstnummern der beteiligten Beamten.
  • Suchen Sie Rat. Ein Rechtsanwalt oder eine Organisation, die sich auf Bürgerrechte spezialisiert, kann Ihnen Ihre Möglichkeiten für Beschwerden oder Anfechtungen erläutern.
  • Beschweren Sie sich. Sie können sich bei der beteiligten Polizeibehörde beschweren und die Angelegenheit eskalieren, wenn Sie nicht zufrieden sind.

Für den Einzelhandel erklärt unser Leitfaden zu Ihren Datenschutzrechten im Einzelhandel bei Facewatch-Scans, wie Sie eine Markierung hinterfragen und anfechten können.

Was das für Sie bedeutet

Die meisten Menschen werden nie fälschlicherweise zugeordnet, aber das Risiko ist nicht gleich verteilt, und die Warnung der Aufsichtsbehörde erinnert daran, dass ein Software-Ergebnis nur so zuverlässig ist wie die dahinterstehenden Überprüfungen. Ein VPN verbirgt Ihr Gesicht nicht vor einer Kamera auf der Straße, daher liegen die tatsächlichen Schutzmaßnahmen hier im Rechtlichen und Verfahrenstechnischen: Aufsicht, Transparenz und das Recht, Fehler anzufechten.

Wenn Sie besorgt sind, verfolgen Sie, wie sich die Regeln entwickeln. Achten Sie darauf, ob neue Rechtsvorschriften klare Anforderungen an die menschliche Überprüfung festlegen, bevor aufgrund eines Treffers Maßnahmen ergriffen werden, und ob die unabhängige Inspektion fortgesetzt wird.

Wichtigste Erkenntnisse

  • Ein Treffer aus der Gesichtserkennung ist eine Spur, kein Identitätsnachweis.
  • Die Aufsichtsbehörde stellte fest, dass einige Beamte aufgrund nachträglicher Treffer ohne ausreichende Überprüfungen handelten.
  • Ethnische Minderheiten sind laut der Warnung einem höheren Risiko durch Übereinstimmungsfehler ausgesetzt.
  • Wenn Sie falsch identifiziert werden, fragen Sie nach der Grundlage, führen Sie Aufzeichnungen, fordern Sie Ihre Daten an und suchen Sie Rat.
  • Bleiben Sie informiert: Lesen Sie über den Plan der Regierung zur Verschärfung der Polizeiregeln zur Gesichtserkennung und sehen Sie, wie Schutzmaßnahmen in der LFR-Datenschutzfolgenabschätzung des Innenministeriums dokumentiert werden.

Das Risiko unrechtmäßiger Verhaftungen durch Gesichtserkennung im Vereinigten Königreich hängt davon ab, ob die Verifizierung mit der Technologie Schritt hält. Bis dahin ist die Kenntnis Ihrer Rechte Ihr bester praktischer Schutz.