Ein Cartoon mit einem ernsten Punkt
Wenn ein satirischer Cartoonist die Gesichtserkennungstechnologie in Supermärkten aufs Korn nimmt, lohnt es sich, innezuhalten und zu fragen, worauf der Witz eigentlich abzielt. Der First Dog on the Moon-Strip des Guardian, veröffentlicht unter der Schlagzeile „Ladendiebstahl-Kriminalitätswelle?! Gesichtserkennungstechnologie überall anzubringen wird das lösen“, verspottet die Idee, dass die australischen Einzelhandelsriesen Coles und Woolworths Diebstahl einfach durch das flächendeckende Aufstellen von Kameras und biometrischer Software lösen können. Die Pointe sitzt, weil sie auf etwas Realem basiert: Gesichtserkennungsalgorithmen haben dokumentierte Verzerrungen, und die Unternehmen, die sie einsetzen, bitten die Öffentlichkeit im Wesentlichen darum, darauf zu vertrauen, dass sie eine Technologie, von der bekannt ist, dass sie Fehler macht, nicht missbrauchen werden.
Das ist die Spannung, die im Zentrum dieser Geschichte steht. Einzelhändler stellen Gesichtserkennung als eine einfache Sicherheitsverbesserung dar, als eine Möglichkeit, bekannte Straftäter zu markieren, bevor sie die Kasse erreichen. Aber die Technologie operiert nicht im luftleeren Raum. Sie scannt, speichert und gleicht die Gesichter jedes Kunden ab, der durch die Tür kommt, unabhängig davon, ob er jemals verdächtigt wurde oder nicht.
Warum Gesichtserkennungs-Verzerrung im Einzelhandel wichtig ist
Gesichtserkennungssysteme haben eine gut dokumentierte Erfolgsbilanz, wenn es darum geht, über verschiedene demografische Gruppen hinweg ungleich zu funktionieren. Studien und unabhängige Tests haben im Laufe der Jahre wiederholt ergeben, dass Fehlerraten nicht gleichmäßig verteilt sind, was bedeutet, dass einige Käufer statistisch gesehen mit höherer Wahrscheinlichkeit falsch identifiziert werden als andere. In einer Einzelhandelsumgebung führt ein falscher Abgleich nicht nur zu einer lästigen Benachrichtigung. Es kann bedeuten, dass ein Kunde angehalten, befragt oder gebeten wird, ein Geschäft zu verlassen, in dem er nichts falsch gemacht hat.
Das Versprechen der Supermärkte, diese Technologie verantwortungsvoll einzusetzen, ändert nichts an dem zugrunde liegenden Genauigkeitsproblem. Ein Unternehmensgelöbnis, Missbrauch zu vermeiden, ist eine politische Verpflichtung, keine technische Lösung. Der Algorithmus macht immer noch dieselben statistischen Fehler, unabhängig davon, wie sorgfältig ein Unternehmen erklärt, dass es seine Nutzung regulieren wird. Genau diese Lücke macht der Cartoon lächerlich: die Diskrepanz zwischen einem fehlerhaften Werkzeug und der selbstbewussten Sprache, mit der es als Lösung verkauft wird.
Die Daten liegen irgendwo, und das ist auch ein Risiko
Jenseits von Fehlidentifikation gibt es eine zweite Ebene der Besorgnis, die oft weniger Aufmerksamkeit erhält: wohin die biometrischen Daten fließen, sobald sie gesammelt wurden. Gesichtserkennungssysteme erfordern die Speicherung von Gesichtsvorlagen, Bildern oder Abgleichsprotokollen, und jede Datenbank dieser Art wird zum Ziel. Einzelhändler sind traditionell keine sicherheitsorientierten Organisationen wie Banken oder Telekommunikationsunternehmen, und das breitere Muster der Verwundbarkeit von Unternehmen sollte man im Hinterkopf behalten. Die Berichterstattung über britische Hersteller, die von Cyberangriffen getroffen wurden ergab, dass ein großer Anteil der Industrieunternehmen im vergangenen Jahr angegriffen wurde, während viele unvorbereitet blieben – eine Erinnerung daran, dass Sektoren außerhalb der traditionellen Technologiebranche häufig unzureichend ausgestattet sind für die Sicherheitsanforderungen der Daten, die sie jetzt besitzen. Eine Supermarktkette, die biometrische Vorlagen von Millionen von Kunden speichert, übernimmt eine ähnliche Art von Exposition, ob sie nun die Infrastruktur dafür hat oder nicht.
Es gibt auch ein Muster, das es wert ist, beachtet zu werden, wenn Verifizierungstechnologie mit selbstbewussten Versprechen ausgerollt wird, die nicht immer einer Prüfung standhalten. Regulierungsbehörden haben ähnliche Fragen auch anderswo aufgeworfen, etwa als Ofcom eine Untersuchung zu TikToks Altersverifizierungssystemen einleitete, nachdem Bedenken aufkamen, dass die Überprüfungen nicht wie beworben funktionierten. Gesichtserkennung im Einzelhandel folgt einem vergleichbaren Drehbuch: Eine Technologie wird als Lösung für ein echtes Problem eingeführt, begleitet von Zusicherungen über verantwortungsvolle Nutzung, während die Fragen zu Genauigkeit und Aufsicht weitgehend ungelöst bleiben.
Was das für dich bedeutet
Wenn du in einem Geschäft einkaufst, das Gesichtserkennung verwendet, wird dein Gesicht jedes Mal gescannt und möglicherweise gegen eine Datenbank abgeglichen, wenn du hineingehst, unabhängig davon, ob du jemals etwas falsch gemacht hast. Es ist unwahrscheinlich, dass dir mitgeteilt wird, welches spezifische System verwendet wird, wie lange deine Daten aufbewahrt werden oder welche rechtlichen Mittel es gibt, wenn du fälschlicherweise markiert wirst. Unternehmensversprechen über verantwortungsvolle Nutzung sind keine durchsetzbaren Garantien, und sie beheben nicht die algorithmischen Genauigkeitsprobleme, die in der Technologie selbst eingebaut sind.
Das bedeutet nicht, dass jede Nutzung von Gesichtserkennung bösartig ist oder dass jeder Käufer einem ernsthaften Risiko ausgesetzt ist. Aber es bedeutet, dass die Beweislast bei den Unternehmen liegen sollte, die diese Technologie einsetzen, nicht bei den Kunden, die an ihren Kameras vorbeigehen. Vertrauen in jedes System, das sensible persönliche Daten verarbeitet, ob biometrisch oder anderweitig, sollte durch überprüfbare Praktiken gestützt werden, nicht durch beruhigende Aussagen. Das ist derselbe Standard, den man bei jedem Dienst anwenden sollte, der deine Daten verarbeitet, einschließlich unabhängig geprüfter Sicherheitspraktiken anstelle von unbestätigten Behauptungen über gutes Verhalten.
Erkenntnisse für Käufer
Achte auf Beschilderung an Geschäftseingängen, die auf den Einsatz von Überwachungs- oder Gesichtserkennungstechnologie hinweist, und zögere nicht, Personal oder den Unternehmenskundenservice zu fragen, welche Daten gesammelt werden und wie lange sie aufbewahrt werden. Wenn du glaubst, dass du falsch identifiziert wurdest, fordere eine formelle Überprüfung an, anstatt eine Entscheidung vor Ort zu akzeptieren. Und allgemeiner: Denke daran, dass das Versprechen eines Unternehmens, Gesichtserkennungstechnologie verantwortungsvoll einzusetzen, nicht dasselbe ist wie ein Beweis, dass das System fair funktioniert. Während sich diese Technologie in immer mehr Alltagsräume ausbreitet, von Supermärkten bis zum öffentlichen Nahverkehr, sind die Fragen, die ein satirischer Cartoon aufwirft, genauso ernst zu nehmen wie jede formelle politische Debatte.
