Großmutter aus Tennessee verklagt wegen KI-Gesichtserkennungsfehler auf 10 Mio. USD

Eine rechtswidrige Verhaftung auf Basis der Vermutung einer Maschine

Eine Großmutter aus Tennessee verklagt auf 10 Millionen Dollar, nachdem ein angeblicher KI-Gesichtserkennungsabgleich dazu geführt haben soll, dass sie in North Dakota fälschlich des Bankdiebstahls beschuldigt und sechs Monate lang festgehalten wurde. Der Fall, über den ABC News zuerst berichtete, wirft drängende Fragen darüber auf, wie viel Vertrauen Polizeibehörden in automatisierte Identifizierungswerkzeuge setzen sollten, wenn die Folgen eines Fehlers für eine unschuldige Person Monate hinter Gittern bedeuten können.

Dem Bericht zufolge wurde die Frau mit Bankbetrugsdelikten in Verbindung gebracht, die sie nach eigenen Angaben nicht begangen hat, nachdem Gesichtserkennungssoftware ihr Bild mit Überwachungsaufnahmen verknüpft hatte. Sie verbrachte ein halbes Jahr in Haft, bevor der Fall gegen sie zusammenbrach, und sie verfolgt nun eine Klage auf 10 Millionen Dollar Schadenersatz wegen dieser Tortur.

Wie Gesichtserkennungsfehler entstehen

Gesichtserkennungssysteme funktionieren, indem sie ein Foto oder Einzelbild aus einem Video mit einer Datenbank von Bildern vergleichen und einen Wahrscheinlichkeitswert für eine Übereinstimmung erzeugen. Dieser Wert ist eine statistische Schätzung, keine Gewissheit. Wenn Ermittler oder Staatsanwälte die Ausgabe eines Algorithmus als definitiven Beweis behandeln statt als einen Hinweis unter vielen, wächst das Risiko einer falschen Beschuldigung stark an.

Bei diesen Systemen sind Genauigkeitslücken dokumentiert, die von Bildqualität, Beleuchtung, Kamerawinkel und der demografischen Zusammensetzung der zum Aufbau verwendeten Trainingsdaten abhängen. Ein körniges Überwachungsstandbild, eine teilweise Profilaufnahme oder ein ungewöhnlicher Gesichtsausdruck können einen Algorithmus alle in Richtung eines falsch-positiven Ergebnisses drängen. Wenn diese fehlerhafte Übereinstimmung zur Grundlage eines Haftbefehls wird, verschiebt sich die Last des Unschuldsbeweises auf die zu Unrecht beschuldigte Person, oft mit lebensverändernden Konsequenzen wie den sechs Monaten Haft, die in diesem Fall beschrieben werden.

Die Bedeutung für Privatsphäre und bürgerliche Freiheiten

Diese Klage ist Teil eines breiteren Musters von Besorgnis darüber, wie Strafverfolgungsbehörden Gesichtserkennung ohne einheitliche nationale Standards, Aufsicht oder Transparenzanforderungen einsetzen. Anders als ein Fingerabdruck- oder DNA-Abgleich, der typischerweise vor seiner Verwendung vor Gericht einer rigorosen forensischen Validierung unterzogen wird, können Gesichtserkennungsergebnisse sofort erzeugt und im Feld mit weit weniger Prüfung angewendet werden.

Das zugrunde liegende Problem ist eines von Daten und Einwilligung. Die meisten Menschen, deren Gesichter in diesen Abgleichsystemen landen, haben nie zugestimmt, dass ihre Bilder auf diese Weise verwendet werden. Fotos aus Führerscheindatenbanken, sozialen Medien oder öffentlichen Überwachungskameras können alle ohne Wissen der betroffenen Person in Erkennungswerkzeuge einfließen. Wenn ein Algorithmus fehlschlägt, hat die geschädigte Person oft keine Ahnung, dass ihre biometrischen Daten überhaupt Teil des Prozesses waren, bis sie bereits mit strafrechtlichen Anklagen konfrontiert ist.

Dieser Mangel an Transparenz spiegelt Debatten wider, die in anderen Bereichen der digitalen Politik stattfinden, wo die Kernfrage lautet, wer den Fluss personenbezogener Daten und nach welchen Regeln kontrolliert. So wie Diskussionen um Netzneutralität sich darauf konzentrieren, eine faire und gleiche Behandlung von Informationen sicherzustellen, die sich durch Netzwerke bewegen, konzentriert sich die Gesichtserkennungsdebatte darauf, eine faire und rechenschaftspflichtige Behandlung persönlicher biometrischer Daten sicherzustellen, die sich durch Strafverfolgungssysteme bewegen.

Was das für Sie bedeutet

Die meisten Menschen werden nie mit einer rechtswidrigen Verhaftung im Zusammenhang mit Gesichtserkennung konfrontiert sein, aber dieser Fall erinnert daran, dass biometrische Daten, die für einen Zweck erhoben wurden, auf Weisen verwendet werden können, die Einzelpersonen nie vorhergesehen oder eingewilligt haben. Ihr Gesicht kann, anders als ein Passwort, nicht geändert werden, wenn es missbraucht oder von einem fehlerhaften System falsch zugeordnet wird.

Wenn Sie in einem Gebiet leben oder arbeiten, in dem Polizeibehörden Gesichtserkennungstechnologie einsetzen, lohnt es sich zu verstehen, welche lokalen Richtlinien, falls überhaupt welche, diese Nutzung regeln. Einige Gerichtsbarkeiten verlangen eine menschliche Überprüfung, bevor ein algorithmischer Abgleich zu einer Verhaftung führen kann, andere nicht. Zu wissen, ob diese Schutzmaßnahmen in Ihrer Gemeinde existieren, kann Ihnen helfen, sich für stärkere Schutzmaßnahmen einzusetzen, falls sie fehlen.

Für Personen, die um ihren eigenen biometrischen Fußabdruck besorgt sind, sind die Überprüfung der Datenschutzeinstellungen auf Social-Media-Plattformen, das Verständnis darüber, welche Regierungsdatenbanken Ihr Foto speichern, und das Informiertbleiben über lokale und staatliche Gesetzgebung zur Gesichtserkennung praktische Schritte. Interessenvertretungsgruppen und Gesetzgeber in mehreren Bundesstaaten haben bereits Einschränkungen oder Verbote der polizeilichen Nutzung dieser Technologie gefordert, und öffentlicher Druck war historisch ein treibender Faktor für solche politischen Veränderungen.

Das größere Bild

Diese Klage über 10 Millionen Dollar wird voraussichtlich weiterhin Aufmerksamkeit auf sich ziehen, während sie das Rechtssystem durchläuft, und sie reiht sich in eine wachsende Zahl von Fällen ein, die die Verwendung von KI-Gesichtserkennungswerkzeugen in strafrechtlichen Ermittlungen infrage stellen. Wie auch immer der Ausgang sein wird, unterstreicht der Fall eine einfache Wahrheit: Technologie, die als Ermittlungsabkürzung vermarktet wird, verursacht reale menschliche Kosten, wenn sie versagt, und diese Kosten treffen am härtesten die Menschen, die am wenigsten in der Lage sind, sich zu wehren.

Da Gesichtserkennungswerkzeuge in der Polizeiarbeit immer häufiger werden, ist es eine der praktischsten Möglichkeiten, sich davor zu schützen, die nächste warnende Schlagzeile zu werden, informiert zu bleiben darüber, wie diese Systeme funktionieren, wo Ihre biometrischen Daten gespeichert sind und welche Schutzmaßnahmen in Ihrer Region existieren.