Gesichtserkennung in London: Ein Fehlalarm für 320.000 Pfund

👁 113 Aufrufe

Die britische Bahnpolizei (British Transport Police) hat im Juli einen sechsmonatigen Testbetrieb von Echtzeit-Gesichtserkennung an stark frequentierten Londoner Bahnhöfen beendet. Ein Dokument, das die Organisation Liberty Investigates per Informationsfreiheitsanfrage erstritt und an den Guardian weiterleitete, offenbart die ernüchternde Bilanz: 320.786 GBP für Gerätemiete und Personaleinsatz, 18 Kamera-Einsätze, fast 100 Einsatzstunden von Beamten, über eine halbe Million gescannte Gesichter und ein einziger Trefferalarm mit einer Beobachtungsliste. Dieser Alarm stellte sich als falsch heraus. Festnahmen: null.

Hierbei handelt es sich nicht um eine technische Panne. Das System funktionierte genau wie konzipiert: Es glich Gesichter von Passanten mit einer Liste gesuchter Personen und Personen mit gerichtlichen Auflagen ab. Das Problem liegt vielmehr in der mathematischen Bilanz des Einsatzes.

Was das Scannen pro Gesicht kostete und wie die Rechnung aussieht

Mit Gesamtausgaben von 320.786 GBP aus britischen Steuergeldern für den sechsmonatigen Pilotversuch steht am Ende genau ein Resultat: ein falsch-positiver Treffer. Die Stückkosten für diesen einen Alarm belaufen sich somit auf die vollen 320.786 GBP. Die rechnerischen Kosten pro tatsächlicher Festnahme lassen sich nicht beziffern, da eine Division durch null mathematisch nicht definiert ist - das bezeichnendste Detail dieses Versuchs.

Aussagekräftiger für das Ausmaß der Datenverarbeitung ist die zweite Rechnung: Teilt man 320.786 GBP durch die mindestens 500.000 gescannten Gesichter, ergeben sich 0,64 Pence pro Gesicht. Für diesen Betrag verarbeitete der Staat die biometrischen Daten einer Person, die in den allermeisten Fällen nicht einmal ahnte, dass ihr Gesicht in einen mathematischen Vektor umgewandelt und mit einer Fahndungsdatenbank abgeglichen wurde. Da offiziell von „über” einer halben Million die Rede ist, lagen die realen Kosten pro Scan noch darunter - ein Argument, mit dem Betreiber solcher Systeme gerne hantieren.

Die dritte Rechnung betrifft den Personalaufwand. Knapp 100 Einsatzstunden verteilt auf 18 Einsätze bedeuten im Schnitt 5,5 Einsatzstunden pro Kamera-Aufbau. Gemessen an den Gesamtkosten von 320.786 GBP entspricht das 3.208 GBP pro Einsatzstunde der Polizei vor Ort. In dieser Summe dominiert freilich die Miete für die Spezialtechnik und nicht das Gehalt der Beamten - was die Kostenstruktur verdeutlicht: Bezahlt wurde für Technologie, nicht für zusätzliches Personal, doch die Technik lieferte keinen operativen Ertrag.

Ehemaliger Biometrie-Beauftragter: „Der Pilotversuch wirkt wenig ertragreich”

Fraser Sampson, bis vor kurzem britischer Beauftragter für Biometrie und Überwachungskameras und nun Aufsichtsratsmitglied bei Facewatch (einem Anbieter von Gesichtserkennung im Einzelhandel), fand im Gespräch mit dem Guardian deutliche Worte. Er verwies auf einen grundlegenden Unterschied zwischen kommerzieller Nutzung und polizeilicher Fahndung:

Wir wissen, dass die Technologie funktioniert. Doch sie in Supermärkten einzusetzen, um Diebe abzuschrecken und Angriffe auf Mitarbeiter zu verhindern, ist etwas völlig anderes, als sie aufzustellen, um Personen im öffentlichen Nahverkehr festzunehmen. Erfolg im Geschäft bedeutet, dass solche Personen gar nicht erst eintreten. Erfolg für die Polizei beim Fahnden bedeutet, dass Personen festgenommen werden. In dieser Hinsicht wirkt der Pilotversuch nicht sonderlich ertragreich.

Sampson hob zudem den rechtlichen Prüfstein hervor: Das System verarbeitet Daten besonderer Kategorien. Die Pflicht nachzuweisen, dass dies verhältnismäßig, angemessen und zwingend erforderlich ist, liegt vollständig bei den Sicherheitsbehörden - nicht bei den Bürgern, die einen Schaden belegen müssten.

Trotz dieser Bilanz verlängerte die British Transport Police den Testbetrieb im August um vier Monate und dehnte ihn auf U-Bahn-Stationen aus. Seit dieser Verlängerung gab es drei Treffer: Alle drei betrafen Personen, die bei der anschließenden Überprüfung nachweislich sämtliche ihnen auferlegten richterlichen Auflagen einhielten. Das Zwischenfazit blieb unverändert: null Festnahmen, null festgestellte Verstöße, aber drei Personen, die sich rechtmäßig im öffentlichen Raum bewegten und vom Algorithmus herausgegriffen wurden.

Rechtslage in der EU: Was der AI Act und die DSGVO vorgeben

Während der Test in London nach dem Brexit im britischen Rechtsrahmen stattfand, gelten in den EU-Mitgliedstaaten strenge Schranken. Artikel 9 der DSGVO stuft biometrische Daten zur eindeutigen Identifizierung als besondere Datenkategorien ein - auf einer Stufe mit Gesundheitsdaten oder religiösen Überzeugungen. Deren Verarbeitung ist grundsätzlich untersagt, sofern keine der eng definierten gesetzlichen Ausnahmen greift. Für Strafverfolgungsbehörden regelt dies die Richtlinie (EU) 2016/680, die klare gesetzliche Ermächtigungsgrundlagen vorschreibt.

Zusätzlich greift der europäische Rechtsrahmen für künstliche Intelligenz: Der AI Act verbietet in Artikel 5 den Einsatz biometrischer Echtzeit-Fernidentifizierung im öffentlich zugänglichen Raum zu Zwecken der Strafverfolgung prinzipiell. Ausnahmen sind extrem eng begrenzt: etwa die gezielte Suche nach Entführungsopfern, die Abwehr einer konkreten terroristischen Bedrohung oder die Verfolgung von Tätern schwerster, katalogisierter Straftaten - und selbst dann in der Regel nur nach vorheriger Genehmigung durch eine richterliche Behörde oder eine unabhängige Verwaltungsstelle. Die Verbote aus Artikel 5 des AI Act gelten seit dem 2. Februar 2025 (weitere Details zu den verbotenen KI-Praktiken). Ein Routineeinsatz wie an den Londoner Bahnhöfen wäre in der EU ohne Vorliegen dieser strengen Voraussetzungen unzulässig.

Ihre Rechte bei biometrischen Systemen

Sollten Sie im öffentlichen Raum, in Verkehrsbetrieben oder Einkaufszentren auf Systeme zur Personenerkennung stoßen, stehen Ihnen nach europäischem Datenschutzrecht klare Handlungsmöglichkeiten offen:

• Informationspflicht: Der Betreiber muss bereits vor Betreten des Erfassungsbereichs transparent über die Videoüberwachung und eine eventuelle biometrische Analyse informieren sowie Rechtsgrundlage und Verarbeitungszwecke nennen.
• Auskunftsrecht (Art. 15 DSGVO): Sie haben das Recht zu erfragen, ob und welche personenbezogenen oder biometrischen Daten über Sie verarbeitet wurden oder ob es sich lediglich um herkömmliche Bildaufzeichnungen handelt. Der Betreiber muss in der Regel innerhalb eines Monats antworten.
• Beschwerderecht: Bei begründetem Verdacht auf unzulässige Verarbeitung biometrischer Daten können Sie kostenfrei Beschwerde bei der zuständigen nationalen Datenschutzaufsichtsbehörde einreichen. Die Aufsichtsbehörden prüfen sehr streng, ob ein berechtigtes Interesse vorliegt und ob die Maßnahme tatsächlich zwingend erforderlich war oder durch mildere Mittel ersetzt werden konnte.

Für kommunale Entscheidungsträger liefert der Londoner Fall ein greifbares Argument: 320.786 GBP für 18 Einsätze und einen Fehlalarm mahnen zur Vorsicht bei Ausschreibungen für „intelligente Videoüberwachung mit Personenerkennung”.

Warum null Treffer kein technisches Versagen bedeuten - und warum das bedenklich ist

Sampson hob hervor, welche Faktoren zusammentreffen müssen, damit ein solches System anschlägt: Einsatzort, Einsatzzeiten, die Güte der Fahndungsliste und die reale Wahrscheinlichkeit, dass eine gesuchte Person genau im Erfassungszeitfenster die Kamera passiert. Bei 18 Einsätzen binnen sechs Monaten - rechnerisch alle zehn Tage - ist die Wahrscheinlichkeit extrem gering, in einer Millionenmetropole genau jene Gesuchten zu erfassen. Technisch wurden 500.000 Gesichter verarbeitet und nur ein einziger Fehler produziert. Ingenieurtechnisch ist das eine beachtliche Fehlerrate. Aus Sicht öffentlicher Finanzen war der Einsatz jedoch ineffizient, weil dort gesucht wurde, wo statistisch kaum Treffer zu erwarten waren.

Die problematische Kehrseite: Das Argument der Unwirtschaftlichkeit lässt sich leicht umkehren. Erweitert man die Fahndungslisten, erhöht die Frequenz der Einsätze und verlängert die Überwachungsdauer, steigen unweigerlich auch die Trefferzahlen. Genau dies tat die British Transport Police mit dem Wechsel in die U-Bahn-Stationen. Dass die ersten neuen Treffer Personen betrafen, die sich völlig gesetzeskonform verhielten, verdeutlicht: Die Trefferquote der Erkennung wächst schneller als der reale Fahndungserfolg. Dann greift das Kostenargument nicht mehr - und es bleibt allein die Frage nach der Verhältnismäßigkeit des Grundrechtseingriffs.

Faktenstand: 1. Oktober 2026. Quellen: The Guardian - Trial of live facial recognition in London stations leads to a false positive and no arrests, FOI-Dokument von Liberty Investigates, Verordnung (EU) 2024/1689 (AI Act), Art. 5, DSGVO, Art. 9 und Art. 15.

// weiterlesenFreelancer im KI-Zeitalter: Wer überlebt und wer verschwindet?MagazinEin-Personen-Redaktion: Ein Newsportal mit KI betreibenMagazinDie Halbwertszeit meiner eigenen SätzeMagazin

Kinetyra