Gesichtserkennung: Big Brothers Are Watching You

Wer oft mit dem iPhone fotografiert, konnte die rasante Entwicklung der automatischen Gesichtserkennung mitverfolgen. Während die Zuordnung von Personen in der Fotosammlung auf dem Gerät vor ein paar Jahren noch beinahe auf gut Glück erfolgte, sind Brille, Make-up und Haarschnitt längst kein Problem mehr für die Identifikation. Das Smartphone erkennt auch zuverlässig seinen Besitzer und dessen Familienmitglieder – so zuverlässig, dass man mit dem Gesicht den Bildschirm entsperren kann. Dahinter steckt eine technologische Leistung, mit vielen weiteren Anwendungen. In der Strafverfolgung gleichen Computer bereits Bilder von Verdächtigen mit gespeicherten Fotos in einer Datenbank ab und erleichtern so die Arbeit der Polizei. Im Zuge der aktuellen Proteste gegen Rassismus und Polizeigewalt in den USA wurde dies aber stark kritisiert. Mehrere Tech-Konzerne kündigten wegen des öffentlichen Drucks zumindest vorübergehend die Zusammenarbeit mit den amerikanischen Polizeibehörden. Das ist bemerkenswert, weil es sich dabei um ein lukratives und aussichtsreiches Geschäft handelt. Während der Pandemie bieten sich zudem neue Einsatzmöglichkeiten. Die Marktforschungsfirma Grand View Research schätzte den globalen Markt für Gesichtserkennungssoftware im Jahr 2019 auf 3,4 Milliarden Dollar mit einem erwarteten jährlichen Wachstum von rund 15 Prozent zwischen 2020 und 2027. Allerdings sind solche Zahlen spekulativ und unterscheiden sich je nach Anlage und Reichweite der Studie. Unbestritten ist dagegen, dass die Gesichtserkennung an Bedeutung gewinnt und in immer mehr Bereichen eingesetzt wird. Doch worum geht es und was sind die Probleme? Fünf Fragen und Antworten zur umstrittenen Zukunftstechnologie.1. Wie funktioniert die Technologie? Die automatische Gesichtserkennung ist ein biometrisches Verfahren zur Identifikation und gleicht damit einem Fingerabdruck-Scan. Die Software geht in drei Schritten vor: Erstens wird ein Gesicht als solches erkannt. Zweitens wird dieses Gesicht mit einer Datenbank abgeglichen und drittens wird es identifiziert. Das Ziel ist die eindeutige Zuordnung zu einem Namen. Ursprünglich wurden die Positionen von Merkmalen wie Augen, Nase und Mund vermessen. Heute stecken komplexere Berechnungen dahinter. Dennoch ist die Technologie weiterhin fehleranfälliger als andere biometrische Verfahren. Die Trefferquote ist vom Gesichtsausdruck, der Beleuchtung, dem Aufnahmewinkel und der Auflösung des Bildes abhängig. Das zeigt sich zum Beispiel daran, dass man für Ausweisfotos noch immer einen möglichst neutralen Gesichtsausdruck einnehmen muss. Neuere Entwicklungen sind 3D-Verfahren, die eine höhere Genauigkeit ermöglichen sollen, und Programme, die Gefühle erkennen und bewerten. Dass die Gesichtserkennung kontaktlos erfolgt, hat Vorteile. Die Ansteckungsgefahr – beispielsweise mit dem Coronavirus – sinkt und im Sicherheitsbereich ist eine Kooperation der Zielperson unnötig. Doch genau das wirft auch Fragen bezüglich Persönlichkeits- und Datenschutz auf.2. Welches sind die Anwendungen? Gesichtserkennung wird in vielen Bereichen eingesetzt – und laufend kommen neue Möglichkeiten hinzu. Interessant sei vor allem die Zukunft der Technologie, sagt Christian Fehrlin, der mit der Firma Deep Impact in Winterthur Gesichtserkennungssoftware anbietet. «Angefangen bei der biometrischen Bordkarte über Eingangskontrollen und Überwachung bis hin zum Check-in im Hotel sehen wir ein riesiges Potenzial», sagt der Unternehmer. Dazu kämen noch die Bezahllösungen und das Ticketing im Eventbereich. Die Prognose der eingangs erwähnten Studie sei deshalb «sehr konservativ», findet Fehrlin. In China, wo die Technologie schon viel weiter verbreitet ist als im Westen, kann man mit dem Gesicht bereits einkaufen, Geld abheben und am Flughafen einchecken. In Schulen wird die Anwesenheit und sogar die Aufmerksamkeit der Schüler überwacht. Und wer in den Zoo oder ins Museum geht, muss sein Gesicht ebenfalls scannen lassen. Bei der Zugangskontrolle in Büros ersetzt die Gesichtserkennung Geheimzahlen und Fingerabdruckscanner, an Landesgrenzen ergänzt sie ältere biometrische Methoden. Auch gegen Covid-19 kommt die Technologie zum Zuge: In Russland überwachen Facial-Recognition-Kameras, ob Leute die Quarantäne einhalten – und in China identifizieren sie Personen, die Fieber haben. Das funktioniert in beiden Ländern, auch wenn die Menschen eine Schutzmaske tragen.«Wir verkaufen nur an demokratische Länder» Der Tech-Unternehmer Christian Fehrlin erzählt von Kunden und Herausforderungen beim praktischen Einsatz von Gesichtserkennung. Mehr hier. Die Polizei in der kanadischen Hauptstadt Ottawa senkte bei einem Test die durchschnittliche Zeit zur Identifikation eines Verdächtigen mithilfe eines Bildes von dreissig Tagen auf drei Minuten, wie der «Economist» berichtet. Anstatt das Bild manuell mit den 50'000 gespeicherten Polizeifotos abzugleichen oder an verschiedene Zweigstellen zu schicken und nachzufragen, genügte ein kurzer Suchlauf am Computer. Die chinesische Polizei wirft das Netz noch weiter aus und sucht Verdächtige mithilfe von Überwachungskameras und Datenbrillen in Kombination mit Gesichtserkennung. Eine weitere Anwendung ist die Suche nach vermissten Personen. Als Amazon das einjährige Moratorium für den Einsatz seines Gesichtserkennungssystems durch die Polizeibehörden verkündete, nahm es die Suche nach Opfern von Menschenhandel und nach vermissten Kindern ausdrücklich davon aus. Die Polizei in Delhi fand 2018 in nur vier Tagen fast 3000 vermisste Kinder, indem sie eine solche Software einsetzte.3. Welche Firmen und Staaten sind beteiligt? Die grossen Tech-Konzerne mischen ebenso mit wie Startups und Rüstungsfirmen. Eine Studie der Carnegie Stiftung für internationalen Frieden untersuchte 2019 die grössten Lieferanten von smarter Überwachungstechnologie. Führend sind demnach die chinesischen Firmen Huawei, Hikvision, Dahua und ZTE. Als erste nicht chinesische Firma folgt Japans NEC, die nach eigenen Angaben über tausend grössere Face-Recognition-Systeme in mehr als siebzig Ländern und Regionen installiert hat. Die US-Tech-Giganten gehören ebenfalls zu den grossen Playern der Branche, auch wenn nicht alle von ihnen in den Überwachungsbereich liefern. So bietet etwa Google die Technologie nicht zum Verkauf an. IBM beendete im Zuge der Black-Lives-Matter-Proteste die Zusammenarbeit mit den Sicherheitsbehörden. Microsoft und Amazon zogen teilweise nach und setzten ihre Lieferungen vorübergehend aus (siehe Punkt 4). Abgesehen von zahlreichen Firmen, die Gesichtserkennung für ihre Produkte, Dienstleistungen oder Standorte brauchen, kaufen Staaten solche Systeme zur Überwachung oder Kriminalitätsbekämpfung. Liberale Demokratien seien führende Anwender von Überwachungstechnologie wie Gesichtserkennungskameras, schreibt die Carnegie Stiftung. Mehr als die Hälfte dieser Länder nutze sie. «Das heisst aber nicht zwingend, dass Demokratien diese Systeme missbrauchen.»4. Was wird kritisiert? Fast so lange wie die Liste der Anwendungen ist die Liste der Kritikpunkte. IBM-Technologie dürfe nicht mehr für Massenüberwachung, Racial Profiling oder die Verletzung grundlegender Menschenrechte und Freiheiten genutzt werden, schrieb Konzernchef Arvind Krishna an den US-Kongress. «Verkäufer und Nutzer von KI-Systemen stehen in der Verantwortung, die KI auf Vorurteile zu prüfen, besonders wenn sie in der Strafverfolgung zum Einsatz kommen.» Das Problem: Die Technologie erkennt die Gesichter von Schwarzen weniger zuverlässig als diejenigen von Weissen. Dass zudem mehr Schwarze in den Polizeidatenbanken geführt werden, steigert zusätzlich die Gefahr, dass Angehörige dieser Bevölkerungsgruppe falsch identifiziert werden. Deshalb verbot die Stadt San Francisco schon vor der aktuellen Protestwelle den Einsatz von Facial Recognition durch die Polizei. Problematisch ist auch die Art und Weise, wie Firmen und Behörden ihre Datenbanken anlegen. Das US-Startup Clearview sammelte drei Milliarden Porträtfotos aus dem Internet, indem es Websites und soziale Netzwerke wie Facebook abgraste. Zu den Nutzern gehörten neben zahlreichen US-Behörden und Firmen sowie offiziellen Stellen in Europa – darunter in der Schweiz – auch Organisationen in totalitären Staaten wie Saudi-Arabien, berichtete «Buzz Feed News» im Februar. Die US-Bürgerrechtsorganisation Aclu verklagte Clearview wegen illegaler Datensammlung und warf der Firma die «Zerstörung der Privatsphäre» vor. Zu all dem kommt die Gefahr, dass staatliche Stellen oder Kriminelle die Gesichtserkennung missbrauchen könnten. Diktaturen verfolgen damit ihre Gegner oder kontrollieren die Bevölkerung in nie dagewesenem Ausmass (siehe Box). Auch für Hacker bieten sich Chancen, obwohl die Technologie bisher in dieser Hinsicht als relativ sicher gilt. Doch wenn immer grössere Mengen an persönlichen Daten gespeichert werden, steigt naturgemäss auch das Risiko für Identitätsdiebstähle. Experten der chinesischen Firma Tencent zeigten zum Beispiel, dass sich Systeme wie Apples Face ID täuschen lassen, auch wenn die Methode praktisch noch kaum einsetzbar ist.Digitale Überwachung in China Während in Nordamerika und Europa noch über die Vor- und Nachteile der automatischen Gesichtserkennung diskutiert wird, ist die Nutzung der Technologie in China bereits weit verbreitet und wird laufend ausgebaut. Etwa die Hälfte aller 770 Millionen Überwachungskameras weltweit sind laut IHS Markit in China installiert. Kombiniert mit Gesichtserkennungssoftware ermöglicht dies den Behörden eine nie dagewesene Kontrolle der 1,4 Milliarden Bewohner des Landes. «Gesichtserkennung schützt die Menschenrechte», so die «Global Times», das internationale Sprachrohr der Regierung. Eine echte öffentliche Debatte über Datenschutz und Überwachung verhindert in China derweil die Zensur. Seit Dezember 2019 müssen sich Handynutzer einem Gesichts-Scan unterziehen, wenn sie eine neue SIM-Karte registrieren. Der Staat kann so eine Datenbank mit den Gesichtern der Einwohnerinnen und Einwohner erstellen. Kritiker befürchten, dass sich damit ganz China der autonomen Region Xinjiang angleicht, wo die Menschen im öffentlichen Raum schon länger permanent überwacht werden. Diese Überwachung ging einher mit der Verhaftung Hunderttausender bis Millionen von muslimischen Uiguren, die wegen ihrer Religion in Umerziehungslagern festgehalten werden. Überall im Land rüstet die Polizei mit Datenbrillen auf, mit denen Verdächtige in Echtzeit identifiziert werden können. Die Software ist so weit fortgeschritten, dass sie Emotionen erkennt und bewertet. Dabei kommt die Gesichtserkennung nicht nur gegen vermeintlichen Separatismus und Extremismus zum Einsatz: In einigen Städten wurden Leute, die bei Rot die Strasse überquert hatten, identifiziert und auf riesigen Bildschirmen an den Pranger gestellt. Der Ausbau der automatischen Gesichtserkennung ist Teil einer grösseren Kampagne unter Machthaber Xi Jinping, mit der die soziale Stabilität im Sinne der Partei gestärkt werden soll. Gestützt auf Überwachung, künstliche Intelligenz und Big Data will die kommunistische Partei ihre Macht langfristig sichern. Dazu gehört auch das Sozialkredit-System, welches die Bevölkerung durch die Vergabe und den Entzug von Punkten für ihr Verhalten einteilt und je nach Score belohnt oder bestraft. Wer eine geringe Punktzahl hat, muss mit Einschränkungen im Alltag rechnen. 5. Wie geht es weiter? In den USA hat die Gesichtserkennung im Moment einen schweren Stand. Doch für die gesamte Technologie ist das nur ein kleiner Rückschlag. Erstens ist der Einsatz durch die Polizei nur eine von vielen Anwendungen. Und zweitens gibt es in der Industrie – selbst in diesem Bereich – keine gemeinsame Linie. Es existieren genügend Firmen, welche die Lücke, die IBM und Co. hinterlassen würden, füllen können. Der künftige Einsatz in der Strafverfolgung wird in den verschiedenen Ländern politisch und juristisch geregelt werden müssen. Im kommerziellen Gebrauch hingegen ist der Geist wahrscheinlich schon aus der Flasche. «Sie wird sich durchsetzen, weil der Komfort sehr gross ist», sagt Fehrlin. Am Schluss werden die Konsumenten entscheiden, zu welchen Zwecken sie ihr Gesicht zur Verfügung stellen.