Die Digitalisierung bringt bahnbrechende Technologien hervor, aber nicht jede Innovation bedeutet Fortschritt. Besonders wenn es um neue Überwachungsinstrumente geht, müssen wir ganz genau hinschauen.

Ein Beispiel für so eine gefährliche Entwicklung, die uns als sicherheitschaffend verkauft wird, sind biometrische Echtzeit-Fernidentifizierungssysteme. Klingt kompliziert, ist aber einfach erklärt: Mittels KI identifiziert das System Menschen - idR. aus der Ferne (wie der Name vermuten lässt). Das kann über die Erkennung von Gesicht, Körperform oder den eigenen Bewegungmustern erfolgen. Diese biometrischen Daten werden dann mit einer Referenzdatenbank abgeglichen. Und all das ohne das Wissen oder der aktiven Einbeziehung der Betroffenen.

Der Einsatz solcher Systeme im öffentlichen Raum verstärkt nicht nur die staatliche Kontrolle über Bürger:innen, sondern bedroht auch die Anonymität. Biometrische (Echtzeit-) Überwachung ist nicht nur ein Angriff auf unsere Privatsphäre, sondern auch auf die Demokratie. Wir zeigen euch welche rechtlichen, ethischen und technischen Probleme der Einsatz solcher Systeme mitsich bringt.

KI-Regulierung: Fortschritt oder trügerische Sicherheit?

Mit der EU-Verordnung über Künstliche Intelligenz (KI) wurde 2024 ein wichtiger Regulierungsrahmen geschaffen. Zwar sind biometrische Echtzeit-Fernidentifizierungssysteme grundsätzlich verboten, weil sie u.a. unverhältnismäßig in die Privatsphäre eingreifen, trotzdem untergraben einige Ausnahmen diesen Fortschritt. Terrorismusabwehr oder die Suche nach schwerkriminellen Personen könnten solche Systeme unter strikten Auflagen erlauben. In der Praxis sind solche Ausnahmen aber problematisch und öffnen die Tür für weitreichende Eingriffe.

Gefahr für unsere Grundrechte

Die flächendeckende biometrische Überwachung im öffentlichen Raum stellt eine ernste Gefahr dar und verletzt insbesondere:

• Datenschutz: Gemäß § 1 Datenschutzgesetz (DSG) sollen personenbezogene Daten geschützt werden. Biometrische Daten unterliegen dabei wegen ihrer Sensibilität besonderes hohem Schutz.
• Privatsphäre: Artikel 8 der Europäischen Menschenrechtskonvention (EMRK) garantiert das Recht auf Privatleben. Ständige Überwachung würde dieses Recht faktisch außer Kraft setzen.

Der österreichische Verfassungsgerichtshof hat mehrfach betont, dass Eingriffe in diese Rechte nur unter strengsten Voraussetzungen zulässig sind. So hat er zB. auch bei der Nutzung von Section-Control-Daten durch Sicherheitsbehörden wiederholt die Unverhältnismäßigkeit solcher Eingriffe festgestellt. Solche Technologien schaffen dazu ein „Gefühl der Überwachung“, das zentrale demokratische Rechte wie das Recht auf friedliche Versammlung oder die Meinungsfreiheit massiv beeinträchtigt.

Biometrische Echtzeit-Fernidentifizierungssysteme bergen ähnliche Risiken. Auch wenn ihr Einsatz auf besonders schwere Straftaten beschränkt wird, schaffen solche Maßnahmen ein Klima ständiger Kontrolle. Denn flächendeckende Überwachung erfasst alle Menschen — unabhängig davon, ob sie sich verdächtig verhalten.

Diese Risiken betreffen nicht nur autoritäre Regime, sondern auch demokratische Staaten wie Österreich, in denen ein sorgsamer Umgang mit solchen Technologien erforderlich ist.

Österreich zeigt Haltung

Österreich hat sich in den EU-Verhandlungen für striktere Regeln starkgemacht. In einem offiziellen Positionspapier wurde betont, dass Ausnahmen den Grundrechtsschutz aushebeln und mit dem österreichischen Verständnis von Grundrechtsschutz nicht vereinbar sind. Das unterstreicht die Sensibilität für die Risiken solcher Technologien und den Wunsch, invasive Überwachungsmaßnahmen zu vermeiden.

Technische Schwächen, fatale Folgen

Neben rechtlichen und ethischen Fragen birgt der Einsatz biometrischer Systeme auch erhebliche technische Risiken, die weitreichende Konsequenzen haben können.

In einem prominenten Fall, fand sich 2023 ein unschuldiger Bürger wegen fehlerhafter Gesichtserkennungssoftware sogar in einem serbischen Gefängnis wieder.

Er wurde von einem KI-Gesichtserkennungsprogramm als „Chef“ einer Bande eingestuft, die in Supermärken mit Falschgeld einkaufte. Ohne Beweise oder belastende Aussagen wurde ein internationaler Hafbefehl gegen ihn ausgestellt. Daraufhin wurde er in Serbien festgenommen und erst nach zwei Monaten Gefängnis nach Wien überstellt, wo sich dann seine Unschuld herausstellte.

Auch international gibt es zahlreiche Berichte über vergleichbare Fälle, in denen unschuldige Menschen durch fehlerhafte Gesichtserkennungssoftware belastet wurden. Solche Vorfälle verdeutlichen die Schwächen dieser Technologien und die weitreichenden Konsequenzen für Einzelne.

Fehlende Zuverlässigkeit biometrischer Systeme

Solche Fehler werfen grundlegende Fragen der Zuverlässigkeit und Sicherheit biometrischer Systeme auf. Schon die Entwicklung biometrischer Systeme ist aufgrund ihrer technischen Natur fehleranfällig. Sie diskriminieren häufig marginalisierte Gruppen, verstärken bestehende Ungleichheiten und hängen stark von externen Faktoren wie Lichtverhältnissen oder Datenqualität ab. Die mangelnde Transparenz der Anbieter solcher Systeme verschärft die Probleme zusätzlich.

Trotz rechtlicher Schlupflöcher und der Gefahr für ein Leben in Freiheit sind selbst unabhängige Tests vor dem Einsatz biometrischer Systeme nicht ausreichend umgesetzt.Mehr Informationen dazu in unserem Beitrag zu Gesichtserkennung.

Die richtigen Schlüsse ziehen – bevor es zu spät ist

Die schwerwiegenden Grundrechtsbedenken, die inhärente technische Fehleranfälligkeit und die weitreichenden Folgen für Betroffene zeigen: Diese Technologien sind nicht mit einem freiheitlichen Rechtsstaat vereinbar. Es braucht Alternativen, die den Schutz der Privatsphäre stärken und Grundrechte wahren.

Besonders jetzt wo Überwachungstechnologien immer präsenter werden, sind klare Grenzen wichtig. Österreich hat die Chance, mit gutem Beispiel voranzugehen und solche invasiven biometrischen Überwachungstechnologien konsequent abzulehnen. Unsere Freiheit und Demokratie steht auf dem Spiel.