Ohne Aufsicht droht Gefahr: Regierung muss bei KI handeln
Künstliche Intelligenz ist längst Teil unseres Alltags und auch Teil staatlicher Entscheidungsprozesse. Zwei aktuelle Fälle aus Österreich verdeutlichen, wie gravierend die Folgen fehlerhafter oder unkontrollierter Systeme sein können.
So führte eine KI-gestützte Gesichtserkennung der österreichischen Polizei zu einer folgenschweren Verwechslung. Ein Unbeteiligter wurde als Tatverdächtiger identifiziert und inhaftiert, erst Wochen später später kam der Irrtum ans Licht. Der Fall zeigt, wie gefährlich es ist, wenn Behörden technische Systeme ungeprüft übernehmen.
Auch der seit Jahren umstrittene AMS-Algorithmus beeinflusst Förderentscheidungen, indem er Arbeitssuchende nach Kriterien wie Alter, Geschlecht oder Ausbildung einstuft. Kritisiert werden insbesondere fehlende Transparenz und die Gefahr systematischer Benachteiligung. Ob sein Einsatz aus datenschutzrechtlicher Sicht zulässig ist, beschäftigt die Gerichte bis heute.
Warten auf den “Digital-TÜV”
Der AI Act wurde vor über einem Jahr offiziell beschlossen. Seine zentralen Anforderungen sind klar, der Zeitrahmen für die Umsetzung seit Langem bekannt. Sein Ziel ist dabei einfach, aber entscheidend: Menschen vor den Risiken fehlerhafter oder missbräuchlicher KI zu schützen. So wie bei jedem anderen Produkt, das in der EU auf den Markt kommt, von Kindersitzen bis zu Aufzügen, muss auch bei KI-Systemen sichergestellt sein, dass sie bestimmte Mindeststandards erfüllen, bevor sie eingesetzt werden dürfen.
Darüber hinaus sieht der AI Act vor, besonders riskante Anwendungen zu verbieten. Dazu zählen manipulative oder täuschende Systeme, etwa Chatbots, die sich als reale Personen ausgeben, gezielt Fehlinformationen verbreiten oder das Verhalten von Nutzerinnen und Nutzern ohne deren Wissen beeinflussen. Solche Systeme bedrohen demokratische Diskurse und verletzen Persönlichkeitsrechte. In einer rechtsstaatlichen Ordnung haben sie keinen Platz.
Um diese Regeln durchzusetzen, braucht es in jedem Mitgliedstaat eine eigenständige und funktionsfähige Aufsichtsbehörde. Sie soll Hochrisiko-Systeme prüfen, Verstöße sanktionieren und als zentrale Anlaufstelle für Betroffene wie Entwicklerinnen und Entwickler dienen. Dass Österreich diese Behörde bis heute nicht geschaffen hat, ist ein Versäumnis, politisch wie rechtlich. Wie die Bundesregierung sich diese Behörde vorstellt ist unklar, die KI hat übrigens ihre Behörde mit dem Bild zu diesem Blogpost skizziert.
Die janusköpfige Behörde
Hinzu kommt ein problematischer Punkt im österreichischen Regierungsprogramm: Die geplante Behörde soll nicht nur kontrollieren, sondern auch unentgeltlich Unternehmen beraten. Diese Doppelrolle birgt einen offensichtlichen Interessenskonflikt. Eine glaubwürdige Aufsicht ist nur möglich, wenn klare institutionelle Trennlinien bestehen.
Was es jetzt braucht, ist eine unabhängige, gut ausgestattete und mit klaren Kompetenzen versehene KI-Behörde, die ihre Rolle als Kontrollinstanz konsequent wahrnimmt. Dazu gehört auch eine enge Zusammenarbeit mit bestehenden Institutionen wie der Datenschutzbehörde, um Überschneidungen zu vermeiden und Synergien zu nutzen.
Was jetzt passieren muss
Die rechtlichen Vorgaben sind klar. Die Technik ist längst Realität. Die Risiken sind erwiesen. Jetzt liegt es an der Regierung, endlich eine funktionierende Struktur zu schaffen, die die Umsetzung des AI Acts auch in Österreich gewährleistet, im Interesse aller, die mit KI-Systemen arbeiten, und insbesondere jener, die von ihnen betroffen sind.
Da du hier bist!
… haben wir eine Bitte an dich. Du möchtest der Regierung auf die Finger schauen? Möchtest du immer auf dem neuesten Stand sein zu Überwachung, Datenschutz, Netzneutralität, und allen Themen, die unsere Grund- und Freiheitsrechte im Netz betreffen? Abonniere unseren Newsletter und wir informieren dich etwa einmal im Monat über das netzpolitische Geschehen in Österreich und Europa, unsere Aktionen, juristischen Analysen und Positionspapiere.
Gemeinsam verteidigen wir unsere Grund- und Freiheitsrechte im digitalen Zeitalter, denn Zivilgesellschaft wirkt! Bleib informiert!
