Am Donnerstag haben wir gemeinsam mit Bündnispartnern eine Kampagne gegen den AMS-Algorithmus präsentiert. Ministerin Aschbacher wird auf amsalgorithmus.at persönlich dazu aufgerufen, diesem ungerechten und intransparenten System endlich ein Ende zu bereiten. Gleichzeitig wollen wir die Bevölkerung über diesen Algorithmus informieren und dazu aufrufen, sich im Rahmen einer Petition dagegen auszusprechen, um dem Ganzen Nachdruck zu verleihen.

Bei der Pressekonferenz erklärte unser Campaigner Andreas Czák, warum der Algorithmus nicht nur ungerecht und diskriminierend ist, sondern auch intransparent: „Dieses System ist teuer, intransparent und es kann nicht funktionieren, da es auf zu starken Vereinfachungen beruht. Wer sich auf dieses System verlässt, macht einen schwerwiegenden Fehler und verbaut Menschen ihre Zukunft.“

Sieben Forderungen und viele Unterstützer

Auch die Politikwissenschafterin und Leiterin des Momentum Instituts, Barbara Blaha, sieht negative Folgen dieses Systems auf die Arbeitswelt und die damit einhergehenden arbeitsmarktpolitischen Probleme: „Wir brauchen neue Mittel für Umschulungen und mehr AMS-Mitarbeiter*innen, um die Rekordarbeitslosigkeit zu bekämpfen. Das will man aber nicht tun, stattdessen soll der Algorithmus dieses politische Problem technisch lösen – auf Kosten der Arbeitslosen.“

Neben Momentum Institut unterstützen bereits viele andere Organisationen unsere sieben Forderungen: Mehr Transparenz, eine rein freiwillige Teilnahme am System, ein Recht auf Information und das Begehren, zu fördern statt zu strafen. Die Forderungen sind im Detail auf amsalgorithmus.at gelistet. (siehe unten im Detail)

Aus wissenschaftlicher und evidenzbasierter Sicht liefert Ben Wagner von der Wirtschaftsuniversität Wien noch zahlreiche Gründe gegen dieses unfaire System, aus dem sich auch die Forderung nach einem allgemeinen Risikocheck für Algorithmen ableitet: „Technische Systeme sind besonders geeignet, bestehende Diskriminierungen zu verstärken und verstetigen. Daher sind vollständige Transparenz und unabhängige Audits von technischen Systemen die für die öffentliche Daseinsvorsorge genutzt werden so wichtig, um jede möglich Diskriminierung auszuschließen bevor sie eingesetzt werden."

Ministerin Aschbacher soll jetzt noch rechtzeitig den Stecker ziehen!

Die sieben Forderungen im Detail:

1. Menschen, nicht Computer sollen entscheiden



   Menschen sollen anhand nachvollziehbarer Kriterien über 
den Zugang zu staatlichen Leistungen entscheiden, statt Entscheidungen eines Computers nur abzunicken.



   Der AMS Algorithmus ist abzulehnen und muss abgeschaltet werden. Ein Computer darf nicht über menschliche Schicksale entscheiden und der Zugang zu staatlichen Leistungen darf nicht von einem Computer reguliert werden. Entscheidungen müssen nachvollziehbar, transparent und mit menschlichem Maß getroffen werden. Das System ein gefährlicher Präzedenzfall politische Entscheidungen an Algorithmen auszulagern.



   Selbst wenn das System (noch) keine vollautomatischen Entscheidungen treffen sollte, darf es auch keine Entscheidungen vorgeben, die durch das AMS-Personal nur noch abgenickt werden. Die AMS-Beratungstermine dauern meist nur 15 Minuten und besteht enormer Rechtfertigungsdruck dem Computer nicht zu widersprechen.


2. Fähigkeiten fördern, statt Schwächen bestrafen

   



   Mehr Bildung ermöglichen, durch Förderung und Ermöglichung von (Weiter-)Bildung



   Menschen sollen aufgrund ihrer Fähigkeiten und Stärken gefördert werden, dazu braucht es eine Aufstockung der Weiterbildungs- und Schulungsmaßnahmen von Arbeitssuchenden.

   



   Es muss es Arbeitssuchenden erlaubt werden ein Uni- oder FH-Studium zu beginnen (dies ist derzeit nur dann erlaubt, wenn Arbeitssuchende schon zu Berufszeiten parallel studiert haben). Auch soll das AMS selbstbezahlte Weiterbildungen z.B. Kurse, die nur wenige Tage dauern, erlauben.


3. Mehr Ressourcen für das AMS



   Wir fordern mehr und besser ausgebildete Berater*innen, die ausreichend Zeit für Beratungen haben.

   Das Verhältnis von Berater*innen zu Arbeitssuchenden beträgt in Deutschland 1:100, in Österreich hingegen nur 1:250. Daran sieht man, dass eine Aufstockung in diesem Bereich denkbar und durchaus sinnvoll wäre, denn ein besseres Betreuungsverhältnis bedeutet bessere Jobchancen und qualitätsvollere Betreuung. Das AMS braucht nicht nur mehr Geld für die Aus- und Weiterbildung seiner Berater*innen. Ebenso notwendig ist die qualitative Aufstockung von sinnvollen Weiterbildungs- und Schulungsmaßnahmen von Arbeitssuchenden.


4. Wir fordern eine umfassende proaktive Aufklärung über die Rechte von Arbeitssuchenden.



   Das AMS wird durch uns alle finanziert und ist daher ein Dienstleistungsanbieter mit dem Auftrag der Allgemeinheit zu helfen. Er muss allen Menschen auf Augenhöhe begegnen. Damit Menschen gleichberechtigt mit ihren Berater*innen reden können brauchen sie zuallererst Informationen darüber, was ihre Rechte und Pflichten in Zusammenhang mit dem AMS sind. Begonnen damit, woran ihr Anspruch auf Arbeitslosengeld geknüpft ist. Ob und unter welchen Umständen ihnen das Geld gestrichen werden darf. Ob sie eine Betreuungsvereinbarung mit dem AMS eingehen müssen oder ob dies optional ist. Wie ihre Informations- und Auskunftsrechte aussehen und wie das rechtliche Verhältnis zwischen ihnen und externen Partnerunternehmen des AMS geregelt ist.


5. Umfassende Transparenz



   Projekte und Programme, die mit unser aller Geld gestartet werden müssen höchstmögliche Transparenz aufweisen, um evaluierbar zu sein.

Der AMS-Algorithmus ist jahrelang mit hohen Kosten unter Ausschluss der Öffentlichkeit entwickelt worden.

   Eine informierte Debatte war schon allein deshalb nicht möglich, weil weder die Datenbasis des Systems noch seine Resultate veröffentlicht wurden. Die Schulungsunterlagen für Berater*innen und Prozesse für Widersprüche mit dem Algorithmus werden weiterhin geheim gehalten. Eine wissenschaftliche Aufarbeitung und demokratische Debatte über das Projekt sind so ausgeschlossen.

Wir fordern umfassende und proaktive Transparenz vom AMS. Aufklärung darf nicht erst durch öffentlichen Druck erfolgen. Veröffentlicht werden müssen zumindest die mathematischen Modelle, die eingesetzte Software, die anonymisierte Datenbasis, die konkrete Funktionsweise des Systems, die Ergebnisse des Berechnungsprozesses für einzelne Gruppen. Ebenso muss transparent dargelegt werden, wie sich der AMS-Algorithmus auf die praktische Beratung und Fördervergabe auswirkt. Auch die Maßnahmen, die das AMS bereits aufgrund der Kritik gesetzt hat, wie Schulungsunterlagen, das Zusammenspiel mit der Umstrukturierung des AMS und begleitende Prozesse, sowie Beschwerdemöglichkeiten für Betroffene, müssen endlich veröffentlicht werden.
,/p>

6. Risikocheck für Algorithmen



   Wir fordern eine Überprüfung von Algorithmen auf deren Technik und soziale Auswirkungen, bevor diese eingeführt werden (Verpflichtung für ein vorgelagertes Algorithmic Impact Assessment).

   



   Automatisierte Systeme, die negative Konsequenzen für Menschen haben könnten, müssen vor ihrer Einführung genau auf Funktionsweise und eventuelle Folgewirkungen hin geprüft werden. Dies muss bei allen Algorithmen geschehen, die potentiell in Grundrechte eingreifen

.

   Hier gibt es internationale Best-Practices der Kontrolle von Algorithmen, ein sogenanntes Algorithmic Impact Assessment. Dies vorzunehmen wurde beim AMS-Algorithmus verabsäumt und muss zukünftig verpflichtend sein.

   Algorithmen müssen auf Fehler im System geprüft werden, Biases in den Daten und daraus resultierende negative Feedback Zyklen müssen analysiert werden, bevor solche Systeme gestartet und flächendeckend eingesetzt werden.

   



   Nicht jede Statistische Regression folgt dem Prinzip von Ursache und Wirkung. Negative Effekte auf Menschen aufgrund von Fehlanalysen müssen vermieden werden.



   Deswegen fordern wir ein Algorithmic Impact Assessment, wie es bereits Kanada oder die Stadt New York eingeführt haben.

7. Nur freiwillige Teilnahme am Algorithmus



   Wir fordern eine optionale Teilnahme am AMS Algorithmus (Opt-In) und die Entkoppelung von jeder Fördervergabe. Wir wollen ein System, das so gut ist, dass die Betroffenen freiwillig daran teilnehmen



   Das AMS ist in einer Machtposition gegenüber den Arbeitssuchenden. Im Sinne des Datenschutzes fordern wir deshalb die Freiwilligkeit der Teilnahme aller Arbeitssuchenden am AMS-Algorithmus. Arbeitssuchenden müssen ihre informierte Zustimmung geben, bevor das System sie kategorisiert. Diese Zustimmung kann jederzeit widerrufen werden, wodurch auch alle berechneten Werte des Algorithmus gelöscht werden müssen. Aus der Weigerung an diesem System teilzunehmen, dürfen den Arbeitssuchenden keine Nachteile entstehen.

Zur Petition: amsalgorithmus.at

Die Aufzeichnung unserer Pressekonferenz kannst du hier nachsehen:

Fotos: Katharina Schiffl