Am 30. November 2021, veröffentlichten 115 zivilgesellschaftliche Organisationen, darunter epicenter.works und European Digital Rights (EDRi), eine gemeinsame Erklärung mit der Forderung, dass das Gesetz über künstliche Intelligenz (KI-Gesetz - AI Act) die Grundrechte in den Vordergrund stellen muss.

Jetzt lesen (Englisch)

Die Erklärung, verfasst von European Digital Rights (EDRi), Access Now, Panoptykon Foundation, epicenter.works, AlgorithmWatch, European Disability Forum (EDF), Bits of Freedom, Fair Trials, PICUM, und ANEC, liefert dem Europäischen Parlament und dem Rat der Europäischen Union grundlegende Empfehlungen zur Anpassung des KI-Gesetzesvorschlags der Europäischen Kommission.

Die Unterzeichner*innen fordern:

• Einen stimmigen, flexiblen und zukunftsfähigen Ansatz gegen die „Risiken“ von KI-Systemen

  Dazu gehört ein umfassender und einheitlicher Mechanismus zur Aktualisierung jener KI-Systeme, welche in die Kategorien „unannehmbares“ (Artikel 5) und begrenztes (Artikel 52) Risiko fallen, sowie die Gewährleistung, dass die „Hochrisiko“-Themenbereiche (Anhang III) ebenfalls aktualisiert werden können.

• Ein Verbot aller KI-Systeme, die ein unannehmbares Risiko für die Grundrechte darstellen

  Dazu gehört ein vollständiges Verbot von: Social-Scoring-Systemen; biometrischer Fernidentifizierung in öffentlich zugänglichen Räumen (durch alle Akteure); Emotionserkennungssystemen; diskriminierender biometrischer Kategorisierung; KI-Physiognomie; Systemen zur Vorhersage zukünftiger Straftaten; Systemen zum Profiling und zur Risikobewertung in Zusammenhang mit Migration.

• Rechenschaftspflichten der Nutzer von Hochrisiko-KI-Systemen gegenüber den Betroffenen von KI-Systemen

  Dazu gehört die Verpflichtung der Nutzer von Hochrisiko-KI-Systemen, Grundrechtefolgenabschätzungen durchzuführen und zu veröffentlichen, einschließlich der Folgen für Menschen, Grundrechte, Umwelt und das allgemeine öffentliche Interesse.

• Einheitliche und aussagekräftige Transparenz gegenüber der Öffentlichkeit

  Dazu gehört eine verpflichtende Registrierung von Hochrisikosystemen in der öffentlichen Datenbank gem. Artikel 60 durch die Nutzer.

• Wirksame Rechte und Rechtsmittel für Betroffene

  Beispielsweise das Recht, keinen KI-Systemen, die gegen die Verordnung verstoßen, oder verbotenen Praktiken ausgesetzt zu sein, das Recht auf Erläuterung von Entscheidungen, die mithilfe von KI-Systemen getroffen wurden, sowie Anspruch auf gerichtlichen Rechtsschutz.

• Zugänglichkeit während des gesamten KI-Lebenszyklus

  Dazu gehören Anforderungen an die Zugänglichkeit für alle KI-Systeme.

• Nachhaltigkeit und Umweltschutz bei der Entwicklung und dem Einsatz von KI-Systemen

  Dazu gehören Auflagen zur Transparenz gegenüber der Öffentlichkeit betreffend den Ressourcenverbrauch und Treibhausgasausstoß von KI-Systemen.

• Verbesserte und zukunftsfähige Standards für KI-Systeme

  Beschränkung des harmonisierten Normungsprozesses auf wirklich rein technische Aspekte und Gewährleistung der Teilnahme der Zivilgesellschaft am Prozess.

• Ein wirklich umfassendes KI-Gesetz, das für alle da ist

  Gewährleistung der Privatsphäre von Menschen mit Behinderung; Streichung der weitreichenden Ausnahmen für KI-Systeme, die Teil von großen EU-IT-Datenbanken sind; und Gewährleistung eines umfassenden und gut ausgestatteten Durchsetzungsverfahrens, das die Grundrechte in den Mittelpunkt stellt.

Durch die Förderung von Massenüberwachung und die Verstärkung von massiven gesellschaftlichen Ungleichheiten und Machtungleichgewichten stellen KI-Systeme eine große Gefahr für unsere Grundrechte und demokratischen Prozesse und Werte dar. Deshalb ist der Vorschlag der EU-Institutionen für ein KI-Gesetz ein Schritt von globaler Bedeutung. Aber dieses KI-Gesetz muss auch die strukturellen, gesellschaftlichen, politischen und wirtschaftlichen Folgen des Einsatzes von KI abdecken. Erst dadurch kann sichergestellt werden, dass das Gesetz zukunftsfähig ist und den Grundrechteschutz priorisiert.

Wir, die Unterzeichnerorganisationen, fordern den Rat der Europäischen Union, das Europäische Parlament und die Regierungen aller EU-Mitgliedsstaaten auf zu gewährleisten, dass das künftige Gesetz über künstliche Intelligenz die in unserer Erklärung genannten Ziele erfüllt und die Grundrechte an erste Stelle setzt.

Künstliche-Intelligenz-Systeme (KI-Systeme) werden in allen Bereichen des öffentlichen Lebens zunehmend eingesetzt. Aber das Fehlen eines angemessenen Rechtsrahmens für die Entwicklung und Nutzung von KI-gestützter Technologie bedroht unsere digitalen Rechte und Menschenrechte. In Europa haben wir bereits die negativen Auswirkungen von schlecht regulierter KI erlebt. So hat beispielsweise die diskriminierende Verwendung von KI an den Grenzen zur Abschiebung von migrierenden Menschen beigetragen und ihnen den Zugang zu lebensnotwendigen Leistungen wie Gesundheit und sozialer Sicherheit verwehrt. Wir sehen auch, wie der Einsatz von Systemen der vorhersagenden Polizeiarbeit zu einer Zunahme von übermäßiger Polizeipräsenz in radikalisierten Gemeinschaften führt, und wie arme Viertel, Arbeiter- und Migranten gegen den ungerechtfertigterweise zum Ziel von Betrugsaufdeckungsystemen werden. Gesichtserkennungs- und ähnliche Systeme werden in ganz Europa auf eine Weise eingesetzt, die zu biometrischer Massenüberwachung führt.

Unterzeichnet von:

1. European Digital Rights (EDRi) (Europa)

2. Access Now (International)

3. The App Drivers and Couriers Union (ADCU) (Vereinigtes Königreich)

4. Algorights (Spanien)

5. AlgorithmWatch (Europa)

6. All Out (International)

7. Amnesty International (International)

8. ARTICLE 19 (International)

9. Asociación Salud y Familia (Spanien)

10. Aspiration (USA)

11. Association for action against violence and trafficking in human beings - Open Gate / La Strada Macedonia (Nordmazedonien)

12. Association for Juridical Studies on Immigration (ASGI) (Italien)

13. Association for Monitoring Equal Rights (Türkei)

14. Association of citizens for promotion and protection of cultural and spiritual values - Legis Skopje (Nordmazedonien)

15. Associazione Certi Diritti (Italien)

16. Associazione Luca Coscioni (Italien)

17. Baobab Experience (Italien)

18. Belgian Disability Forum asbl (BDF) (Belgien)

19. Big Brother Watch (Vereinigtes Königreich)

20. Bits of Freedom (Niederlande)

21. Border Violence Monitoring Network (Europa)

22. Campagna LasciateCIEntrare (Italien)

23. Center for AI and Digital Policy (CAIDP) (International)

24. Chaos Computer Club (CCC) (Deutschlad)

25. Chaos Computer Club Lëtzebuerg (Luxemburg)

26. CILD – Italian Coalition for Civil Liberties and Rights (Italien)

27. Controle Alt Delete (Niederlande)

28. D3 - Defesa dos Direitos Digitais (Portugal)

29. D64 - Zentrum für digitalen Fortschritt (Center for Digital Progress) (Deutschland)

30. DataEthics.eu (Europa)

31. Digital Defenders Partnership (International)

32. Digitalcourage (Deutschland)

33. Digitale Freiheit e.V. (Deutschland)

34. Digitale Gesellschaft (Deutschland)

35. Digitale Gesellschaft (Schweiz) (Schweiz)

36. Disabled Peoples Organisations (Dänemark)

37. DonesTech (Spanien)

38. Državljan D / Citizen D (Slowenien)

39. Each One Teach One e.V. (Deutschland)

40. Elektronisk Forpost Norge (EFN) (Norwegen)

41. epicenter.works (Österreich)

42. Equinox Initiative for Racial Justice (Europa)

43. Eticas Foundation (Spanien)

44. Eumans (Europa)

45. European Anti-Poverty Network (Europa)

46. European Center for Not-for-Profit Law Stichting (International)

47. European Civic Forum (Europa)

48. European Disability Forum (EDF) (Europa)

49. European Network Against Racism (ENAR) (Europa)

50. European Network on Religion and Belief (Europa)

51. European Network on Statelessness (Europa)

52. European Sex Workers’ Rights Alliance (Europa)

53. European Youth Forum (Europa)

54. Fair Trials (Europa)

55. FAIRWORK Belgium (Belgien)

56. FIDH (International Federation for Human rights) (International)

57. Fundación Secretariado Gitano (Spanien)

58. Future of Life Institute (International)

59. GHETT’UP (Frankreich)

60. Greek Forum of Migrants (Griechenland)

61. Greek Forum of Refugees (Europa)

62. Health Action International (Niederlande)

63. Helsinki Foundation for Human Rights (Polen)

64. Hermes Center (Italien)

65. Hivos (International)

66. Homo Digitalis (Griechenland)

67. Human Rights Association (Türkei)

68. Human Rights House Zagreb (Kroatien)

69. HumanRights360 (Griechenland / Europa)

70. ILGA-Europe - The European Region of the International Lesbian, Gay, Bisexual, Trans and Intersex Association (Europa)

71. Implementation Team of the Decade of People of African Descent (Spanien)

72. info.nodes (Italien)

73. Interferencias (Spanien)

74. International Commission of Jurists (NJCM) - Dutch Section (Niederlande)

75. Irish Council for Civil Liberties (ICCL) (Irland)

76. IT-Pol Denmark (Dänemark)

77. JustX (Europa)

78. Lafede.cat – organitzacions per a la justícia global (Spanien)

79. Ligue des droits de l'Homme (LDH) (Frankreich)

80. Ligue des droits humains (Belgien)

81. Maruf Foundation (Niederlande)

82. Mediterranea Saving Humans Aps (Italien / International)

83. Melitea (Europa)

84. Mnemonic (Deutschland / International)

85. Moje Państwo Foundation (Polen)

86. Montreal AI Ethics Institute (Kanada)

87. Movement of Asylum Seekers in Ireland (MASI) (Irland)

88. Netwerk Democratie (Niederlande)

89. NOVACT (Spanien / International)

90. OMEP - Oraganisation Mondiale pour l'Education Prescolaire / World Organization for Early Childhood Education (International)

91. Open Knowledge Foundation (International)

92. Open Society European Policy Institute (OSEPI) (International)

93. OpenMedia (International)

94. Panoptykon Foundation (Polen)

95. The Platform for International Cooperation on Undocumented Migrants (PICUM) (International)

96. Privacy International (International)

97. Racism and Technology Center (Niederlande)

98. Ranking Digital Rights (International)

99. Refugee Law Lab, York University (International)

100. Refugees in danger (Dänemark)

101. Science for Democracy (Europa)

102. SHARE Foundation (Serbien)

103. SOLIDAR & SOLIDAR Foundation (Europa)

104. Statewatch (Europa)

105. Stop Wapenhandel (Niederlande)

106. StraLi (Europa)

107. SUPERRR Lab (Deutschland)

108. Symbiosis-School of Political Studies in Greece, Council of Europe Network (Griechenland)

109. Taylor Bennett Foundation (Vereinigtes Königreich)

110. UNI Europa (Europa)

111. Universidad y Ciencia Somosindicalistas (Spanien)

112. Vrijschrift.org (Niederlande)

113. WeMove Europe (Europa)

114. Worker Info Exchange (International)

115. Xnet (Spanien)