Cornelia Ernst, datenschutzpolitische Sprecherin von Die Linke im Europaparlament, erklärt nach der heutigen EP-Abstimmung über das Gesetz zur Künstlichen Intelligenz: „Die EU-Verordnung zur Regulierung von Künstlicher Intelligenz wäre eine echte Chance gewesen, weltweite Standards für den Umgang mit KI zu setzen. Die EU hat hier global eine Vorreiterrolle.

In einigen Punkten ist die Verordnung durchaus positiv zu bewerten. So werden die Mitgliedstaaten explizit dazu aufgefordert, Gesetze zu erlassen, um einen stärkeren Schutz für Arbeitnehmer*innen zu gewährleisten, wenn KI am Arbeitsplatz eingesetzt wird. Auch ‚Social-Scoring‘-Systeme nach chinesischem Vorbild sind verboten.

Leider hat das Parlament in den Verhandlungen aber essentiell wichtige Elemente nicht durchsetzen können. Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichem Raum wurde durch eine lange Liste von Ausnahmen praktisch gekippt. Auch aufgezeichnetes Material kann in diesem Zusammenhang ausgewertet werden, mit vorheriger richterlicher Genehmigung.

Außerdem wird die KI-Verordnung Emotionserkennung, also Hokuspokus wie Polygraphen und prädiktive Polizeiarbeit, zulassen. Zwar gelten diese Systeme als hochriskant, verboten werden Sie durch die Verordnung aber nicht. Das ist eine verpasste Chance.

Eine weitere Riesenlücke in der Verordnung ist, dass es keine Verbote für den Einsatz von KI-Systemen im Migrations- und Grenzkontext gibt. Damit werden Menschen auf der Flucht zu Versuchskaninchen und die EU-Außengrenzen zum Testlabor gemacht. Das ist inakzeptabel.“… Weiterlesen

Cornelia Ernst, datenschutzpolitische Sprecherin von Die Linke im Europaparlament, erklärt zur heutigen Abstimmung im EP-Ausschuss über die Trilog-Ergebnisse zur Regulierung von Künstlicher Intelligenz: „Die EU-Verordnung zur Regulierung von KI wäre eine echte Chance gewesen, weltweite Standards für den Umgang mit Künstlicher Intelligenz zu setzen. Die EU hat hier global eine Vorreiterrolle.

In einigen Punkten ist die Verordnung durchaus positiv zu bewerten: so werden die Mitgliedstaaten explizit dazu aufgefordert, Gesetze zu erlassen, um einen stärkeren Schutz für Arbeitnehmer*innen zu gewährleisten, wenn KI am Arbeitsplatz eingesetzt wird. Auch ‚Social-Scoring‘-Systeme nach chinesischem Vorbild sind verboten.

Leider hat das Parlament in den Verhandlungen aber essentiell wichtige Elemente nicht durchsetzen können. Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum wurde durch eine lange Liste von Ausnahmen praktisch gekippt. Auch aufgezeichnetes Material kann in diesem Zusammenhang ausgewertet werden, mit vorheriger richterlicher Genehmigung.

Außerdem wird die KI-Verordnung Emotionserkennung, also Hokuspokus wie Polygraphen und prädiktive Polizeiarbeit, zulassen. Zwar gelten diese Systeme als hochriskant, verboten werden Sie durch die Verordnung aber nicht. Das ist eine verpasste Chance.

Eine weitere Riesenlücke in der Verordnung ist, dass es keine Verbote für den Einsatz von KI-Systemen im Migrations- und Grenzkontext gibt. Damit werden Menschen auf der Flucht zu Versuchskaninchen und die EU-Außengrenzen zum Testlabor gemacht. Das ist inakzeptabel.“… Weiterlesen

Cornelia Ernst, datenschutzpolitische Sprecherin von DIE LINKE im Europaparlament und Verantwortliche der Linksfraktion für das Gesetz, erklärt zur heutigen EP-Abstimmung über die Verordnung zur Regulierung von Künstlicher Intelligenz: „Die fortschrittlichen Kräfte im Europäischen Parlament haben heute das Verbot von Gesichtserkennung im öffentlichen Raum erfolgreich verteidigt. Die Massenüberwachung der EU-Bürger:innen, wie von der EVP – insbesondere CDU/CSU – gewollt, ist jetzt erstmal vom Tisch. Das ist historisch und ein großer Erfolg. Ob dieses Verbot die Verhandlungen mit den Regierungschef:innen im Rat übersteht, müssen wir abwarten. Viel Hoffnung habe ich allerdings nicht. Besonders konservative Regierungen wollen Geheim- und Sicherheitsdiensten viel mehr Macht und Kontrolle über die Bevölkerung geben, frei nach chinesischem Vorbild.

Einige Erfolge der Abstimmung werden leider auch konterkariert. Der risikobasierte Regulierungsansatz wurde in den Verhandlungen extrem abgeschwächt und die Messlatte, um ein KI-System als Risiko für Grundrechte, Sicherheit oder Gesundheit einzustufen, hängt deshalb leider sehr hoch. Das ist für eine Position des EU-Parlaments definitiv nicht ehrgeizig genug, um Menschen vor den unvorhersehbaren Gefahren der KI zu schützen.“

Hintergrund:

Die Überwachung durch KI-Systeme im öffentlichen Raum, um uns zu identifizieren, unsere Kriminalitätswahrscheinlichkeit oder unsere Emotionen vorherzusagen, wird immer präsenter. Probleme sind dabei vor allem die generelle Intransparenz von KI-Systemen, der Mangel an Rechenschaftspflichten und das Machtmonopol der großen Tech-Giganten. Die EU möchte mit der Verordnung zu künstlicher Intelligenz Vorreiterin in der Regulierung für KI werden. Das Europäische Parlament hat heute seine Position zur Verordnung für die Verhandlungen mit den Regierungschef:innen im EU-Rat festgelegt.… Weiterlesen