13. März 2024

In EU droht Massenüberwachung mit KI

Cornelia Ernst, datenschutzpolitische Sprecherin von Die Linke im Europaparlament, erklärt nach der heutigen EP-Abstimmung über das Gesetz zur Künstlichen Intelligenz: „Die EU-Verordnung zur Regulierung von Künstlicher Intelligenz wäre eine echte Chance gewesen, weltweite Standards für den Umgang mit KI zu setzen. Die EU hat hier global eine Vorreiterrolle.

In einigen Punkten ist die Verordnung durchaus positiv zu bewerten. So werden die Mitgliedstaaten explizit dazu aufgefordert, Gesetze zu erlassen, um einen stärkeren Schutz für Arbeitnehmer*innen zu gewährleisten, wenn KI am Arbeitsplatz eingesetzt wird. Auch ‚Social-Scoring‘-Systeme nach chinesischem Vorbild sind verboten.

Leider hat das Parlament in den Verhandlungen aber essentiell wichtige Elemente nicht durchsetzen können. Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichem Raum wurde durch eine lange Liste von Ausnahmen praktisch gekippt. Auch aufgezeichnetes Material kann in diesem Zusammenhang ausgewertet werden, mit vorheriger richterlicher Genehmigung.

Außerdem wird die KI-Verordnung Emotionserkennung, also Hokuspokus wie Polygraphen und prädiktive Polizeiarbeit, zulassen. Zwar gelten diese Systeme als hochriskant, verboten werden Sie durch die Verordnung aber nicht. Das ist eine verpasste Chance.

Eine weitere Riesenlücke in der Verordnung ist, dass es keine Verbote für den Einsatz von KI-Systemen im Migrations- und Grenzkontext gibt. Damit werden Menschen auf der Flucht zu Versuchskaninchen und die EU-Außengrenzen zum Testlabor gemacht. Das ist inakzeptabel.“… Weiterlesen

13. Februar 2024

KI-Regulierung: Verpasste Chance

Cornelia Ernst, datenschutzpolitische Sprecherin von Die Linke im Europaparlament, erklärt zur heutigen Abstimmung im EP-Ausschuss über die Trilog-Ergebnisse zur Regulierung von Künstlicher Intelligenz: „Die EU-Verordnung zur Regulierung von KI wäre eine echte Chance gewesen, weltweite Standards für den Umgang mit Künstlicher Intelligenz zu setzen. Die EU hat hier global eine Vorreiterrolle.

In einigen Punkten ist die Verordnung durchaus positiv zu bewerten: so werden die Mitgliedstaaten explizit dazu aufgefordert, Gesetze zu erlassen, um einen stärkeren Schutz für Arbeitnehmer*innen zu gewährleisten, wenn KI am Arbeitsplatz eingesetzt wird. Auch ‚Social-Scoring‘-Systeme nach chinesischem Vorbild sind verboten.

Leider hat das Parlament in den Verhandlungen aber essentiell wichtige Elemente nicht durchsetzen können. Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum wurde durch eine lange Liste von Ausnahmen praktisch gekippt. Auch aufgezeichnetes Material kann in diesem Zusammenhang ausgewertet werden, mit vorheriger richterlicher Genehmigung.

Außerdem wird die KI-Verordnung Emotionserkennung, also Hokuspokus wie Polygraphen und prädiktive Polizeiarbeit, zulassen. Zwar gelten diese Systeme als hochriskant, verboten werden Sie durch die Verordnung aber nicht. Das ist eine verpasste Chance.

Eine weitere Riesenlücke in der Verordnung ist, dass es keine Verbote für den Einsatz von KI-Systemen im Migrations- und Grenzkontext gibt. Damit werden Menschen auf der Flucht zu Versuchskaninchen und die EU-Außengrenzen zum Testlabor gemacht. Das ist inakzeptabel.“… Weiterlesen

14. Juni 2023

EP unterschätzt Gefahren der Künstlichen Intelligenz

Cornelia Ernst, datenschutzpolitische Sprecherin von DIE LINKE im Europaparlament und Verantwortliche der Linksfraktion für das Gesetz, erklärt zur heutigen EP-Abstimmung über die Verordnung zur Regulierung von Künstlicher Intelligenz: „Die fortschrittlichen Kräfte im Europäischen Parlament haben heute das Verbot von Gesichtserkennung im öffentlichen Raum erfolgreich verteidigt. Die Massenüberwachung der EU-Bürger:innen, wie von der EVP – insbesondere CDU/CSU – gewollt, ist jetzt erstmal vom Tisch. Das ist historisch und ein großer Erfolg. Ob dieses Verbot die Verhandlungen mit den Regierungschef:innen im Rat übersteht, müssen wir abwarten. Viel Hoffnung habe ich allerdings nicht. Besonders konservative Regierungen wollen Geheim- und Sicherheitsdiensten viel mehr Macht und Kontrolle über die Bevölkerung geben, frei nach chinesischem Vorbild.

Einige Erfolge der Abstimmung werden leider auch konterkariert. Der risikobasierte Regulierungsansatz wurde in den Verhandlungen extrem abgeschwächt und die Messlatte, um ein KI-System als Risiko für Grundrechte, Sicherheit oder Gesundheit einzustufen, hängt deshalb leider sehr hoch. Das ist für eine Position des EU-Parlaments definitiv nicht ehrgeizig genug, um Menschen vor den unvorhersehbaren Gefahren der KI zu schützen.“

 

Hintergrund:

Die Überwachung durch KI-Systeme im öffentlichen Raum, um uns zu identifizieren, unsere Kriminalitätswahrscheinlichkeit oder unsere Emotionen vorherzusagen, wird immer präsenter. Probleme sind dabei vor allem die generelle Intransparenz von KI-Systemen, der Mangel an Rechenschaftspflichten und das Machtmonopol der großen Tech-Giganten. Die EU möchte mit der Verordnung zu künstlicher Intelligenz Vorreiterin in der Regulierung für KI werden. Das Europäische Parlament hat heute seine Position zur Verordnung für die Verhandlungen mit den Regierungschef:innen im EU-Rat festgelegt.Weiterlesen

11. Mai 2023

Parlamentsposition nicht ambitioniert genug

Cornelia Ernst, datenschutzpolitische Sprecherin von DIE LINKE im Europaparlament, erklärt zur heutigen Abstimmung über die Verordnung zur Regulierung von Künstlicher Intelligenz im Innen- und Binnenmarktausschuss: „Mit Blick auf die gravierenden die Auswirkungen von Künstlicher Intelligenz auf die Gesellschaft als Ganzes ist eine strikte Regulierung der KI zwingend notwendig – diese muss aber klug und stringent geregelt werden.
Die Parlamentsposition beinhaltet viele positive Aspekte, wie ein Verbot von diskriminierender biometrischer Kategorisierung, ‚predicitive policing‘ und Emotionserkennung. Besonders hervorzuheben ist auch, dass KI-Systeme im Kontext der Migration jetzt in den Anwendungsbereich des Gesetzesvorschlags fallen. Das war eines unserer Hauptanliegen. Wir konnten die Rechte betroffener Personen stärken und auch KI-Systeme, die bei der ‚Migrationssteuerung‘ eingesetzt werden als ‚Hochrisiko-Systeme‘ einstufen, auch wenn an diesem Punkt ein Verbot notwendig gewesen wäre. Die entsprechenden Kompromisse haben wir auch unterstützt.
Besonders begrüße ich, dass es ein Verbot der biometrischen Gesichtserkennung in Echtzeit und ein bedingtes Verbot der ‚Post-Gesichtserkennung‘ in die Parlamentsposition geschafft hat. Das ist historisch und richtig! Dass dieses Verbot den Trilog mit dem Rat übersteht, ist allerdings nicht zu erwarten.
Diese Erfolge des Textes werden jedoch konterkariert. Tritt man einen Schritt zurück und betrachtet den gesamten Text der Parlamentsposition wird klar, dass viele Fragen und große Schlupflöcher bleiben. Der gesamte Ansatz der risiko-basierten Regulierung von KI wurde in den Verhandlungen extrem abgeschwächt.
Zum einen fallen aufgelistete Systeme nur dann unter diese Kategorie, wenn sie ein ‚erhebliches Risiko‘ für Gesundheit, Sicherheit oder die Grundrechte darstellen, was im Voraus kaum zu beweisen ist. Zum anderen wird ‚erhebliches Risiko‘ als eine Kombination aus Häufigkeit und Schwere des Risikos definiert, wodurch die Messlatte sehr hoch gelegt wird. So wird letztendlich akzeptiert, dass KI-Systeme dem Menschen Schaden zufügen können. Das war unsere rote Linie in den Verhandlungen.
Betrachtet man die Auswirkungen von KI nicht nur auf den Einzelnen, sondern auf die … Weiterlesen

6. Oktober 2021

Klare Absage an biometrische Massenüberwachung!

Cornelia Ernst, innenpolitische Sprecherin von DIE LINKE im Europaparlament, erklärt zur heutigen Annahme des Berichts „Künstliche Intelligenz im Strafrecht und ihre Verwendung durch die Polizei und Justizbehörden in Strafsachen“: „Das Parlament hat heute der biometrischen Massenüberwachung eine klare Absage erteilt! Der Initiativbericht fordert erstmals ein Verbot der biometrischen Massenüberwachung. Diese Forderung muss nun auch in das von der Kommission vorgeschlagene Künstliche-Intelligenz-Gesetz aufgenommen werden!“

Der Bericht betrachtet insbesondere die Verwendung von KI durch die Polizei und die Justizbehörden.… Weiterlesen