13. Februar 2024

KI-Regulierung: Verpasste Chance

Cornelia Ernst, datenschutzpolitische Sprecherin von Die Linke im Europaparlament, erklärt zur heutigen Abstimmung im EP-Ausschuss über die Trilog-Ergebnisse zur Regulierung von Künstlicher Intelligenz: „Die EU-Verordnung zur Regulierung von KI wäre eine echte Chance gewesen, weltweite Standards für den Umgang mit Künstlicher Intelligenz zu setzen. Die EU hat hier global eine Vorreiterrolle.

In einigen Punkten ist die Verordnung durchaus positiv zu bewerten: so werden die Mitgliedstaaten explizit dazu aufgefordert, Gesetze zu erlassen, um einen stärkeren Schutz für Arbeitnehmer*innen zu gewährleisten, wenn KI am Arbeitsplatz eingesetzt wird. Auch ‚Social-Scoring‘-Systeme nach chinesischem Vorbild sind verboten.

Leider hat das Parlament in den Verhandlungen aber essentiell wichtige Elemente nicht durchsetzen können. Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum wurde durch eine lange Liste von Ausnahmen praktisch gekippt. Auch aufgezeichnetes Material kann in diesem Zusammenhang ausgewertet werden, mit vorheriger richterlicher Genehmigung.

Außerdem wird die KI-Verordnung Emotionserkennung, also Hokuspokus wie Polygraphen und prädiktive Polizeiarbeit, zulassen. Zwar gelten diese Systeme als hochriskant, verboten werden Sie durch die Verordnung aber nicht. Das ist eine verpasste Chance.

Eine weitere Riesenlücke in der Verordnung ist, dass es keine Verbote für den Einsatz von KI-Systemen im Migrations- und Grenzkontext gibt. Damit werden Menschen auf der Flucht zu Versuchskaninchen und die EU-Außengrenzen zum Testlabor gemacht. Das ist inakzeptabel.“… Weiterlesen

6. Februar 2024

EU-Zollinformationssystem endlich in Einklang mit Datenschutz

Cornelia Ernst, datenschutzpolitische Sprecherin von Die Linke im Europaparlament, erklärt zur heutigen Abstimmung des EP über die Verbesserung des Schutzes personenbezogener Daten im Zollinformationssystem: „Die heute beschlossene Verordnung ist ein weiterer wichtiger Schritt auf dem Weg dahin, alle EU-Instrumente im Bereich des Strafrechts mit den aktualisierten Datenschutzbestimmungen in Einklang zu bringen. Das Zollinformationssystem ist ein wichtiger Teil dessen. Konkret werden die Daten fünf Jahre lang aufbewahrt und die Aufsicht wird gemeinsam von den nationalen Aufsichtsbehörden und dem Europäischen Datenschutzbeauftragten im Rahmen der Bestimmungen für eine koordinierte Aufsicht ausgeübt. Ein richtiger und wichtiger Schritt zur Harmonisierung der EU-Datenschutzbestimmungen.“

 

Hintergrund:

Das EU-Parlament hat heute in Straßburg die Verordnung zur Änderung des Beschlusses 2009/917/JI des Rates im Hinblick auf dessen Angleichung an die Unionsvorschriften über den Schutz personenbezogener Daten verabschiedet. Mit dieser Verordnung wird das Zollinformationssystem (ZIS) mit den Datenschutzvorschriften der Richtlinie über den Datenschutz in der Strafverfolgung (2016/680) in Einklang gebracht. Cornelia Ernst ist die Berichterstatterin des EP für die Verordnung.… Weiterlesen

26. Oktober 2023

Chatkontrolle: Johansson sät weitere Zweifel

Cornelia Ernst, datenschutzpolitische Sprecherin von DIE LINKE im Europaparlament und Schattenberichterstatterin zur Chatkontrolle, erklärt nach der heutigen Anhörung von EU-Kommissarin Johansson zu möglichen Interessenkonflikten im Zusammenhang mit der Chatkontrolle-Verordnung: „Die Verordnung zum Schutz gegen die Darstellung von sexuellem Missbrauch von Kindern im Internet, den die EU-Kommission vorgeschlagen hat, ist ein Instrument zur Massenüberwachung von uns allen. Jegliche Kommunikation im Internet, also alle Nachrichten in den sozialen Medien, in Chats und auf Webseiten sollen zukünftig überprüft werden. Diese sogenannte ‚Chatkontrolle‘ würde Anbietern von Chat-Apps dazu verpflichten, alle Nachrichten mit einem KI-Tool zu scannen, obwohl niemand genau weiß, wie diese funktionieren. Das Missbrauchspotential ist gewaltig, Unschuldige werden so gefährdet und Berufsgeheimnisse bedroht. Schon jetzt fordert Europol den unbeschränkten Zugang zu allen Daten der Chatkontrolle – ohne zu filtern. Hier wird der Kinderschutz für Massenüberwachung missbraucht! Ich fordere die Kommission auf, sich auf eine angemessene Strafverfolgung zu konzentrieren, um sexuellen Kindesmissbrauchs effektiv zu bekämpfen. Außerdem müssen wir klare Verpflichtungen einführen, um solche Inhalte aus dem Internet zu löschen!

Für die Chatkontrolle werden KI-Tools wie ‚Safer‘ von Thorn oder ‚PhotoDNA‘ von Microsoft gebraucht. Die Vorschläge der Kommission würden zu einer Gelddruckmaschine für diese Tech-Giganten. Eine Recherche von mehreren europäischen Medien deckte zuletzt ein viel größeres Netzwerk auf, das an der Chatkontrolle verdienen würde –  und das in enger Verbindung zu Ursula von der Leyen und Kommissarin Johansson steht. Auch deshalb war die heutige Anhörung von Kommissarin Johansson im Ausschuss so wichtig, um volle Transparenz und Klarheit über mögliche Interessenkonflikte herzustellen. Ich bin geradezu schockiert darüber, wie wenig die Kommissarin Johansson auf die wichtigen Fragen der Abgeordneten geantwortet hat und die nötige Aufklärung eher verhindert. Die Anhörung macht mich noch argwöhnischer und lässt mich am Kommissionvorschlag noch mehr zweifeln als vorher. Ohne Klärung der Interessenkonflikte darf das EP nicht über die Verordnung abstimmen!“… Weiterlesen

15. Juni 2023

Es braucht harte Konsequenzen für Überwachungsskandal

Cornelia Ernst, Mitglied im Pegasus-Untersuchungsausschuss für DIE LINKE im Europaparlament, erklärt zur heutigen EP-Abstimmung über die Empfehlungen des Untersuchungsausschusses: „Trotz der Dauerblockade unserer Arbeit durch nationale Regierungen konnten wir klar feststellen, dass Polen, Ungarn, Spanien und Griechenland Spionagesoftware, sogenannte Spyware, eingesetzt haben und Zypern am Handel für den EU-Binnenmarkt beteiligt ist. Wir wissen auch, dass insgesamt 14 EU-Mitgliedstaaten Pegasus unter dem Deckmantel der nationalen Sicherheit und der Terrorismusbekämpfung erworben haben.

Diese Ergebnisse wären ohne die Zivilgesellschaft und die Arbeit von Journalist:innen praktisch unmöglich gewesen – diesen gilt unser großer Dank. Die Empfehlungen des EU-Parlaments sind ein wichtiges Signal für alle Opfer von Überwachung, deren Rechtsverletzungen nun erstmals auf EU-Ebene anerkannt werden.

Leider scheren sich bis heute weder EU-Kommission noch Mitgliedstaaten um eine echte Aufklärung des Überwachungsskandals ihrerseits – das ist eine Schande für die Demokratie. Wir fordern harte Konsequenzen für die Mitgliedstaaten und von der Kommission einen Gesetzesvorschlag zur strikten Regulierung von Spyware.

Zwar hätten wir uns an mancher Stelle einen stärkeren Text gewünscht: Denn für uns ist glasklar: eine Überwachungssoftware wie Pegasus ist nicht mit den Grundrechten vereinbar und daher auch nicht reformierbar. Genau deshalb wäre die Forderung nach einem Verbot solcher Überwachungstechnologien eine starke Botschaft an die Opfer, die Bürgerinnen und Bürger und die Zivilgesellschaft gewesen, doch das war mit den Konservativen nicht zu machen.“

 

 

 

 … Weiterlesen

14. Juni 2023

EP unterschätzt Gefahren der Künstlichen Intelligenz

Cornelia Ernst, datenschutzpolitische Sprecherin von DIE LINKE im Europaparlament und Verantwortliche der Linksfraktion für das Gesetz, erklärt zur heutigen EP-Abstimmung über die Verordnung zur Regulierung von Künstlicher Intelligenz: „Die fortschrittlichen Kräfte im Europäischen Parlament haben heute das Verbot von Gesichtserkennung im öffentlichen Raum erfolgreich verteidigt. Die Massenüberwachung der EU-Bürger:innen, wie von der EVP – insbesondere CDU/CSU – gewollt, ist jetzt erstmal vom Tisch. Das ist historisch und ein großer Erfolg. Ob dieses Verbot die Verhandlungen mit den Regierungschef:innen im Rat übersteht, müssen wir abwarten. Viel Hoffnung habe ich allerdings nicht. Besonders konservative Regierungen wollen Geheim- und Sicherheitsdiensten viel mehr Macht und Kontrolle über die Bevölkerung geben, frei nach chinesischem Vorbild.

Einige Erfolge der Abstimmung werden leider auch konterkariert. Der risikobasierte Regulierungsansatz wurde in den Verhandlungen extrem abgeschwächt und die Messlatte, um ein KI-System als Risiko für Grundrechte, Sicherheit oder Gesundheit einzustufen, hängt deshalb leider sehr hoch. Das ist für eine Position des EU-Parlaments definitiv nicht ehrgeizig genug, um Menschen vor den unvorhersehbaren Gefahren der KI zu schützen.“

 

Hintergrund:

Die Überwachung durch KI-Systeme im öffentlichen Raum, um uns zu identifizieren, unsere Kriminalitätswahrscheinlichkeit oder unsere Emotionen vorherzusagen, wird immer präsenter. Probleme sind dabei vor allem die generelle Intransparenz von KI-Systemen, der Mangel an Rechenschaftspflichten und das Machtmonopol der großen Tech-Giganten. Die EU möchte mit der Verordnung zu künstlicher Intelligenz Vorreiterin in der Regulierung für KI werden. Das Europäische Parlament hat heute seine Position zur Verordnung für die Verhandlungen mit den Regierungschef:innen im EU-Rat festgelegt.Weiterlesen

8. Mai 2023

EU-Kommission darf sich jetzt nicht wegducken

Cornelia Ernst, Mitglied im Untersuchungsausschuss für DIE LINKE im Europaparlament, erklärt im Vorfeld der heutigen Abstimmung über den Abschlussbericht des Pegasus-Untersuchungsausschusses des EP: „Es liegt ein arbeitsreiches Jahr hinter uns, indem wir uns intensiv mit der illegalen Nutzung von Spionagesoftware durch nationale Regierungen der EU auseinandergesetzt haben.

Zwar hat die konservative Fraktion versucht, den Bericht signifikant zu verwässern und die Mehrheit der nationalen Regierungen hat die Kooperation verweigert – trotzdem hat der Untersuchungsausschuss klare Rechtsbrüche in Griechenland, Spanien, Ungarn und Polen festgestellt.

Wir haben die gesamte Spionagesoftware-Industrie genauer unter die Lupe genommen und es bestätigt sich: Pegasus ist nur die Spitze des Eisbergs. Klar ist: mehr Untersuchungsarbeit ist dringend nötig, um den Sumpf dieser Industrie aufzudecken und letztendlich trockenzulegen.

Die Ergebnisse der Untersuchungen sind ein wichtiges Signal für alle Opfer von Überwachung, im Besonderen Journalist:innen und Menschenrechtsverteidiger:innen, deren Rechtsverletzungen erstmals auf EU-Ebene anerkannt werden.

In den konkreten Empfehlungen fordert der Ausschuss leider nur ein halbgares Moratorium für Spionagesoftware in der EU. Die Konservativen drängten darauf, dass das Wort ‚Moratorium‘ nicht einmal im Bericht vorkommt. Diese von nationalen politischen Interessen geleitete Rosinenpickerei ist schäbig.

Der Text ist zwar ein Schritt in die richtige Richtung, greift aber langfristig zu kurz. Man darf nicht vergessen, dass Spionagesoftware wie Pegasus gerade so konstruiert wird, um jede Prüfung und Kontrolle zu umgehen. Wir hätten uns ein umfassendes Verbot von Massenüberwachungstechnologien gewünscht.

Jetzt liegt es an der Kommission ihre Rolle als Hüterin der Verträge endlich ernst zu nehmen und sich nicht vor den Mitgliedstaaten weg zu ducken. Es braucht harte Konsequenzen für Mitgliedstaaten und schleunigst einen Gesetzesvorschlag zur strikten Regulierung von ‚Spyware‘, so wie es der Untersuchungsausschuss fordert.“

 

Hintergrund:

Heute wird der Pegasus-Untersuchungsausschusses des Europaparlaments über seinen Abschlussbericht und die Empfehlungen des Ausschusses abstimmen. Der 38-köpfige Untersuchungsausschuss beendet damit nach mehr als einem Jahr seine … Weiterlesen

29. November 2022

Country-hearing: Spain (29 November)

Panel 1:

  • Ignacio Cembrero, investigative journalist at El Confidential
  • Andreu van den Eynde, Criminal lawyer
  • Gregorio Martin, Emeritus Professor of Computer Science, University of Valencia

Panel 2:

  • Esperanza Casteleiro Llamazares, Director of the Spanish National Intelligence Agency (CNI)
  • Juan Jesús Torres Carbonell, Secretario General de Administración Digital
Weiterlesen
28. November 2022

Left fact finders confirm details on CatalanGate 

Results of the Independent PEGA Mission from 24 – 27 October 2022 in Madrid and Barcelona 

While the Spanish national government is obstructing any clarification on the biggest European spy scandal, numerous NGOs and lawmakers are working on it. We heard shocking testimonies on this matter. The 65 known Pegasus victims are only the tip of the iceberg. Many more people are affected, even abroad. Any control of spying programmes, whether in parliament or through the judiciary, is proving impossible. The scale of this affair is shaking the foundations of democracy in Europe as well.

The phones of at least 63 people were attacked with the Pegasus spy software in Spain and its regions between 2015 and 2021. 51 successful attacks could be proven on their phones. This was the result of forensic investigations by the Canadian institute CitizenLab, which were published in April 2022. Attacks against the other 12 phones via SMS or WhatsApp, however, could not be confirmed beyond doubt forensically.

According to the investigations, 4 other people were infected with a Trojan programme by Candiru, also an Israeli manufacturer, which has similar functions but targets computer systems. At least two people were attacked with both programmes. Since, the forensic tools used by CitizenLab predominantly detect infections on iOS devices, the number of people, in reality, affected could be significantly higher.

In July 2020, the revelations came after WhatsApp had notified 1,400 users affected by the vulnerability exploited with Pegasus in Spain about the attacks. Some of them had already experienced anomalies on their devices at that time. After the publication by WhatsApp, CitizenLab offered victims in the Spanish state to submit their phones for a forensic and technical analysis. Many victims have agreed to be named in a report, while other victims wanted to remain anonymous. … Weiterlesen

27. November 2022

Past and upcoming Pegasus hearings/ missions (overview)

Also within the European Union, journalists, opposition politicians, critical prosecutors, diplomats, lawyers and civil society actors are being spied on with Pegasus and similar tools. This violates Union law. The European Parliament therefore decided on 10 March 2022 to set up a Committee of Inquiry to investigate the use of Pegasus and equivalent surveillance spyware. The vote to establish the committee was carried 635 in favour, 36 against and 20 abstentions.

The inquiry should gather information on the extent to which the Member States‘ use of the surveillance tools violates the rights and freedoms enshrined in the Charter and thereby jeopardises the values enshrined in Article 2 TEU, such as democracy, the rule of law and respect for human rights. To this end, the investigation mandate consists of 18 different tasks.

The Committee organises hearings and closed meetings, fact-finding missions and commissions studies. After 12 months, its work ends with a final report. Rapporteur is the Liberal Sophie in ’t Veld.

All hearings and meetings:
Weiterlesen