Bedrohte Freiheit — Issue #78

Ich habe schon ein ganz schlechtes Gewissen — wollte ich doch eigentlich mindestens einen Newsletter noch Mitte Februar geschrieben haben, aber ich habe es einfach nicht geschafft. Viel zu viel war los. Wer mir in den sozialen Medien folgt, hat es sicherlich mitbekommen. Es gab viel zu tun im Vorfeld der Listenaufstellung der Berliner FDP und dann noch die Listenaufstellung selber. Ich habe leider nicht den vierten, sondern erst den fünften Listenplatz bekommen. Den aber mit dem besten prozentualen Ergebnis des Abends (und für alle die Fragen: die FDP müsste ca. 17 Prozent holen, damit ich reinkomme, ich habe jetzt endlich mal nachgeguckt. Es liegt also an Euch 🤪). Ich bin immer noch sehr gerührt von allen, die sich die Veranstaltung angesehen haben und sich auf meine Rede hin zurückgemeldet haben (die habe ich hier online gestellt). Ich bin wirklich so dankbar für all die lieben Menschen im Hintergrund, die mir Mut und Ratschläge geben, Feedback geben oder einfach nur toll finden, was ich tue und mich darin unterstützen. Das gibt sehr viel Kraft für den langen Marathon, der noch vor mir liegt und jetzt muss ich erstmal dringend durchatmen — zum Glück mit Feiertag morgen in Berlin — und daher auch mit einem Newsletter, der gestern nicht fertig werden wollte. Und der übrigens Stückwerk ist, insbesondere in der Leseliste, von den vergangenen Wochen ist. Soll ihm aber keinen Abbruch tun.

Ich weiß gar nicht mehr so viel über die letzten Wochen zu berichten — auch kein gutes Zeichen. Morgen jährt sich bei mir die letzte Umarmung ohne schlechtes Gewissen und damals auch die letzte für eine lange Zeit. Schon irre, dass wir jetzt ein Jahr mit dieser Pandemie leben. Sich nicht mehr zu umarmen bei Begrüßungen und Verabschiedungen ist irgendwie Normalität geworden und doch zerreißt es mir noch immer jedes Mal das Herz, wenn man sich so lieblos gegenüber steht, obwohl das überhaupt nicht das ist, was man gerade tun will. Aber die Vernunft ist Gott sei Dank doch noch größer. Und dennoch mache ich mir Sorgen, dass dem lange nicht mehr so sein wird. Keiner kann mehr — egal in welcher Situation man lebt. Und ich neide gerade niemandem in der politischen Verantwortung zu stehen und entscheiden zu müssen, was und wie gelockert werden kann. Einziger Lichtblick ist gerade für mich wirklich das Licht und die Wärme die kommt. Wenigstens wieder mehr raus und Sonne und Licht tanken. Das tut dann auch dem Gemüt gut.

Ich hoffe, Euch erging es gut die letzten Wochen. Habt noch einen schönen Sonntag,

Ann Cathrin ☀️

— -

Die Arbeit an diesem Newsletter kostet mich einige Stunden an Arbeit. Wenn er Dir gefällt, kannst Du mich gerne mit monatlich 3,50, 5 oder 10 Euro über Steady unterstützen. Ich würde mich freuen, danke!

WHAT TO KNOW

It’s important to ask when technology adds value, and for whom. If technology can indeed aid in pandemic response and recovery, it is essential to have open, inclusive, transparent, and honest public discussions on the appropriate type of public digital infrastructure people need to thrive. This will require a reset from viewing technology as a tool of coercion and control, and the pandemic as an opportunity to harvest copious amounts of people’s data. Any deployment of technology should be rooted in human rights standards, centered on enabling people to live a dignified life.

Wie groß das Ausmaß an Überwachung in diesem Land übrigens ist, wissen wir gar nicht. Und trotzdem verabschieden wir eine neue Maßnahme nach der anderen. Obwohl das Bundesverfassungsgericht urteilte, dass die Überwachungsmaßnahmen erfasst werden sollten, damit die Gesamtbelastung der einzelnen Bürger:innen deutlich wird. Prof. Alexander Roßnagel hat dafür die Überwachungsgesamtrechnung ins Spiel gebracht. Konstantin Kuhle erklärt in diesem Video für jede:n verständlich, was es damit auf sich hat. Und die Friedrich-Naumann-Stiftung tut, was eigentlich der Gesetzgeber hätte längst tun sollen: Sie hat beim Max-Planck-Institut im ersten Schritt ein Konzept für ein Überwachungsbarometer in Auftrag gegeben, das nun veröffentlicht ist.

Technology is Enabling Surveillance, Inequality During the Pandemic | Human Rights Watchwww.hrw.org

Weil es thematisch so schön dazu passt und es eigentlich schon längst in einen Newsletter hätte reinsollen, kommt hier die COVID-19 Lecture von Prof. Dirk Heckmann. Eine Vorlesung die ich wirklich sehr, sehr empfehle, weil er — wiedermal — juristische Sachverhalte auch für Laien verständlich erklärt und ich vermute auch Jurist:innen, können hier was mitnehmen. Prof. Dirk Heckmann erläutert hier die komplizierten Abwägungen der Grundrechte bei der verfassungsrechtlichen Beurteilung der Maßnahmen gegen die Pandemie. Da treten Gesundheitsrechte gegen Freiheitsrechte und Freiheitsrechte gegen Gesundheitsrechte an.

Im zweiten Teil zeigt er zusätzlich sehr eindrucksvoll, dass eben Verfassungsrecht alleinig nicht die Lösung bringt. Es kommt vor allem auf Transparenz, Kommunikation — und ja, auch Datennutzung, aber eben kluge und durchdachte an. Außerdem schlägt er — in Anlehnung an die Überwachungsgesamtrechnung von oben — eine Belastungsgesamtrechnung an Corona-Maßnahmen für die einzelnen Bürger:innen vor, um so ein verträgliches Maß an Einschränkungen zu erreichen.

Wer mag, kann das Thema mit Ihm heute Abend um 18 Uhr auf Clubhouse diskutieren!

Bleiben wir nochmal beim Thema Überwachung, Daten und der Pandemie. Der israelische Historiker Yuval Noah Harari hat während der Pandemie schon mehrfach vor einer weltweit überbordenden Überwachung gewarnt. Auch in diesem sehr lesenswerten Text tut er es und leitet mit einer Erkenntnis ein, die vielen von uns vielleicht gar nicht so deutlich bewusst ist: Wie sehr unser Leben, unsere Produktion und internationaler Handel bereits digitalisiert und vor allem automatisiert sind und wie gut das ist, dass wir dadurch nicht auch noch Hungernöte haben. Wie sehr das teilweise doch noch notwendige Zusammenkommen von Menschen in der Lebensmittelproduktion — zum Beispiel bei der Ernte oder in Schlachtbetrieben ist — haben wir ja auch hier in Deutschland gesehen.

Harari warnt, wie gesagt, abermals vor digitalen Diktaturen. Um denen vorzubeugen, nennt er im Text drei grundlegende Dinge, auf die man achten sollte:

  1. Wenn Daten über Menschen und ihre Körper gesammelt werden, dann dürfen diese Daten ausschließlich dazu genutzt werden, den Menschen zu helfen. Sie dürfen nicht missbraucht und verkauft werden.
  2. Überwachung muss in beide Richtungen gehen, sie darf nicht nur von oben kommen, sondern auch der Staat muss intensiv kontrolliert werden. “As a citizen, I want to easily see who gets what, and who decided where the money goes. I want to make sure that the money goes to businesses that really need it rather than to a big corporation whose owners are friends with a minister. If the government says it is too complicated to establish such a monitoring system in the midst of a pandemic, don’t believe it. If it is not too complicated to start monitoring what you do — it is not too complicated to start monitoring what the government does.”
  3. Daten dürfen nicht an einer Stelle konzentriert werden. Sie sollten auch teilweise in Silos gehalten werden, denn auf biometrische Daten, die aus gesundheitlichen Zwecken gesammelt werden, darf die Polizei nicht zugreifen dürfen.

Interessant für die deutsche Debatte ist auch, wie Harari mit dem Umgang mit der Pandemie, den Impfungen und den massenhaften Daten in seinem Heimatland Israel kritisch ins Gericht geht. Es zeigt, was viele hier in Deutschland gerne ausblenden: Die Israelis sind bei weitem nicht so unkritisch mit dem Umgang mit Daten und lockererem Datenschutz, als man hier gemeinhin gerne annimmt. Auch dort werden die Stimmen stärker, die nach mehr informationeller Selbstbestimmung rufen. Das sieht man auch an Dialogprojekten wie “Rethinking Privacy and Mass Surveillance in the Digital Age” von der Böll Stiftung und dem IPPI Israel, an dem ich letztes Jahr mitwirken durfte.

Harari hat natürlich auch Vorstellungen davon, was zu tun ist. Und zwar die folgenden drei Dinge:

Arguments about what happened in 2020 will reverberate for many years. But people of all political camps should agree on at least three main lessons.

First, we need to safeguard our digital infrastructure. It has been our salvation during this pandemic, but it could soon be the source of an even worse disaster.

Second, each country should invest more in its public health system. This seems self-evident, but politicians and voters sometimes succeed in ignoring the most obvious lesson.

Third, we should establish a powerful global system to monitor and prevent pandemics. In the age-old war between humans and pathogens, the frontline passes through the body of each and every human being. If this line is breached anywhere on the planet, it puts all of us in danger. Even the richest people in the most developed countries have a personal interest to protect the poorest people in the least developed countries. If a new virus jumps from a bat to a human in a poor village in some remote jungle, within a few days that virus can take a walk down Wall Street.

Denn, so schließt er: “If Covid-19 nevertheless continues to spread in 2021 and kill millions, or if an even more deadly pandemic hits humankind in 2030, this will be neither an uncontrollable natural calamity nor a punishment from God. It will be a human failure and — more precisely — a political failure.”

Yuval Noah Harari: Lessons from a year of Covid | Free to read | Financial Timeswww.ft.com

Auch über algorithmische Systeme, die über Sozialleistungen entscheiden und Menschen in den Ruin treiben, weil ihre Entscheidungen falsch und nicht nachprüfbar sind — und niemand den Betroffenen glaubt — habe ich hier schon ein paar Mal geschrieben. Auch die beiden Bücher zum Thema empfehle ich hier gerne nochmal: Weapons of Math Destruction von Cathy O’Neil und Automating Inequality von Virginia Eubanks. Wegen so eines Falles ist kürzlich die niederländische Regierung zurückgetreten. Zig Familien wurde jahrelang unterstellt, sie hätten fälschlicherweise Gelder für Kinderbetreuung bekommen, die ihnen nicht zustünden. Wie immer in solchen Fällen bei Sozialleistungen treffen diese falschen und nicht überprüften automatisierten Entscheidungen Menschen, die eh schon am Rande der Gesellschaft stehen besonders heftig. Der Skandal zeigte zudem, wie rassistisch die Algorithmen waren und wie sehr politische Debatten diese Einstellung der Systeme prägen. So wurde beispielsweise eine doppelte Staatsbürgerschaft als Indiz genommen, dass Betrug wahrscheinlicher mache.

The fear of people gaming welfare systems is far from new and not particular to the Netherlands, but the rise of xenophobic far-right populism has placed it centerstage in the national political discourse. Anti-immigrant politics have become increasingly normalized, and immigrants are often painted as a threat to the Dutch welfare state.

Following this, a hardline stance regarding benefits fraud has become mostly politically uniform (even among many left-wing parties) over the past decade.

“Who pays the bill?” asked Geert Wilders, leader of the anti-immigrant Dutch Party for Freedom (the second largest party in the country), during a speech in 2008. “It’s the people of the Netherlands, the people who work hard, who properly save money and properly pay their taxes. The regular Dutch person does not receive money as a gift. Henk and Ingrid pay for Mohammed and Fatima.”

Weil keine Gelder mehr für die Kinderbetreuung ausgezahlt wurden, konnten sich Familien nicht mehr die Kinderbetreuung leisten. Ein Elternteil, häufig die Mutter, musste als ihren Job aufgeben, um die Kinder zu betreuen — weiteres, dringend benötigtes Einkommen der Familie fiel weg. Zusätzlich zu den Forderungen zur Rückerstattung, die beglichen werden sollten. Kosten für einen Anwalt muss man sich in solchen Fällen auch erstmal leisten können, zumal treu glaubende Menschen ja eher denken, dass sie wirklich was falsch gemacht haben, und der Staat sie nicht anlügt.

Beyond transparency, safeguards and accountability are especially important when algorithms are given enormous power over people’s livelihoods, but as of now little of that exists in the Netherlands. And, in the meantime, smart algorithms and automated systems continue to take over a larger and larger share of administrative procedures.

For now, the families wrongly accused of fraud are waiting to be given €30,000 each in compensation, but that won’t be enough to make up for the divorces, broken homes, and the psychological toll that resulted from the affair.

Der Fall in den Niederlanden sollte uns wirklich aufschrecken und stärken darauf hinwirken lassen, Daten und algorithmische Systeme besser zu kontrollieren und zu überprüfen. Denn unsere Annahmen auf die Welt fließen hier ein und die, die die Annahmen aufstellen, sind meist nicht die, auf deren Leben diese algorithmischen Systeme Auswirkungen haben.

How a Discriminatory Algorithm Wrongly Accused Thousands of Families of Fraudwww.vice.com

In der aktuellen Situation darf natürlich ein Blick nach Myanmar nicht fehlen. Protestierende sind seit Wochen auf der Straße und wehren sich gegen den Putsch des Militärs. Die letzten Tage waren überaus blutig. Myanmar ist das Land, das wegen eines durch Desinformation und Hass auf Facebook angetriebenen Genozid an der muslimischen Minderheit der Rohingya erst kürzlich erlebte. Auch bei diesen Protesten spielt das Internet und Plattformen eine herausragende Rolle.

Der gerade sehr große Blick auf Plattformen und ihrer Verantwortung für Gesellschaften ist vermutlich gerade sehr gut für die Protestierenden, denn ansonsten — so vermute ich — würde das alles wieder untergehen und die Plattformen nicht handeln. YouTube hat aktuell mehrere Kanäle des Militärs gelöscht, über die sie ihre Propaganda verbreitet haben. Auch Facebook hat die Kanäle bei sich gesperrt. Die meisten Social Media Plattformen sind allerdings in Myanmar direkt mit dem Putsch gesperrt worden und die Menschen kommen nur noch über Umwege, wie zum Beispiel über VPN auf die Seiten. Durch die Sperren kann das Militärregime aber auch nicht mehr an Dritte die eigene Propaganda senden.

Das Internet, gerade auch Social Media Plattformen, sind auch hier unglaublich wichtig für die Protestierenden, um sich zu vernetzten. Und wie in anderen Ländern, zum Beispiel Hongkong oder Belarus, zeigt sich auch hier wie essentiell Anonymität und Verschlüsselung sind, um sicher miteinander kommunizieren zu können. Eine weitere drohende Gefahr für die Menschen in Myanmar besteht durch die Herausgabe von Bestands- und Verkehrsdaten der Telekommunikationsdienste an die Militärjunta. Dadurch kann nämlich abgelesen werden, wenn wann wie lange mit wem kommunizierte (ich erinnere hier mal dezent das Thema anlasslose Vorratsdatenspeicherung…):

Restrictions on individual platforms and sites are very disruptive, but activists worry that the government will also be able to apply pressure directly on tech and telecommunications companies to force them to intercept communications and hand over user data. Telecommunications companies and internet service providers typically hold granular information about users’ phone calls, text messages, and internet history, which can include emails and voice calls made over the internet. Governments could force ISPs to install surveillance technology or to implement nationwide internet gateways to automate censorship, similar to those used in China and Vietnam.

“What we’re concerned about is that, [while] we know about the internet disruptions, we don’t know about surveillance. We don’t know what measures are served on telcos right now,” Access Now’s Chima said.

Zu Internetzensuren hat die Friedrich-Naumann-Stiftung auch gerade wieder eine Veranstaltung gemacht. Erschreckend ist, dass das deutsche NetzDG und die europäischen Uploadfilter weiterhin regelmäßig als Vorbild für repressive Maßnahmen in (autoritären) Staaten herangezogen werden (oh, who would have known!):

Die indische Regierung beobachte dabei die Debatten über Upload-Filter im Rahmen der EU-Urheberrechtsrichtlinie und Löschanforderungen für soziale Medien etwa über das Netzwerkdurchsetzungsgesetz (NetzDG) und den geplanten Digital Services Act sehr genau, gab Mohan zu bedenken. Solche europäischen Vorgaben würden dann ins Feld geführt, um vor Ort verfassungsrechtlich bedenkliche Gesetze zu erlassen. Der indische Supreme Court habe hier zumindest bereits klargestellt, dass die Transparenz und Verhältnismäßigkeit der Maßnahmen in jedem Fall gewährt sein müssten.

Indien plant übrigens künftig Mitarbeiter:innen der Plattformen verhaften zu lassen, wenn diese nicht die Forderungen der Regierung umsetzen. Aktuell weigern sich Twitter und Facebook mit einigen Maßnahmen im Zuge der Proteste indischer Bauern umzusetzen, da die Forderungen der indischen Regierung im Widerspruch zu den Menschenrechte stehen.

Technology and solidarity won’t save Myanmar’s young protesters — Rest of Worldrestofworld.org

Blicken wir da doch nochmal auf Deutschland und Forderungen, die das BMI mal wieder stellt. Wir erinnern uns an die Überwachungsgesamtrechnung und an die Notwendigkeit von Anonymität, Deutschland als Vorbild und die weltweit sinkende Freiheit — auch in westlichen Demokratien. In der TKG-Novelle soll eine Identifizierungspflicht verabschiedet werden, was heißt, dass Ihr künftig keine E-Mail-Adresse und keinen Messenger mehr nutzen können sollt, ohne Euch vorher identifiziert zu haben (per Post-Ident und so, digitale Identitäten laufen ja noch äußerst schleppend…). Vor ein paar Jahren wurde ja bereits eingeführt, dass man auch keine Prepaid-SIM-Karte mehr erwerben kann, ohne sich auszuweisen und ohne, dass Name und Nummer zusammen hinterlegt werden. Finde ich weiterhin höchst problematisch, zumal man das (gerade Verbrecher:innen) einfach umgehen kann — gerade in Europa. Einfach eine polnische SIM-Karte holen und fertig. Wenn jetzt aber auch noch bei E-Mail-Anbietern und Messengerdiensten meine Daten hinterlegt werden sollen, ich also nicht mehr anonym kommunizieren kann — alles im Namen der Verbrechensbekämpfung — dann schneiden wir uns unsere Freiheit abermals massiv ein, während wir behaupten, wir müssten das tun, um unsere Freiheit zu sichern.

Whatsapp, Signal, Telegram: Regierung fordert Nutzerverifizierung bei Messengern — Golem.dewww.golem.de

WHAT TO HEAR

COSMO Tech — Facebook vs Australien — Podcasts — COSMO — Radio — WDRwww1.wdr.de
Australien war nur der Anfang. Weltweit müssen sich Facebook und Google darauf einstellen, Geld an die Verlage abzugeben. Eine ganze Reihe von Staaten bereitet ähnliche Gesetze vor.

WHAT TO WATCH

WHAT TO STREAM

Virtuelle Abschlussveranstaltung der Initiative #KoKI am 16. März | Co:Labcolab-digital.de
Die Veranstaltung findet am Dienstag, 16. März 2021 von 10 Uhr bis 12.45 Uhr online statt. Neben der Vorstellung der Ergebnisse und der Publikation werden wichtige Aspekte zum Einsatz von KI in Kommunen vertieft. Unter anderem stehen Impulse von Henning Lühr (Staatsrat für Finanzen, Personal und Digitalisierung in Bremen [2002 bis 2020], Vorsitzender des IT-Planungsrat [2019], Prof. h.c. für Verwaltungswissenschaften und eGovernment sowie Gründer des Instituts für digitale Teilhabe an der Hochschule Bremen) und Tobias Krafft (Algorithm Accountability Lab [TU Kaiserslautern], Geschäftsführer bei Trusted AI GmbH) auf der Agenda.

WHAT TO READ

WHAT I LIKED

SHARE IT!

chairwoman @loadev | digital policy & civil rights | www.anncathrinriedel.de

chairwoman @loadev | digital policy & civil rights | www.anncathrinriedel.de