Ann Cathrin’s Digital Digest — Issue #35

Vielleicht habt Ihr es mitbekommen, ich bin die letzten Wochen ziemlich viel gereist und diesen Newsletter schreibe ich gerade vom Pool in Ankara (Indoor-Pool mit Badekappenpflicht, kein Grund zum neidisch werden!) Heute Vormittag habe ich hier auf einem Panel auf einer kleinen Konferenz zu „Mass Surveillance“ diskutiert und auch Desinformation war ein Thema. Zu Letzterem durfte ich Anfang dieser Woche einer Konferenz der Stiftung Neue Verantwortung und des Auswärtigen Amts in der traumhaften Villa Borsig beiwohnen — und auch über mögliche Regulierungsansätze diskutieren. Das war eine wirklich gelungene kleine Konferenz bei der wir alle, denke ich, ein Stück weiter gekommen sind, denn es waren nur Expert:innen vor Ort und wir mussten nicht erst klar stellen, dass der Begriff „Fake News“ unpassend ist und andere Vorurteile von wild manipulierenden Social Bots ausräumen.

In der Woche davor durfte ich in Hamburg ein Seminar zu „Algorithms, AI und Civil Liberties“ für Aktivist:innen aus Indien und Pakistan geben — organisiert von der Friedrich-Naumann-Stiftung. Wieder einmal ganz großartige Menschen die ich kennenlernen durfte und mit denen ich mich austauschen konnte. Und ich glaube, es tut anderen auch immer gut zu sehen, dass es in Deutschland auch nicht immer so perfekt läuft (was definitiv kein Grund sein darf, sich darauf auszuruhen!). Davor gab es den 20. Geburtstag von polisphere, bei dem ich auf dem Panel eingesprungen bin und den 20. Geburtstag von der Initiative D21 — alles mit Mama, damit sie mal sieht, was ich eigentlich so mache (Weißwein trinken und schnacken obviously 🤷🏽‍♀️). Und weil der letzte Newsletter wieder so lange her ist, ist auch noch meine Geburtstagswoche zu erwähnen, in der ich nicht nur in meinen Geburtstag beim 50. Geburtstag der Gesellschaft für Informatik rein gefeiert habe (Ihr merkt, im September haben alle Coolen Geburtstag 😎), sondern auch direkt danach nach Moskau fliegen durfte um dort nicht nur Gerhart Baum endlich kennenzulernen, sondern auch, um ein Buch über die Herausforderungen des Liberalismus im 21. Jahrhundert vorzustellen, an dem ich bei einem Roundtable der Friedrich-Naummann-Stiftung ein kleines bisschen mitwirken durfte.

Aber nun viel Spaß beim Lesen meines Newsletters!

Ann Cathrin

Die Meinungsfreiheit steht weltweit ganz schön unter Druck. Erschreckend an den Zahlen ist, dass selbst in Europa dieses Grundrechte um ein bis zwei Punkte im Scoring von Freedom House abgesunken ist. Europa steht zwar immer noch gut dar, aber ich denke, uns sollte jedes Absinken aufschrecken lassen. Die Ursache für das Absinken ist aus diesem Artikel nicht abzulesen, aber allein die Bedenken bei Gesetzen wie dem NetzDG und der Urheberrechtsreform lassen vermuten, dass diese einen Teil dazu beitrugen. Der Artikel beim Economist zeigt die Einschränkungen der Meinungs- und Redefreiheit sowohl von linker als auch von rechter Seite ganz deutlich. Und so sehr ich auch dabei bin, dass wir diverse Dinge als Gesellschaft nicht mehr diskutieren sollten, weil wir diese Errungenschaften damit wieder in Frage stellen (zum Beispiel ob Männer und Frauen gleichberechtigt sind, oder ob LGBTI die gleichen Rechte haben sollten usw.), muss sich doch gerade die Linke viel mehr reflektieren, inwiefern ihre Äußerungen und Forderungen eine Einschränkung der Redefreiheit darstellen. Nicht falsch verstehen: ich denke auf gar keinen Fall, dass jemand das Recht auf Reichweite oder Plattform hat. Ich muss eine:n AfDler:in nicht zu meiner Diskussion einladen und ihm oder ihr damit eine Bühne bieten, aber jemanden mundtot machen halte ich nicht für das Mittel der Wahl für Demokrat:innen.

Wichtiger dabei ist der Umgang mit dem Terminus der „Meinungsfreiheit“ durch einiger Konservative, aber auch Liberaler, wie dieser Text in der Zeit sehr schön illustriert. Ich halte das ständige schwafeln von fehlender Meinungsfreiheit in diesem Land und Dingen, die man angeblich nicht mehr sagen dürfe aus diesem Spektrum für deutlich gefährlicher. Denn sie füttern den Nährboden für all diejenigen, die diesen Staat und die Demokratie ablehnen. Dazu sei noch gesagt: Meinungsfreiheit hat man gegenüber dem Staat. Meinungsfreiheit bedeutet nicht, dass man keinen Widerspruch erhalten darf. Dass Widerspruch möglich ist, ist ein Zeichen einer lebendigen Demokratie. Wir sollten, gerade auch als Liberale, deutlich(!) vorsichtiger mit solchen Behauptungen sein.

The global gag on free speech is tightening — The new censors — www.economist.com

Stellt Euch vor, ein autoritärer Staat würde dies fordern: Anbieter von Messengern sollen Backdoors, also Hintertüren in der Verschlüsselung von Nachrichten offen halten, damit der Staat bei polizeilichen Ermittlungen auf die Kommunikation von Straftäter:innen zugreifen kann. Der Aufschrei wäre groß, nicht war? Genau das fordern jetzt aber demokratische Staaten — abermals und zwar explizit von Facebook bezüglich der Verschlüsselung von WhatsApp. Ich hoffe inständig, dass Facebook sich dem widersetzt, denn diese Hintertürchen sind eine Gefahr für jeden einzelnen, für Dich und mich. Man kann nicht nur bei Kriminellen diese Türchen offen lassen, das ist technisch nicht möglich. Für die Politik scheinen diese Naturgesetze der Mathematik aber schon wieder unverständlich. Die Electronic Frontiers Foundation hat daher einen Offenen Brief an die Regierungen der USA und Großbritannien verfasst, in dem — abermals — vor den Gefahren von Backdoors gewarnt wird.

Barr Pushes Facebook for Access to WhatsApp Messages — The New York Times — www.nytimes.com

Und gleich nochmal: was würdet Ihr davon halten, wenn autoritäre regime anordnen würden, dass Facebook alle, nach ihrem Rechtsverständnis rechtswidrigen, Inhalte nicht nur löschen (was ok wäre) soll, sondern auch noch alle gleichen oder ähnliche Inhalte gelöscht werden sollen. Das hört sich auf den ersten Blick gut an, wenn es um Beleidigungen und andere rechtswidrige Aussagen geht, wird aber kritisch, wenn gar nicht überprüft wird/werden kann, in welchem Kontext sie sich befinden. Ein persönliches Beispiel von mir: ich konnte nicht glauben, dass Boris Palmer wegen des Wortes Mohrenkopf auf Facebook gesperrt wurde. Er fand es zu politisch korrekt, dass man so die Schokoküsse (oder wie sie nun in Tübingen heißen: „Schokolino“) nicht mehr nennen dürfe. Ich postiere darüber und setzte „Mohrenkopf“ in Anführungszeichen — ganz wie es sich gehört — und zack, war ich für 24h gesperrt. Wie bei Facebook üblich ganz ohne die Möglichkeit Beschwerde einzulegen. Klar ist die Technik seitdem besser geworden. Zu meinen, dass irgendeine KI in der Lage wäre, Kontextabhängigkeiten zu erkennen, möchte ich auch hier stark bezweifeln. Und nochmal zum Ursprung: wie gehen wir damit um, wenn autoritäre Regime veranlassen, dass jegliche Kritik an der Herrschaft weltweit aus Facebook gelöscht werden muss? Wir überragen abermals zu viele Zuständigkeiten auf Plattformen, die eigentlich beim Rechtsstaat liegen sollten.

A European Court of Justice ruling forces Facebook to censor worldwide. — slate.com

Eine ähnliche Problematik, Inhalte zu detektieren und sie in den richtigen Kontext zu setzen haben wir auch beim Thema Deep Fakes, also manipulierten Videos, wobei mit Deep Fakes eigentlich deutlich stärker manipulierte Videos gemeint sind, als zum Beispiel das in der Geschwindigkeit reduzierte von Nancy Pelosi. Bei manipulierten Videos gibts zudem noch eine weitere Schwierigkeit: wir sprechen zu häufig über die Manipulationen um jemandenzu degradieren, also ggf. strafbare Inhalte, aber nicht darüber, wie wir mit Inhalten umgehen, die jemanden Esser darstellen, als er oder sie ist. Ein anderer unglaublich wichtiger Aspekt aus diesem Text ist der Folgende: Probleme wie Deep Fakes gibt es immer schon deutlich länger, sie tauchen allerdings erst Inder breiten Debatte auf, wenn auch die breite Masse bedroht ist, davon betroffen zu sein. In der Regel sind Minderheiten viel früher und auch stets intensiver von solchen Phänomen betroffen. Und Frauen. Denken wir nur an Revenge Porn, Doxing, Hate Speech usw. Regulierung dieser Phänomene heißt nicht automatisch, dass sie verschwinden oder den Betroffenen hilft. Ob sie das tun könnte, das erfahren wir nur, wenn Minderheiten intensiv in das Policy Making mit einbeziehen — das wird aber zumeist unterlassen oder ihre Stimmen werden nur pro forma angehört.

Three threats posed by deepfakes that technology won’t solve — MIT Technology Review — www.technologyreview.com

Ganz besonders stolz bin ich diese Woche auf unseren LOAD Policy Brief zur Notwendigkeit einer defensiven Cyberabwehrstrategie, den meine Mitglieder Ruben Dieckhoff und Johannes Rundfeldt mit der Mitarbeit vieler weiterer LOADies erstellt haben. Zum Beginn des Cybersecurity-Monats Oktober durften wir das Papier im Tagesspiegel Background Digitalisierung & KI mit einem Gastbeitrag vorstellen.

Cyberabwehr: In die Defensive investieren — Tagesspiegel Background — background.tagesspiegel.de

Für alle eGovernment Nerds, bzw. besonders die, dies es werden wollen, hat Lena-Sophie Müller ein tolles Video gemacht, dass zeigt, wie ihr jetzt auch mit dem iPhone die NFC-Schnittstelle nutzen könnt, um euch mit Eurem Personalausweis zu authentifizieren. Bleibt nur noch die Frage, wo der PIN ist, wenn Ihr denn die eID Funktion aktiviert habt und ob es auch bald endlich ein paar mehr Einsatzmöglichkeiten hierfür gibt ¯\_(ツ)_/¯

BOTTOM OF THE LETTER

• Vielleicht habt Ihr es mitbekommen: Es gibt ein neues Urteil zu den Cookie-Bannern und wie sie umzusetzen sind.
• Desinformationen sind auch beim Militär ein Problem — insbesondere Soldat:innen sind auch hier, wie bei jedem Unternehmen, ein Einfallstor.
• Bei Google kann man jetzt seine Suchhistorie und andere angesammelte Daten automatisch löschen lassen. Wie das geht und warum das sinnvoll ist, steht hier.
• Warum digitale Souveränität wichtig ist und Europa hier Vorreiter sein sollte, hat Raphael Laguna aufgeschrieben.
• Facebook wollte eigentlich viel mehr Daten zur Verfügung stellen, um die Verbreitung von Desinformationen wissenschaftlich zu untersuchen und scheiterte — wie so oft.
• Wie ist eigentlich der Stand der Umsetzung der Urheberrechtsrichtlinie in den einzelnen Mitgliedsstaaten? Hier steht es!
• Apropos: Google wird sich in Frankreich an das Leistungsschutzrecht halten und einfach keine Snippets mehr bei den Suchergebnissen anzeigen. Heißt: Auch keine Gelder für Presseverlage. Das Unternehmen hält sich damit an geltendes Recht, die Politik geht auf die Barrikaden.
• Was die Europäische Kommission gegen Desinformation unternimmt.
• Wie es zur Google-Bildersuche kam? Durch ein Kleid von Jenniver Lopez!
• Auch ich predige es schon so lange, Sascha Lobo bringt es nun auf den Punkt: Beim Thema Klimawandel schlicht nur von “Technologie” als Lösung zu fabulieren, ist nicht nur faul, sondern auch fatal. Und auch für Liberale etwas zu lahm.
• “Der Liberalismus verstand sich einst als rational und innovationsfreudig. Ausgerechnet er zeigt sich gegenüber Fridays for Future nun als starr und lernblockiert.” — Eine sehr lesenswerte Kolumne von Carolin Emcke.
• “Es geht nicht ohne Verzicht” — sagen auch die führenden Wirtschaftsforscher:innen.
• Am 6. November moderiere ich die Konferenz “Hacking Democracy” der Friedrich-Naumann-Stiftung. Das grandiose Abschlusspanel ist mit Laura Krause, Konstantin Kuhle, Philipp Amthor und Laura Zimmermann.