„Der Fall könnte einen Präzedenzfall für das gesamte Web schaffen” – Verfassungsblog – Cyber Tech

Die letzten Wochen waren in vielerlei Hinsicht turbulent (Kriege, Wahlen, Präsidentschaftsdebatten usw.), aber vor allem in der Tech-Welt gab es große Umbrüche. Immer mehr Regierungen versuchen ihre staatliche Souveränität gegenüber großen Digitalkonzernen mit mehr Nachdruck durchzusetzen. Jüngst gipfelte dieser Pattern in der Verhaftung des Tech-CEOs Pavel Durov auf einem Flughafen in Paris.

Wir haben Kate Klonick, eine der führenden Expertinnen auf diesem Gebiet, gefragt, was da los ist. Kate ist Professorin an der St. Johns College Faculty of Regulation in New York und derzeit Gastprofessorin an der Sciences Po in Paris. Außerdem ist sie Fellow am Info Society Undertaking der Yale Regulation Faculty, am Berkman Klein Heart der Harvard College und an der Brookings Establishment.

Das Interview führte Moritz Schramm.

1. Hello Kate, ich sehe, du bist gerade in Paris. Die letzten Wochen waren turbulent für Jurist:innen im Tech-Bereich, besonders für diejenigen, die sich mit Content material-Moderation beschäftigen. Die Verhaftung des Telegram-Gründers Pavel Durov in Frankreich hat weltweit Schlagzeilen gemacht. Obwohl er inzwischen gegen Kaution frei ist, darf er das Land nicht verlassen. Kannst du uns mehr darüber erzählen, wer Pavel Durov ist und warum er verhaftet wurde?

Pavel Durov ist der CEO der Sprach- und Messaging-App Telegram, die laut Telegram weltweit 900 Millionen monatlich aktive Nutzer:innen hat. Durov wurde aufgrund eines Haftbefehls des Tribunal Judiciaire de Paris – ein sehr bedeutendes französisches Gericht – verhaftet. Für US-Leser:innen könnte man es vielleicht mit dem Southern District of New York im US-Bundesgerichtssystem vergleichen.

Die Beschuldigungen gegen ihn sind ebenso ernst wie vage. Sie reichen von Mittäterschaft beim Drogenhandel und Verbreitung von kinderpornografischem Materials bis hin zu “affiliation de malfaiteurs” (kriminelle Verschwörung) und illegaler Nutzung von Verschlüsselungstechniken. Aber die genauen Particulars dieser Anklagen und worauf sie sich beziehen, sind derzeit noch unbekannt.

Zum Beispiel könnte die Beschuldigung  der illegalen Verwendung von Kryptographie [d.h. Verschlüsselung – nicht Kryptowährung] sich schlicht auf die Nutzung von verschlüsselten Systemen beziehen, um Informationen vor rechtmäßig erlangten Durchsuchungsbefehlen zu verbergen. Oder es könnte sich um eine so umfassende Anklage handeln, dass alle verschlüsselten Nachrichtensysteme von Telegram betroffen sind. Im ersten Fall könnte sich die Anklage auf Durovs spezifischen Fall beschränken; im zweiten Fall könnten alle Messaging-Plattformen gefährdet sein, die Verschlüsselung verwenden, um die Privatsphäre ihrer Nutzer:innen zu schützen – Apples Messenger, WhatsApp von Meta oder Sign. Daher hat dieser Fall eine viel größere Bedeutung als nur Durov und Telegram; er könnte einen Präzedenzfall für das gesamte Web schaffen.

2. Lass uns einen genaueren Blick auf die Anklagen werfen. Die französische Staatsanwaltschaft scheint zwei Hauptanliegen zu haben. Erstens ist Telegram dafür bekannt, die Zusammenarbeit mit den französischen Behörden zu verweigern. Wenn die Polizei beispielsweise Terroristen, Drogenschmuggler oder ähnliche Straftäter verfolgt und einen Durchsuchungsbefehl vorlegt, blockiert Telegram praktisch jede Kooperation. Zweitens, und vielleicht noch grundlegender, macht sich Frankreich Sorgen um das Fehlen von Moderation auf der Plattform. Moderation bedeutet hier das Entfernen von schädlichen Inhalten, etwa Aufrufe zur Gewalt. Telegram ist berüchtigt für seinen „something goes“-Ansatz. Was hältst du von diesen Vorwürfen? Und basierend auf dem, was wir bisher wissen, welche politischen Hintergründe könnten hinter Durovs Verhaftung stecken (falls es welche gibt)? 

Ja, genau das ist das Drawback, und die beiden Aspekte sind miteinander verbunden. Telegrams Weigerung, Vorladungen zu befolgen, auf Durchsuchungsbeschlüsse zu reagieren oder irgendeine Kind von Content material-Moderation durchzuführen sind alles unterschiedliche Ausprägungen von Telegrams Governanceverständnis – sowohl in Bezug auf staatliche Vorgaben als auch in Bezug auf die non-public Steuerung der eigenen Plattform.

Wäre man etwas weniger zynisch, könnte man argumentieren, dass dieses Verständnis auf einem prinzipientreuen libertären Standpunkt basiert, der auf John Perry Barlows Vorstellung vom Web gründet – dass das Web ein Ort ist, an dem individuelle Freiheit gedeihen kann und die Menschen der Überwachung und Zensur durch Regierungen entkommen können.

Wäre man dagegen etwas zynischer, könnte man argumentieren, dass Durov einfach keine Ressourcen dafür  verwenden will, sich an Gesetze zu halten– selbst Gesetze, die gegen die schlimmsten Teile des Internets, wie kinderpornografisches Materials oder terroristische Propaganda, gerichtet sind.

Und wenn man so richtig zynisch wäre, könnte man vermuten, dass Durov diesen Ansatz gewählt hat, um seine Plattform von anderen abzuheben und sie zur attraktivsten Plattform für graue und schwarze Märkte zu machen.

3. Faszinierend. Diese Konfrontation berührt additionally die größere Frage, wer das Web kontrolliert: Staaten oder non-public Unternehmen. Auf der einen Seite sollte das Web kein gesetzloser Raum sein, und es ist wichtig, illegale Aktivitäten zu verhindern. Gesetze on-line durchzusetzen kann vollkommen legitim sein. Aber auf der anderen Seite stehen globale Plattformen wie Telegram vor komplexen Herausforderungen, wenn sie mit Regierungen kooperieren, insbesondere wenn einige Staaten – wie Russland, Myanmar, Nordkorea oder Iran – selbst fragwürdige Aktivitäten betreiben. Wo sollte additionally die Grenze gezogen werden? Sollten diese Unternehmen die Macht haben, zu entscheiden, mit welchen Staaten sie kooperieren, basierend auf ihrer Einschätzung der demokratischen Legitimität eines Landes?

Ja, ich denke, das ist genau der Kern dieses Arguments, du hast das Spannungsfeld intestine aufgezeigt. Lass uns das mal auseinandernehmen:

Erstens, auf der einen Seite wollen wir eine Gesellschaft, die auf Gesetzen fußt. Und wir wollen, dass diese Gesetze durchgesetzt werden. Aber im globalen Web werden wir ständig mit der Tatsache konfrontiert, dass Plattformen und Unternehmen transnational operieren – sie verbinden Menschen sowohl innerhalb als auch zwischen Ländern. Das schafft enorme juristische Herausforderungen, angefangen bei der Frage, welches Recht jetzt genau eingehalten werden soll und wie.

Aber selbst wenn wir die komplexen Fragen der Jurisdiktion beiseite lassen, zwingt uns das Web dazu, uns mit der Idee auseinanderzusetzen, dass nicht alle Gesetze legitim sind – und wie wir Legitimität definieren. Das ist das zweite Drawback. Aus amerikanischer oder europäischer Perspektive ist es vielleicht einfach zu sagen, dass die Gesetze demokratischer Länder respektiert werden sollten und Plattformen möglicherweise die Gesetze autoritärer Länder, wie die, die du aufgelistet hast, nicht respektieren sollten. Aber was ist mit den Ländern, die nur dem Namen nach demokratisch sind, etwa Brasilien, Indien oder Ungarn?

Das bringt uns zum dritten Punkt – nämlich, wer entscheidet eigentlich, welche Regierungen und Gesetze beachtenswert sind. Vielleicht finden wir es aus amerikanischer und europäischer Perspektive gerechtfertigt, dass Fb oder Telegram sich weigern, Fotos, auf denen sich gleichgeschlechtliche Paare küssen, in Indien zu entfernen, obwohl das dort möglicherweise gegen das Gesetz verstößt. Aber wir finden, es geht zu weit, wenn sich die Plattformen weigern, auf legitime Durchsuchungsbefehle “rechtsstaatlicher” Regierungen zu reagieren –  etwa wenn diese gegen die Verbreitung von kinderpornographischem Materials vorgehen wollen.

All das ist ein komplexes dreidimensionalen Schachspiel mit ständig wechselnden Einsätzen.

4. Hast du Gedanken dazu, wie Elon Musk und seine Weigerung, mit dem brasilianischen Gesetz zu kooperieren, in diese Diskussion passt?

Ja, ich finde es ziemlich interessant, dass Musks und X’s Reaktion auf die Entscheidung der brasilianischen Gerichte, sie zu blockieren, zeitgleich mit Durovs Verhaftung stattfand. Denn auf der einen Seite scheint es uns ziemlich offensichtlich, dass Frankreich, eine westliche Demokratie, Durov wegen seines Versagens, bei Durchsuchungsbefehlen im Zusammenhang mit Kinderpornographie und terroristischen Inhalten auf Telegram zu kooperieren, berechtigterweise strafrechtlich verfolgt. Man hört oft „Die Plattformen können sich dem Gesetz nicht entziehen.“

Aber auf der anderen Seite hat Musk die Gerichtsentscheidungen in Brasilien ignoriert und wurde dafür ein wenig als Held der Meinungsfreiheit gefeiert. Ich denke, dieser Kontrast macht das größere Drawback, das wir oben besprochen haben, hoffentlich noch greifbarer.

5. Abschließend noch eine breitere Frage: Als US-Wissenschaftlerin, die in Paris lebt, habe ich den Eindruck, dass du wie viele Amerikaner staatlicher Regulierung sozialer Medien eher kritisch gegenüberstehst, während Europa aktiv versucht, die Vormachtstellung staatlicher Macht im Web wiederherzustellen, etwa durch das Gesetz über digitale Dienste und prominente Ereignisse wie die Verhaftung Durovs. Glaubst du, dass diese ehrgeizigen europäischen Bemühungen Erfolg haben werden (insbesondere da kein großes Tech-Unternehmen europäisch ist…)?

Ich denke, es hängt davon ab, was man unter Erfolg versteht! Werden diese ganzen Regulierungen in Kraft treten, bzw. sind es schon? Absolut. Werden sie das Web für europäische Verbraucher besser machen? Das halte ich für zweifelhaft.

Ich habe viel Zeit damit verbracht, mir den DSA und den DMA anzusehen und wie sie in den kommenden Jahren durchgesetzt werden könnten – und ich habe mehr als ein Jahr lang das europäische Web und die Plattformen genutzt, während diese Regelungen in Kraft treten. Das Informationsökosystem und die Qualität des Interneterlebnisses in Europa unterscheiden sich stark von denen in den USA. Es sind kleine Unterschiede, aber sie summieren sich – und ich bin frustriert, wie viel mehr Friktionen es in Europa gibt, wie viel schlechter die Suchergebnisse sind und wie viele Plattformen sich entschieden haben, bestimmte Dienste hier einfach auszusetzen, anstatt zu versuchen, die Vorschriften zu erfüllen (und möglicherweise mit Bußgeldern belegt zu werden).

Aber ich denke, wie bei jeder neuen Industrie – Buchdruck, Autos, Inneninstallationen, Fernsehen – werden wir einen Weg finden, ein Gleichgewicht zu schaffen, das dann Bestand hat. Und als Gesellschaft werden wir immer wieder vergessen, dass es Alternativen gab oder dass die Dinge auch anders hätten laufen können.

*

Editor’s Decide

von MORITZ SCHRAMM

Egal was man macht, man hockt viel am Schreibtisch. Falls Sie, werte Leser:in, zu den 92% der Personen gehören, die bei der Arbeit am Schreibtisch zumindest gelegentlich Musik hören, haben wir was für Sie: die unerreichten, in Dauerschleife-hörbaren, wirklich komplexen und schlichtweg magisch-harmonischen Ambient Units des australischen Produzenten und DJs Chris SSG (hier geht’s zur Übersicht). Im bürgerlichen Leben ist der Mann Professor für Politikwissenschaft an einer Tokioter Universität und forscht v.a. zur Demokratietheorie. Aber das tut hier nichts zur Sache. Wer noch nie von Ambient gehört hat – einfach mal reinhören, muss man hören, nicht theoretisieren. Wer skeptisch ist oder keine Zeit hat sich bis zum neuen Lieblingsset durchzuwühlen: Toll ist das hier, mein Favorit, und das Set, das offenbar in der Foyer des Schauspielhauses Zürich läuft. Das Foto ist übrigens ganz in der Nähe aufgenommen, wo ich Chris SSG das erste Mal spielen sah – irgendwo in Japan, im Sommer 2017.

*

Die Woche auf dem Verfassungsblog

Grenzkontrollen, Zurückweisungen, Leistungskürzungen: Seit dem Anschlag von Solingen diskutiert die Politik über teils drastische Verschärfungen im Asyl- und Migrationsrecht. Während die Opposition einen „Notstand“ nach Artwork. 72 AEUV ins Spiel brachte, ordnete Bundesinnenministerin Faeser an, Binnengrenzkontrollen auf alle deutschen Landesgrenzen auszuweiten. Nicht nur von Deutschlands europäischen Nachbarn hagelte es hierfür schnell Kritik. Auch in den Rechtswissenschaften werden Zweifel angemeldet, ob der Aktionismus in der Asyldebatte mit Verfassungs- und Europarecht vereinbar ist. FRANZ C. MAYER (DE) beobachtet, dass große Teile der Debatte im europarechtlichen Blindflug stattfinden und meint, dass der aktuelle Umgang mit dem Recht das Vertrauen in die Verlässlichkeit Deutschlands und die deutsche Europapolitik erschüttern kann. MATTHIAS LEHNERT und ROBERT NESTLER (DE) haben sich das Argument des Notstands genauer angesehen und sehen geringe Chancen dafür, dass es vor dem EuGH standhalten wird. LEONIE DÄRR und HANNAH FRANKE (DE) haben sich mit der Forderung beschäftigt, Leistungen für sogenannte „Dublin-Fälle“ zu kürzen bzw. ganz auszuschließen und zeigen, warum das Vorhaben mit der Rechtsprechung des Bundesverfassungsgerichts unvereinbar sein könnte.

Diese Woche ist der Draghi-Report erschienen. Der ehemalige Chef der EZB, Mario Draghi, analysiert darin die EU-Wirtschaft und umreißt die „existenziellen Herausforderungen“ der europäischen Wettbewerbsfähigkeit. An einem Punkt zögert der Report aber: Statt eine Vertragsänderung anzustreben, wird zur Umsetzung der Ziele auf bestehende Vertragsbestimmungen und Governance-Modi gebaut. PETER LINDSETH und PÄIVI LEINO-SANDBERG (EN) sind der Meinung, dass dieser Ansatz rechtlich fragwürdig und politisch unklug ist und schlagen stattdessen vor, die offensichtlich notwendige Vertragsreform zu erleichtern.

In Sachen Klimawandel hat sich nicht viel verändert, bei der Stimmung in Bezug auf den europäischen „Inexperienced Deal“ aber schon. CHRISTIAN CALLIESS (EN) erklärt, dass es jetzt statt der guten Worte auch Taten braucht und was der EU bei der Umsetzung der eigenen Klimapolitikziele noch im Weg steht.

In Frankreich hat die Entscheidung von Präsident Emmanuel Macron für Michel Barnier als Premierminister zu erneuten Protesten geführt. ELEONORA BOTTINI und NICOLETTA PERLO (EN) haben einen verfassungsrechtlichen Blick auf die Lage geworfen. Sie stellen dabei fest, dass die institutionelle Rolle des Präsidenten unter den derzeitigen Umständen an ihre Grenzen stößt.

Es gibt einen neuen Gesetzentwurf in Bayern. Dieser soll den Kreis der Personen beschränken, die im Strafprozess als Wahlverteidiger auftreten können. Das betrifft insbesondere sogenannte Laienverteidiger. FLORAIN REINERS (DE) sieht das Vorhaben kritisch, da es oftmals gerade die Laienverteidigung ist, die auch Betroffenen in prekärer sozio-ökonomischer Lage den rechtsstaatlich wichtigen Zugang zur Justiz ermöglicht.

In unserem Digitalressort ging es um den seltsamen Artikel 21 des Digital Companies Act (DSA). Darin wird die Einrichtung privater Quasi-Gerichte zur Moderation von Streitigkeiten über Inhalten gefordert. Customers Rights, eine Organisation mit Sitz in Berlin, übernimmt diese Rolle als eine der ersten. HANNAH RUSCHEMEIER, JOÃO PEDRO QUINTAIS, IVA NENADIĆ, GIOVANNI DE GREGORIO und NIKLAS EDER (EN) erklären, wie das nun gegründete „Article 21 – Educational Advisory Board” auf die praktische Umsetzung der DSA schaut.

++++++++++Anzeige++++++++

Princeton College invitations functions for a tenured school place in legislation and human values based mostly within the College Heart for Human Values, to start on or after July 1, 2025. Rank: Affiliate or Full Professor. The Heart seeks students of distinction and promise, whose analysis lies on the intersection between legislation and the examine of human values broadly understood, and who can contribute to the undergraduate and graduate educating curricula of the College. The search committee will start reviewing functions on or round October 2, 2024. 

Weitere Informationen finden Sie hier.

++++++++++++++++++++++++

Das battle aber natürlich noch nicht alles.

Begleitet wurde die Woche mit weiteren Texten aus unserem Weblog Symposium „Das Jurastudium in der Kritik“. Neben dem Reformbedarf im Referendariat wurden auch die Klimakrise, soziale Hierarchien und Diskriminierung in der juristischen Ausbildung betrachtet.

Einen weiteren Textual content gab es in dem Symposium „Wen es trifft: Der Volksbegriff der AfD und Szenarien der Diskriminierung“. HILAL ALWAN, HANNAH KATINKA BECK und PAULA SCHMIETA haben aufs Verwaltungsgericht Gera geschaut und erklären, warum Rassismus in der Justiz ein Nährboden für die Strategie autoritär-populistischer Parteien ist.

Zum Anfang der Woche und als Abschluss hier gab es auch wieder eines unserer monatlichen Portraits aus der Reihe „Excellent Ladies of Worldwide, European and Constitutional Regulation“. Diesmal hat ALENA SCHRÖDER das außergewöhnliche Leben von Yayori Matsui für uns zusammengefasst.

Sie sehen, für den ersten Herbstsonntag auf dem Couch gibt es reichlich Lesestoff.

*

Das wär’s für diese Woche! Ihnen alles Gute

Ihr

Verfassungsblog-Group

Wenn Sie das wöchentliche Editorial als E-mail zugesandt bekommen wollen, können Sie es hier bestellen.