Wie Regulierungsbehörden Meinungsfreiheit und Online-Sicherheit in Einklang bringen

Januar 16 2026, Von Paul Waite
14 min Lesezeit

Regierungen in Großbritannien, der EU, den USA und darüber hinaus überarbeiten rasch die Regeln der Online-Welt, um Hassrede, Desinformation und Kinderschutz zu bekämpfen – ohne dabei die Meinungsfreiheit einzuschränken, die die Grundlage demokratischer Debatten bildet. Zwischen 2021 und 2024 haben wegweisende Gesetze wie der britische Online Safety Act und der EU Digital Services Act Macht und Verantwortung grundlegend auf Social-Media-Plattformen, Suchmaschinen und andere Online-Dienste verlagert. Die Spannungen sind real und unmittelbar: von der schnellen Entfernung extremistischer Inhalte nach dem Anschlag in Christchurch 2019 über hitzige Debatten um COVID-19-Desinformation in den Jahren 2020–2022 bis hin zu den anhaltenden Auseinandersetzungen mit Propagandakampagnen nach dem Ukraine-Krieg 2022. Dieser Artikel untersucht, wie Regulierungsbehörden versuchen, Rechte und Risiken mithilfe spezifischer rechtlicher Instrumente, Durchsetzungsmodelle und Aufsichtsmechanismen in Einklang zu bringen – und was dies für Nutzer, Plattformen und die Zukunft der Online-Kommunikation bedeutet.

Globale Rechtsgrundlagen: Wie die freie Meinungsäußerung online geschützt und eingeschränkt wird

Unterschiedliche Verfassungstraditionen prägen den Handlungsspielraum von Regulierungsbehörden bei der Regulierung von Online-Inhalten. In den Vereinigten Staaten bietet der Erste Verfassungszusatz einen starken Schutz vor staatlicher Zensur, während Abschnitt 230 des Communications Decency Act von 1996 digitale Plattformen weitgehend vor der Haftung für nutzergenerierte Inhalte bewahrt. Diese Kombination erschwert es US-Gesetzgebern, weitreichende Pflichten zur Inhaltsmoderation einzuführen, wie sie andernorts üblich sind. Wichtige Debatten zwischen 2016 und 2024 – darunter die Sperrung von Trumps Accounts, die Kontroversen um Falschinformationen zu COVID-19 und Fälle wie Missouri gegen Biden, in denen Kritiker staatliche Einflussnahme auf Technologieunternehmen vorwarfen – verdeutlichen das tiefe Misstrauen der amerikanischen Rechtslandschaft gegenüber staatlicher Einflussnahme auf Entscheidungen über Online-Inhalte.

Das europäische Modell funktioniert anders. Artikel 10 der Europäischen Menschenrechtskonvention (EMRK) schützt die Meinungsfreiheit, erlaubt aber ausdrücklich Einschränkungen, die „in einer demokratischen Gesellschaft notwendig“ sind – beispielsweise zum Schutz des Rufs anderer, der nationalen Sicherheit oder der öffentlichen Sicherheit. Dieser Rahmen gibt europäischen Regulierungsbehörden mehr Spielraum, Plattformen rechtliche Pflichten aufzuerlegen, sofern diese Maßnahmen verhältnismäßig sind und legitime Ziele verfolgen.

Internationale Menschenrechtsstandards prägen zunehmend auch die Erwartungen. Die UN-Leitprinzipien für Wirtschaft und Menschenrechte (2011) und nachfolgende Berichte des UN-Hochkommissars für Menschenrechte (OHCHR) aus den Jahren 2018–2023 zu Online-Hassrede haben die Auffassung bestärkt, dass Technologieunternehmen die Verantwortung für die Achtung grundlegender Rechte tragen, selbst wenn nationale Gesetze dazu keine Angaben machen. Diese Prinzipien beeinflussen nun, wie Regulierungsbehörden ihre Rechtsrahmen gestalten – und wie Plattformen ihre Praktiken der Inhaltsmoderation gegenüber einem globalen Publikum rechtfertigen.

Wichtige regulatorische Rahmenbedingungen: Vom britischen Online-Sicherheitsgesetz bis zum EU-DSA

In den Jahren 2022–2024 entstanden die ersten umfassenden Gesetze zur Systemregulierung von Online-Inhalten, insbesondere in Großbritannien und der EU. Diese stellen einen neuen Rechtsansatz dar: Anstatt einzelne illegale Inhalte zu verfolgen, verpflichten die Regulierungsbehörden Plattformen nun zum Aufbau verhältnismäßiger Systeme, die Risiken in großem Umfang begegnen.

Der britische Online-Sicherheitsgesetz 2023

Das im Oktober 2023 verabschiedete und von Ofcom schrittweise umgesetzte Online-Sicherheitsgesetz, dessen Umsetzung bis 2024/25 durch Konsultationen begleitet wird, gilt für nutzerbasierte Dienste und Suchmaschinen. Die strengsten Auflagen gelten für Dienste der Kategorie 1 – solche mit den größten Nutzerzahlen im Vereinigten Königreich und den risikoreichsten Funktionen.

Zu den wichtigsten Anforderungen gehören:

Durchführung von Risikobewertungen für illegale und schädliche Inhalte
Implementierung von Inhaltsmoderationssystemen zur schnellen Entfernung illegaler Inhalte
Besondere Schutzmaßnahmen für Kinder im Internet, einschließlich Altersverifizierung und Schutz von Minderjährigen vor schädlicher Sprache
Pflichten zum Schutz der Nutzer vor Inhalten, die erheblichen Schaden verursachen könnten

Entscheidend ist, dass das Gesetz ausdrücklich versucht, Sicherheit und Meinungsfreiheit in Einklang zu bringen. Es verpflichtet Dienste, die Rechte der Nutzer auf Meinungsfreiheit und Privatsphäre zu achten, schützt Inhalte von demokratischer Bedeutung und sichert die Inhalte anerkannter Nachrichtenverlage. Ziel sind verhältnismäßige und gezielte Maßnahmen – keine pauschale Zensur.

EU-Gesetz über digitale Dienste

Das Gesetz über digitale Dienste trat am 25. August 2023 für sehr große Online-Plattformen (VLOPs) und sehr große Online-Suchmaschinen (VLOSEs) in Kraft und gilt seit dem 17. Februar 2024 EU-weit. Es führt Sorgfaltspflichten ein, die weit über frühere europäische Vorschriften hinausgehen:

Erfordernis	Zweck
Jährliche Risikobewertungen	Systemische Risiken im Plattformdesign und in den Inhalten identifizieren
Minderungspläne	Die identifizierten Risiken angemessen angehen
Unabhängige Prüfungen	Überprüfung der Einhaltung gesetzlicher Pflichten
Datenzugriff für Forscher	Ermöglichen Sie unabhängige Untersuchungen zu Plattformschäden.
Transparenzberichte	Öffentliche Rechenschaftspflicht bei der Inhaltsmoderation

Das DSA verpflichtet Plattformen, illegale Inhalte (wie etwa Aufrufe zur Gewalt gemäß nationalem Recht) nach Meldung unverzüglich zu entfernen und schreibt gleichzeitig Transparenz sowie ein Beschwerderecht für Nutzer vor, deren Inhalte entfernt wurden. Plattformen müssen ihre algorithmischen Empfehlungssysteme erläutern und die Nutzungsbedingungen einheitlich anwenden.

Vergleichende Ansätze

Frühere europäische Modelle konzentrierten sich stärker auf die Entfernung von Inhalten. Das deutsche NetzDG (2017) forderte die rasche Löschung eindeutig rechtswidriger Inhalte, während das französische Avia-Gesetz 2020 vom Verfassungsrat teilweise für verfassungswidrig erklärt wurde, da es die Meinungsfreiheit bedrohte. Der australische Online Safety Act 2021 führte „grundlegende Erwartungen an die Online-Sicherheit“ und Anforderungen an die rasche Entfernung von Inhalten ein, insbesondere von Inhalten, die Kinder betreffen.

Diese unterschiedlichen Ansätze spiegeln das fortlaufende Experimentieren darüber wider, wie man Einzelpersonen am besten vor schädlichen Inhalten schützen und gleichzeitig die Meinungsfreiheit im Internet wahren kann.

Wer trägt die Verantwortung? Plattformen, Nutzer und neue Durchsetzungsmodelle

Regulierungsbehörden verlagern ihren Fokus von einem rein nutzerorientierten Strafrecht hin zu systemischen Verpflichtungen, die private Unternehmen für die Gestaltung und den Betrieb ihrer Dienste zur Rechenschaft ziehen. Diese Verlagerung hin zu einer „geteilten Verantwortung“ verändert die Frage, wer die Last der Sicherheit im Internet trägt.

Pflichten und Strafen auf dem Bahnsteig

Gemäß dem britischen Online-Sicherheitsgesetz drohen Anbietern bei schwerwiegenden Verstößen Geldstrafen von bis zu 10 % ihres weltweiten Jahresumsatzes. Ofcom kann Informationsmitteilungen versenden, Systemänderungen anordnen und – in extremen Fällen – gerichtliche Anordnungen erwirken, um den Zugang zu nicht konformen Diensten in Großbritannien zu sperren.

Das Durchsetzungsregime der EU ist ähnlich robust. Die Europäische Kommission kann gegen sehr große Unternehmen (VLOPs und VLOSEs) Bußgelder in Höhe von bis zu 6 % ihres weltweiten Umsatzes verhängen und nach Risikobewertungen, die Probleme aufdecken, rasche Systemänderungen anordnen. Es handelt sich hierbei nicht um theoretische Befugnisse: Das DSA wurde so konzipiert, dass es mit echter Durchsetzungskraft vollumfänglich angewendet werden kann.

Haftung des einzelnen Nutzers

Das Strafrecht gilt weiterhin für Personen, die illegale Inhalte veröffentlichen. In Großbritannien stellen der Communications Act 2003 (Abschnitt 127) und der Malicious Communications Act 1988 bestimmte Formen von Hassrede und Belästigung im Internet unter Strafe. Es werden Reformen durchgeführt, um sicherzustellen, dass diese Bestimmungen auch im digitalen Zeitalter noch zeitgemäß sind.

In den EU-Mitgliedstaaten werden strafrechtliche Bestimmungen gegen Anstiftung zu Gewalt oder Hass – abgeleitet vom EU-Rahmenbeschluss von 2008 – zur Verfolgung schwerwiegender Online-Fälle angewendet. Die Hürde für eine Strafverfolgung ist nach wie vor hoch, doch Nutzern können durch strafrechtliche Anklagen ernsthafte Nachteile entstehen.

Ausweitung der Strafverfolgung ohne Überkriminalisierung

Die Regulierungsbehörden prüfen neue Instrumente, um die Durchsetzung der Vorschriften zu intensivieren und gleichzeitig Datenschutzbedenken zu berücksichtigen und die Kriminalisierung geringfügiger Verstöße zu vermeiden:

Verwaltungsstrafen und Benachrichtigungs- und Strafsysteme für wiederholte Verstöße
Plattformbasierte „Drei-Schläge“-Richtlinien zur Identitätsprüfung, die im Rahmen von Datenschutzbestimmungen wie der DSGVO entwickelt wurden.
Anforderungen an Plattformen zur Meldung bestimmter Kategorien schwerwiegender Schäden an die Strafverfolgungsbehörden

Institutionelle Beispiele hierfür sind Ofcom als zentrale Regulierungsbehörde des Vereinigten Königreichs und die nationalen Koordinatoren für digitale Dienste in jedem EU-Mitgliedstaat, die im Rahmen des DSA mit der Europäischen Kommission zusammenarbeiten. Diese anderen Regulierungsbehörden koordinieren sich grenzüberschreitend, um eine einheitliche Anwendung der Regeln auf globale Plattformen zu gewährleisten.

Schutz der freien Meinungsäußerung: Leitplanken gegen übermäßige Repression

Regulierungsbehörden integrieren nun explizit Schutzmaßnahmen für die Meinungsfreiheit in Sicherheitsgesetze und reagieren damit auf begründete Befürchtungen vor übermäßiger Zensur und politischem Missbrauch. Das Risiko ist nicht hypothetisch: Inhaltsmoderation im globalen Maßstab erfasst unweigerlich auch legitime Meinungen und legale Inhalte.

Schutzmaßnahmen des britischen Online-Sicherheitsgesetzes

Das OSA verpflichtet Diensteanbieter, die Rechte der Nutzer auf Meinungsfreiheit und Privatsphäre zu beachten und begründet diese Pflichten mit dem Human Rights Act 1998 und Artikel 10 der EMRK. Zu den spezifischen Schutzmaßnahmen gehören:

Schutzmaßnahmen für Inhalte von demokratischer Bedeutung
Schutzmaßnahmen für Inhalte anerkannter Nachrichtenverlage
Anforderungen an eine verhältnismäßige, zielgerichtete Moderation anstelle einer zu weit gefassten Filterung
Transparenz darüber, wie Moderationsentscheidungen getroffen werden

Diese Bestimmungen sollen sicherstellen, dass Plattformen den öffentlichen Diskurs nicht dem Sicherheitsaspekt opfern.

DSA-Nutzerrechte

Das Gesetz über digitale Dienste verfolgt einen anderen, aber komplementären Ansatz:

Den Nutzern muss mitgeteilt werden, warum Inhalte entfernt oder Konten eingeschränkt werden.
Barrierefreie Beschwerdemechanismen müssen verfügbar sein.
Die Allgemeinen Geschäftsbedingungen müssen einheitlich und diskriminierungsfrei angewendet werden.
Plattformen müssen erklären, wie algorithmische Systeme Inhalte empfehlen.

Diese Regeln gehen auf Bedenken hinsichtlich versteckter politischer Voreingenommenheit bei der Inhaltsmoderation ein und geben Nutzern die Möglichkeit, Rechtsmittel einzulegen, wenn sie der Ansicht sind, dass legitime Meinungsäußerungen zu Unrecht unterdrückt wurden.

Übermäßige Entfernung in der Praxis

Die Risiken übermäßiger Moderation sind hinlänglich bekannt. Zwischen 2017 und 2022 löschten die automatisierten Extremismusfilter von YouTube und Facebook fälschlicherweise Dokumente zu Menschenrechtsverletzungen und Beweismaterial zu Kriegsverbrechen in Syrien – Inhalte von immenser historischer und rechtlicher Bedeutung. Während der COVID-19-Debatten (2020–2022) gerieten legitime wissenschaftliche Diskussionen und politische Äußerungen mitunter ins Visier von Desinformationskampagnen, darunter auch Beiträge anerkannter Forscher, die neue Erkenntnisse infrage stellten.

Gerichte spielen eine entscheidende Rolle bei der Kontrolle von Kompetenzüberschreitungen. Der Europäische Gerichtshof für Menschenrechte wog im Fall Delfi AS gegen Estland (2015) die Haftung von Plattformen mit dem Recht auf freie Meinungsäußerung der Nutzer ab. Nationale Gerichte in Deutschland, Frankreich und Großbritannien prüfen weiterhin, ob neue Befugnisse den Anforderungen des Menschenrechtsprinzips entsprechen. Es empfiehlt sich, dass Regulierungsbehörden den jeweiligen Kontext verstehen und Kontrollmechanismen einbauen.

Technologie an der Spitze: KI-Moderation, Verschlüsselung und dezentrale Plattformen

Die Regulierungsbehörden verfassen nicht nur primäre Gesetze, sondern setzen sich auch mit den technischen Realitäten von KI-Tools, Verschlüsselung und neuen Netzwerkarchitekturen auseinander, die sich nicht nahtlos in traditionelle Regulierungsrahmen einfügen lassen.

KI-gestützte Inhaltsmoderation

Plattformen wie Facebook, X (ehemals Twitter), YouTube und TikTok setzen KI in großem Umfang ein, um Milliarden von Beiträgen, Bildern und Videos zu analysieren. Diese Automatisierung ist unerlässlich – keine menschliche Belegschaft könnte Nutzerinhalte in diesem Umfang überprüfen –, birgt aber erhebliche ethische Herausforderungen:

Risiko	Beispiel
Falsch positive Ergebnisse	Legitime Nachrichten wurden als Gewalt gekennzeichnet.
Sprachliche Voreingenommenheit	Nicht-englischsprachige Inhalte werden weniger genau moderiert.
Kulturelle Blindheit	Satire und Kontext gehen auf automatisierten Systemen verloren.
Mangelnde Transparenz	Die Nutzer verstehen nicht, warum Inhalte entfernt wurden.

Die EU-Richtlinie zur digitalen Sicherheit (DSA) und der kommende KI-Gesetzentwurf (politische Einigung im Dezember 2023, voraussichtliche schrittweise Anwendung ab 2025) fordern Transparenz und menschliche Aufsicht für risikoreiche KI-Systeme. Plattformen müssen die Funktionsweise der automatisierten Moderation erläutern und wesentliche, nutzerrelevante Änderungen einer menschlichen Überprüfung unterziehen.

Die Verschlüsselungsdebatte

Die Ende-zu-Ende-Verschlüsselung – wie sie unter anderem von WhatsApp und Signal verwendet wird – schützt zwar die Datenprivatsphäre, stellt aber eine echte Herausforderung für die Erkennung illegaler Inhalte wie kinderpornografisches Material dar. Das britische Gesetz über Ermittlungsbefugnisse (Investigatory Powers Act 2016) und die Diskussionen über eine Aktualisierung der Befugnisse für die Jahre 2023–2024 lösten Kontroversen aus.

Das Online-Sicherheitsgesetz enthielt Bestimmungen, die bei Anbietern Bedenken hinsichtlich potenzieller Hintertüren auslösten, welche die Verschlüsselung untergraben könnten. Ende 2023 signalisierte die britische Regierung, dass sie keine proaktive Schwächung der Verschlüsselung erzwingen, sich aber gleichzeitig das Recht vorbehalten würde, in bestimmten, rechtlich zulässigen Fällen Zugriff darauf zu erlangen. Dieser schwierige Kompromiss spiegelt das Spannungsverhältnis zwischen Datenschutzbedenken und dem Bedürfnis wider, Einzelpersonen – insbesondere Kinder – vor schwerwiegenden Schäden zu schützen.

Dezentrale und föderierte Plattformen

Der Aufstieg von Mastodon, Bluesky, Matrix und dem breiteren ActivityPub-Ökosystem nach 2022 spiegelt das Bedürfnis der Nutzer nach Alternativen zur zentralisierten Kontrolle wider. Diese Plattformen stellen die Regulierungsbehörden vor Herausforderungen:

Keine einzelne juristische Person, die zur Rechenschaft gezogen werden kann
Fragmentierte Moderationsnormen in verschiedenen Instanzen
Strengere Durchsetzung nationaler Regeln über Grenzen hinweg

Regulierungsbehörden prüfen Pflichten für „Dienstanbieter“ oder „Administratoren“ großer Instanzen, wobei der basisdemokratische Charakter dieser Gemeinschaften berücksichtigt wird. Der Fokus verlagert sich von der reinen Zielsetzung einzelner Technologieunternehmen hin zu interoperabilitätsfreundlichen Regeln.

Der Weg in die Zukunft: Hin zu einem nachhaltigen Gleichgewicht zwischen Rechten und Sicherheit

Ab 2024 verlagert sich die Debatte von der Frage, ob Online-Plattformen reguliert werden sollen, hin zur Frage, wie diese neuen Regelungen angepasst und optimiert werden können. Die derzeitigen Rahmenbedingungen für Gesetze zur Online-Sicherheit werden nur dann erfolgreich sein, wenn sie auf Grundlage von Erkenntnissen weiterentwickelt werden und gegenüber der Öffentlichkeit, der sie dienen, rechenschaftspflichtig bleiben.

Ein effektives Gleichgewicht hängt von mehreren Faktoren ab:

Transparente Daten zu Löschungen, Einsprüchen und Fehlerraten von Plattformen
Beteiligung der Zivilgesellschaft an den Konsultationen von Ofcom und der EU, einschließlich Minderheiten, die Zielscheibe von Online-Hassreden sind, Journalisten und Kinderrechtsaktivisten
Laufende Überprüfung , ob die Regeln ihre Ziele erreichen, ohne die freie Meinungsäußerung im Internet einzuschränken.

Bevorstehende Meilensteine

Wichtige Termine, die man im Auge behalten sollte, sind:

Die mehrstufigen Verhaltensregeln von Ofcom für das britische Online-Sicherheitsgesetz werden im Zeitraum 2024–2025 eingeführt, bevor sie vollständig in Kraft treten.
Der erste vollständige jährliche DSA-Risikobewertungs- und Prüfungszyklus der EU für VLOPs/VLOSEs von 2024 bis 2025
Krisenreaktionsregeln werden nach Ereignissen wie Wahlen oder Konflikten auf die Probe gestellt.
Im Rahmen der Berichtsphase werden Prüfungen durchgeführt, ob wesentliche Änderungen am regulatorischen Rahmen erforderlich sind.

Verbleibende Verwerfungslinien

Mehrere schwierige Fragen bleiben ungeklärt:

Wie man mit „legalen, aber schrecklichen“ Inhalten umgeht – schädlichen Äußerungen, die zwar nicht strafrechtlich relevant sind, aber dennoch realen Schaden anrichten.
Langfristige Steuerung der KI-Moderation, einschließlich unabhängiger Prüfungen und grenzüberschreitender Zusammenarbeit
Kinder online schützen, ohne die Privatsphäre zu beeinträchtigen oder den Zugang zu legitimen Bildungsressourcen zu blockieren
Sicherstellen, dass der Schutz der Online-Meinungsfreiheit auch marginalisierte Gemeinschaften umfasst, deren Ansichten möglicherweise unpopulär sind.

Das Gleichgewicht zwischen Rechten und Sicherheit wird im Zuge des technologischen und politischen Wandels fortwährend neu verhandelt werden. Regulierungsbehörden, Social-Media-Unternehmen und Nutzer tragen gemeinsam die Verantwortung dafür, digitale Plattformen offen und sicher zu gestalten. Kein Regulierungsrahmen wird perfekt sein – Ziel ist es, Systeme zu entwickeln, die lernen, sich anpassen und der demokratischen Bedeutung der freien Meinungsäußerung gerecht werden, während sie gleichzeitig die realen Gefahren unregulierter Online-Räume ernst nehmen.

Das richtige Gleichgewicht zu finden, ist von enormer Bedeutung. Die Online-Welt ist heute untrennbar mit dem gesellschaftlichen Leben, wirtschaftlichen Chancen und der persönlichen Identität verbunden. Die sich heute herausbildenden rechtlichen Rahmenbedingungen werden darüber entscheiden, ob das Internet ein Raum für freie Meinungsäußerung, Kreativität und Vernetzung bleibt – oder ob es durch übermäßige Zensur und Misstrauen fragmentiert wird. Indem sich Bürgerinnen und Bürger informieren, an Konsultationen teilnehmen und Plattformen sowie Regulierungsbehörden zur Rechenschaft ziehen, können sie diese Zukunft mitgestalten.