umwelt-online: Bundesrat 474/18: Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Verhinderung der Verbreitung terroristischer Online-Inhalte

COM (2018) 640 final; Ratsdok. 12129/18

972. Sitzung des Bundesrates am 23. November 2018

Der federführende Ausschuss für Fragen der Europäischen Union (EU), der Ausschuss für Innere Angelegenheiten (In) und der Wirtschaftsausschuss (Wi) empfehlen dem Bundesrat, zu der Vorlage gemäß §§ 3 und 5 EUZBLG wie folgt Stellung zu nehmen:

1. Der Bundesrat teilt das Anliegen des Verordnungsvorschlags, die Verbreitung terroristischer Inhalte zu verhindern. Terroristischen Straftaten muss so frühzeitig und effektiv wie möglich vorgebeugt werden. Einen wichtigen Schritt dazu stellen Maßnahmen gegen terroristisches Gedankengut dar, das über moderne Kommunikationswege des Internets verbreitet wird.
2. Der Bundesrat begrüßt daher grundsätzlich das Bestreben der Kommission, einen Gesetzgebungsvorschlag zur Verbesserung der Erkennung und Entfernung von Online-Inhalten zu unterbreiten, die zu terroristischen Handlungen anstiften.
3. Nach dem im Jahr 2015 eingerichteten EU-Internetforum sowie dem von Instagram, Google+, Snapchat und Dailymotion in diesem Jahr unterzeichneten Verhaltenskodex stellt der Verordnungsvorschlag die erste verbindliche Maßnahme im Bereich der Bekämpfung terroristischer Online-Inhalte dar.
4. Der Kommission ist ferner zuzustimmen, dass terroristische Inhalte in den ersten Stunden ihrer Online-Präsenz aufgrund der rapiden Geschwindigkeit ihrer Verbreitung am schädlichsten sind.
5. Der Bundesrat bezweifelt allerdings, dass sich der Verordnungsvorschlag auf die von der Kommission beanspruchte Rechtsgrundlage des Artikels 114 AEUV stützen lässt. Diese Rechtsgrundlage trägt nur Sekundärrecht, das dem Aufbau eines Binnenmarkts von Waren, Personen, Dienstleistungen und Kapital dient. Vorliegend stehen indessen sicherheitspolitische Maßnahmen und Regelungen inmitten, um die zuständigen Behörden in ihrem Kampf gegen den Terrorismus zu unterstützen. Dies ist von der gewählten Rechtsgrundlage nicht gedeckt.
6. Der Bundesrat bezweifelt ferner, dass die vorgeschlagene Verordnung mit dem Subsidiaritätsprinzip vereinbar ist. Denn sie ermöglicht einen unmittelbaren Durchgriff auf die hoheitlichen Rechte der Mitgliedstaaten, das jeweils anzuwendende Verfahrensrecht und die Zuständigkeit der Behörden festzulegen. Die Notwendigkeit, eine Beschleunigung des Prüfungsverfahrens durch Instrumente des Verfahrensrechts bzw. durch einen Eingriff in die Organisationshoheit der Mitgliedstaaten zu gewährleisten, wird nicht ausreichend begründet.
7. Der Bundesrat sieht die vorgeschlagene Verordnung außerdem kritisch mit Blick auf den Verhältnismäßigkeitsgrundsatz. Der unmittelbare Durchgriff auf hoheitliche Rechte der Mitgliedstaaten ist zur Beschleunigung des Prüfungsverfahrens nicht erforderlich. Insoweit würde das Instrument der Richtlinie bereits ausreichen, die den Mitgliedstaaten die nähere Ausgestaltung der Verfahren überlassen würde. Zudem zielt die vorgeschlagene Verordnung einseitig auf die Bekämpfung terroristischer Inhalte im Internet, ohne zugleich das ebenso wichtige Thema "Hate Speech" in den Blick zu nehmen. Erheblich gestiegene materielle Prüfanforderungen in immer kürzeren Verfahren zu bewältigen, birgt unter dem Gesichtspunkt der Verhältnismäßigkeit kaum vertretbare Risiken für die zuständigen Behörden hinsichtlich der Rechtmäßigkeit von Entscheidungen über die Entfernung von als terroristisch eingestuften Online-Inhalten.
8. Der Bundesrat bemängelt im Übrigen, dass der Verordnungsvorschlag den personellen und sachlichen Aufwand der Wirtschaft nicht ausreichend würdigt. Für Hosting-Dienste sind die Entfernung innerhalb einer Stunde, die Schaffung eines Beschwerdemechanismus sowie die Erfüllung der Berichtspflichten mit erhöhten Kosten für die Verwaltung und das Personal verbunden. Um die Speicherdauer zu gewährleisten, bedarf es gegebenenfalls zusätzlicher Speicherkapazität. Es besteht die Gefahr, dass nur große Dienstleister den Anforderungen der vorgeschlagenen Verordnung gerecht werden können. Dies gilt insbesondere, da Aufwand und Kosten auch nicht durch automatisierte Systeme niedrig gehalten werden können, da in diesen Fällen eine manuelle Überwachung vorgeschrieben wird. Aus diesen Gründen und aufgrund der beträchtlichen Sanktionshöhe ist mit Widerstand seitens der Unternehmen bzw. der Wirtschaft gegen die vorgeschlagene Verordnung zu rechnen.
9. Der Bundesrat regt an, den Anwendungsbereich des Verordnungsvorschlags enger zu ziehen. Die weit gefasste Definition des Begriffs des Hostingdiensteanbieters umfasst auch kleine und mittlere Unternehmen, obwohl deren Dienste in der Regel über wenige Nutzerinnen und Nutzer sowie Aufrufzahlen verfügen. Das Gefährdungspotenzial erscheint angesichts eines deutlich kleineren Adressatenkreises, der mit einem terroristischen Inhalt konfrontiert werden könnte, geringer. Deshalb sollten nur Hostingdiensteanbieter ab einer gewissen Größe in den Pflichtenkreis aufgenommen werden, bei denen eine massenhafte Verbreitung terroristischer Inhalte nicht ausgeschlossen werden kann.
10. Der Bundesrat hält es zur Wahrung der Verhältnismäßigkeit für geboten, für kleine und mittlere Unternehmen Ausnahmen in Bezug auf die gemäß Artikel 4 Absatz 2 des Verordnungsvorschlags vorgesehene einstündige Reaktionsfrist auf behördliche Entfernungs- oder Sperrungsanordnungen zu schaffen. Die zur Erfüllung der entsprechenden Pflichten erforderliche Einrichtung eines 24-Stunden-Dienstes würde schon wegen der Schaffung der personellen Kapazitäten eine übermäßige wirtschaftliche Belastung darstellen.
11. Der Bundesrat spricht sich dafür aus, b2b-Plattformen vom Anwendungsbereich der vorgeschlagenen Verordnung auszunehmen, weil die Verbreitung terroristischer Inhalte in der weit überwiegenden Zahl der Fälle von Privatpersonen an Privatpersonen erfolgt und terroristische Inhalte auf reinen b2b-Plattformen zumindest so selten zu verzeichnen sind, dass eine Ausnahmeregelung aus Verhältnismäßigkeitsgesichtspunkten gerechtfertigt erscheint.
12. Der Bundesrat bittet um Prüfung, ob Cloud-Provider von einer Ausnahme profitieren sollten, weil diese sich in der Regel für die Verbreitung von terroristischen Inhalten nicht als besonders attraktive Kommunikationskanäle für einen möglichst großen Personenkreis eignen.
13. Der Bundesrat schlägt zur Erleichterung der Rechtsdurchsetzung vor, den Verweis auf die Richtlinie (EU) Nr. 2017/541 vom 15. März 2017 zur Terrorismusbekämpfung in Artikel 2 Absatz 5 Buchstabe c des Verordnungsvorschlags durch einen Verweis auf eine Zusammenstellung von als terroristisch eingestuften Vereinigungen zu ersetzen. Eine solche Zusammenstellung findet sich beispielsweise im Beschluss (GASP) 2017/1426 vom 4. August 2017 zur Aktualisierung der Liste der Personen, Vereinigungen und Körperschaften, für die die Artikel 2, 3 und 4 des Gemeinsamen Standpunkts 2001/931/GASP /GASP über die Anwendung besonderer Maßnahmen zur Bekämpfung des Terrorismus gelten. Die Zugrundelegung einer bereits aufgestellten Liste würde den Rechtsanwendern die Handhabe der Pflichten des Verordnungsvorschlags erleichtern, da sie einen schnellen und eindeutigen Abgleich der für eine Entfernung oder Sperrung in Betracht kommenden Inhalte ermöglicht.
14. Die in dem Verordnungsvorschlag geregelten Sorgfaltspflichten für Hosting-Dienste werden kritisch gesehen, zumal neben der Erwähnung in Allgemeinen Geschäftsbedingungen keine konkreten Maßnahmen genannt werden. Hierdurch wird zwar die technische Entwicklung und Nutzung von neuer Erkennungssoftware ermöglicht, zugleich wird der den Hosting-Diensten überlassene weite Spielraum schwer zu überprüfen sein.
15. Der Bundesrat spricht sich aus Gründen der Verhältnismäßigkeit und zur Vermeidung von Widersprüchen mit geltendem EU-Recht dafür aus, Artikel 4 Absatz 2 des Verordnungsvorschlags an Artikel 14 Absatz 1 Buchstabe b der Richtlinie 2000/31/EG vom 8. Juni 2000 über den elektronischen Geschäftsverkehr auszurichten. Dadurch wäre den stark unterschiedlichen personellen wie organisatorischen Kapazitäten von Hostingdiensteanbietern Rechnung getragen, ohne das Schutzniveau abzusenken. Gerade kleine und mittlere Unternehmen verfügen nicht über die Möglichkeit, einen 24-Stunden-Betrieb einzurichten, der jederzeit auf Ersuchen der Behörden reagieren kann.
16. Der Bundesrat regt zur Wahrung der Rechte der Inhalteanbieter an, den Hostingdiensteanbietern als Empfänger von Entfernungsanordnungen gemäß Artikel 4 des Verordnungsvorschlags die Möglichkeit einzuräumen, solche Anordnungen über die Fälle des Artikels 4 Absatz 8 des Verordnungsvorschlags hinaus in begründeten Fällen bis zu einer gerichtlichen Entscheidung auszusetzen. Mit Blick auf die Grundrechte der Inhalteanbieter erscheint es geboten, schon unterhalb der Schwelle des Beschwerdemechanismus nach Artikel 10 des Verordnungsvorschlags für die Hostingdiensteanbieter die Möglichkeit vorzusehen, die Inhalte bei schwerwiegenden Zweifeln an der Einstufung eines Inhalts als terroristisch nicht vorschnell zu entfernen.
17. Aus Sicht des Bundesrates bestehen Bedenken, ob die Pflicht zur Ergreifung proaktiver Maßnahmen nach Artikel 6 des Verordnungsvorschlags mit Artikel 15 der Richtlinie 2000/31/EG vereinbar ist. Anbieter von Diensten obliegt keine allgemeine Verpflichtung, die von ihnen übermittelten oder gespeicherten Informationen zu überwachen oder aktiv nach Umständen zu forschen, die auf eine rechtswidrige Tat hinweisen. Artikel 6 Absatz 2 Buchstabe b des Verordnungsvorschlags geht jedoch seiner Formulierung nach ausdrücklich davon aus, dass zu den gegebenenfalls von Hostingdiensteanbietern zu ergreifenden proaktiven Maßnahmen auch solche Maßnahmen gehören, mit denen terroristische Inhalte überhaupt erst ermittelt werden. Der Bundesrat bittet, diesen Widerspruch aufzuklären.
18. Der Bundesrat regt an, Artikel 6 Absätze 3 und 4 des Verordnungsvorschlags dahingehend zu überarbeiten, dass die Auswahl der zu ergreifenden zusätzlichen spezifischen proaktiven Maßnahmen alleine dem Hostingdiensteanbieter überlassen wird, um diesen bei der Entwicklung eigener, auf das jeweilige Diensteangebot zugeschnittener Maßnahmen nicht einzuschränken. Eine behördliche Auferlegung einer zusätzlichen spezifischen proaktiven Maßnahme könnte nämlich dazu führen, dass bessere proaktive Instrumente zur Erkennung terroristischer Inhalte nicht entwickelt und genutzt würden.
19. Der Bundesrat befürchtet, dass proaktive Maßnahmen nach Artikel 6 des Verordnungsvorschlags und insbesondere die Möglichkeit zur behördlichen Auferlegung zusätzlicher spezifischer proaktiver Maßnahmen gemäß Artikel 6 Absatz 4 zum sogenannten Overblocking führen. Dadurch und angesichts der Verpflichtung zur Veröffentlichung von Transparenzberichten nach Artikel 8 Absatz 2 des Verordnungsvorschlags können Hostingdiensteanbieter sich dazu veranlasst sehen, auch solche Inhalte zu löschen, die zwar unterhalb der Schwelle eines terroristischen Inhalts liegen, aber nicht zweifelsfrei von einem solchen zu unterscheiden sind. Gleichzeitig steigt dadurch auch das Risiko versehentlicher oder fehlerhafter Löschungen. Der Bundesrat erinnert in diesem Zusammenhang an den hohen Stellenwert der Meinungsfreiheit als Fundament demokratischer Rechtsordnungen.
20. Der Bundesrat bittet um Prüfung, ob der Verordnungsvorschlag zur Etablierung eines effizienteren Verfahrens zur Entfernung oder Sperrung terroristischer Inhalte darüber hinaus im Einzelnen wie folgt angepasst werden sollte:
- a) Aus Sicht des Bundesrates sollte erwogen werden, auf die Pflicht der Hostingdiensteanbieter gemäß Artikel 4 Absatz 6 des Verordnungsvorschlags zu verzichten, wonach der Eingang einer behördlichen Entfernungsanordnung zu bestätigen und die zuständige Behörde über die Entfernung oder Sperrung eines terroristischen Inhalts formularmäßig zu unterrichten ist. Die Verwendung eines Rückmeldungsformulars für jeden entfernten oder gesperrten Inhalt erscheint nicht mehr zeitgemäß und würde insbesondere kleinen und mittleren Unternehmen einen unverhältnismäßig hohen Verwaltungsaufwand aufbürden. Der Bundesrat erinnert in diesem Zusammenhang an die Erfolge, die mit der freiwilligen Selbstregulierung der Internetkonzerne auf EU-Ebene (EU-Internetforum) erzielt wurden. Er regt eine Regelung an, wonach die Hostingdiensteanbieter im Streitfalle nachweisen müssen, dass der Inhalt der Entfernungsanordnung entsprechend bearbeitet worden ist.
- b) Der Bundesrat erkennt an, dass mit dem Instrument der behördlichen Meldung terroristischer Inhalte gemäß Artikel 5 des Verordnungsvorschlags eine unterhalb der Eingriffsschwelle einer Entfernungs- oder Sperrungsanordnung nach Artikel 4 des Verordnungsvorschlags liegende Maßnahme geschaffen werden soll. Gleichwohl muss die zuständige Behörde in ihrer Meldung gemäß Artikel 5 Absatz 4 des Verordnungsvorschlags ausreichend detaillierte Informationen übermitteln, die sie zu der Annahme veranlasst haben, dass ein Inhalt möglicherweise terroristischer Natur ist. Damit dürfte seitens der zuständigen Behörde in der Regel bereits eine derart konkrete Bewertung vorgenommen worden sein, dass unabhängig von dem Ergebnis einer eigenen Prüfung durch den Hostingdiensteanbieter gemäß Artikel 5 Absatz 5 des Verordnungsvorschlags auch der Erlass einer Entfernungsoder Sperrungsanordnung gemäß Artikel 4 des Verordnungsvorschlags gerechtfertigt wäre. Vor diesem Hintergrund sollte zur Vermeidung unnötigen Verwaltungsaufwands geprüft werden, ob auf den Mechanismus des Artikels 5 des Verordnungsvorschlags verzichtet werden kann.
- c) Der Bundesrat erinnert daran, dass die Betreiber sozialer Netzwerke bereits eigene Meldewege und Kontrollverfahren geschaffen haben, mit denen terroristische oder sonstige den Nutzungsrichtlinien widersprechende Inhalte gemeldet, entfernt oder gesperrt werden können. Der Bundesrat regt an, für diese Betreiber die Möglichkeit eines gestuften Vorgehens einzuführen, das erst beim Fehlen wirksamer und effektiver Selbstregulierungen hoheitliche Entfernungs- und Sperrungsanordnungen vorsieht.
- d) Aus Sicht des Bundesrates sollte erwogen werden, ob das gemäß Artikel 10 des Verordnungsvorschlags vorgesehene Beschwerdemanagement dahingehend geändert werden sollte, dass Beschwerden von Inhalteanbietern gegen vollzogene Entfernungs- und Sperrungsanordnungen nicht bei den Hostingdiensteanbietern, sondern bei den zuständigen Behörden einzulegen sind. Nach dem Verfahrenskonzept des Verordnungsvorschlags agieren die Hostingdiensteanbieter bei Entfernungsanordnungen lediglich als "verlängerter Arm" der Behörden, welche ihrerseits über das Vorliegen eines terroristischen Inhalts entschieden haben. Zur Vermeidung widersprechender Entscheidungen seitens des Hostingdiensteanbieters einerseits und der zuständigen Behörde andererseits sowie auf Grund der gemäß Artikel 4 Absatz 4 des Verordnungsvorschlags vorgesehenen Regelung, dass Hostingdiensteanbieter nur auf Antrag über die Gründe einer Entfernungsanordnung in Kenntnis gesetzt werden, erscheint es sachgerecht, das Beschwerdeverfahren allein bei den zuständigen Behörden einzurichten.
- e) Der Bundesrat regt an, im Interesse einer einheitlichen Rechtsanwendung den Begriff der zuständigen Behörde zu präzisieren und so viele Befugnisse wie möglich bei einer Behörde zu bündeln. Dies gilt insbesondere für die Befugnisse gemäß Artikel 17 Absatz 1 Buchstaben a bis c des Verordnungsvorschlags, da die Voraussetzung für ihre Anwendung ein einheitliches Verständnis von terroristischen Inhalten seitens der staatlichen Stelle ist.
21. Ebenso unklar und unpräzise sind die Vorschriften für die einzelnen Mitgliedstaaten, die für den Fall des Verstoßes gegen die Verpflichtungen durch den Hostingdiensteanbieter Vorschriften zu Sanktionen jeweils in eigener Verantwortung zu erlassen haben.
22. Nicht nachvollziehbar für den Bundesrat ist die in dem Verordnungsvorschlag vorgeschlagene jährliche Berichterstattungspflicht der Mitgliedstaaten, da eine Berichterstattung der Kommission erst nach zwei Jahren (Umsetzungsbericht) bzw. drei Jahren (Evaluierungsbericht) erfolgen soll.
23. Der Bundesrat bittet die Bundesregierung, diese Positionen im weiteren Verfahren auf EU-Ebene vorzubringen und darauf hinzuwirken, dass die hoheitlichen Rechte der Länder gewahrt werden.
24. Der Bundesrat übermittelt diese Stellungnahme direkt an die Kommission.

25. Der Rechtsausschuss empfiehlt dem Bundesrat, von der Vorlage gemäß §§ 3 und 5 EUZBLG Kenntnis zu nehmen.