Netzpolitik Politische Gestaltung zwischen Uploadfiltern und Standortdaten

Die Inhalte dieser Seite sind entstanden in Zusammenarbeit mit: 
Digitalcourage e. V.

Entstehung der Netzpolitik

Als in den 70er und 80er Jahren des 20. Jahrhunderts das Internet entstand, war es hauptsächlich auf die Lösung technischer Probleme gerichtet: Wie bekomme ich eine Nachricht zuverlässig von A nach B? Wie kann ich Rechenzeit und teuren Speicherplatz sparen? Mit der wachsenden Verbreitung und Brauchbarkeit des Netzes im Alltag wuchs dann in den 90er Jahren auch das gesellschaftliche Interesse daran. Die Netzpolitik entstand.

Der Begriff der Netzpolitik wurde von einer emanzipativen Gesellschaftsbewegung geprägt, die sich die Verteidigung von Bürger_innenrechten, insbesondere Meinungsfreiheit und Schutz der Privatsphäre, auf die Fahnen geschrieben hatte. Für diese Bewegung bedeutete das Internet die Möglichkeit einer freien, offenen, selbstbestimmten und unhierarchischen Gesellschaft. Die von John Perry Barlow 1996 veröffentlichte Unabhängigkeitserklärung des Cyberspace dokumentiert dies.[1] Ein wesentliches Ziel dieser Bewegung war der Versuch, die Kommerzialisierung des Netzes zu verhindern, welches anfangs fast ausschließlich in öffentlich-wissenschaftlicher und zivilgesellschaftlicher Hand lag.

Gleichzeitig wurden Bereiche des Internets, seiner Regulierung und Kultur, in der parlamentarischen Arbeit und staatlichen Verwaltungspraxis immer unterschiedlichen Politikfeldern zugeteilt. Chancen der Digitalisierung wurden primär in wirtschaftspolitischen Kontexten verhandelt, während Infrastrukturfragen wie der Ausbau des Internets in den Verkehrsressorts landeten. Sicherheitspolitische Aspekte wurden bald von der Innenpolitik, den Polizeien und Geheimdiensten bearbeitet. Es entstanden Cybertruppen und Cyberpolizeien. Ein Ministerium für Netzpolitik aber gab es in Deutschland noch nie.

Netze, Rechner, Algorithmen

Tatsächlich bestimmen die Datennetze unser Leben in vielen Bereichen so grundlegend, dass es möglicherweise gar nicht angemessen wäre, nur ein einzelnes Ministerium für solch einen weitgestreuten Bereich zu bestimmen.

Das Netz ist so wichtig, weil es die unzähligen Computer verbindet, die unser Leben inzwischen bestimmen. Glaubt man dem einflussreichen amerikanischen Computersicherheitsforscher Bruce Schneier, so sind fast alle technischen Geräte unserer Umwelt zu Computern geworden.[2] Das Auto, früher eine mechanische Maschine mit maximal einem Computer, ist ein Rechnerverbund aus 20 bis 50 Systemen geworden, der Menschen und Dinge transportieren kann. Kühlschränke sind zunehmend Computer, die Lebensmittel kühlen können. Unsere Telefone wurden mit der Einführung des iPhone zu leistungsstarken kleinen Rechenzentren.

Computer steuern zu großen Teilen unseren Verkehr, unsere Wirtschaft und zunehmend auch weitere gesellschaftliche Bereiche. Sie schlagen im Krankenhaus Alarm, wenn unser Herzschlag stoppt und sie verrichten Arbeiten, die früher von Menschen verrichtet wurden (z. B. Autos am Fließband montieren, Telefonverbindungen vermitteln[3] oder journalistische Meldungen schreiben[4]). Sie generieren unvorstellbare Profite, handeln eigenständig an Börsen, sagen die Zukunft voraus (z. B. unter dem Stichwort Predictive Policing[5]) und überwachen Plätze und Straßen. Sie speichern unsere Spuren und erlauben es uns, in virtuelle Welten abzutauchen, wo wir jemand völlig anderes sein können.

Die Logik der Rechner und Netze wird durch Algorithmen bestimmt. Sie bestimmen zunehmend, welche Informationen wir bekommen und welche nicht. Algorithmen bewerten unsere finanzielle und soziale Vertrauenswürdigkeit und bestimmen in China auch schon Schulnoten.[6] Letztlich bewerten sie immer mehr uns selbst sowie unser Verhalten und regeln die Welt um uns herum entsprechend. Das ist angenehm, wenn wir eine grüne Ampelwelle geschaltet bekommen oder uns eine warme Heizung erwartet, wenn wir nach Hause kommen. Aber was passiert, wenn davon unser Zugang zu Krediten, einer Wohnung oder einem Arbeitsplatz abhängen? Werden wir dann noch unbeschwert unsere Meinung sagen oder lieber stillschweigen, weil eine aufrichtige Meinungsäußerung ja unser Scoring, also die Zuteilung eines Punktwertes zu einem Menschen zum Zweck der Verhaltensprognose oder Verhaltenssteuerung,[7] verschlechtern könnte? Trauen wir uns noch, Missstände zu kritisieren, wenn dies mit sozialen Strafpunkten beim nächsten Vorstellungsgespräch verbunden ist? Und was für Folgen hat das dann für unsere Demokratie?

Weitere Beispiele für automatisierte Entscheidungssysteme und die gesellschaftlichen Implikationen von Machine-Learning-Systemen finden Sie im Themenschwerpunkt Künstliche Intelligenz.

Technik und Gesellschaft

Bei manchen Problemen scheint Technik verführerisch leichte Lösungen anzubieten. Doch ist eine technische Lösung immer die beste, wenn es um soziale Probleme geht? Rigide Uploadfilter können ein Forum, in dem Beleidigungen und hasserfüllte Kommentare überhandnehmen, in ein Feld der guten Laune verwandeln. Aber wird dadurch nicht allzu leicht auch berechtigte und reflektierte Kritik mit aussortiert, die wir brauchen, damit sich die Gesellschaft weiterentwickelt?

In einer Demokratie sind alle aufgerufen, die Gesellschaft nach ihren Wünschen zu gestalten. Das bedeutet nicht, dass alles umgesetzt werden kann oder soll, was sich Einzelne wünschen. Aber die Gesellschaft befindet sich in einem beständigen Diskussionsprozess, in dem verhandelt wird, welche Ziele, Schranken und Regeln sie sich setzen will. Gerade im netzpolitischen Feld stehen in dieser Zeit viele gravierende Entscheidungen an, die das Aussehen unserer Gesellschaft in der Zukunft mitbestimmen werden.

Datenkapitalismus

Das neue Wirtschaftsprinzip, das mit den technischen Änderungen des Internets ermöglicht wird, wird von manchen Theoretiker_innen als Datenkapitalismus oder auch Überwachungskapitalismus bezeichnet.[8] Es wird angetrieben durch Daten, die wir Unternehmen im Tausch gegen Güter (z. B. kostenlose Dienste, Nachlässe auf Einkäufe, Speicherplatz) preisgeben.[9] Menschen sind in diesem Konzept teils nicht mehr die bestimmenden, ausführenden Lenkenden, sondern sie werden zur Datenquelle und letztlich zum Produkt. Ein erster Schritt zum Datenkapitalismus ist die Sammlung so vieler Daten wie möglich, aus so vielen Quellen wie möglich und die Verbindung dieser Daten (vgl. Big Data). Datensammlungen wachsen überall und sind allgegenwärtig: Konzerne möchten wissen, wieviel wir ausgeben können, um uns zu mehr Ausgaben zu animieren. Der Staat möchte z. B. wissen, wie viele Menschen morgens von A nach B fahren, um eine bessere Verkehrsplanung zu gewährleisten. Aus der Verbindung beider Informationen kann man erkennen, an welchen Straßen sich Werbung für Luxusprodukte eher rechnet als an anderen.

Die Sammlung von Daten kann natürlich auch Vorteile für eine Gesellschaft bieten: Kontaktwege von Infektionen können verfolgt werden, Patient_innendaten können bei der Suche nach Heilungsmöglichkeiten (z. B. von Krebs) helfen. Verkehr kann flüssiger fließen und Maschinen können effizienter (und damit vielleicht umweltfreundlicher) eingesetzt werden.

Open Data

In der Open-Data-Bewegung haben sich daher Menschen versammelt, die zusammen Daten sammeln, aufbereiten und für die Allgemeinheit zur Verfügung stellen. Sie glauben, dass frei nutzbare Daten zu mehr Transparenz und Zusammenarbeit führen.  Aus dem Geist dieser Bewegung entstanden u. a. der freie Geokartendienst Open Street Map oder das Projekt luftdaten.info, in dem Freiwillige eigene Feinstaubsensoren bauen und die damit gemessenen Daten an zentrale Projektserver schicken. So können die Hobbyforscher_innen ein aktuelles Bild der Feinstaubbelastung in der ganzen Bundesrepublik und Teilen von Europa geben.

Allerdings sind Open Data-Daten auf solche beschränkt, die nicht personenbezogen sind, d. h. es werden durch diese Bewegung keine Daten gesammelt, durch die einzelne Personen identifiziert werden könnten. Dadurch können offene Daten nur eingeschränkt mit den Datenseen von datengetriebenen Unternehmen konkurrieren, die zumeist gerade an personenbezogenen Daten interessiert sind. Ob durch den Einsatz von Open Data in der öffentlichen Verwaltung und in der Zivilgesellschaft Datenkapitalismus verhindert werden kann, muss daher fraglich erscheinen.

In der Diskussion um Möglichkeiten, den Datenkapitalismus einzuhegen, stehen daher aktuell eher Konzepte der Staatsregulierung (z. B. gesetzliche Verbote bestimmter Gewinnerzielungsarten oder gesetzliche Vorgaben zum Datenschutz[10]) oder des alternativen Tauschhandels. So hat etwa der US-amerikanische Unternehmer, Informatiker und Autor Jaron Lanier den umstrittenen Vorschlag gemacht, von Datenunternehmen einen Preis zu verlangen, wenn sie Informationen von Nutzer_innen erhalten und im Gegenzug kostenlose Dienste im Internet abzuschaffen.[11]

Standortdaten

Auch wenn in der Verbindung verschiedener Datentypen aus verschiedenen Quellen die besondere Stärke der Datensammlung liegt, so gibt es doch bestimmte Arten von Daten, die besonders brisant sind. Zu den brisantesten zählen hierbei die Standortdaten, also jene Daten, die die genaue geographische Position einer Person wiedergeben. Mit ihrer Hilfe sind sowohl genaue Routenplanungen möglich als auch die Kontrolle von Menschen. Eltern können genau verfolgen, wo sich ihre Kinder gerade aufhalten, aber wenn die Daten nicht gut gesichert sind, können dies auch andere Personen. In Polen werden Quarantäneauflagen durch die Polizei mit Hilfe von Standortdaten und Fotos überprüft[12] und die amerikanischen Geheimdienste nutzen Standortdaten – sogar indirekte Geolokation -, um Menschen zu eliminieren.[13]

Alle diese Problemfelder sind durch ausgeprägte Machtasymmetrien gekennzeichnet. Die Überwachten können nicht viel ausrichten und ihre Überwachung verstärkt die ungleichen Machtverhältnisse noch. Während dies im Fall einer Schutzfunktion (wie etwa der Eltern-Kind-Beziehung) gegebenenfalls legitimierbar ist, dienen Überwachung und Tracking in den meisten Fällen doch eher der Vertiefung von Machtgefällen.

Datenschutz

Solche Machtgefälle auszugleichen und den im Datenverkehr Schwächeren stärkere Rechte zu verleihen ist eines der Hauptziele des Datenschutzes. Sein Gegenstand ist nicht der Schutz von Daten, sondern der Schutz von Menschen, die durch datenbasierte Machtgefälle Nachteile erleiden könnten.

Zum Teil lassen sich solche Machtungleichverteilungen durch Digitale Selbstverteidigung verbessern. Durch reflektierten Umgang mit den eigenen Geräten und Daten, durch Verschlüsselung und die Nutzung dezentraler Systeme lassen sich die eigenen Daten besser schützen. Allerdings können diese Techniken immer nur kurzfristig und punktuell wirken. Ist mein Smartphone geschützt, gilt das noch nicht für die anderen Smartphones in meiner Familie. Das Problem, die Gesellschaft insgesamt resilienter und datengerechter zu gestalten, kann nicht von Einzelnen allein gelöst werden. Nur demokratische Debatten und ihre Umsetzung in Gesetze können dies im großen Stil leisten.

Die Datenschutzgrundverordnung (DS-GVO) ist ein solches Gesetz, das versucht, den Datenschutz zu stärken, indem es die Macht von Behörden und Unternehmen durch Transparenz (Auskunfts-, Löschungs- und Änderungsansprüche) begrenzt. Gleichzeitig wird die Position von Verbraucher_innen und Bürger_innen gestärkt, indem sie das Recht erhalten, ihre Daten in vielen Fällen für sich zu behalten (Erfordernis der informierten Einwilligung).

Uploadfilter

Während bei Standortdaten das zentrale Problem sein kann, dass Daten von Menschen fließen, die diese lieber für sich behalten würden, kommt es bei Uploadfiltern zum umgekehrten Problem: Menschen möchten etwas mit der Welt teilen, aber Uploadfilter könnten das verhindern.

Tatsächlich sind Uploadfilter dazu da, den Fluss von Daten zu unterbinden, die "unerwünscht" sein können. Was dieses Unerwünschte ausmacht ist eine Frage, die von Konzernen und Staaten entschieden oder gesellschaftlich diskutiert und gestaltet werden kann. Während etwa der chinesische Staatskapitalismus per Dekret entscheidet, was unerwünscht ist, können demokratische Rechtsstaaten darüber in freiem Gedankenaustausch debattieren und parlamentarisch entscheiden.

Die bekanntesten Uploadfilter sind solche, die gegen Verstöße gegen das Urheberrecht eingesetzt werden. Aber auch zur Bekämpfung terroristischer Inhalte und Hassrede werden Uploadfilter angedacht[14] und zum Teil auch schon eingesetzt (etwa in – bislang freiwilligen – Filtern bei Facebook, Twitter, YouTube und Microsoft).[15] In China wird deutlich, dass Uploadfilter eine höchst wirksame Unterdrückung von missliebigen Inhalten aller Art leisten können. So etwa die Darstellung von Pu dem Bären, da er in Satiren über den Präsidenten Xi Jinping auftauchte.[16] Dass aber auch trotz Bemühungen, Zensur und Fehleinschätzungen zu vermeiden, Inhalte ausgefiltert werden, die eigentlich legal sind, ist ein Seiteneffekt von Uploadfiltern, solange diese nicht eine Trefferquote von 100% aufweisen.[17]

Bild: iStock / enjoynz [M]

Uploadfilter

Was ist der Sinn und Zweck von Uploadfiltern? Was steckt hinter Artikel 13? Und warum gilt die Verwendung der Uploadfilter als umstritten?

Zum Workshop

Bild: iStock / PhonlamaiPhoto [M]

Standortdaten

Was weiß mein Smartphone über mich, wenn ich online nach dem Weg schaue? Wofür können Standortdaten genutzt werden, und in welchen Situationen ist das zu befürworten? Welche Kontrolle habe ich noch über meine Daten?

Zum Workshop

Quellen

[1] Barlow, J. P. (1996, Februar 29). Unabhängigkeitserklärung des Cyberspace. Telepolis. https://www.heise.de/tp/features/Unabhaengigkeitserklaerung-des-Cyberspace-3410887.html

[2] Schneier, B. (2019). Click Here to Kill Everybody (1. Aufl.). MITP Verlags GmbH.

[3] Wikipedia. (o. D.). Telefonist. Abgerufen am 13. November 2020, von https://de.wikipedia.org/wiki/Telefonist

[4] Holland, M. (2017, 15. August). Nachrichten von Algorithmen: Journalisten fordern Kennzeichnung. heise online. https://heise.de/newsticker/meldung/Nachrichten-von-Algorithmen-Journalisten-fordern-Kennzeichnung-3802269.html

[5] Peteranderl, S. (2019, 12. September). Predictive Policing: Dem Verbrechen der Zukunft auf der Spur. netzpolitik.org. https://netzpolitik.org/2019/predictive-policing-dem-verbrechen-der-zukunft-auf-der-spur; Wikipedia. (o. D.-a). Predictive Policing. Abgerufen am 13. November 2020, von https://de.wikipedia.org/wiki/Predictive_Policing

[6] Wiggers, K. (2018, 28. Mai). Chinese schools are testing AI that grades papers almost as well as teachers. VentureBeat. https://venturebeat.com/2018/05/28/chinese-schools-are-testing-ai-that-grades-papers-almost-as-well-as-teachers/

[7] Kayser-Bril, N. (2019, 7. August). Personen-Scoring in der EU: vorerst kein Black-Mirror-Szenario – zumindest nicht für alle. AlgorithmWatch. https://algorithmwatch.org/personen-scoring-in-der-eu-vorerst-kein-black-mirror-szenario-zumindest-nicht-fuer-alle/; Ammon, I. (2020, 10. März). Social Scoring – eine chinesische Erfindung? HIIG. https://www.hiig.de/scoring-eine-chinesische-erfindung/

[8] Zuboff, S. (2018). Das Zeitalter des Überwachungskapitalismus. Campus Verlag.

[9] Kretschmer, T., Wiewiorra, L., Krämer, J., Oehler, A., Horn, M., Haucap, J., Klein, S. & Hüllmann, J. (2018). Datenkapitalismus — Eine ökonomische Betrachtung. Wirtschaftsdienst, 98(7), 459–480. https://doi.org/10.1007/s10273-018-2318-3

[10] Zuboff (2018)

[11] Lanier, J. (2014): Wem gehört die Zukunft? Hoffman und Campe Verlag.

[12] mdr.de. (2020, 9. April). Quarantäne-App in Polen: Selfie für die Polizei. https://www.mdr.de/nachrichten/osteuropa/land-leute/corona-app-quarantaene-polen-100.html

[13] Holland, M. (2014, 12. Mai). Ex-NSA-Chef: „Wir töten auf Basis von Metadaten“. heise online. https://heise.de/-2187510

[14] Reda, J. (2020): Bundesregierung will Pflicht von Uploadfiltern in Terrorverordnung. netzpolitik.org. https://netzpolitik.org/2020/bundesregierung-will-pflicht-von-uploadfiltern-in-terrorverordnung/; Beckedahl, M. Und Krüger, J. (2018): EU-Innenminister fordern Uploadfilter gegen Hass und terroristische Handlungen, netzpolitik.org, https://netzpolitik.org/2018/eu-innenminister-fordern-uploadfilter-gegen-hass-und-terroristischen-handlungen/

[15] Heldt, A. P. (2018): Intelligente Upload-Filter: Bedrohung für die Meinungsfreiheit?, In: Mohabbat Kar, Resa, Thapa, Basanta E.P., Parycek, Peter (Hg.) 2018. (Un)Berechenbar? Algorithmen und Automatisierung in Staat und Gesellschaft. Berlin: Kompetenzzentrum Öffentliche IT ÖFIT, Fraunhofer-Institut für Offene Kommunikationssysteme FOKUS

[16] Süddeutsche Zeitung (2017, Juli 17): Pu der Bär ist in China in Ungnade gefallen, https://www.sueddeutsche.de/panorama/china-pu-der-baer-ist-in-china-in-ungnade-gefallen-1.3591550

[17] Mrohs, L. (2019, April 24): Uploadfilter: Eine Geschichte voller Fails, netzpolitik.org, https://netzpolitik.org/2019/uploadfilter-eine-geschichte-voller-fails/; Reinboth, C. (2019): Einsatz eines Uploadfilters, Übungsaufgabe zum Satz von Bayes, https://wissenschafts-thurm.de/uebungsaufgabe-zum-satz-von-bayes-einsatz-eines-uploadfilters/