Big Data und der „Überwachungskapitalismus“
Der Überwachungskapitalismus bedient sich des Digitalen, ist mit dem Digitalen aber nicht gleichzusetzen. Die Praktiken der Überwachungskapitalisten dürfen auch nicht mit den eingesetzten Technologien verwechselt werden. Die Erzählung von der technologischen Unvermeidbarkeit ist eine Irreführung und der Versuch, „der Öffentlichkeit kommerzielle Imperative als technische Notwendigkeiten anzudrehen.“ 1
Im Gewand des technologischen Determinismus hat eine außer Kontrolle geratene Spielart des Kapitalismus fast alle Wirtschaftsbereiche auf der ganzen Welt erfasst mit dem Ziel, „menschliches Handeln vorherzubestimmen und jeglichen Widerstand ebenso wie jegliche Kreativität aus dem Text menschlicher Möglichkeiten zu löschen.“ 2
Der Überwachungskapitalismus trackt und formt menschliches Verhalten im Sinne der Ziele und ökonomischen Vorteile weniger Privilegierter.
Diese Einschätzungen stammen von der US-amerikanischen Wirtschaftswissenschaftlerin und emeritierten Professorin der Harvard Business School Shoshana Zuboff. Aber wie konnte es soweit kommen?
1. Platzen der Dotcom-Blase
Die Geburtsstunde des digitalen Überwachungskapitalismus geht zurück auf den Kollaps der sog. Dotcom-Blase, als im Frühjahr 2000 hochbewertete Unternehmen der New Economy an der Börse abstürzten und das Vertrauen der Venture-Kapitalisten zu verlieren drohten. In der Folge setzten die Nachfolger der untergegangenen Internetunternehmen, angeführt von Google, radikal auf datengetriebene Geschäfts- und Erlösmodelle, um Wachstum zu generieren und die Erwartungen der Analysten zu erfüllen. Die Unternehmen entdeckten, dass Menschen im Internet viel lieber miteinander kommunizierten und sich über ihre Wünsche und Interessen austauschten als Produkte zu kaufen, und machten sich daraufhin „selbst zum Dreh- und Angelpunkt dieses sozialen Austausches“, um daraus Wachstum und Profit zu erzeugen.
Die Kaperung des Internets durch Regierungen und Unternehmen beendete „einen kurzen, wunderschönen Zeitraum“, in dem „das Internet vorwiegend von Menschen für Menschen gemacht“ wurde mit dem Ziel, aufzuklären, zu experimentieren und Wissen anzuhäufen.3 Edward Snowden bezeichnete diesen Kipppunkt als den „Tod des Internets, wie ich es kannte.“4 Die Privatsphäre der Menschen, die bisher außerhalb des Marktes stand, war das letzte Gut, das noch ausgebeutet werden konnte. Die letzten menschlichen Reservate wie Erfahrungen und Erlebnisse, Verhalten und Neigungen, aber auch das Zuhause und sogar ganze Stadtbevölkerungen wurden zum „kostenlosen“ Rohstoff deklariert, zu Produkten (Smartphone, Smart Home, Smart City) veredelt und als Ware gehandelt. Verhaltensdaten, die bisher quasi als Abfall- und Nebenprodukte der Online-Werbung aus menschlichen Erfahrungen generiert wurden und nur zum Teil der Verbesserung von Produkten und Dienstleistungen dienten, werden heute zum größeren Teil als „Verhaltensüberschuss“ mit erheblichem Vorhersagewert abgeschöpft und zu Geld gemacht. Dieser „Verhaltensüberschuss“ wird mittels Maschinenintelligenz zu Vorhersageprodukten über künftige Entscheidungen und Verhaltensweisen verarbeitet und auf speziellen „Verhaltensterminkontraktmärkten“, wie Zuboff sie nennt, an Unternehmenskunden weiterverkauft.5 Dies sind Märkte, auf denen Wetten auf zukünftiges Verhalten abgeschlossen und letzte Gewissheiten an Werbekunden verkauft werden.
Google & Co.: Im Netz des Neokapitalismus — Im ersten Teil der Sendung führt Gerd Scobel in die Welt des Überwachungskapitalismus ein.
The Social Dilemma: Wie Google & Co. uns verkaufen — Im zweiten Teil der Sendung erklärt Gerd Scobel die Entwicklung, die der Kapitalismus seit Mitte des 20. Jahrhunderts genommen hat und beschreibt die Geschäftsmodelle, auf denen heute der Erfolg der Tech-Giganten beruht.
2. Globale Ernte
Die großen Internetplattformen wie Google, Facebook oder Amazon muss man sich, bildlich gesprochen, als globale Erntemaschinen vorstellen, die im Rahmen einer immer weiter ausufernden Extraktionsarchitektur ohne unser Wissen und vorbei am menschlichen Bewusstsein einen beispiellosen Zugang zur menschlichen Privatsphäre gelegt haben, um sie auszubeuten.
Die jüngsten Pläne von Facebook und anderen Tech-Unternehmen, ein sog. Metaverse zu schaffen, eine begehbare virtuelle Realität, die Menschen mittels AR/VR-Technologien mit ihren Körpern betreten können, dienen einzig dem Ziel, auch in Zukunft der „Dreh- und Angelpunkt“ der globalen Kommunikation zu bleiben und Menschen dazu zu verleiten, das zu teilen, was ihnen am wichtigsten ist. Jedes Smartphone, jedes vernetzte Gerät, jeder Sensor, jede Sprachnachricht, jede Gesichts- und Stimmerkennung wird zum Nachschublieferanten von weiterem „Verhaltensüberschuss“. Shoshana Zuboff ist davon überzeugt, dass jedes Unternehmen versucht, „von dieser universellen Enteignung privater Erfahrung zu profitieren.“6
2.1 Google als Marktplatz
Google ist nicht nur eine Suchmaschine, sondern auch ein Marktplatz, der von Marketing-Experten darauf getrimmt wird, Momente der Intimität und Verletzlichkeit, der Unsicherheit und der Schwäche auszunutzen und Informationen über Gesundheit, seelische Befindlichkeiten und innerste Bedürfnisse an Werbekunden zu verkaufen. Google monetarisiert die Lebensumstände von Menschen, anstatt ihnen Hilfsangebote zu schicken und sie aufzufangen. Die Werbekunden profitieren von diesen in Form von Suchanfragen gelieferten Hilfeersuchen und nutzen diese Schwächen gnadenlos aus.
Made to measure — Der Dokumentarfilm beschreibt diese Marketingpraktiken und lässt eine Schauspielerin das Leben einer ihr völlig unbekannten Frau, die ihre gesammelten Google-Suchanfragen der letzten 5 Jahre zur Verfügung gestellt hat, rekonstruieren und nachspielen.
Die höchsten Profite versprechen jene Daten, welche die besten Vorhersagen ermöglichen. Dies geschieht, indem steuernd in das Leben der Menschen eingegriffen und ihr Verhalten „aktiv in Richtung profitabler Ergebnisse“ gestupst wird mit dem Ziel, „es in Richtung eines garantierten kommerziellen Erfolges zu manipulieren.“7 Diese Geschäftsmodelle haben sich zu einem „Standardmodell praktisch aller webbasierten Unternehmen“8 entwickelt, so dass es kaum noch möglich ist, Google zu vermeiden und diesen Praktiken auszuweichen. Der Gewinn des Google-Mutterkonzerns Alphabet, der im dritten Quartal 2021 um 69 Prozent auf 18,9 Milliarden Dollar wuchs9, mag dies veranschaulichen.
Big Tech Detective — eine Browser-Erweiterung für Chrome und Firefox, die veranschaulicht, in welchem Ausmaß die Tech-Giganten bereits die digitale Infrastruktur beherrschen. Die Erweiterung tut dies, indem sie alle Websites, die Daten an Amazon, Facebook, Google und Microsoft übertragen, blockiert.
„Wenn es nichts kostet, bist Du das Produkt“
„Wenn es nichts kostet, bist Du das Produkt“
Während der US-amerikanische Informatiker und Autor Jaron Lanier in seinem 2014 erschienen Buch „Wem gehört die Zukunft?“ davon sprach, dass wir nicht die Kunden der Internet-Konzerne, sondern ihr Produkt seien, versucht Shoshana Zuboff die aktuelle Situation mit einer anderen Metapher zu fassen.
Mit Blick auf diese invasiven Geschäftsmodelle wendet Shoshana Zuboff sich gegen das Klischee „Wenn es nichts kostet, bist Du das Produkt“ und beschreibt die Situation des Individuums im Zeitalter des Überwachungskapitalismus mit einer Analogie: Individuen seien „mitnichten das Produkt, sondern lediglich die kostenlose Quelle für den Rohstoff“, der die Grundlage für die Entwicklung handelbarer Güter bilde. Überwachungskapitalisten seien wie Wilderer, die „Profit aus unserem Verhalten“ ziehen und „die Bedeutung, die unseren Körpern, unseren Gehirnen, unseren schlagenden Herzen innewohnt, achtlos liegen“ lassen. Individuen seien eben nicht das Produkt: „Sie sind der zurückgelassene Kadaver. Das ‚Produkt‘ zieht man aus dem Verhaltensüberschuss, den man ihrem Leben entreißt.“ 10
2.2 Massenüberwachung nach 9/11
Begünstigt wurden diese neuen Geschäftsmodelle durch eine langanhaltende Phase weltweiter Deregulierung und eine globale Massenüberwachung nach 9/11, als die US-Sicherheitsbehörden damit begannen, die kommerzielle Überwachung aktiv zu fördern und jene Datensammelpraktiken forcierten, die Edward Snowden im Sommer 2013 öffentlich machte.
Die in die Kritik geratenen Tech-Unternehmen stemmen sich seither mit aller Macht gegen gesetzliche Regulierungen, welche die Privatsphäre im Internet zu schützen und die Extraktion von Verhaltensüberschuss zu verbieten versuchen. Die Verachtung, die dabei dem Recht entgegengebracht wird, drückt sich darin aus, dass es entweder für veraltet und für unvereinbar mit den neuen Technologien erklärt wird11 oder zum Ausgangspunkt einer Risikoanalyse genommen wird, die abwägt, ob der zu erwartende Gewinn die Strafe für den kalkulierten Rechtsbruch aufwiegt.
Eine subtilere Form, einen demokratischen Konsens in Richtung der Ziele des Überwachungskapitalismus herbeizuführen, ist das Insistieren der Unternehmen auf freiwillige Selbstregulierung oder weniger restriktiven Gesetzesvorhaben, die nicht mit ihren Gewinnabsichten kollidieren sowie die Lenkung der Diskurse über umstrittene Hochrisikotechnologien wie Künstliche Intelligenz oder Gesichtserkennung in für sie ungefährlicheres Fahrwasser.
- Überwachung — Überwachung ist ein Machtgefüge der Beobachtung, Kontrolle und Beeinflussung von Individuen aus politischem oder ökonomischem Interesse. Sie geschieht ausschnitthaft oder auch allgegenwärtig und ist oft institutionalisiert und technisch gestützt. In Diskursen zur Überwachung werden meist Aspekte des Persönlichkeitsrechts, insbesondere Fragen der informationellen Selbstbestimmung relevant.
- Künstliche Intelligenz — Forschungsfeld in der Informatik und technologisches Anwendungsfeld zur Automatisierung als intelligent angesehenen Verhaltens im Sinne einer selbstständigen und effizienten Problemlösung durch Maschinen.
3. Ethics-Washing — Ethik als Feigenblatt?
Seit 2016 verstärken die Unternehmen des Silicon Valley ihre strategische Lobbyarbeit zur Beeinflussung von Gesetzgebung und akademischer Forschung, in dem sie die Diskurse in eine für alle akzeptable Richtung stupsen und Forschung zu „ethischer“ KI, „fairen“ Algorithmen, „verantwortungsvollen“ Risikobewertungsinstrumenten, „vertrauenswürdiger“ KI oder „unvoreingenommener“ Gesichtserkennung fördern, um ein gesetzliches Verbot dieser Technologien zu verhindern und ihre Produkte in den Markt drücken können.12
Der Philosoph Thomas Metzinger, Mitglied einer „Hochrangigen Expertengruppe“ der EU-Kommission zur Regulierung von Künstlicher Intelligenz, bezeichnet das Einspannen der Ethik für Unternehmenszwecke als „Ethics-Washing“ und kritisiert, dass die Konzerne „ethische Pseudo-Debatten“ organisieren, um die Technologien in der öffentlichen Diskussion als sauber erscheinen zu lassen. Er bedauert, dass Unternehmen Ethik als Dekoration im Kampf um die öffentliche Meinung missbrauchen und ihre eigenen „Fake-Ethiker“ heranziehen.13
- Algorithmus — Eine wohl definierte Rechenvorschrift, die bestimmte Eingabegrößen in Ausgabegrößen umwandelt und zur Lösung von mathematischen Problemstellungen dient. Alle in einem Computerprogramm ablaufenden Prozesse basieren auf Algorithmen.
Welche Macht den bürgerlichen Rechtsstaaten und den Zivilgesellschaften (und auch den klassischen Industrieunternehmen) gegenübersteht, mögen Zahlen verdeutlichen, die den Börsenwert der Plattformökonomien, insbesondere der „FAANG” (Börsenjargon für Facebook, Apple, Amazon, Netflix und Google Alphabet) angeben.14
Quellen
Quellen
1 Zuboff, S. (2018). Das Zeitalter des Überwachungskapitalismus. Frankfurt/New York: Campus, hier S. 30.
2 Zuboff, S. (2019, 07. Juni). Surveillance Capitalism – Überwachungskapitalismus. Essay. Aus Politik und Zeitgeschichte, 69(24–26), hier S. 9.
3 Snowden, E. (2019). Permanent Record. Meine Geschichte. Frankfurt am Main: Fischer Verlage, hier S. 60 ff.
4 Snowden, 2019, S. 14.
5 Vgl. Zuboff, 2019.
6 Zuboff, 2019, S. 5.
7 Zuboff, 2019, S. 7.
8 Zuboff, 2018, S. 25.
9 Vgl. Gewinne, Gewinne, Gewinne. Google und Microsoft profitieren vom Online-Boom, stehen aber unter Beobachtung. (2021, 28. Oktober). Süddeutsche Zeitung, Nr. 250, S. 19.
10 Zuboff, 2019, S. 5.
11 Vgl. Zuboff, 2018, S. 130 ff.
12 Ochigame, R. (2019, 20. Dezember). The Invention of “Ethical AI”. How Big Tech Manipulates Academia to Avoid Regulation. The Intercept. Abgerufen am 17. Mai 2022, von https://theintercept.com/2019/12/20/mit-ethical-ai-artificial-intelligence/
13 Metzinger, T. (2021, 22. April). “Unternehmen nutzen uns als Dekoration“. Der Philosoph Thomas Metzinger rang in einer EU-Expertengruppe um den fairen Einsatz von Algorithmen und prallte mit Industrievertretern zusammen. Was er von den EU-Plänen zu Gesichtserkennung und Deepfakes hält. Interview mit Jannis Brühl. Süddeutsche Zeitung, Nr. 92, hier S. 15.
14 Vgl. etwa https://www.finanzen100.de/top100/die-grossten-borsennotierten-unternehmen-der-welt/ und https://de.statista.com/statistik/daten/studie/1187049/umfrage/marktkapitalisierung-gafam/ und