• Über WordPress
    • WordPress.org
    • Dokumentation
    • Support
    • Feedback
  • Anmelden
  • Unsere Angebote

    Online-Kurse

    • BFP Begleitkurs Digital
    • Digital gegen Antisemitismus
    • eTeaching Expert
    • EOP Begleitkurs Digital
    • Facharbeit schreiben
    • Praxissemester Digital
    • Veränderung in der Schule bewirken

    Lernmodule

    • Bildungschancen
    • Coaching und Beratung
    • Digitale Lernmaterialien
    • Diversität
    • Gesundheit und Schule
    • Sonderpäd. Materialien
    • Methoden
    Teaser für den eTeaching Expert

    eTeaching Expert

    Das Schul­netz­werk im ZfL hat eine kos­ten­freie Fort­bil­dung zum eTea­ching Expert kon­zi­piert, die einen Online-Kurs und einen Blog mit eTea­ching ‑Impu­len beinhaltet.

    Weiterlesen

  • Zum ZfL
Digitale Lehre
  • Unsere Angebote

    Online-Kurse

    • BFP Begleitkurs Digital
    • Digital gegen Antisemitismus
    • eTeaching Expert
    • EOP Begleitkurs Digital
    • Facharbeit schreiben
    • Praxissemester Digital
    • Veränderung in der Schule bewirken

    Lernmodule

    • Bildungschancen
    • Coaching und Beratung
    • Digitale Lernmaterialien
    • Diversität
    • Gesundheit und Schule
    • Sonderpäd. Materialien
    • Methoden
    Teaser für den eTeaching Expert

    eTeaching Expert

    Das Schul­netz­werk im ZfL hat eine kos­ten­freie Fort­bil­dung zum eTea­ching Expert kon­zi­piert, die einen Online-Kurs und einen Blog mit eTea­ching ‑Impu­len beinhaltet.

    Weiterlesen

  • Zum ZfL

Big Data und der „Überwachungskapitalismus“

  • Startseite
  • Big Data Literacy
  • Big Data und der „Überwachungskapitalismus“
zfl_bigdataliteracy_zuboff

Der Über­wa­chungs­ka­pi­ta­lis­mus bedient sich des Digi­ta­len, ist mit dem Digi­ta­len aber nicht gleich­zu­set­zen. Die Prak­ti­ken der Über­wa­chungs­ka­pi­ta­lis­ten dür­fen auch nicht mit den ein­ge­setz­ten Tech­no­lo­gien ver­wech­selt wer­den. Die Erzäh­lung von der tech­no­lo­gi­schen Unver­meid­bar­keit ist eine Irre­füh­rung und der Ver­such, „der Öffent­lich­keit kom­mer­zi­el­le Impe­ra­ti­ve als tech­ni­sche Not­wen­dig­kei­ten anzu­dre­hen.“ 1

Im Gewand des tech­no­lo­gi­schen Deter­mi­nis­mus hat eine außer Kon­trol­le gera­te­ne Spiel­art des Kapi­ta­lis­mus fast alle Wirt­schafts­be­rei­che auf der gan­zen Welt erfasst mit dem Ziel, „mensch­li­ches Han­deln vor­her­zu­be­stim­men und jeg­li­chen Wider­stand eben­so wie jeg­li­che Krea­ti­vi­tät aus dem Text mensch­li­cher Mög­lich­kei­ten zu löschen.“ 2

Der Über­wa­chungs­ka­pi­ta­lis­mus trackt und formt mensch­li­ches Ver­hal­ten im Sin­ne der Zie­le und öko­no­mi­schen Vor­tei­le weni­ger Privilegierter.

Die­se Ein­schät­zun­gen stam­men von der US-ame­ri­ka­ni­schen Wirt­schafts­wis­sen­schaft­le­rin und eme­ri­tier­ten Pro­fes­so­rin der Har­vard Busi­ness School Shosha­na Zub­off. Aber wie konn­te es soweit kommen?

Platzen der Dotcom-Blase

Die Geburts­stun­de des digi­ta­len Über­wa­chungs­ka­pi­ta­lis­mus geht zurück auf den Kol­laps der sog. Dot­com-Bla­se, als im Früh­jahr 2000 hoch­be­wer­te­te Unter­neh­men der New Eco­no­my an der Bör­se abstürz­ten und das Ver­trau­en der Ven­ture-Kapi­ta­lis­ten zu ver­lie­ren droh­ten. In der Fol­ge setz­ten die Nach­fol­ger der unter­ge­gan­ge­nen Inter­net­un­ter­neh­men ange­führt von Goog­le radi­kal auf daten­ge­trie­be­ne Geschäfts- und Erlös­mo­del­le, um Wachs­tum zu gene­rie­ren und die Erwar­tun­gen der Ana­lys­ten zu erfül­len. Die Unter­neh­men ent­deck­ten, dass Men­schen im Inter­net viel lie­ber mit­ein­an­der kom­mu­ni­zier­ten und sich über ihre Wün­sche und Inter­es­sen aus­tausch­ten als Pro­duk­te zu kau­fen, und mach­ten sich dar­auf­hin „selbst zum Dreh- und Angel­punkt die­ses sozia­len Aus­tau­sches“, um dar­aus Wachs­tum und Pro­fit zu erzeugen.

„Tod des Internets, wie ich es kannte“

Die Kape­rung des Inter­nets durch Regie­run­gen und Unter­neh­men been­de­te „einen kur­zen, wun­der­schö­nen Zeit­raum“, in dem „das Inter­net vor­wie­gend von Men­schen für Men­schen gemacht“ wur­de mit dem Ziel, auf­zu­klä­ren, zu expe­ri­men­tie­ren und Wis­sen anzu­häu­fen.3 Edward Snow­den bezeich­ne­te die­sen Kipp­punkt als den „Tod des Inter­nets, wie ich es kann­te.“4 Die Pri­vat­sphä­re der Men­schen, die bis­her außer­halb des Mark­tes stand, war das letz­te Gut, das noch aus­ge­beu­tet wer­den konn­te. Die letz­ten mensch­li­chen Reser­va­te wie Erfah­run­gen und Erleb­nis­se, Ver­hal­ten und Nei­gun­gen, aber auch das Zuhau­se und sogar gan­ze Stadt­be­völ­ke­run­gen wur­den zum „kos­ten­lo­sen“ Roh­stoff dekla­riert, zu Pro­duk­ten (Smart­pho­ne, Smart Home, Smart City) ver­edelt und als Ware gehan­delt. Ver­hal­tens­da­ten, die bis­her qua­si als Abfall- und Neben­pro­duk­te der Online-Wer­bung aus mensch­li­chen Erfah­run­gen gene­riert wur­den und nur zum Teil der Ver­bes­se­rung von Pro­duk­ten und Dienst­leis­tun­gen dien­ten, wer­den heu­te zum grö­ße­ren Teil als „Ver­hal­tens­über­schuss“ mit erheb­li­chem Vor­her­sa­ge­wert abge­schöpft und zu Geld gemacht. Die­ser „Ver­hal­tens­über­schuss“ wird mit­tels Maschi­nen­in­tel­li­genz zu Vor­her­sa­ge­pro­duk­ten über künf­ti­ge Ent­schei­dun­gen und Ver­hal­tens­wei­sen ver­ar­bei­tet und auf spe­zi­el­len „Ver­hal­tens­ter­min­kon­trakt­märk­ten“, wie Zub­off sie nennt, an Unter­neh­mens­kun­den wei­ter­ver­kauft.5 Dies sind Märk­te, auf denen Wet­ten auf zukünf­ti­ges Ver­hal­ten abge­schlos­sen und letz­te Gewiss­hei­ten an Wer­be­kun­den ver­kauft werden.

Goog­le & Co.: Im Netz des Neo­ka­pi­ta­lis­mus — Im ers­ten Teil der Sen­dung führt Gerd Sco­bel in die Welt des Über­wa­chungs­ka­pi­ta­lis­mus ein.

The Social Dilem­ma: Wie Goog­le & Co. uns ver­kau­fen — Im zwei­ten Teil der Sen­dung erklärt Gerd Sco­bel die Ent­wick­lung, die der Kapi­ta­lis­mus seit Mit­te des 20. Jahr­hun­derts genom­men hat und beschreibt die Geschäfts­mo­del­le, auf denen heu­te der Erfolg der Tech-Gigan­ten beruht.

Globale Ernte

Die gro­ßen Inter­net­platt­for­men wie Goog­le, Face­book oder Ama­zon muss man sich, bild­lich gespro­chen, als glo­ba­le Ern­te­ma­schi­nen vor­stel­len, die im Rah­men einer immer wei­ter aus­ufern­den Extrak­ti­ons­ar­chi­tek­tur ohne unser Wis­sen und vor­bei am mensch­li­chen Bewusst­sein einen bei­spiel­lo­sen Zugang zur mensch­li­chen Pri­vat­sphä­re gelegt haben, um sie auszubeuten.

Die jüngs­ten Plä­ne von Face­book und ande­ren Tech-Unter­neh­men, ein sog. Meta­ver­se zu schaf­fen, eine begeh­ba­re vir­tu­el­le Rea­li­tät, die Men­schen mit­tels AR/­VR-Tech­no­lo­gien mit ihren Kör­pern betre­ten kön­nen, die­nen ein­zig dem Ziel, auch in Zukunft der „Dreh- und Angel­punkt“ der glo­ba­len Kom­mu­ni­ka­ti­on zu blei­ben und Men­schen dazu zu ver­lei­ten, das zu tei­len, was ihnen am wich­tigs­ten ist. Jedes Smart­pho­ne, jedes ver­netz­te Gerät, jeder Sen­sor, jede Sprach­nach­richt, jede Gesichts- und Stim­merken­nung wird zum Nach­schub­lie­fe­ran­ten von wei­te­rem „Ver­hal­tens­über­schuss“. Shosha­na Zub­off ist davon über­zeugt, dass jedes Unter­neh­men ver­sucht, „von die­ser uni­ver­sel­len Ent­eig­nung pri­va­ter Erfah­rung zu pro­fi­tie­ren.“6

 

Google als Marktplatz

Goog­le ist nicht nur eine Such­ma­schi­ne, son­dern auch ein Markt­platz, der von Mar­ke­ting-Exper­ten dar­auf getrimmt wird, Momen­te der Inti­mi­tät und Ver­letz­lich­keit, der Unsi­cher­heit und der Schwä­che aus­zu­nut­zen und Infor­ma­tio­nen über Gesund­heit, see­li­sche Befind­lich­kei­ten und inners­te Bedürf­nis­se an Wer­be­kun­den zu ver­kau­fen. Goog­le mone­ta­ri­siert die Lebens­um­stän­de von Men­schen, anstatt ihnen Hilfs­an­ge­bo­te zu schi­cken und sie auf­zu­fan­gen. Die Wer­be­kun­den pro­fi­tie­ren von die­sen in Form von Such­an­fra­gen gelie­fer­ten Hil­fe­er­su­chen und nut­zen die­se Schwä­chen gna­den­los aus.

Made to mea­su­re — Der Doku­men­tar­film beschreibt die­se Mar­ke­ting­prak­ti­ken und lässt eine Schau­spie­le­rin das Leben einer ihr völ­lig unbe­kann­ten Frau, die ihre gesam­mel­ten Goog­le-Such­an­fra­gen der letz­ten 5 Jah­re zur Ver­fü­gung gestellt hat, rekon­stru­ie­ren und nachspielen. 

Die höchs­ten Pro­fi­te ver­spre­chen jene Daten, wel­che die bes­ten Vor­her­sa­gen ermög­li­chen. Dies geschieht, indem steu­ernd in das Leben der Men­schen ein­ge­grif­fen und ihr Ver­hal­ten „aktiv in Rich­tung pro­fi­ta­bler Ergeb­nis­se“ gestupst wird mit dem Ziel, „es in Rich­tung eines garan­tier­ten kom­mer­zi­el­len Erfol­ges zu mani­pu­lie­ren.“7 Die­se Geschäfts­mo­del­le haben sich zu einem „Stan­dard­mo­dell prak­tisch aller web­ba­sier­ten Unter­neh­men“8 ent­wi­ckelt, so dass es kaum noch mög­lich ist, Goog­le zu ver­mei­den und die­sen Prak­ti­ken aus­zu­wei­chen. Der Gewinn des Goog­le-Mut­ter­kon­zerns Alpha­bet, der im drit­ten Quar­tal 2021 um 69 Pro­zent auf 18,9 Mil­li­ar­den Dol­lar wuchs9, mag dies veranschaulichen.

Big Tech Detec­ti­ve — eine Brow­ser-Erwei­te­rung für Chro­me und Fire­fox, die ver­an­schau­licht, in wel­chem Aus­maß die Tech-Gigan­ten bereits die digi­ta­le Infra­struk­tur beherr­schen. Die Erwei­te­rung tut dies, indem sie alle Webi­tes, die Daten an Ama­zon, Face­book, Goog­le und Micro­soft über­tra­gen, blockiert. 

„Wenn es nichts kos­tet, bist Du das Produkt“

Wäh­rend der US-ame­ri­ka­ni­sche Infor­ma­ti­ker und Autor Jaron Lanier in sei­nem 2014 erschie­nen Buch „Wem gehört die Zukunft?“ davon sprach, dass wir nicht die Kun­den der Inter­net-Kon­zer­ne, son­dern ihr Pro­dukt sei­en, ver­sucht Shosha­na Zub­off die aktu­el­le Situa­ti­on mit einer ande­ren Meta­pher zu fassen. 

Mit Blick auf die­se inva­si­ven Geschäfts­mo­del­le wen­det Shosha­na Zub­off sich gegen das Kli­schee „Wenn es nichts kos­tet, bist Du das Pro­dukt“ und beschreibt die Situa­ti­on des Indi­vi­du­ums im Zeit­al­ter des Über­wa­chungs­ka­pi­ta­lis­mus mit einer Ana­lo­gie: Indi­vi­du­en sei­en „mit­nich­ten das Pro­dukt, son­dern ledig­lich die kos­ten­lo­se Quel­le für den Roh­stoff“, der die Grund­la­ge für die Ent­wick­lung han­del­ba­rer Güter bil­de. Über­wa­chungs­ka­pi­ta­lis­ten sei­en wie Wil­de­rer, die „Pro­fit aus unse­rem Ver­hal­ten“ zie­hen und „die Bedeu­tung, die unse­ren Kör­pern, unse­ren Gehir­nen, unse­ren schla­gen­den Her­zen inne­wohnt, acht­los lie­gen“ las­sen. Indi­vi­du­en sei­en eben nicht das Pro­dukt: „Sie sind der zurück­ge­las­se­ne Kada­ver. Das ‚Pro­dukt‘ zieht man aus dem Ver­hal­tens­über­schuss, den man ihrem Leben ent­reißt.“ 10

Massenüberwachung nach 9/11

Begüns­tigt wur­den die­se neu­en Geschäfts­mo­del­le durch eine lang­an­hal­ten­de Pha­se welt­wei­ter Dere­gu­lie­rung und eine glo­ba­le Mas­sen­über­wa­chung nach 9/11, als die US-Sicher­heits­be­hör­den damit began­nen, die kom­mer­zi­el­le Über­wa­chung aktiv zu för­dern und jene Daten­sam­mel­prak­ti­ken for­cier­ten, die Edward Snow­den im Som­mer 2013 öffent­lich machte.

Die in die Kri­tik gera­te­nen Tech-Unter­neh­men stem­men sich seit­her mit aller Macht gegen gesetz­li­che Regu­lie­run­gen, wel­che die Pri­vat­sphä­re im Inter­net zu schüt­zen und die Extrak­ti­on von Ver­hal­tens­über­schuss zu ver­bie­ten ver­su­chen. Die Ver­ach­tung, die dabei dem Recht ent­ge­gen­ge­bracht wird, drückt sich dar­in aus, dass es ent­we­der für ver­al­tet und für unver­ein­bar mit den neu­en Tech­no­lo­gien erklärt11 oder zum Aus­gangs­punkt einer Risi­ko­ana­ly­se genom­men wird, die abwägt, ob der zu erwar­ten­de Gewinn die Stra­fe für den kal­ku­lier­ten Rechts­bruch mehr als aufwiegt.

Eine sub­ti­le­re Form, einen demo­kra­ti­schen Kon­sens in Rich­tung der Zie­le des Über­wa­chungs­ka­pi­ta­lis­mus her­bei­zu­füh­ren, ist das Insis­tie­ren der Unter­neh­men auf frei­wil­li­ge Selbst­re­gu­lie­rung oder weni­ger restrik­ti­ven Geset­zes­vor­ha­ben, die nicht mit ihren Gewinn­ab­sich­ten kol­li­die­ren sowie die Len­kung der Dis­kur­se über umstrit­te­ne Hoch­ri­si­ko­tech­no­lo­gien wie Künst­li­che Intel­li­genz oder Gesichts­er­ken­nung in für sie unge­fähr­li­che­res Fahrwasser.

  • Über­wa­chung
  • Künst­li­che Intel­li­genz

Ethics-Washing — Ethik als Feigenblatt?

Seit 2016 ver­stär­ken die Unter­neh­men des Sili­con Val­ley ihre stra­te­gi­sche Lob­by­ar­beit zur Beein­flus­sung von Gesetz­ge­bung und aka­de­mi­scher For­schung, in dem sie die Dis­kur­se in eine für alle akzep­ta­ble Rich­tung stup­sen und For­schung zu „ethi­scher“ KI, „fai­ren“ Algo­rith­men, „ver­ant­wor­tungs­vol­len“ Risi­ko­be­wer­tungs­in­stru­men­ten, „ver­trau­ens­wür­di­ger“ KI oder „unvor­ein­ge­nom­me­ner“ Gesichts­er­ken­nung för­dern, um ein gesetz­li­ches Ver­bot die­ser Tech­no­lo­gien zu ver­hin­dern und ihre Pro­duk­te in den Markt drü­cken kön­nen.12

Der Phi­lo­soph Tho­mas Met­zin­ger, Mit­glied einer „Hoch­ran­gi­gen Exper­ten­grup­pe“ der EU-Kom­mis­si­on zur Regu­lie­rung von Künst­li­cher Intel­li­genz, bezeich­net das Ein­span­nen der Ethik für Unter­neh­mens­zwe­cke als „Ethics-Washing“ und kri­ti­siert, dass die Kon­zer­ne „ethi­sche Pseu­do-Debat­ten“ orga­ni­sie­ren, um die Tech­no­lo­gien in der öffent­li­chen Dis­kus­si­on als sau­ber erschei­nen zu las­sen. Er bedau­ert, dass Unter­neh­men Ethik als Deko­ra­ti­on im Kampf um die öffent­li­che Mei­nung miss­brau­chen und ihre eige­nen „Fake-Ethi­ker“ her­an­zie­hen.13

  • Algo­rith­men

Wel­che Macht den bür­ger­li­chen Rechts­staa­ten und den Zivil­ge­sell­schaf­ten gegen­über­steht, mag eine Zahl ver­deut­li­chen, die den Bör­sen­wert der FAANG (Bör­sen­jar­gon für Face­book, Apple, Ama­zon, Net­flix und Goog­le Alpha­bet) mit weit über 7.000 Mrd. US-Dol­lar (Stand: Sep­tem­ber 2021) angibt.14

Lite­ra­tur­ver­zeich­nis und Quellenangaben

1 Zub­off, Shosha­na (2018): Das Zeit­al­ter des Über­wa­chungs­ka­pi­ta­lis­mus, Frankfurt/New York, S. 30.

2 Zub­off, Shosha­na (2019): Sur­veil­lan­ce Capi­ta­lism – Über­wa­chungs­ka­pi­ta­lis­mus. In: Aus Poli­tik und Zeit­ge­schich­te, Jg. 69, Nr. 24–26 vom 11. Juni, S. 9.

3 Snow­den, Edward (2019): Per­ma­nent Record. Mei­ne Geschich­te, Frank­furt am Main, S. 60 ff. 

4 O.o.A., S. 14. 

5 Zub­off, Shosha­na (2019): Sur­veil­lan­ce Capi­ta­lism – Über­wa­chungs­ka­pi­ta­lis­mus. In: Aus Poli­tik und Zeit­ge­schich­te, Jg. 69, Nr. 24–26 vom 11. Juni. 

6 O.o.A., S. 5.

7 O.o.A., S. 7. 

8 Zub­off, Shosha­na (2018): Das Zeit­al­ter des Über­wa­chungs­ka­pi­ta­lis­mus, Frankfurt/New York, S. 25.

9 SZ (2021): Gewin­ne, Gewin­ne, Gewin­ne. Goog­le und Micro­soft pro­fi­tie­ren vom Online-Boom, ste­hen aber unter Beob­ach­tung. In: Süd­deut­sche Zei­tung, Nr. 250 vom 28. Okto­ber, S. 19.

10 Zub­off, Shosha­na (2019): Sur­veil­lan­ce Capi­ta­lism – Über­wa­chungs­ka­pi­ta­lis­mus. In: Aus Poli­tik und Zeit­ge­schich­te, Jg. 69, Nr. 24–26 vom 11. Juni, S. 5. 

11 Zub­off, Shosha­na (2018): Das Zeit­al­ter des Über­wa­chungs­ka­pi­ta­lis­mus, Frankfurt/New York, S. 130 ff.

12 Och­i­ga­me, Rodri­go (2019): The Inven­ti­on of “Ethi­cal AI”. How Big Tech Mani­pu­la­tes Aca­de­mia to Avoid Regu­la­ti­on. In: The Inter­cept vom 20. Dezem­ber. https://​the​in​ter​cept​.com/​2​0​1​9​/​1​2​/​2​0​/​m​i​t​-​e​t​h​i​c​a​l​-​a​i​-​a​r​t​i​f​i​c​i​a​l​-​i​n​t​e​l​l​i​g​e​n​ce/

13 Met­zin­ger, Tho­mas (2021): “Unter­neh­men nut­zen uns als Deko­ra­ti­on“. Der Phi­lo­soph Tho­mas Met­zin­ger rang in einer EU-Exper­ten­grup­pe um den fai­ren Ein­satz von Algo­rith­men und prall­te mit Indus­trie­ver­tre­tern zusam­men. Was er von den EU-Plä­nen zu Gesichts­er­ken­nung und Dee­pfakes hält. Inter­view mit Jan­nis Brühl. In: Süd­deut­sche Zei­tung, Nr. 92 vom 22. April, S. 15.

14 Wer wir an der Stel­le zitiert? 

zurück
wei­ter

Übersicht:

  • Big Data Literacy
    • Über diesen Kurs
      • Leben in der Datengesellschaft
      • Wechselwirkungen zwischen Mensch, Digitaltechnologie und sozialer Welt
      • Was ist “Big Data”?
      • Big Data und der „Überwachungskapitalismus“
      • Was bedeutet “Big Data Literacy”?
    • Stories für die Schule
      • Warum ich etwas zu verbergen habe?
      • Wie kann ich selbst mit Daten forschen?
      • Was sagen Daten über das Lernen aus?
      • Was kann ich tun?
    • Literaturliste und weiterführende Hinweise

Fragen oder Probleme?
zfl-digitalelehre@uni-koeln.de


Impressum
Datenschutzvereinbarung

Login

Login with your site account

Lost your password?

Zum Ändern Ihrer Datenschutzeinstellung, z.B. Erteilung oder Widerruf von Einwilligungen, klicken Sie hier: Einstellungen