• Über WordPress
    • WordPress.org
    • Dokumentation
    • Support
    • Feedback
  • Anmelden
  • Unsere Angebote

    Online-Kurse

    • BFP Begleitkurs Digital
    • Big Data Literacy
    • Digital gegen Antisemitismus
    • eTeaching Expert
    • EOP Begleitkurs Digital
    • Facharbeit schreiben
    • Praxissemester Digital
    • Veränderung in der Schule bewirken
    • Visionsentwicklung

    Lernmodule

    • Bildungschancen
    • Coaching und Beratung
    • Digitale Lernmaterialien
    • Diversität
    • Sonderpäd. Materialien
    • Methoden
    Teaser für die Fortbildung eTeaching Expert

    eTeaching Expert

    Das Schul­netz­werk im ZfL hat eine kos­ten­freie Fort­bil­dung zum eTea­ching Expert kon­zi­piert, die einen Online-Kurs und einen Blog mit eTea­ching ‑Impu­len beinhaltet.

    Weiterlesen

  • Zum ZfL
Digitale Lehre
  • Unsere Angebote

    Online-Kurse

    • BFP Begleitkurs Digital
    • Big Data Literacy
    • Digital gegen Antisemitismus
    • eTeaching Expert
    • EOP Begleitkurs Digital
    • Facharbeit schreiben
    • Praxissemester Digital
    • Veränderung in der Schule bewirken
    • Visionsentwicklung

    Lernmodule

    • Bildungschancen
    • Coaching und Beratung
    • Digitale Lernmaterialien
    • Diversität
    • Sonderpäd. Materialien
    • Methoden
    Teaser für die Fortbildung eTeaching Expert

    eTeaching Expert

    Das Schul­netz­werk im ZfL hat eine kos­ten­freie Fort­bil­dung zum eTea­ching Expert kon­zi­piert, die einen Online-Kurs und einen Blog mit eTea­ching ‑Impu­len beinhaltet.

    Weiterlesen

  • Zum ZfL

Datenrationalität, Glaube und Diskriminierung

Startseite » Big Data Literacy » Datenrationalität, Glaube und Diskriminierung

Datenrationalität, Glaube und Diskriminierung

Die Arbeit mit Big Data fin­det unter neu­en erkennt­nis­theo­re­ti­schen Rah­men­be­din­gun­gen mit gigan­ti­schen Daten­men­gen und Hoch­leis­tungs­pro­zes­so­ren statt: „In auto­ma­ti­sier­ten Pro­zes­sen kann somit Wis­sen gene­riert wer­den, wel­ches dem Men­schen grund­sätz­lich nicht mehr zugäng­lich ist”.1 Die­ses im Ergeb­nis unzu­gäng­li­che, gene­rier­te Wis­sen stellt eine beson­de­re Her­aus­for­de­rung für die Ver­ständ­lich­keit und Nach­voll­zieh­bar­keit daten­ana­ly­sie­ren­der Pro­zes­se, und damit für ent­spre­chen­de Bil­dungs­maß­nah­men im Sin­ne einer Big Data Liter­acy dar. Um Big Data ent­steht eine „Aura” der Objek­ti­vi­tät oder gar eine „Mytho­lo­gie” daten­ge­trie­be­ner Ein­sich­ten. So begrei­fen die US-ame­ri­ka­ni­sche For­sche­rin­nen Danah Boyd und Kate Craw­ford Big Data als ein Zusam­men­spiel von Tech­nik, Ana­ly­se und „Mytho­lo­gie“:2

„Damit ein­her geht der weit­ver­brei­te­te Glau­be, dass gro­ße Daten­sät­ze uns Zugang zu einer höhe­ren Form der Intel­li­genz und des Wis­sens ver­schaf­fen, die neue, bis­lang unmög­li­che Ein­sich­ten gene­rie­ren, Ein­sich­ten, die eine Aura der Wahr­heit, der Objek­ti­vi­tät und der Genau­ig­keit umgibt.“ 3
Auch der Deut­sche Ethik­rat spricht von einem „Miss­ver­ständ­nis zu glau­ben, dass mehr Daten auch auto­ma­tisch zu mehr Wis­sen über kau­sa­le Effek­te füh­ren. Es wäre zudem ein Kate­go­ri­en­feh­ler, Kor­re­la­ti­ons­aus­sa­gen mit Kau­sal­aus­sa­gen zu ver­wech­seln”.4 So las­sen sich anhand von Big Data Ana­ly­sen sta­tis­ti­sche Zusam­men­hän­ge auf­zei­gen, die aber nicht unbe­dingt etwas über Wir­kungs­zu­sam­men­hän­ge aussagen.

   Bedeu­ten Algo­rith­men das Ende der Theorie? 

Rei­chen Mus­ter­er­ken­nung in Daten und Sta­tis­tik, um neue wis­sen­schaft­li­che For­schung zu betrei­ben? Braucht man über­haupt noch eine Theo­rie mit kau­sa­len Erklä­rungs­mo­del­len? Kann die Arbeit an der Theo­rie für been­det erklärt und durch auto­ma­tisch erzeug­te daten­ge­trie­be­ne Ein­sich­ten ersetzt wer­den (so etwa die viel­fach und kri­tisch dis­ku­tier­te The­se von Chris Ander­son5)? Die Dis­kus­si­on über das Ver­hält­nis zwi­schen daten­ge­trie­be­ner und theo­rie­ge­lei­te­ter Erkennt­nis­ge­win­nung führ­te im Ergeb­nis eher zu einem kom­ple­men­tä­ren Ver­hält­nis der bei­den: Die algo­rith­men­ge­stütz­te Suche nach Mus­tern berei­chert die Theo­rie­bil­dung, ersetzt sie aber kei­nes­falls.6

Spu­rious Cor­re­la­ti­ons — Kor­re­la­ti­on und/oder Kau­sa­li­tät? Es gibt eine hohe Kor­re­la­ti­on zwi­schen der Schei­dungs­ra­te und dem Pro-Kopf-Ver­brauch von Mar­ga­ri­ne im US-Bun­des­staat Mai­ne zwi­schen 2000 und 2009. Aber gibt es eine Kau­sa­li­tät? Die­ses und wei­te­re amü­san­te Sta­tis­tik­bei­spie­le fin­den sich auf der Sei­te von Tyler Vigen.

Foto: Nicho­las Cap­pel­lo von Unsplash

Unsta­tis­tik des Monats — In der Rei­he wer­den sta­tis­ti­sche Aus­sa­gen in den Medi­en hin­ter­fragt. In der Aus­ga­be „Big Data knackt Ihre Psy­che” wird die Pro­gno­se­ge­nau­ig­keit von Big Data Ana­ly­sen behan­delt und das Fazit gezo­gen: der „Algo­rith­mus for­ma­li­siert All­tags-Kli­schees und liegt oft dane­ben”.7

Foto: Maxim Hop­man von Unsplash

1. Allwissenheit und/oder Diskriminierungen?

Ein „Ver­spre­chen der All­wis­sen­heit“ 8 durch Big Data und die Gren­zen der Anwend­bar­keit von Big Data Ana­ly­tics, ins­be­son­de­re in sozia­len Berei­chen muss zum Gegen­stand einer kri­ti­schen Medi­en­bil­dung wer­den. Denn die­se daten­ge­trie­be­nen Ana­ly­se kön­nen, wenn sie auf sozia­le Berei­che ange­wen­det wer­den, pro­ble­ma­ti­sche Effek­te, wie etwa Dis­kri­mie­run­gen zeigen.

Algo­rith­men und Dis­kri­mi­nie­rung — Lore­na Jau­me-Palasí beschreibt in die­sem Inter­view Künst­li­che Intel­li­genz und algo­rith­mi­sche Ent­schei­dungs­sys­te­me als kol­lek­ti­ve Tech­no­lo­gien, die dafür aus­ge­legt sind, Klas­si­fi­ka­tio­nen zu bil­den und Kol­lek­ti­ve zu ana­ly­sie­ren, aber nicht ein­zel­ne Indi­vi­du­en. Inso­weit kön­nen Algo­rith­men nicht anders, als zu dis­kri­mi­nie­ren, weil es immer Men­schen geben wird, die in kei­ne Klas­si­fi­ka­ti­on hineinpassen.

Foto: Mar­kus Spi­ske von Unsplash

Wei­te­re Literaturempfehlung: 

  • Wea­pons of Math Dest­ruc­tion - Die US-ame­ri­ka­ni­sche Sta­tis­ti­ke­rin Cathy O’Neil ver­öf­fent­lich­te 2016 ihr Buch mit dem Titel „Wea­pons of Math Dest­ruc­tion. How Big Data Incre­a­ses Ine­qua­li­ty and Threa­tens Demo­cra­cy”. Dar­in zeigt sie, wie Big Data Anwen­dun­gen „Wah­len mani­pu­lie­ren, Berufs­chan­cen zer­stö­ren und unse­re Gesund­heit gefähr­den” kön­nen (so der Unter­ti­tel der deutsch­spra­chi­gen Ausgabe).

2. Diskriminierungen und die Daten der Anderen

Mög­li­che Ursa­chen für Dis­kri­mi­nie­run­gen kön­nen in der Ent­wick­lung der Algo­rith­men und Model­le, aber auch in ver­zerr­ten (Trainings-)Daten lie­gen oder durch mensch­li­che Bewer­tungs­ak­ti­vi­tä­ten ent­ste­hen. Beson­ders her­vor­zu­he­ben ist die algo­rith­men­ge­stütz­te, sta­tis­ti­sche Dis­kri­mi­nie­rung, die sich nicht auf die Kate­go­ri­sie­rung indi­vi­du­el­ler Eigen­schaf­ten bezieht, son­dern auf Grup­pen­ei­gen­schaf­ten, die durch Daten­ana­ly­sen erst erzeugt wer­den. Die­se basie­ren auf der Annah­me, dass „jedes der Mit­glie­der die­ser Grup­pie­rung das Merk­mal auf­wei­sen wür­de“.9

„Daten, die man selbst frei­wil­lig wei­ter­gibt, kön­nen dazu ver­wen­det wer­den, sen­si­ble Infor­ma­tio­nen über ande­re Men­schen abzu­schät­zen; und umge­kehrt kann man selbst auf­grund der Daten, die ande­re über sich preis­ge­ben, unter­schied­lich behan­delt wer­den. Es kann uns also nicht egal sein, wie unse­re Mit­men­schen mit ihren Daten umge­hen. Und weil die nega­ti­ven Aus­wir­kun­gen prä­dik­ti­ver Ana­ly­tik nicht auf alle Gesell­schafts­mit­glie­der gleich ver­teilt sind, son­dern über­pro­por­tio­nal die Armen, weni­ger Gebil­de­ten, Schwa­chen, Kran­ken und sozio­öko­no­misch Benach­tei­lig­ten tref­fen, ste­hen demo­kra­ti­sche Gesell­schaf­ten hier in einer kol­lek­ti­ven Ver­ant­wor­tung”.10

In Zei­ten von Big Data und prä­dik­ti­ver Ana­ly­tik kann sich ein Ein­zel­ner einer sol­chen sta­tis­ti­schen Grup­pen­zu­ord­nung kaum ent­zie­hen, denn es kön­nen die Daten der ande­ren und schein­bar belang­lo­se Daten genutzt wer­den, um gewünsch­te Aus­sa­gen mit sozia­len Fol­gen zu erstel­len. Daher ist die all­ge­mei­ne Sen­si­bi­li­sie­rung im Umgang mit Daten eine beson­de­re und poli­ti­sche Bildungsaufgabe.

Wei­te­res Mate­ri­al zu Dis­kri­mi­nie­rung durch KI: 

  • Wie umge­hen mit Dis­kri­mi­nie­rung durch ADM-Sys­te­me? Das Pro­jekt Auto­Ch­eck – Hand­lungs­an­lei­tung für den Umgang mit Auto­ma­ti­sier­ten Ent­schei­dungs­sys­te­men für Anti­dis­kri­mi­nie­rungs­stel­len erar­bei­tet Hand­lungs­an­lei­tun­gen und Fort­bil­dun­gen für den Umgang mit Dis­kri­mi­nie­rung durch Algorithmen.

Quel­len

 

1 Pietsch, W., Werne­cke, J. (2017). Einführung: Zehn The­sen zu Big Data und Bere­chen­bar­keit. In W. Pietsch, J. Werne­cke, M. Ott (Hrsg.), Bere­chen­bar­keit der Welt? Phi­lo­so­phie und Wis­sen­schaft im Zeit­al­ter von Big Data (S. 13–36). Wies­ba­den: Sprin­ger, hier S. 17.

2 Vgl. Boyd, D., & Craw­ford, K. (2013). Big Data als kul­tu­rel­les, tech­no­lo­gi­sches und wis­sen­schaft­li­ches Phä­no­men. Sechs Pro­vo­ka­tio­nen. In H. Gei­sel­ber­ger & T. Moor­stedt (Hrsg.), Big Data. Das neue Ver­spre­chen der All­wis­sen­heit (S. 187–218). Ber­lin: Suhrkamp.

3 Boyd & Craw­ford, 2013, S. 188 f.

4 Deut­scher Ethik­rat (2017, 30. Novem­ber). Big Data und Gesund­heit – Daten­sou­ve­rä­ni­tät als infor­ma­tio­nel­le Frei­heits­ge­stal­tung [Stel­lung­nah­me], hier S. 47. https://​www​.ethik​rat​.org/​f​i​l​e​a​d​m​i​n​/​P​u​b​l​i​k​a​t​i​o​n​e​n​/​S​t​e​l​l​u​n​g​n​a​h​m​e​n​/​d​e​u​t​s​c​h​/​s​t​e​l​l​u​n​g​n​a​h​m​e​-​b​i​g​-​d​a​t​a​-​u​n​d​-​g​e​s​u​n​d​h​e​i​t​.​pdf

5 Vgl. Ander­son, C. (2013). Das Ende der Theo­rie. Die Daten­schwem­me macht wis­sen­schaft­li­che Metho­den obso­let. In H. Gei­sel­ber­ger, T. Moor­stedt (Hrsg.), Big Data. Das neue Ver­spre­chen der All­wis­sen­heit (S. 124–130). Ber­lin: Suhrkamp.

6 Vgl. Rit­schel, G., Mül­ler, T. (2016). Big Data als Theo­rie­er­satz? Ber­li­ner Debat­te Initi­al, 27 (4), 4–11.

7 Vgl. unsta­tis­tik vom 20.12.2016: https://​www​.rwi​-essen​.de/​p​r​e​s​s​e​/​w​i​s​s​e​n​s​c​h​a​f​t​s​k​o​m​m​u​n​i​k​a​t​i​o​n​/​u​n​s​t​a​t​i​s​t​i​k​/​a​r​c​h​i​v​/​2​0​1​6​/​d​e​t​a​i​l​/​b​i​g​-​d​a​t​a​-​k​n​a​c​k​t​-​i​h​r​e​-​p​s​y​che

8 H. Gei­sel­ber­ger & T. Moor­stedt (Hrsg.). (2013). Big Data. Das neue Ver­spre­chen der All­wis­sen­heit. Ber­lin: Suhrkamp.

9 Orwat, C. (2019). Dis­kri­mi­nie­rungs­ri­si­ken durch Ver­wen­dung von Algo­rith­men: Eine Stu­die, erstellt mit einer Zuwen­dung der Anti­dis­kri­mi­nie­rungs­stel­le des Bun­des (1. Auf­la­ge, bro­chi­ert). Anti­dis­kri­mi­nie­rungs­stel­le des Bun­des (Hrsg.). Baden-Baden: Nomos Ver­lags­ge­sell­schaft, hier S. 86f. https://​www​.anti​dis​kri​mi​nie​rungs​stel​le​.de/​S​h​a​r​e​d​D​o​c​s​/​d​o​w​n​l​o​a​d​s​/​D​E​/​p​u​b​l​i​k​a​t​i​o​n​e​n​/​E​x​p​e​r​t​i​s​e​n​/​s​t​u​d​i​e​_​d​i​s​k​r​i​m​i​n​i​e​r​u​n​g​s​r​i​s​i​k​e​n​_​d​u​r​c​h​_​v​e​r​w​e​n​d​u​n​g​_​v​o​n​_​a​l​g​o​r​i​t​h​m​e​n​.​p​d​f​?​_​_​b​l​o​b​=​p​u​b​l​i​c​a​t​i​o​n​F​i​l​e​&​v=3

10 Mühl­hoff, R. (2020). Prä­dik­ti­ve Pri­vat­heit. War­um wir alle „etwas zu ver­ber­gen haben“. In Inter­dis­zi­pli­nä­re Arbeits­grup­pe Ver­ant­wor­tung: Maschi­nel­les Ler­nen und Künst­li­che Intel­li­genz der Ber­lin-Bran­den­bur­gi­schen Aka­de­mie der Wis­sen­schaf­ten (Hrsg.), KI als Labo­ra­to­ri­um? Ethik als Auf­ga­be (S. 37–44). Ber­lin-Bran­den­bur­gi­sche Aka­de­mie der Wis­sen­schaf­ten, hier S. 44. https://www.bbaw.de/files-bbaw/user_upload/publikationen/BBAW_Verantwortung-KI‑3–2020_PDF-A-1b.pdf

zurück
wei­ter

Übersicht:

  • Big Data Literacy
    • Über diesen Kurs
    • Fachlicher Hintergrund
      • Leben in der Datengesellschaft
      • Wechselwirkungen zwischen Mensch, Digitaltechnologie und sozialer Welt
      • Was ist “Big Data”?
      • Datenrationalität, Glaube und Diskriminierung
      • Big Data und der „Überwachungskapitalismus“
      • Was bedeutet “Big Data Literacy”?
    • Stories für die Schule
      • Warum ich etwas zu verbergen habe?
      • Wie kann ich selbst mit Daten forschen?
      • Was sagen Daten über das Lernen aus?
      • Was kann ich tun?
    • Literaturliste und weiterführende Hinweise

Fragen oder Probleme?
zfl-digitalelehre@uni-koeln.de


Impressum
Datenschutzvereinbarung

Login

Login with your site account

Lost your password?

Zum Ändern Ihrer Datenschutzeinstellung, z.B. Erteilung oder Widerruf von Einwilligungen, klicken Sie hier: Einstellungen