Abo
  1. Foren
  2. Kommentare
  3. Applikationen
  4. Alle Kommentare zum Artikel
  5. › Machine Learning: Amazon…
  6. The…

wenn Statistik unliebsame Wahrheiten offenbart ...

  1. Thema
  1. 1
  2. 2

Neues Thema Ansicht wechseln


  1. Re: wenn Statistik unliebsame Wahrheiten offenbart ...

    Autor: conker 11.10.18 - 16:25

    Computer_Science schrieb:
    --------------------------------------------------------------------------------
    > Statistik ist der Grundpfeiler all unserer wissenschaftlichen Erkenntnisse
    > ...
    > ermöglichte Meilensteine der Physik, Chemie, Medizin ...
    > macht Demokratie erst möglich, da sie in Wahlen das Ergebnis ermittelt ...
    > hat uns aus der Aberglaubenwelt des Mittelalters befreit ...
    >
    > aber wehe unsere zuverlässigste und objektivste, wissenschaftliche Methode
    > produziert Ergebnisse, die gegen jede "political correctness" verstossen
    > ... dann verfällt man beratungsresistent in Faktenleugnung, unter tosenden
    > Applaus der SJW gleitet die Welt in die post-faktische Apokalypse.
    > ...
    > aber wehe eine Statistik/KI spuckt aus, dass Top-Entwickler jung,
    > asiatisch/weiss, männlich sind ... dann ist das natürlich alles Humbug und
    > kann nicht wahr sein.
    > Dann liegt die unliebsame Wahrheit nicht in der Stichprobe der
    > Trainingsdaten ... nein ... dann hat sich die KI dieses "Fehlverhalten"
    > "selbst beigebracht" ... denn unsere KI hat schließlich Gefühle und eine
    > Agenda und ist heimlich sowohl sexistisch als auch rassistisch.
    ...
    > Aber wenn Ihr Euch selbst schon in die Tasche lügen wollt: lasst doch in
    > den Trainingsdaten/Bewerbungen einfach das Geschlecht weg, dann kann es als
    > Kriterium nicht berücksichtigt werden ... man verliert dann zwar an
    > Präzision weil die Daten unvollständiger sind, aber egal ... verbietet
    > allen Ärzten auch gleich das Blutdruckmesse, denn man kann Bluthochdruck
    > auch an der Gesichtsfarbe und dem Gewicht erkennen (unvollständige Daten)
    > ... naja, meistens ein wenig zu spät, aber egal ... Hauptsache politisch
    > korrekt und alle fühlen sich wohl

    Danke, dein Post fast soweit alles zusammen, was ich auch schreiben würde.

    Ich würde bei Statistik und dementsprechend bei ML Verfahren natürlich immer im Hinterkopf behalten: "Correlation does not imply causation"

    Allerdings muss man sagen, in sehr sehr vielen Fällen reicht die Auswertung der Korrelation. (Und erschreckenderweise sehe ich das auch bei vielen Menschen, wenn etwas "gelernt" wurde, wurde die Korrelation gelernt, und nicht das zugrundeliegende Prinzip.
    *Diese Aussage ist tatsächlich bewusst geschlechtsneutral gehalten :P)

    Diesen Thread muss ich ich unbedingt mit verfolgen. *Popcorn hol*



    2 mal bearbeitet, zuletzt am 11.10.18 16:29 durch conker.

  2. Re: wenn Statistik unliebsame Wahrheiten offenbart ...

    Autor: violator 11.10.18 - 16:32

    Nicht direkt, den Teil der Diskriminierung dichtet eben der Mensch da rein, weil ihm was nicht passt. Bloß weil man statistisch in eine Schublade gesteckt wird ist das nicht automatisch Diskriminierung.

  3. Re: wenn Statistik unliebsame Wahrheiten offenbart ...

    Autor: honk 11.10.18 - 16:36

    Computer_Science schrieb:
    --------------------------------------------------------------------------------
    > aber wehe unsere zuverlässigste und objektivste, wissenschaftliche Methode
    da muss ich wirklich lachen. Grade bei den sogenannten KI verfahren kommt die alte Regel, Garbage In --> Garbage Out besonders oft zum tragen, weil diejenigen, die die Methoden anwenden oft die Methode selbst gar nicht mehr verstehen und auch das dabei erzeugte Modell eine Blackbox ist. Dem Ergebnis wird dann Blind vertraut, weil es ja durch "Künstliche Intelligenz" berechnet wurde.

    Kann man aber auch ganz allgemein beobachten, wenn statistische Methoden in wissenschaftlichen Paper angewendet werden. Da werden sehr häufig Methoden auf Daten losgelassen, die dafür überhaupt nicht geeignet sind, z.B. weil die Daten nicht normalverteilt sind oder schon selektiv erhoben wurden, und dann fröhlich "statistisch" das beweisen was man sowieso erwartet hat.

  4. Re: wenn Statistik unliebsame Wahrheiten offenbart ...

    Autor: honk 11.10.18 - 16:45

    spag@tti_code schrieb:
    --------------------------------------------------------------------------------
    > Neutral heißt nicht unbedingt Fair.
    > Auch Fakten können diskriminierend sein.
    >
    > z.B. Precrime: in den USA sind dunkelhäutige Menschen statistisch sehr viel
    > häufiger kriminell als weiße. Das ist leider Fakt.
    Ganz schlechtes Beispiel. Grade solches racial profiling produziert ja die Statistik, die es rechtfertigt. Dunkelhäutige Menschen werden öfter kontrolliert und schneller verdächtigt --> Ergo werden sie auch öfter erwischt als Gruppen die weniger Kontrolliert werden --> die Statistik zeigt, dunkelhäutige Menschen sind öfter straffällig -> also muss man sie öfter kontrollieren.

    Ähnlich sieht es beim Strafmaß aus, dunkelhäutige Menschen werden für die selben taten zu längeren Haftstrafen verurteilt und kommen später frei als hellhäutige. Wie die Kriminalitässtatistik ohne so einen rassistsichen bias aussehen würde, lässt sich nur ganz schwer ermitteln.

  5. So ein Schmarrn....

    Autor: janoP 11.10.18 - 17:01

    Die KI war mit den gefütterten Daten ganz klar nicht geeignet, um die Potentielle Leistung potentieller Mitarbeiter vorherzusagen. Hättest du den Text gelesen, wüsstest du, dass die Rohdaten hauptsächlich männliche Bewerbungen enthielten, und das Problem wie bei fast allen KIs in den Rohdaten begründet lag.

    Gleichsam ist Statistik nicht ansatzweise so bedeutsam, wie du schilderst. Der Hauptzweck von Statistiken ist es heutzutage, vielgeklickte Nachrichtenmeldungen zu generieren und Facebook-Likepages ein Fundament zu geben. Das zwei Dinge häufig gleichzeitig vorkommen, heißt nur in ganz bestimmten Fällen, dass es zwischen diesen Dingen eine Korrelation gibt - in den meisten Fällen heißt es das nicht.

    Und ganz häufig ist die Korrelation so indirekt, dass man sie nicht auf Einzelfälle anwenden darf. Wenn wir (steile These, die ich nicht vertrete) davon ausgehen, dass sich aus biologischen Gründen deutlich weniger Frauen als Männer für Informatik interessieren, dann heißt das nicht, dass die Frauen, die sich dafür interessieren, schlechter sind, als die Männer, die sich dafür interessieren. Trotzdem wird die Statistik immer ergeben, dass der Großteil der besten Informatiker männlich ist, und KIs, die gute Informatiker aussuchen sollen, werden die nehmen, die aufs Muster passen (männlich sind).

    Ich glaube deswegen, dass sich KIs grundsätzlich nicht dafür eignen, um über das Schicksal von Menschen zu entscheiden.



    1 mal bearbeitet, zuletzt am 11.10.18 17:17 durch janoP.

  6. Ganz gutes Beispiel

    Autor: janoP 11.10.18 - 17:12

    honk schrieb:
    --------------------------------------------------------------------------------
    > spag@tti_code schrieb:
    > ---------------------------------------------------------------------------
    > -----
    > > Neutral heißt nicht unbedingt Fair.
    > > Auch Fakten können diskriminierend sein.
    > >
    > > z.B. Precrime: in den USA sind dunkelhäutige Menschen statistisch sehr
    > viel
    > > häufiger kriminell als weiße. Das ist leider Fakt.
    > Ganz schlechtes Beispiel. Grade solches racial profiling produziert ja die
    > Statistik, die es rechtfertigt. Dunkelhäutige Menschen werden öfter
    > kontrolliert und schneller verdächtigt --> Ergo werden sie auch öfter
    > erwischt als Gruppen die weniger Kontrolliert werden --> die Statistik
    > zeigt, dunkelhäutige Menschen sind öfter straffällig -> also muss man sie
    > öfter kontrollieren.

    Ist doch bei der Einstellung von Frauen in IT-Berufe genauso.

    Weniger Frauen werden eingestellt --> bei Kindern entsteht der Eindruck, IT-Berufe seien ein Männerberuf --> Lisa will Model werden, Timo will was mit Computern machen. Und Kevin will Bagger werden.

  7. Re: So ein Schmarrn....

    Autor: conker 11.10.18 - 17:15

    janoP schrieb:
    --------------------------------------------------------------------------------
    ...
    >
    > Ich glaube deswegen, dass sich KIs grundsätzlich nicht dafür eignen, um
    > über das Schicksal von Menschen zu entscheiden.

    Einerseits, stimme ich dir zu. Solange das System total undurchsichtig und nicht nachvollziehbar ist.

    Andererseits errinere ich mich an eine ähnliche Diskussion beim Thema medizinische Diagnose. Wenn die KI da statistisch/ im Mittel besser entscheidet, als der Arzt, was würdest du da sagen / argumentieren ?
    Wobei Medizin ja noch auf Naturwissenschaft basiert (oder es sein sollte).
    Wenn wir jetzt Richtung Psychologie und dann noch Personalfragen gehen, ist wohl das Feld als auch die Datenlage nochmal eine ganz andere.

  8. Re: wenn Statistik unliebsame Wahrheiten offenbart ...

    Autor: 0110101111010001 11.10.18 - 17:29

    Du weißt nicht Wie "ki" funktioniert

  9. Re: So ein Schmarrn....

    Autor: 0110101111010001 11.10.18 - 17:39

    > Trotzdem wird die Statistik immer ergeben, dass der Großteil der besten Informatiker männlich ist, und KIs, die gute Informatiker aussuchen sollen, werden die nehmen, die aufs Muster passen (männlich sind).

    So ein Schwachsinn. Es soll ja tatsächlich möglich sein MIT bedingten Wahrscheinlichkeiten zu arbeiten. Omg

    Nur Weil eine Gruppe öfter in einer Auswertung vertreten ist, heißt das nicht, dass da eine ungleichmäßige Bewertung erfolgt.

  10. Re: So ein Schmarrn....

    Autor: conker 11.10.18 - 17:45

    0110101111010001 schrieb:
    --------------------------------------------------------------------------------
    > > Trotzdem wird die Statistik immer ergeben, dass der Großteil der besten
    > Informatiker männlich ist, und KIs, die gute Informatiker aussuchen sollen,
    > werden die nehmen, die aufs Muster passen (männlich sind).
    >
    > So ein Schwachsinn. Es soll ja tatsächlich möglich sein MIT bedingten
    > Wahrscheinlichkeiten zu arbeiten. Omg
    >
    > Nur Weil eine Gruppe öfter in einer Auswertung vertreten ist, heißt das
    > nicht, dass da eine ungleichmäßige Bewertung erfolgt.

    Ich würde den Mitarbeitern bei Amazon die entsprechende fachliche Kompetenz auf jeden Fall zutrauen.
    Ich vermute, diese bedingten Wahrscheinlichkeiten haben halt nicht das gewünschte politisch-korrekte Ergebnis gebracht :P
    (Das einzige, was ich mir vorstellen könnte, dass die Datenbasis tatsächlich bereits etwas einseitig war - aber andererseits, sollten das auch bereinigt/berücksichtigt worden sein, bei entsprechender Kompetenz der Mitarbeiter).

  11. Re: wenn Statistik unliebsame Wahrheiten offenbart ...

    Autor: v2nc 11.10.18 - 17:48

    Herr Unterfahren schrieb:
    --------------------------------------------------------------------------------
    > Metalyzed schrieb:
    > ---------------------------------------------------------------------------
    > -----
    > > bark schrieb:
    > >
    > ---------------------------------------------------------------------------
    >
    > > -----
    > > Das sehe ich als tiefgreifendes gesellschaftliches Problem in unserer
    > > Gesellschaft. Der weiße cis-Mann wird immer weitet zum Prügelknaben
    > > auserkoren und das Recht sich zu beschweren hat er auch nicht.
    > >
    > > Ich persönlich hatte bisher zum Glück noch keine Nachteile ein weißer
    > > cis-Mann zu sein oder habe es nicht wahrgenommen. Aber wenn man
    > tagtäglich
    > > ließt, wie manche offenbar völlig zurecht benachteiligt werden, dann
    > > bekommt man Angst.
    >
    > Ich hatte in der Vergangenheit zwei Fälle, wo ich bekannterweise als weißer
    > cis- Mann bevorzugt behandelt wurde. Der letzte war der Kauf meines Hauses,
    > wo die Maklerin jeweils in indisch und ein türkisch aussehndes Paar
    > frühzeitig aussortierte.
    > Jetzt wurde im Sommer das Nachbarhaus verkauft, und die gesamte
    > Nachbarschaft mokiert sich darüber, daß der Käufer keinen Ariernachweis
    > bekommen würde.
    >
    > Aber viel Spaß beim Angsbekommen.

    "Bekannterweise"?
    Bin mir echt nicht sicher ob du nicht hart trollst.
    Wenn ich schon "cis" höre...

  12. Re: wenn Statistik unliebsame Wahrheiten offenbart ...

    Autor: Johnny Cache 11.10.18 - 18:21

    _4ubi_ schrieb:
    --------------------------------------------------------------------------------
    > Allgemein geb ich dir ja Recht, ABER:
    >
    > Ist dir klar, welche Daten als Trainsingsdaten genutzt wurde ...
    >
    > INPUT: Bewerber-Daten
    > OUTPUT: Ja/Nein (Ergebnis HR + Verantwortlicher)
    >
    > Der Algo hat nicht gelernt, welcher der "geeignete" Kandidat ist, sondern
    > welcher bisher bevorzugt eingestellt wurde. Die Daten zeigen damit, dass
    > die HR un CO lieber Männer eingestellt haben. Mehr nicht!


    Und jeder KI oder Mensch mit Verstand (seltener als Einhörner) weiß diese Daten dann aber auch noch ins Verhältnis mit der Geschlechterverteilung der Ausgangsdaten zu setzen.
    Wenn also mehr Männer als im Ausgangsverhältnis einstellt wurden, dann hat es die KI natürlich auch gelernt und auch diese Entscheidungen werden ihre Gründe gehabt haben.

  13. Re: Der weisse Mann als Prügelknabe

    Autor: Oh je 11.10.18 - 18:28

    Man(n) wird in jeglicher Hinsicht bevorzugt.
    In den paar Ausnahmen ist man dann eingeschnappt - von wegen Prügelknabe.

    Ja so ein scheiss aber auch. Jetzt hat man wirklich hart dafür gearbeitet um als weisser Mann auf die Welt zu kommen und dann sowas.



    1 mal bearbeitet, zuletzt am 11.10.18 18:28 durch Oh je.

  14. Re: Der weisse Mann als Prügelknabe

    Autor: TheXXL 11.10.18 - 19:06

    Oh je schrieb:
    --------------------------------------------------------------------------------
    > Man(n) wird in jeglicher Hinsicht bevorzugt.
    > In den paar Ausnahmen ist man dann eingeschnappt - von wegen Prügelknabe.
    >
    > Ja so ein scheiss aber auch. Jetzt hat man wirklich hart dafür gearbeitet
    > um als weisser Mann auf die Welt zu kommen und dann sowas.

    Ja.. ich weiß... Wir weißen Männer bekommen alles umsonst und vor allem diese tolle Bevorzugung! Frauen, Geld, Essen alles frei Haus, und wir müssen dafür nicht mal was machen! Achja, auch super klasse wie wir Männer bei Gefängnisstrafen bevorzugt werden, ich meine eine Frau bekommt aus Prinzip ein geringeres Strafmaß bei gleicher Tat als wir. Wir sind soooo privilegiert. Und nun ab ins Gender non binary safe space...

  15. Re: wenn Statistik unliebsame Wahrheiten offenbart ...

    Autor: Maatze 11.10.18 - 19:07

    violator schrieb:
    --------------------------------------------------------------------------------
    > Nicht direkt, den Teil der Diskriminierung dichtet eben der Mensch da rein,
    > weil ihm was nicht passt. Bloß weil man statistisch in eine Schublade
    > gesteckt wird ist das nicht automatisch Diskriminierung.

    Kannst dir die Erklärungen sparen, die verstehen keine Logik :)

  16. Re: wenn Statistik unliebsame Wahrheiten offenbart ...

    Autor: sfe (Golem.de) 11.10.18 - 19:26

    Bevor der Thread noch weiter abrutscht wird er geschlossen.

    Sebastian Fels (golem.de)

  1. Thema
  1. 1
  2. 2

Neues Thema Ansicht wechseln


Dieses Thema wurde geschlossen.

Stellenmarkt
  1. Verlag C.H.BECK, München Schwabing
  2. Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB, Karlsruhe
  3. DR. JOHANNES HEIDENHAIN GmbH, Traunreut (Raum Rosenheim)
  4. TÜV SÜD Gruppe, München

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Spiele-Angebote
  1. 4,19€
  2. 32,99€
  3. 2,19€


Haben wir etwas übersehen?

E-Mail an news@golem.de


Ursula von der Leyen: Von Zensursula zur EU-Kommissionspräsidentin
Ursula von der Leyen
Von "Zensursula" zur EU-Kommissionspräsidentin

Nach der "Rede ihres Lebens" hat das Europäische Parlament am Dienstagabend Ursula von der Leyen an die Spitze der EU-Kommission gewählt. Die Christdemokratin will sich in ihrem neuen Amt binnen 100 Tagen für einen Ethik-Rahmen für KI und ambitioniertere Klimaziele stark machen. Den Planeten retten, lautet ihr ganz großer Vorsatz.
Ein Bericht von Justus Staufburg

  1. Adsense for Search Neue Milliardenstrafe gegen Google in der EU

Energie: Wo die Wasserstoffqualität getestet wird
Energie
Wo die Wasserstoffqualität getestet wird

Damit eine Brennstoffzelle einwandfrei arbeitet, braucht sie sauberen Wasserstoff. Wie aber lassen sich Verunreinigungen bis auf ein milliardstel Teil erfassen? Am Testfeld Wasserstoff in Duisburg wird das erprobt - und andere Technik für die Wasserstoffwirtschaft.
Ein Bericht von Werner Pluta

  1. Autos Elektro, Brennstoffzelle oder Diesel?
  2. Energiespeicher Heiße Steine sind effizienter als Brennstoffzellen
  3. Klimaschutz Großbritannien probt für den Kohleausstieg

Mobilfunktarife fürs IoT: Die Dinge ins Internet bringen
Mobilfunktarife fürs IoT
Die Dinge ins Internet bringen

Kabellos per Mobilfunk bringt man smarte Geräte am leichtesten ins Internet der Dinge. Dafür haben deutsche Netzanbieter Angebote für Unternehmen wie auch für Privatkunden.
Von Jan Raehm

  1. Smart Lock Forscher hacken Türschlösser mit einfachen Mitteln
  2. Brickerbot 2.0 Neue Schadsoftware möchte IoT-Geräte zerstören
  3. Abus-Alarmanlage RFID-Schlüssel lassen sich klonen

  1. TLS-Zertifikat: Gesamter Internetverkehr in Kasachstan kann überwacht werden
    TLS-Zertifikat
    Gesamter Internetverkehr in Kasachstan kann überwacht werden

    In Kasachstan müssen Internetnutzer ab sofort ein spezielles TLS-Zertifikat installieren, um verschlüsselte Webseiten aufrufen zu können. Das Zertifikat ermöglicht eine staatliche Überwachung des gesamten Internetverkehrs in dem Land.

  2. Ari 458: Elektro-Lieferwagen aus Leipzig kostet knapp 14.000 Euro
    Ari 458
    Elektro-Lieferwagen aus Leipzig kostet knapp 14.000 Euro

    Ari 458 ist ein kleiner Lieferwagen mit Elektroantrieb, den der Hersteller mit Aufbauten für verschiedene Einsatzzwecke anbietet. Die Ausstattung ist einfach, dafür ist das Auto günstig.

  3. Quake: Tim Willits verlässt id Software
    Quake
    Tim Willits verlässt id Software

    Seit 24 Jahren ist Tim Willits einer der entscheidenden Macher bei id Software, nun kündigt er seinen Rückzug an. Was er künftig vorhat, will der ehemalige Leveldesigner und studierte Computerwissenschaftler erst nach der Quakecon verraten.


  1. 17:52

  2. 15:50

  3. 15:24

  4. 15:01

  5. 14:19

  6. 13:05

  7. 12:01

  8. 11:33