1. Foren
  2. Kommentare
  3. Security
  4. Alle Kommentare zum Artikel
  5. › KI-Strategie der EU: "Man muss sich…

[gelöscht]

  1. Thema

Neues Thema Ansicht wechseln


  1. [gelöscht]

    Autor: [gelöscht] 10.03.20 - 10:18

    [gelöscht]

  2. Re: Diskriminiert = unbequeme Wahrheiten?

    Autor: Palerider 10.03.20 - 11:03

    das ist m.E. genau der größte Haken an der Sache - wer entscheidet denn, was an Lerndaten "stimmt"? Welche Informationen werden in Relation gesetzt, welche überhaupt berücksichtigt,...? Eine KI ist nie "frei" sie wird bereits durch die Auswahl an zur Verfügung gestellten Informationen manipuliert. Im Zweifel schafft sie das "perfekte Vorurteil"...

  3. Re: Diskriminiert = unbequeme Wahrheiten?

    Autor: wanne 10.03.20 - 17:20

    > Ich frage mich jetzt aber was ist wenn die Trainingsdaten stimmen und die
    > Ergebnisse auch, aber diese irgendwelchen Hardcorespinnern aus irgendeiner
    > Ecke, nicht in ihr Weltbild passen?
    Die Frage ist halt was "stimmen" ist.

    Das erste Problem an Diskriminierung ist, dass der Durchschnitt wenig über den Einzelnen sagt: Eine für einen Verlag arbeitende KI die nur mit dem Geschlecht gefüttert wird würde Göthe, Schiller oder Heine keine Bücher veröffentlichen lassen, weil Frauen im schnitt erfolgreicher sind. Aus dem gleichen Grund wurde Marie Curie wurde nicht an der Académie des sciences aufgenommen. Unter den besten Abschlüssen in Physikern in Frankreich war zu der Zeit nur jeder 20 Weiblich. Trotzdem war die Entscheidung gegen Curie selbstverständlich bescheuert.
    Deswegen willst du Einzelfälle beurteilen statt aufgrund von irgend welchen Gruppenzugehörigkeiten entscheiden. Nur weil es in Russland viele gute Mathematiker gibt, muss der beste Kandidat für deinen Job kein Russe sein. – Ganz im Gegenteil. Eventuell ist der scheiße.

    Das viel größere Probem ist aber ein anderes:
    Wenn du 1770 eine Statistik über Schwarze in den auf einer Straße in Carolina gemacht hättest du heraus bekommen, dass:
    Fast extrem viele illegal unterwegs waren, keiner in der Lage gewesen ist selbstständig zu leben und die meisten minder intelligent und gewalttätig sind – Also besser gleich pauschal in Ketten legen...
    Es war btw. einer der am häufigst vorgetragenen Gründe gegen die Abschaffung der Sklaverei:
    Die Schwarzen können sich gar nicht selbst verwalten. – Die Statistik gibt das her.
    Super witzig ist btw. auch dass die Chiensen lange Zeit für viel zu faul eingeschätzt wurden als dass man mit denen produktiv was machen könnte.
    Im Jahr 1000 hätte man problemlos belegen können, dass Europäer halt unproduktiver und häufiger Krank sind. – Also lieber unter Quarantäne stellen.
    Statistiken beziehen sich immer auf vergangenes Material zieht man daraus dann Schlussvolgerungen ohne Ursächlichkeit gefunden zu haben wird das eine selg fulfilling prophecy: Mädchen sind in Mathe schlechter => Man lässt sie nicht an Fortgeschrittenen Kursen in Mathe teilnehmen => Sie sind schlechter in Mathe. Völlig unabhängig wie das in einem anderen Fall wäre. Diskriminierung bestätigt vor allem den Status quo. Selbst wenn es objektiv gesehen sinnvoll wäre umzustellen, weil ohne Diskriminierung ein für alle besseres Ergebnis herauskommen kann wird Statistk gerne als Ausrede dafür verwendet, dass das ja objektiv richtig wäre. – Nein. Du hast den ist Zustand beschrieben. Das ist erst mal keine Handlungsrechtfertigung.

    Während dieser Effekt erst mal als harmlos und lediglich konservativ rüber kommt ist er fatal:
    Da deine Bewertung sowieso nur von Statistischen Merkmahlen abhängt gibt es absolut keinen Antrieb sich irgend wie besser zu verhalten:
    Extremfall sind die Sklaven: Da die sowieso schon keine Rechte hatten war es auch sinnlos für die sich konform zu verhalten. Entsprechend grausam und häufig waren die Morde die sie begingen. Jeder in Rom fürchtete sich vor ihnen.
    Ähnliche Phänomene hast du bei Schwarzen in Queens: Eingestellt werden die eh als letztes. Wozu dann in der Schule aufpassen und gute Noten schreiben?

    Deswegen verlangen eigentlich alle aufgeklärten Staaten ausschließlich die Bestrafung von Schuld. Das vermindert direkt auch Verbrechen weil man sich seine eigene Reputation aufbaut. Alle Staaten mit ausgeprägten Preventionsmaßnahmen bekommen dagegen ein riesen Problem mit Kriminalitätsraten: Wirst du eh wegen deiner Augenfarbe eingesperrt brauchst du dich auch nicht vernünftig verhalten.
    Noch schlimmer umgekehrt: Ich kenne jemanden der fährt defakto jeden Sonntag morgen besoffen zur Arbeit. – Polizei konrolliert da eh nicht. Die meisten besoffenen sind Freitagabends unterwegs. Und schon gar nicht im Daimler...
    Und irgend wann wird das zum massenphänomen und keiner merkt es, weil ja nur freitagabends kontrolliert wird.



    1 mal bearbeitet, zuletzt am 10.03.20 17:26 durch wanne.

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. Senior IT-Projektverantwortung (m/w/d)
    HiScout GmbH, Berlin
  2. Tech Lead - Engineering Operations (m/f/x)
    finn GmbH, München
  3. Mitarbeiter Business Application Management - Schwerpunkt Business Intelligence (m/w/d)
    Emsland Group, Emlichheim
  4. IT Senior Softwareentwickler (m/w/d)
    CG Car-Garantie Versicherungs-AG, Freiburg im Breisgau

Detailsuche


Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Spiele-Angebote
  1. 14,99€
  2. 53,99€ (Release 22.10.)
  3. (u. a. Tom Clancy's Rainbow Six Siege - Deluxe Edition für 26,99€, Super Dragon Ball Heroes...
  4. 32,99€


Haben wir etwas übersehen?

E-Mail an news@golem.de