1. Foren
  2. Kommentare
  3. Wissenschaft
  4. Alle Kommentare zum Artikel
  5. › Gleichheit: Staatsanwaltschaft…

Ist die datengrundlage rassistisch

  1. Thema

Neues Thema Ansicht wechseln


  1. Ist die datengrundlage rassistisch

    Autor: Drag_and_Drop 13.06.19 - 11:48

    ist es die KI auch...

  2. Re: Ist die datengrundlage rassistisch

    Autor: aLpenbog 13.06.19 - 11:54

    Korrekt. Gleichheit ist ja schön und gut aber wenn es Muster gibt, dann gibt es sie. Das liegt dann natürlich nicht an Pigmenten in der Haut. Imo spiegeln jetzige KIs damit entsprechende Probleme wider und die sollte man an der Stelle, meist gesellschaftlich angehen. Nicht korrekte Daten verfälschen oder KIs korrekte Muster nicht als solche erkennen lassen.

    Das hat für mich bei einer KI definitiv nix mit Vorurteilen, Rassismus oder Sexismus zutun. Viel mehr zeigt es dann ja, dass es nicht nur gefühlte, imaginäre Muster sind, sondern reale Daten, also lieber mal den Hintern bewegen und an den wirklichen Problemen was ändern aber das ist wohl zu kompliziert.

    Klar hier geht es eher um die andere Richtung, den Menschen die Mustererkennung zu nehmen, meist wird bei KIs ja das Gegenteil kritisiert.

    Und ja in Gerichten wird auch oft voreingenommen entschieden, bestes Beispiel sind da für mich nicht mal die Hautfarbe, sondern Männer und Frauen und deren Haftstrafen, sowie Sorgerechtsfälle.

    Finde diese Symptombekämpfung sowohl hier, als auch bei Kommentaren, die wir heute gern zensieren und löschen mehr als falsch. Wenn man vor Problemen die Augen verschließt als sie anzugehen, dann verschwinden sie nicht, sondern wachsen, bis man davor nicht mehr die Augen verschließen kann und Auswirkungen i.d.R. deutlich schlimmer sind, als wenn man sie zuvor angegangen hätte.



    2 mal bearbeitet, zuletzt am 13.06.19 11:55 durch aLpenbog.

  3. Re: Ist die datengrundlage rassistisch

    Autor: Nullmodem 13.06.19 - 12:29

    Drag_and_Drop schrieb:
    --------------------------------------------------------------------------------
    > ist es die KI auch...

    Die KI fällt doch keine Urteile, sondern filtert Name, Geschlecht, Hautfarbe und Ort aus den Polizeiberichten raus.

    nm

  4. Re: Ist die datengrundlage rassistisch

    Autor: schap23 13.06.19 - 16:37

    Da hast Du den Artikel wohl nicht verstanden. Die eingesetzte KI muß mit rassistischen, sexistischen oder mit welchen Vorurteilen auch immer gefüttert worden sein, um diese zu erkennen.

    Keine Ahnung, wie die das gelöst haben, aber so würde ich vorgehen: Verwende ein Model wie wodr2vec. Solche Modelle werden immer kritisiert, daß sie z.B. das Wort Arzt näher bei Männern ansiedeln, Krankenpfleger aber bei Frauen. Man kann aber genau dies auch verwenden, um Worte zu entdecken, die implizit ein Geschlecht oder eine Rasse nahelegen und verwandte Worte vorschlagen, bei denen so eine Implikation nicht gegeben ist.

    Wie gesagt, ohne vorurteilsbehaftete Datengrundlage kann man Vorurteile auch nicht erkennen.

  5. Re: Ist die datengrundlage rassistisch

    Autor: mannzi 13.06.19 - 17:30

    Es geht hier doch einfach darum zu erkennen, das da z
    B. ein Name (egal wie er lautet) steht und diesen durch Platzhalter zu ersetzen.

    Da braucht man keine "rassistische" datengrundlage sondern alles, was man bekommen kann um Muster herauszufinden welche darauf hinweisen, dass an einer Stelle eine kritische Information steht.

    Bspw. Ist es sehr wahrscheinlich, dass zwischen "der verdächtige" und "hat gemacht" ein Name steht, wenn dort keine Auswahl an Tatbeständen steht. Im deutschen müsste man natürlich um es richtig zu machen Artikel und personalpronomen durchs sächliche ersetzen. Aber das würde vermutlich zu weit gehen mit der Gleichheit.

    Auch die Einschränkung auf "lapalien" die für das System vorgenommen wird ist doch genau falsch. Klar muss sichergestellt werden(durch Dritte Beamten), dass der Sachverhalt nicht verändert wird aber grade hier haben falschbeschuldigungen ja den größten Einfluss.

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. UX Designer Concept & UX Strategy (m/w/d)
    UDG Ludwigsburg GmbH, Mainz
  2. Software Developer (m/w/d)* für Software Engineering
    Hallesche Krankenversicherung a. G., Stuttgart
  3. Junior IT-Berater (m/w/d) Personaleinsatzplanung inhouse
    Helios IT Service GmbH, deutschlandweit
  4. IT-Consultant/IT-Projektmana- ger (m/w/d)
    Visioncy GmbH, verschiedene Standorte

Detailsuche


Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Hardware-Angebote
  1. 499,99€


Haben wir etwas übersehen?

E-Mail an news@golem.de