Ethik ist nur hinderlich

[Sharra]

MS will KI-Bullshit so schnell wie möglich in den Markt kotzen. Da kann man keine Leute brauchen, die einem vorher sagen, dass das Ding rassistisch geworden ist.
MS braucht den Shitstorm scheinbar.

[Oktavian]

> MS will KI-Bullshit so schnell wie möglich in den Markt kotzen. Da kann man
> keine Leute brauchen, die einem vorher sagen, dass das Ding rassistisch
> geworden ist.

Das "Ding" ist nicht rassistisch, das Ding ist ein Algorithmus, der die Daten verarbeitet, die man ihm liefert. Diese Daten lassen Schlussfolgerungen zu, Statistik eben. Und diese Schlussfolgerungen mögen eben manchen nicht gefallen, da sie mit deren Weltbild kollidieren.

Wenn aber Weltbild und Fakten nicht zusammenpassen, verliert das Weltbild.

> MS braucht den Shitstorm scheinbar.

Ich glaube, die können ihn ab. Aus dem letzten mal haben sie gelernt, aus Usereingaben zu lernen ist doof, dafür sorgt dann 4Chan. Aber aus sonstigen verfügbaren Texten zu lernen ist okay.

[dododo]

Oktavian schrieb:
--------------------------------------------------------------------------------
> Das "Ding" ist nicht rassistisch, das Ding ist ein Algorithmus, der die
> Daten verarbeitet, die man ihm liefert. Diese Daten lassen
> Schlussfolgerungen zu, Statistik eben. Und diese Schlussfolgerungen mögen
> eben manchen nicht gefallen, da sie mit deren Weltbild kollidieren.
>
> Wenn aber Weltbild und Fakten nicht zusammenpassen, verliert das Weltbild.

Weil das Internet, auf dessen Basis die gerade populären Chat AIs arbeiten, nur auf Fakten besteht und Rassismus darin nie vorkommt? Es wurden doch schon mehrere Beispiele allein aus der MS Demo gezeigt, in welchen der Bot selbst Finanzzahlen (also harte Fakten) falsch wiedergegeben hat.
Wenn die Daten die als Input dienen schon Mist sind, ist es auch der Output.



2 mal bearbeitet, zuletzt am 14.03.23 10:01 durch dododo.

[Oktavian]

> Weil das Internet, auf dessen Basis die gerade populären Chat AIs arbeiten,
> nur auf Fakten besteht und Rassismus darin nie vorkommt?

Weil sich sowas durch die Vielzahl der Quellen, die man verarbeitet, wenn man mal seine kleine Filterblase verlässt, rausmittelt. Im Zweifel helfen da immer mehr Daten.

> Es wurden doch
> schon mehrere Beispiele allein aus der MS Demo gezeigt, in welchen der Bot
> selbst Finanzzahlen (also harte Fakten) falsch wiedergegeben hat.
> Wenn die Daten die als Input dienen schon Mist sind, ist es auch der
> Output.

Ja, und ein Team von 6 Mann/Frau/Whatever ist die Schlüsselmaßnahme, die sicherstellt, dass die Daten hinreichend, wahr und dem gerade erwünschten Weltbild entsprechen?

[dododo]

Oktavian schrieb:
--------------------------------------------------------------------------------
> Weil sich sowas durch die Vielzahl der Quellen, die man verarbeitet, wenn
> man mal seine kleine Filterblase verlässt, rausmittelt. Im Zweifel helfen
> da immer mehr Daten.

Und der durschnittliche öffentliche Diskurs im Internet bildet deiner Meinung nach ausschließlich Fakten ab?

> Ja, und ein Team von 6 Mann/Frau/Whatever ist die Schlüsselmaßnahme, die
> sicherstellt, dass die Daten hinreichend, wahr und dem gerade erwünschten
> Weltbild entsprechen?

In welchem Weltbild sind falsche Finanzzahlen den richtig? Es ist einfach Falsch anzunehmen, dass ein Algorithmus der mit ungefiltertem Input arbeitet zu faktisch korrektem Output kommt. Gerade die Sprachmodelle wie GPT sind für die inhaltlich korrekte Wiedergabe auch gar nicht wirklich ausgelegt, das hat auch nichts mit Statistik oder sonst was zu tun. Ob da so ein kleines Team viel ändern kann weiß ich nicht, aber grundsätzlich wäre es gut wenn es ein Team gibt das sich primär damit beschäftigt was das Modell produziert.

Oder denkst du nicht, dass es falsch wäre dem Output solcher Modelle blind zu vertrauen?



1 mal bearbeitet, zuletzt am 14.03.23 10:23 durch dododo.

[Oktavian]

dododo schrieb:
--------------------------------------------------------------------------------
> Oktavian schrieb:
> ---------------------------------------------------------------------------
> -----
> > Weil sich sowas durch die Vielzahl der Quellen, die man verarbeitet,
> wenn
> > man mal seine kleine Filterblase verlässt, rausmittelt. Im Zweifel
> helfen
> > da immer mehr Daten.
>
> Und der durschnittliche öffentliche Diskurs im Internet bildet deiner
> Meinung nach ausschließlich Fakten ab?

Lass die Foren weg, das ist Geblubber. Wenn man dann alle Bibliotheken, alle Veröffentlichungen, alle Zeitungen und Zeitschriften, alle Bücher nimmt, ja, das halte ich im Durchschnitt für eine gute Abbildung der Realität. Jedenfalls eine bessere Abbildung als jeder kuratierte Ausschnitt davon.

[dododo]

Oktavian schrieb:
--------------------------------------------------------------------------------
> Lass die Foren weg, das ist Geblubber. Wenn man dann alle Bibliotheken,
> alle Veröffentlichungen, alle Zeitungen und Zeitschriften, alle Bücher
> nimmt, ja, das halte ich im Durchschnitt für eine gute Abbildung der
> Realität. Jedenfalls eine bessere Abbildung als jeder kuratierte Ausschnitt
> davon.

Eben, schon sind wir beim Vorfiltern bzw. Kuratieren des Inputs. Und wirklich alle Zeitschriften? Ich meine am Kiosk ist eine beachtliche Zahl Klatschzeitschriften, viele mit ähnlichem (erdachten) Inhalt, was als Input dazu führen würde, dass ein Großteil der öffentlichen Personen entweder schwanger, in einer Ehekrise oder beides ist. Wer sucht dann aus welche rein kommen und welche nicht?
Letztlich läuft es doch immer auf einen menschlichen Eingriff hinaus wenn man verhindern möchte, dass solche Modelle Quatsch produzieren. Dadurch ist so ein Modell aber auch niemals ein neutraler Fakten Generator sondern lediglich eine Zusammenfassung von beliebigem Input basierend auf der Auswahl dieser Menschen.

[Sharra]

Das Netz ist rassistisch.
Die Welt ist rassistisch.
JEDE Gesellschaft ist rassistisch. (Ja, selbst die Ululelekala im letzten Eck von Borneo)
Folglich MUSS ein System, das mit realen Daten gefüttert wird, und nicht explizit jedes Mal eine reingewürgt bekommt, wenn es in diese Richtung tendiert, rassistisch werden.
Man könnte dagegen wirken. Tut man nicht.

[Oktavian]

> Folglich MUSS ein System, das mit realen Daten gefüttert wird, und nicht
> explizit jedes Mal eine reingewürgt bekommt, wenn es in diese Richtung
> tendiert, rassistisch werden.
> Man könnte dagegen wirken. Tut man nicht.

Die Frage ist, ob ein System, das nicht den gesellschaftlichen Konventionen folgt, überhaupt nützlich ist.

Wenn ich ein System beauftrage, Bewerberunterlagen vorzusortieren, dieses System aber mehr auf "Gerechtigkeit" als auf Fakten achtet, und zumindest Bewerber sehr anders auswählt, als ich sie gewählt hätte, dann werde ich wahrscheinlich in Zukunft wieder selbst sortieren.

[negiup]

Oktavian schrieb:
--------------------------------------------------------------------------------
> Das "Ding" ist nicht rassistisch, das Ding ist ein Algorithmus, der die
> Daten verarbeitet, die man ihm liefert. Diese Daten lassen
> Schlussfolgerungen zu, Statistik eben. Und diese Schlussfolgerungen mögen
> eben manchen nicht gefallen, da sie mit deren Weltbild kollidieren.

Ein Schmarrn. Letztlich gibt es wohl kaum eine Aussage, die ChatGPT niemals ausgeben würde für beliebigen Prompt und Zufall. Wie man da sagen kann, dass da irgendwelche statistischen Schlussfolgerungen gezogen werden, ist mir schleierhaft.

ChatGPT spult im Wesentlichen das ab, was eine Art Mainstream hören will. Weiterhin halluziniert ChatGPT bekanntermaßen Inhalte gelegentlich herbei.

Beunruhigend, wenn schon Leute in dieser Halluzination leben wollen.



1 mal bearbeitet, zuletzt am 14.03.23 18:00 durch negiup.

[dododo]

Oktavian schrieb:
--------------------------------------------------------------------------------
> Wenn ich ein System beauftrage, Bewerberunterlagen vorzusortieren, dieses
> System aber mehr auf "Gerechtigkeit" als auf Fakten achtet, und zumindest
> Bewerber sehr anders auswählt, als ich sie gewählt hätte, dann werde ich
> wahrscheinlich in Zukunft wieder selbst sortieren.

Wenn wir Mal bei deinem einfachen Beispiel der Bewerbung bleiben, du wirst mir doch hoffentlich beipflichten, dass ein Kriterium wie die Hautfarbe bei der Auswahl eines Softwareentwicklers wohl keine Rolle spielen sollte. Entsprechend muss darauf geachtet werden, dass ein Algorithmus dies nicht in seine Entscheidung einfließen lässt, etwa weil die Bilder auch in die Bewertung einfließen. Da kann ein Modell schnell 'rassistisch' entscheiden, wenn bisherige Einstellungen die Datenbasis sind, da so eine Abweichung der Hautfarbe von der Mehrheit ggf. nachteilig bewertet wird. Das wäre jetzt nur ein offensichtlicher Punkt, solches Verhalten kann auch schnell über weitere Attribute abgeleitet werden.

Und genau um sowas einzuordnen wäre doch ein Ethik Team da. Zum einen Beratend, also welche Aspekte gibt es zu beachten, wie kann ich Fehler vermeiden, zum andern Kontrollierend, also sind eben solche Muster erkennbar.

[Oktavian]

> Wenn wir Mal bei deinem einfachen Beispiel der Bewerbung bleiben, du wirst
> mir doch hoffentlich beipflichten, dass ein Kriterium wie die Hautfarbe bei
> der Auswahl eines Softwareentwicklers wohl keine Rolle spielen sollte.

Genau das könnte eine Situation sein, in der Fakten und Weltbild kollidieren.

Der Algorithmus analysiert die Bewerber der letzten 10 Jahre, die angenommen wurden, und den Erfolg, den sie im Unternehmen dann hatten. Dabei findet er Bewerber aller Hautfarben. Nun findet er vielleicht heraus, dass dunkelhäutige Bewerber mit einer Wahrscheinlichkeit von 0.1 innerhalb der nächsten Jahre Probleme machen, weiße Bewerber mit einer Wahrscheinlichkeit von 0,2 und asiatisch aussehende mit 0,04. Er bewertet nicht, warum das so ist, aber die Unterschiede sind signifikant. Es sind einfach Fakten, gesammelt über zigtausende Bewerber.

Nun lege ich dem Algorithmus Bewerbermappen vor und bitte zu prognostizieren, mit welcher Wahrscheinlichkeit der vorgelegte Bewerber Probleme machen wird. Soll er neben all den anderen Daten dieses Faktum ignorieren, einfach weil es dem Weltbild widerspricht, also der Idee, wie Welt sein sollte? Oder soll der Algorithmus nicht eher die Mappen beurteilen in der Welt, in der er lebt?

[Oktavian]

> ChatGPT spult im Wesentlichen das ab, was eine Art Mainstream hören will.
> Weiterhin halluziniert ChatGPT bekanntermaßen Inhalte gelegentlich herbei.

Wir sprechen hier nicht über ChatGPT, sondern über KI-Algorithmen im Allgemeinen. Kannst weiterschlafen.

[dododo]

Oktavian schrieb:
--------------------------------------------------------------------------------
> Genau das könnte eine Situation sein, in der Fakten und Weltbild
> kollidieren.
>
> Der Algorithmus analysiert die Bewerber der letzten 10 Jahre, die
> angenommen wurden, und den Erfolg, den sie im Unternehmen dann hatten.
> Dabei findet er Bewerber aller Hautfarben. Nun findet er vielleicht heraus,
> dass dunkelhäutige Bewerber mit einer Wahrscheinlichkeit von 0.1 innerhalb
> der nächsten Jahre Probleme machen, weiße Bewerber mit einer
> Wahrscheinlichkeit von 0,2 und asiatisch aussehende mit 0,04. Er bewertet
> nicht, warum das so ist, aber die Unterschiede sind signifikant. Es sind
> einfach Fakten, gesammelt über zigtausende Bewerber.
>
> Nun lege ich dem Algorithmus Bewerbermappen vor und bitte zu
> prognostizieren, mit welcher Wahrscheinlichkeit der vorgelegte Bewerber
> Probleme machen wird. Soll er neben all den anderen Daten dieses Faktum
> ignorieren, einfach weil es dem Weltbild widerspricht, also der Idee, wie
> Welt sein sollte? Oder soll der Algorithmus nicht eher die Mappen
> beurteilen in der Welt, in der er lebt?

Nein, das was du beschreibst, also die Festlegung von "Problematisch" primär an äußerlichen Merkmalen wäre ein rassistisches Verhalten, das hat nichts mit einem Weltbild und auch nichts mit (ordentlicher) Statistik zu tun. Die üblichen ML Algorithmus erkennen in der Regel auch keine Kausalität sondern nur Korrelationen. Ersetze einfach Hautfarbe durch Haarfarbe, das wäre doch auch kein Kriterium.

Aber um zu meinem Beispiel zurück zu kommen. Wie verhindert du, dass Menschen mit roten Haaren die eigentlich bestens geeignet sind vorab aussortiert werden, weil bisherige Leute die eingestellt wurden nunmal alle keine roten Haare hatten, schlicht weil diese in den bisherigen Daten selten vorkommen?

[negiup]

Oktavian schrieb:
--------------------------------------------------------------------------------
> > ChatGPT spult im Wesentlichen das ab, was eine Art Mainstream hören
> will.
> > Weiterhin halluziniert ChatGPT bekanntermaßen Inhalte gelegentlich
> herbei.
>
> Wir sprechen hier nicht über ChatGPT, sondern über KI-Algorithmen im
> Allgemeinen. Kannst weiterschlafen.

Diesen Post von dir habe ich zitiert:

> > MS will KI-Bullshit so schnell wie möglich in den Markt kotzen. Da kann man
> > keine Leute brauchen, die einem vorher sagen, dass das Ding rassistisch
> > geworden ist.
>
> Das "Ding" ist nicht rassistisch, das Ding ist ein Algorithmus, der die Daten verarbeitet, die man ihm liefert. Diese Daten lassen Schlussfolgerungen zu, Statistik eben. Und diese Schlussfolgerungen mögen eben manchen nicht gefallen, da sie mit deren Weltbild kollidieren.
>
> Wenn aber Weltbild und Fakten nicht zusammenpassen, verliert das Weltbild.
>
> > MS braucht den Shitstorm scheinbar.
>
> Ich glaube, die können ihn ab. Aus dem letzten mal haben sie gelernt, aus Usereingaben zu lernen ist doof, dafür sorgt dann 4Chan. Aber aus sonstigen verfügbaren Texten zu lernen ist okay.

Du behauptest jetzt, dass mit "das Ding" ein KI-Algorithmus im Allgemeinen gemeint sei. Aber im letzten Absatz schreibst du etwas von "aus Texten lernen". Nicht jeder allgemeine KI-Algorithmus lernt aus Texten. Damit widersprichst du dir selbst.

Ich habe dich nun blockiert.

[Oktavian]

> Ersetze einfach Hautfarbe durch
> Haarfarbe, das wäre doch auch kein Kriterium.

Ich betreibe eine Agentur für Messen-Hostessen. Ich korreliere, wie oft welche Hostess für welche Messe gebucht wird. Dabei kommt heraus, dass blonde signifikant häufiger gebucht werden als braunhaarige. Nun bitte ich den Algorithmus, Bewerber anhand der Bewerbermappen vorzuqualifizieren...

> Aber um zu meinem Beispiel zurück zu kommen. Wie verhindert du, dass
> Menschen mit roten Haaren die eigentlich bestens geeignet sind vorab
> aussortiert werden, weil bisherige Leute die eingestellt wurden nunmal alle
> keine roten Haare hatten, schlicht weil diese in den bisherigen Daten
> selten vorkommen?

Das muss ich nicht verhindern. Das Algorithmus soll mir dienen, mich entlasten, mir Erfolg in meinem Unternehmen bringen. Wenn er deshalb gelegentlich mal falsch entscheidet, ist das vollkommen okay, solange es seltener passiert als ohne den Algorithmus und solange er mich entlastet. Wenn er also diesen einen rothaarigen Bewerber fälschlich aussortiert, kann ich damit leben. Ich setze den Algorithmus nicht ein, um eine bessere Welt zu kreieren, sondern um mich zu entlasten. Und schließlich mache ich auch Fehler. Viele Fehler. Ich mache nur ein klein wenig mehr richtig als falsch, und das reicht.

[dododo]

Oktavian schrieb:
--------------------------------------------------------------------------------
> Ich betreibe eine Agentur für Messen-Hostessen. Ich korreliere, wie oft
> welche Hostess für welche Messe gebucht wird. Dabei kommt heraus, dass
> blonde signifikant häufiger gebucht werden als braunhaarige. Nun bitte ich
> den Algorithmus, Bewerber anhand der Bewerbermappen vorzuqualifizieren...

Ich sprach oben von Softwareentwicklern...

> Das muss ich nicht verhindern. Das Algorithmus soll mir dienen, mich
> entlasten, mir Erfolg in meinem Unternehmen bringen. Wenn er deshalb
> gelegentlich mal falsch entscheidet, ist das vollkommen okay, solange es
> seltener passiert als ohne den Algorithmus und solange er mich entlastet.
> Wenn er also diesen einen rothaarigen Bewerber fälschlich aussortiert, kann
> ich damit leben. Ich setze den Algorithmus nicht ein, um eine bessere Welt
> zu kreieren, sondern um mich zu entlasten. Und schließlich mache ich auch
> Fehler. Viele Fehler. Ich mache nur ein klein wenig mehr richtig als
> falsch, und das reicht.

Und trainierst das Model so weiter diese Merkmale auszuschließen? Aber wenn rothaarige sich später beschweren systematisch Benachteiligt zu werden, kann das natürlich nicht sein, oder?
Eben waren es noch vermeintlich unfehlbare Fakten und Statistik und jetzt ist das alles egal. Also letztlich willst du dann doch eigentlich das Algorithmen rassistisch agieren können. Sicher wenn einem das egal ist braucht man wohl auch kein Ethik Team.

Naja mir scheint die Diskussion führt hier zu nichts, bin dann Mal raus.

[Oktavian]

> Ich sprach oben von Softwareentwicklern...

Wenn es eine signifikante Korrelation zwischen Haarfarbe und Erfolg gibt, warum nicht. Dann bin ich brennend daran interessiert, das zu wissen. Und wenn sich ergibt, dass braunhaarige Programmierer besser sind als blonde, dann stelle ich bevorzugt braunhaarige ein. Ich tippe eher, haarlose Programmierer sind besser also welche mit Haaren.

> Und trainierst das Model so weiter diese Merkmale auszuschließen? Aber wenn
> rothaarige sich später beschweren systematisch Benachteiligt zu werden,
> kann das natürlich nicht sein, oder?

Haarfarbe fällt nicht unter das AGG. Ich darf rothaarige diskriminieren. :-)

> Eben waren es noch vermeintlich unfehlbare Fakten und Statistik und jetzt
> ist das alles egal. Also letztlich willst du dann doch eigentlich das
> Algorithmen rassistisch agieren können.

Nein, ich will das Algorithmen auf Basis von Fakten entscheiden, völlig frei von Weltbild. Wenn blonde Hostessen besser gebucht werden, dann ist das so. Wenn dunkelhäutige Programmierer in meinem Firma mehr Erfolg haben, dann ist das so. Wenn weiße krimineller sind, dann ist das so. Und wenn Männer mehr Fehlzeiten haben als Frauen, dann ist das so.

Die Welt ist, wie sie ist, und der Algorithmus agiert in der Welt wie sie ist, und nicht in einer Welt, wie wir sie vielleicht gerne hätten. Ein Algorithmus, dem ich verbiete, Fakten der Welt zu lernen, wird schlechter agieren in dieser Welt als der, der sie lernen darf.

[Sharra]

Gerade bei Bewerbungen tust du dir mit einem rassistischen System keinen Gefallen. Was dir an guten Leuten entgeht, weil sie eben dummerweise eine Frau, schwarz, asiatisch, oder behindert sind...
Klar, als Chef kannst du das machen. Ist ja deine eigene Dummheit, wenn diese hochqualifizierten Leute zur Konkurrenz gehen, und du deinen Drecksladen in die Pleite reitest.
Intelligent ist es aber nicht.