Zwiespalt zwischen Ethik und Statistik

[Fotobar]

Das Problem mit der Ethik ist, dass diese nicht immer faktenbasiert auf Grundlage von Statistiken argumentiert, sondern uns eher mittels Marketing und Propaganda ein ideales Weltbild vermitteln soll.

Die Frage dabei ist nun, was für eine KI sinnvoll ist und der Menschheit helfen kann. Eine KI die den IST-Zustand basierend auf Fakten widerspiegelt, oder eine KI die uns futuristisch ideologische Geschichten erzählt, damit sie mit unserem Ethik-Konzept vereinbar ist.

Wenn wir nun also eine KI erschaffen um Antworten auf unsere Fragen zu erhalten, sollten wir dieser KI dann gezwungenermaßen einer "Gehirnwäsche" unterziehen, damit uns diese Antworten besser in den Kram passen?

Oder müsste man der Wahrheit in die Augen schauen und vielleicht akzeptieren, dass rein statistisch gesehen die muslimisch glaubende Bevölkerung wirklich aggressiver (sein könnte) als die der christlich glaubenden Bevölkerung, weil die KI möglicherweise als Quellenangabe diverse "Ehrenmorde", Terroranschläge und co. berücksichtigt hat, dessen Ausmaß den Schandtaten des Christentums überwiegen?

Der einzige Grund warum Google in Bezug auf die Ehik gerade so kuscht ist einzig und allein, dass sie Sorge davor haben, von Politik und Medien ausgeschlachtet zu werden. In der Debatte um die Antworten der KI geht es nicht um Wahrheiten, sondern um die Ängste vor Wahrheiten die keiner ausszuprechen wagt.

[dododo]

Nein, das Problem ist schlicht, dass eine KI ohne Eingriff Vorurteile vom Menschen übernimmt. Ganz nach dem Prinzip "shit in, shit out". Eine KI gibt keine "Wahrheit" wieder, sie gibt lediglich wieder was Menschen zuvor als Input geliefert haben. Sind die Eingangsdaten vorurteilbehaftet, ist das die Ausgabe auch.

Gerade statistische Auswertungen sind nichts was sonderlich trivial ist. Eine KI kann hier auch nicht zwangsläufig zwischen Korelation und Kausalität unterscheiden, selbst viele Menschen scheitern doch schon daran. Wenn eine Korrelation zwischen einer Bevölkerungsgruppe mit einer bestimmten Hautfarbe oder Glauben und Gewalt besteht, dann ist doch eben diese nicht zwangsläufig der Grund für die Gewalt. In der Regel sind es ganz andere Faktoren, etwa die im Schnitt schlechtere ökonomische Situation welche eher den Auschlag geben.

Klar kann man eine KI Blind mit statistischen Daten füttern, nur dann ist eben zu erwarten, dass auch mist hinten raus kommt. Und das lässt übrigens auch noch außer acht, dass die Eingangsdaten selbt auch schon vorutreilbehaftet erhoben worden sein könnten.

Also man muss die Daten schon sehr gut aufbereiten wenn man die Fehler, die wir Menschen bei der Bewertung von Sachverhalten häufig machen mit der KI nicht zu wiederholen.

[Fotobar]

dododo schrieb:
--------------------------------------------------------------------------------
> Nein, das Problem ist schlicht, dass eine KI ohne Eingriff Vorurteile vom
> Menschen übernimmt. Ganz nach dem Prinzip "shit in, shit out". Eine KI gibt
> keine "Wahrheit" wieder, sie gibt lediglich wieder was Menschen zuvor als
> Input geliefert haben. Sind die Eingangsdaten vorurteilbehaftet, ist das
> die Ausgabe auch.
>
> Gerade statistische Auswertungen sind nichts was sonderlich trivial ist.
> Eine KI kann hier auch nicht zwangsläufig zwischen Korelation und
> Kausalität unterscheiden, selbst viele Menschen scheitern doch schon daran.
> Wenn eine Korrelation zwischen einer Bevölkerungsgruppe mit einer
> bestimmten Hautfarbe oder Glauben und Gewalt besteht, dann ist doch eben
> diese nicht zwangsläufig der Grund für die Gewalt. In der Regel sind es
> ganz andere Faktoren, etwa die im Schnitt schlechtere ökonomische Situation
> welche eher den Auschlag geben.
>
> Klar kann man eine KI Blind mit statistischen Daten füttern, nur dann ist
> eben zu erwarten, dass auch mist hinten raus kommt. Und das lässt übrigens
> auch noch außer acht, dass die Eingangsdaten selbt auch schon
> vorutreilbehaftet erhoben worden sein könnten.
>
> Also man muss die Daten schon sehr gut aufbereiten wenn man die Fehler, die
> wir Menschen bei der Bewertung von Sachverhalten häufig machen mit der KI
> nicht zu wiederholen.

Grundsätzlich stimme ich deinem Ansatz zu, dass die Ergebnisse davon abhängen, mit welchen Informationen die KI trainiert wird. Doch woher wissen wir denn auf welcher Grundlage diese Aussagen der KI zustande kommen? Wurde die KI wirklich nur mit Vorurteil behafteten Daten gefüttert oder sind es hauptsächlich Statistiken die auf Fakten, also Zahlen basieren?

Wenn die KI gefragt wird ob eine Bevölkerungsgruppe krimineller als die andere ist, ist es eine reine Ja / Nein Frage. Dabei ist völlig irrelevant ob diese Kriminalität durch ethnische Benachteiligungen begründbar ist, denn das wären Antworten auf andere Fragen.

[dododo]

Fotobar schrieb:
--------------------------------------------------------------------------------
> Grundsätzlich stimme ich deinem Ansatz zu, dass die Ergebnisse davon
> abhängen, mit welchen Informationen die KI trainiert wird. Doch woher
> wissen wir denn auf welcher Grundlage diese Aussagen der KI zustande
> kommen? Wurde die KI wirklich nur mit Vorurteil behafteten Daten gefüttert
> oder sind es hauptsächlich Statistiken die auf Fakten, also Zahlen
> basieren?

Letzteres ist was ich mit vorurteilbehafteter Erhebung von Daten meinte. Du triffst die Annahme, dass erhobene Statistik gleich Fakten abbilden. Dem ist bei weitem nicht so.
Vielleicht ein stark vereinfachtes Beispiel: Wenn die Polizei etwa die Kriminalzahlen von Stadtteilen erhebt. Die Präsenz (und Kontrollen) in einem Stadtteil welcher zu großen Teilen aus einer Bevölkerungsminderheit besteht ist aber größer, dann ist zu erwarten, das in den erfassten Gesamtdaten diese Minderheit überräpräsentiert ist. Wenn daraus resultierend dann dort die Kontrollen erhöht werden, hast du eine sich selbst aufwiegelnde Statistik die allein durch die Art der Datenerfassung Fehler enthält. "Echte" Vorurteile etwa gegenüber Menschen anderer Hautfarbe von Seiten der Polizeibeamten ist hier noch nicht mal erfasst.

Der ganze Prozess der Erfassung ist in der Regel schon stark verunreinigt wenn man damit ein Modell bildet und Regeln ableitet macht man es im Zweifel sogar schlimmer.

> Wenn die KI gefragt wird ob eine Bevölkerungsgruppe krimineller als die
> andere ist, ist es eine reine Ja / Nein Frage. Dabei ist völlig irrelevant
> ob diese Kriminalität durch ethnische Benachteiligungen begründbar ist,
> denn das wären Antworten auf andere Fragen.

Das beginnt doch schon mit der Frage und der Annahme diese wäre simpel zu beantworten. Man versucht mit biegen und brechen auf komplexe Sachverhalte einfache ja/nein Antworten zu finden, welche es nicht gibt und sich erst recht nicht mit statistischer Erfassung simpel automatisch beantworten lassen. Zum einen weil die Information in den erhobenen Daten so nicht vorhanden sind (wie oben beschrieben), zum anderen weil bei deiner Frage etwa die Art und Weise wie man die Frage beantworten soll unklar ist. Wie definiert man dan die kriminalität ganzer Gruppen?

Im schlimmsten Fall führt das dazu, dass Menschen eine falsche Sicherheit in den Ergebnissen der KI sehen (ist ja eine "neutrale" Maschine), was Vorurteile ggf. verstärken kann womit wir wieder am Anfang (der Datenerhebung) sind.



1 mal bearbeitet, zuletzt am 01.08.22 20:32 durch dododo.

[Extrawurst]

dododo schrieb:
--------------------------------------------------------------------------------
> Nein, das Problem ist schlicht, dass eine KI ohne Eingriff Vorurteile vom
> Menschen übernimmt.

Kein Coder baut bewusst Rassismus in eine "KI" ein, sondern die KI liest das einfach rein mathematisch aus den Statistiken und gibt das halt ohne jede Ideologie wieder, da sie die Statistiken weder durch eine "politisch korrekte", noch eine vorurteilsbehaftete Brille betrachtet.

Twitter-Nachplapper-Bots, die von 4chan-Trolls rassistische Phrasen in den Mund gelegt bekommen, zähle ich da bewusst nicht dazu - das ist ja aktive Manipulation.

> Eine KI kann hier auch nicht zwangsläufig zwischen Korelation und Kausalität unterscheiden

Das können viele Vertreter der "politischen Korrektheit" allerdings auch nicht, das ist ja das Problem an Ideologie. KI kann uns eigentlich helfen, einen weitaus rationaleren, wenn auch unbequemeren Blick auf bestimmte Zusammenhänge zu bekommen, wofür ein Mensch schon lange gecancelt werden würde.

Stattdessen werden solche "KI"s direkt offline genommen, weil ihr Fazit ja nicht ins Weltbild passt.

> In der Regel sind es ganz andere Faktoren, etwa die im Schnitt schlechtere ökonomische Situation welche eher den Auschlag geben.

Also viele muslimische Familienclans leben durchaus nicht schlecht, und stecken trotzdem bis zum Hals in der Kriminalität. Die berühmten Auto-Hochzeits-Kolonnen sind auch nicht gerade ein Zeugnis chronischer Armut.

Umgekehrt sehen wir keine große Kriminalitätswelle in notorisch schlecht bezahlten und wenig wertgeschätzen Berufen wie der Krankenpflege, Gastronomie, Reinigung oder bei den Hartz-4-Empfängern.

Wenn Armut ein entscheidender Treiber für Kriminalität wäre, müssten unsere Gefängnisse voll mit (ehemaligen) Niedriglohn-Sklaven sein. Und doch ist es ein anderer Anteil, der sich unverhältnismäßig oft in Gefängnissen wiederfindet.

> Klar kann man eine KI Blind mit statistischen Daten füttern, nur dann ist eben zu erwarten, dass auch mist hinten raus kommt.

Oder unbequeme Fakten, wie z.B. dass unsere Gefängnisse einen einen Ausländer-Anteil haben, der verhältnismäßig höher liegt, als der allgemeine Ausländer-Anteil in der Gesellschaft. Wobei "Ausländer-Anteil" hier schon falsch ist, denn es sind nicht Franzosen und Japaner, die unverhältnismäßig oft den Weg in unsere Justizvollzugsanstallten finden...

Ganz schön viele Korrelationen, dafür dass es definitiv niemals eine Kausalität geben kann.

Wäre ich eine "KI", würde ich jetzt offline genommen werden.
Als Mensch wird es wohl bei der "Nadsi-Keule" bleiben.

Die Weigerung, hier eine Kausalität erkennen zu wollen, ist das Hauptproblem moderner Einwanderungs- und Integrationspolitik. Wer Probleme leugnet, kann sie auch nicht lösen.

Im Zweifel knüppelt man lieber den Überbringer der schlechten (und unbequemen) Nachricht nieder, selbst wenn es eine "KI" ist.

[Emulex]

dododo schrieb:
--------------------------------------------------------------------------------

> Vielleicht ein stark vereinfachtes Beispiel: Wenn die Polizei etwa die
> Kriminalzahlen von Stadtteilen erhebt. Die Präsenz (und Kontrollen) in
> einem Stadtteil welcher zu großen Teilen aus einer Bevölkerungsminderheit
> besteht ist aber größer, dann ist zu erwarten, das in den erfassten
> Gesamtdaten diese Minderheit überräpräsentiert ist. Wenn daraus
> resultierend dann dort die Kontrollen erhöht werden, hast du eine sich
> selbst aufwiegelnde Statistik die allein durch die Art der Datenerfassung
> Fehler enthält. "Echte" Vorurteile etwa gegenüber Menschen anderer
> Hautfarbe von Seiten der Polizeibeamten ist hier noch nicht mal erfasst.
>
> Der ganze Prozess der Erfassung ist in der Regel schon stark verunreinigt
> wenn man damit ein Modell bildet und Regeln ableitet macht man es im
> Zweifel sogar schlimmer.
>

Die Tendenz stimmt trotzdem, egal ob selbst verstärkend oder nicht.
Und natürlich kann man die Zahl der Kontrollen ins Verhältnis zu den Vergehen stellen, um die "Verunreinigung" zu minimieren.

Diese Statistiken/Datenerfassung auf so eine Weise anzugreifen entspringt lediglich dem Wunschdenken, dass es nicht wahr sein soll.

[dododo]

Emulex schrieb:
--------------------------------------------------------------------------------
> Die Tendenz stimmt trotzdem, egal ob selbst verstärkend oder nicht.
> Und natürlich kann man die Zahl der Kontrollen ins Verhältnis zu den
> Vergehen stellen, um die "Verunreinigung" zu minimieren.
> Diese Statistiken/Datenerfassung auf so eine Weise anzugreifen entspringt
> lediglich dem Wunschdenken, dass es nicht wahr sein soll.

So einfach ist das aber nicht, wie ich ja mit meinem Beispiel zeigen möchte. Im Stadtteil mit Minderheiten herrscht eine höhere Kriminalität weil die Polizei dort verstärkt kontrolliert, weil dort mehrheitlich eine Minderheit lebt sind diese in der Kriminalstatistik überproportional vertreten, weil diese mehrheitlich in einem Stadtteil leben kontrolliert die Polizei diesen verstärkt, weil dort mehrheitlich eine Minderheit lebt sind diese.....und so weiter.
Das rauszurechnen dürfte schwer werden, da man hier ja mehrere Iterationen durchläuft und das ist nur ein einziger von vielen möglichen "Eingabefehlern", ist aber auch nicht mein Punkt. Es ging mir schlicht darum, dass selbst statistisch erfasste Daten nur mit äußerster Vorsicht ausgewertet werden können und keines falls immer als "Fakt" konsumiert werden können.

Nun du erkennst ja aber auch an, dass man statistische Daten so wie sie meist erfasst werden nicht zwangsläufig nutzbar sind, genau deshalb ist ein menschlicher Eingriff ja notwendig. Eine KI mit rohen Daten zu füttern führt nämlich sonst zu entsprechend fehlerhaften Ergebnissen.

Das Problem bei Statistiken welche von und über Menschen erfasst werden (wie etwa Kriminalität) ist ein Grundlegendes. Es gibt einfach unfassbar viele Faktoren beginnend bei der Erfassung, so dass ein Bewertung eigentlich immer nur in klar definierten Grenzen möglich ist, welche man zur Interpretation immer jeweils aufführen muss. Dies ist etwa in einer wissenschaftlichen Auseinandersetzung möglich in welcher man diese Anführen kann und auch ggf. Probleme des Datensatzes herausarbeiten und verringern kann. Für eine KI wäre das wenn überhaupt dann ein sehr eingeschränkter Input. Zumidest wäre der Output dann vielleicht nicht mehr so plump, wenn es dann noch dafür nutzbar wäre.

Übrigens, ob "die Tendenz" dann noch stimmt weißt du woher? Also hast du den belegbare Daten? Also entsprechend bereinigte Daten welche deine Erwartungshaltung bestätigen und welche Faktoren dabei berücksichtigt wurden?

Andernfalls ist es vielleicht auch Wunschdenken, dass "es" (was eigentlich) wahr sein muss? Aber das ist sowieso kein Argument, den Schuh kann man sich ewig hin und her schieben.

[Emulex]

dododo schrieb:
--------------------------------------------------------------------------------
> Emulex schrieb:
> ---------------------------------------------------------------------------
> -----
> > Die Tendenz stimmt trotzdem, egal ob selbst verstärkend oder nicht.
> > Und natürlich kann man die Zahl der Kontrollen ins Verhältnis zu den
> > Vergehen stellen, um die "Verunreinigung" zu minimieren.
> > Diese Statistiken/Datenerfassung auf so eine Weise anzugreifen
> entspringt
> > lediglich dem Wunschdenken, dass es nicht wahr sein soll.
>
> So einfach ist das aber nicht, wie ich ja mit meinem Beispiel zeigen
> möchte. Im Stadtteil mit Minderheiten herrscht eine höhere Kriminalität
> weil die Polizei dort verstärkt kontrolliert, weil dort mehrheitlich eine
> Minderheit lebt sind diese in der Kriminalstatistik überproportional
> vertreten, weil diese mehrheitlich in einem Stadtteil leben kontrolliert
> die Polizei diesen verstärkt, weil dort mehrheitlich eine Minderheit lebt
> sind diese.....und so weiter.

Das genau ist doch das Wunschdenken - dass es eben keine statistisch signifikante Problematik mit dieser Minderheit geben soll.
Mal ganz abgesehen davon, dass verstärkte Kontrollen keinen relevanten Einfluss auf die Statistik von Gewaltverbrechen in einem Stadtteil haben.
Es gibt ja nicht mehr Opfer durch mehr Kontrollen bzw. eine höhere Polizeipräsenz.
Das Gegenteil ist der Fall und dann kann man deine Logik komplett umdrehen -> dass die Statistik verfälscht wird, weil es durch mehr Polizei weniger (gefahrlose) Verbrechen gibt.

Zum Rest deines Textes:
Natürlich braucht man ein gewisses Vertrauen in die Exekutive, dass diese nicht zu doof ist ihre Statistiken halbwegs sinnvoll zu nutzen.
Hier kombiniert sich die Statistik auch mit Alltagserfahrungen der Polizei zu einem Gesamtbild.
Und dem traue ich eher als manch ideologischer Motivation in manch besonders ideologisch geprägter Stadt, diese Statistiken und Erfahrungen als rassistisch abzustempeln und deshalb die Kriminalität florieren zu lassen.

[ishan]

Nein, das stimmt nicht.
Die Kriminalität steigt nicht, wenn die Polizei häufiger kontroliert, im Gegenteil, die Kriminalität sinkt leicht. Die Aufklärungsrate steigt, weil die Polizei schneller eingreifen kann.
Werden die Kriminellen, die von der Polizei aufgeriffen wurden, verhaftet kann die Kriminalität leicht sinken, solange die Kriminellen nicht da sind.

Selbst wenn die Polizei nicht kontrolliert, so wird die Kriminalität innerhalb von wenigen Stunden entdeckt (Vandalismus, Einbruch, Mord, ...) Es ist eine dummheit zu glauben, wenn die Polizei nicht kontrolliert, so werden diese kriminellen Aktionen nicht gemeldet und statistisch erfasst.



1 mal bearbeitet, zuletzt am 02.08.22 09:31 durch ishan.

[isstdudasnoch]

ishan schrieb:
--------------------------------------------------------------------------------

> Selbst wenn die Polizei nicht kontrolliert, so wird die Kriminalität
> innerhalb von wenigen Stunden entdeckt (Vandalismus, Einbruch, Mord, ...)
> Es ist eine dummheit zu glauben, wenn die Polizei nicht kontrolliert, so
> werden diese kriminellen Aktionen nicht gemeldet und statistisch erfasst.

Du wählst hier nur Straftaten/Ordnungswidrigkeiten, die dir in den Kram passen.

Gegenbeispiel: Drogenbesitz. Kurioserweise gibt es mehr Drogenbesitzer, je mehr die Polizei kontrolliert. Und wenn nun die Polizei besonders viele Leute in bestimmten Stadteilen "zufälligen Kontrollen" unterzieht..

[isstdudasnoch]

Extrawurst schrieb:
--------------------------------------------------------------------------------
> dododo schrieb:
> ---------------------------------------------------------------------------
> -----
> > Nein, das Problem ist schlicht, dass eine KI ohne Eingriff Vorurteile
> vom
> > Menschen übernimmt.
>
> Kein Coder baut bewusst Rassismus in eine "KI" ein, sondern die KI liest
> das einfach rein mathematisch aus den Statistiken und gibt das halt ohne
> jede Ideologie wieder,

Um es einmal in Erinnerung zu rufen:

Eine KI (u.v.A die Amazon Hiring Engine), die dafür gedacht war, vorurteilsfrei möglichst geeignete Bewerber für eine Stelle auszuwählen, wählte basierend auf ihr vorliegenden Daten vorzugsweise weiße Männer.

War das wegen der besonderen Eigenschaften ihrer weißen Haut, rein wie wehender Schnee? Ihrer glatten, elfenbeinfarbenen Klöten?

Ne. Lag daran dass die Trainingsdaten daraus bestanden, dass bisher von der menschlichen HR-Abteilung vorzugsweise weiße Männer eingestellt wurden weil die Dingdongs in der HR rassistisch und sexistisch wie Sau waren.

Haben die Coder die KI bewusst rassistisch gemacht? Eher nicht.

Waren sie etwas bescheuert bei der Auswahl der Trainingsdaten?

Nicht nur etwas.

KI ist kein Klärwerk. Scheiße rein, Scheiße raus.

[Emulex]

isstdudasnoch schrieb:
--------------------------------------------------------------------------------
> ishan schrieb:
> ---------------------------------------------------------------------------
> -----
>
> > Selbst wenn die Polizei nicht kontrolliert, so wird die Kriminalität
> > innerhalb von wenigen Stunden entdeckt (Vandalismus, Einbruch, Mord,
> ...)
> > Es ist eine dummheit zu glauben, wenn die Polizei nicht kontrolliert, so
> > werden diese kriminellen Aktionen nicht gemeldet und statistisch
> erfasst.
>
> Du wählst hier nur Straftaten/Ordnungswidrigkeiten, die dir in den Kram
> passen.
>
> Gegenbeispiel: Drogenbesitz. Kurioserweise gibt es mehr Drogenbesitzer, je
> mehr die Polizei kontrolliert. Und wenn nun die Polizei besonders viele
> Leute in bestimmten Stadteilen "zufälligen Kontrollen" unterzieht..

Straftaten werden ja nicht einfach zusammengerechnet, sondern gesondert aufgeführt.
Daher sind Gewaltverbrechen natürlich relevanter als Drogendelikte in besonders stark kontrollierten Stadtteilen.
Diese sind ein guter Indikator und werden durch höhere Polizeipräsenz eher zurückgehen als "statistisch verstärkt".

Fassen wir es doch ganz einfach zusammen: Die Polizei sollte verstärkt dort präsent sein und kontrollieren, wo es besonders viele Opfer gibt.
Fertig.
Oder gibt es dagegen auch irgendwas anzumerken, das vermeintlich verfälscht wird?

[dododo]

Emulex schrieb:
--------------------------------------------------------------------------------
> Fassen wir es doch ganz einfach zusammen: Die Polizei sollte verstärkt dort
> präsent sein und kontrollieren, wo es besonders viele Opfer gibt.
> Fertig.
> Oder gibt es dagegen auch irgendwas anzumerken, das vermeintlich verfälscht
> wird?

Es ging doch nie um einen konkreten Fall, da muss man nicht ewig drauf herum reiten (auch wenn es vielleicht parallelen zur Realität gibt). Mein Punkt ist das die Art der Erfassung die statistik stark verfälschen kann. Aber vielleicht konkreter wo hier das Problem für die statistische Erfassung liegt, das ist explizit keine Bewertung der Herangehensweise:

Du hast zwei Stadtteile in A leben 8 grüne und 2 rote Einheiten. In Stadtteil B ist es umgekehrt 2xG 8xR.
Treffen wir die Annahme, in beiden Gruppen ist die Hälfte "kriminel" (also 6xR, 6xG, unter der Annahme man könnte kriminel überhaupt binär erfassen), weitere Annahme ist die Polizei kann je Polizeieinheit einen Kriminelen aufgreifen. Sendet man jetzt von 4 Beamten, 3 in Stadtteil A und nur einen in Stadtteil B, dann entdeckst du mehr Verbrechen in A und aufgrund der Bevölkerungsstruktur wahrscheinlich auch mehr grüne. Wenn du dann als Folge die Präsenz verstärkst, etwa eine zusätzliche Einheit für Stadtteil A einplanst schlägt sich das noch weiter zu Lasten von Stadteil A und der Bevölkerungsschicht nieder, da du potentiel mehr Straftaten aufdecken kannst. Statistisch sieht es dann immer so aus, dass Stadtteil A krimineller und auch grün krimineller ist, allein schon durch die Art und Weise wie die Daten erfasst wurden. Das lässt sich auch nicht immer einfach herausrechnen, man kennt ja den echten Ist-Zustand nicht um das zu tun.

Das ist auch ein rein konstruiertes Beispiel und mit anderen Annahmen könnte man andere Ergebnise erzielen. Ich will hier nur ein Problem der statistischen Daten aufzeigen, mir ist auch klar, dass man diese weiter verarbeiten kann, was durch Menschen ja oft getan wird. Kern ist aber, dass nur weil das Statistiken sind welche auf Zahlen basieren diese nicht automatisch die Realität abbilden und KIs die drauf basieren die enthaltenen Fehler nur wiedergeben. Natürlich soll das nicht heißen, dass die Polizei einfach wegsehen soll und natürlich muss sie dort Präsenz zeigen wo sie Straftaten erwartet. Man muss sich aber bewusst sein, dass dann die daraus erfassten Daten lediglich die Polizeiarbeit erfasst, nicht die Realität abbildet.



1 mal bearbeitet, zuletzt am 02.08.22 12:40 durch dododo.

[Emulex]

In deinem Beispiel sind also erstmal beide Stadtteile gleich kriminell?
Und lediglich durch vermehrte Kontrollen in einem Stadtteil, wird dieser statistisch krimineller?
Das macht für mich keinen Sinn.
Die Opferzahlen/Leichenfunde/Anzeigen sind unabhängig von Polizeikontrollen.
Lediglich können diese Kontrollen präventiv wirken, indem z.B. illegaler Waffenbesitz aufgedeckt und die Waffen aus dem Verkehr gezogen werden, bevor es zu schwerwiegenderen Vergehen kommt. Ebenso führt die Polzeipräsenz in der Regel generell zu weniger (schwerwiegenden) Straftaten.

Du merkst also: In Stadtteilen, in denen die Polizei besonders präsent ist und dieser Stadtteil trotzdem durch vor allem Gewaltdelikte und hohe Opferzahlen auffällt, muss ein Problem vorliegen.
Und es ist nicht die Polizei.

Wenn du eine KI natürlich ohne jede Gewichtung der Straftat mit Zahlen fütterst, dann kann etwas falsches rauskommen... das wäre in etwa wie wenn die polizeiliche Kriminalitätsstatistik nur eine Spalte hätte und in dieser Form veröffentlicht würde.
Macht einfach keinen Sinn, daher macht man das nicht.

[dododo]

Emulex schrieb:
--------------------------------------------------------------------------------
> In deinem Beispiel sind also erstmal beide Stadtteile gleich kriminell?
> Und lediglich durch vermehrte Kontrollen in einem Stadtteil, wird dieser
> statistisch krimineller?
> Das macht für mich keinen Sinn.
> Die Opferzahlen/Leichenfunde/Anzeigen sind unabhängig von
> Polizeikontrollen.

Das gilt nur unter der Annahme, dass alle Delikte auch ohne Polizei erfasst werden. Für viele gilt das aber nicht, wenn du nur in einem Stadteil einen Blizer aufstellst, wirst du auch nur dort Raser in der Statistik finden (sehr stark vereinfacht). Das ist auch eine Annahme des Beispiels.

> Lediglich können diese Kontrollen präventiv wirken, indem z.B. illegaler
> Waffenbesitz aufgedeckt und die Waffen aus dem Verkehr gezogen werden,
> bevor es zu schwerwiegenderen Vergehen kommt. Ebenso führt die
> Polzeipräsenz in der Regel generell zu weniger (schwerwiegenden)
> Straftaten.

Nochmal das ist ein fiktives Beispiel basierend auf einer Reihe von Annahmen, daher sind Annahmen welche andere Erklärungsversuche liefern sollen nicht zielführend, es gibt hier keine richtige oder falsche Erklärung. Das ist doch auch genau mein Punkt, je nach dem welche Annahmen du triffst erhälst du bei der Bewertung der selben Daten andere Ergebnisse. Diese gelten aber immer nur im Rahmen deiner Annahmen und sind keinesfalls eine neutrale Wiedergabe der Realität.

Wenn man dann die Erwartung hat man kippt das in eine KI und dadurch wird die Auswertung in irgendeiner Form neutral oder vorurteilsfrei wäre wunschdenken. Ich mein das hast du ja auch irgendwie angebracht, das lässt sich allerdings nicht mit einer banalen Gewichtung lösen. Ich mein wir haben doch schon für einen einzelnen Punkt diametral unterschiedliche Erklärungsansätze geliefert, und es gibt in der Kette der Erfassung noch weitere Punkte.

Übrigens heißt das auch nicht dass man Straftaten nicht erfassen soll und entsprechende Statistiken nutzlos sind, sie sind nur keine trivial objektive Datenquelle, entsprechend wäre es die daraus resultierende KI auch nicht.

[Fotobar]

isstdudasnoch schrieb:
--------------------------------------------------------------------------------

> KI ist kein Klärwerk. Scheiße rein, Scheiße raus.

Das hast du sehr schön gesagt.
Das ist wie die menschliche DNA und die Erziehung von Kindern.

[Anonymer Nutzer]

Selbst wenn statistisch einige Tendenzen richtig wären, und die Statistik auch richtig erstellt wurde (was nicht so trivial ist), heißt dass schon lange nicht dass statistikbasierte Entscheidungen rational die besten sind.

Statistiken vereinfachen immer und betrachten immer nur Dinge aus einer Perspektive der Masse, und "glätten" Sonderfälle weg. Ursachenforschung, Variablen die das Ergebnis beeinflussen usw. sind sehr schwer auszumachen.

Aber gerade "Sonderfälle" haben wichtige Konsequenzen in der Logik/Mathematik. Nimmt man die Division, so kommt statistisch gesehen immer eine Zahl raus, nur bei Division durch Null gibt es entweder mehrere mögliche Interpretationen oder es wird ein Fehler gemeldet.

Man kann Division also nicht rein statistisch interpretieren, sonst macht man fundamentale Fehler und die folgenden Ergebnisse sind vollkommener Unsinn.

Um wirklich gute Entscheidungen zu treffen muss man weit über oberflächliche Tendenzen hinaus gehen, und konkret sich Fälle und Probleme anschauen, sonst ist alles durchschnittlich, geglättet und dann am Ende sehr falsch.

Statistiken sind für kurzfristige schnelle Abschätzung bei Informationsmangel, aber sonst keine gute Enscheidungsbasis.

[Anonymer Nutzer]

> Ne. Lag daran dass die Trainingsdaten daraus bestanden, dass bisher von der
> menschlichen HR-Abteilung vorzugsweise weiße Männer eingestellt wurden weil
> die Dingdongs in der HR rassistisch und sexistisch wie Sau waren.
Nicht dass HR gerade sinnvolle Maßstäbe hätten. Aber waren sie wirklich sexistisch und rassistisch, oder gibt es andere mögliche Erklärungen?