Abo
  1. Foren
  2. Kommentare
  3. Applikationen
  4. Alle Kommentare zum Artikel
  5. › Maschinelles Lernen…

Das Problem von KI

  1. Thema

Neues Thema Ansicht wechseln


  1. Das Problem von KI

    Autor: twothe 07.05.18 - 14:21

    "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut, aber wenn man das dann in ein System zur automatischen Erschießung von Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.

    Das war natürlich ein krasse Beispiel, nehmen wir was realistischeres: die Polizei nutzt das um potentielle Verbrecher zu erkennen und pflückt sich dann die gemeldeten raus um diese dann noch mal zu befragen. Klingt ok wenn man jetzt "nur" 1000 gefunden hat, die man dann natürlich nicht verhaftet hat, oder? Das Problem ist allerdings, dass das System entgegen dem Namen eben NICHT lernt, weil das Modell im Betrieb lernen zu lassen im Regelfall die Erkennungsrate senken würde. Es muss praktisch immer mit großen Datenmengen trainiert werden, ansonsten wird hinterher der falsche zwar nicht mehr gemeldet, dafür aber 100 andere.

    Daraus ergibt sich, dass es unter den 1000 Menschen 10 Menschen gibt, die das System nicht nur wegen der Lichtverhältnisse oder dem Schal falsch erkannt hat, sondern die das System einfach immer pauschal falsch erkennt, weil eben gewisse Ähnlichkeiten vorhanden sind, die man auch nicht weg trainiert bekommt, weil das Modell das einfach nicht her gibt. D.h. diese 10 Menschen werden jetzt dank moderner Software an jedem Flughafen, in jeder Bahn, in jedem Bus, und in jedem Stadion jedes mal festgenommen, befragt und dann wieder frei gelassen, weil das System bei ihnen IMMER einen Treffer meldet.



    1 mal bearbeitet, zuletzt am 07.05.18 14:22 durch twothe.

  2. Re: Das Problem von KI

    Autor: noxxi 07.05.18 - 14:30

    Für mich ist was Du beschreibst kein Problem der KI sondern wie KI eingesetzt wird. Man kann KI einsetzen und sich deren Probleme bewusst sein oder man kann blind den Entscheidungen einer KI folgen ohne sie zu hinterfragen.

    Und würde in den Fällen, welche Du beschreibst, der Mensch denn wirklich besser abschneiden? Das Problem von falschen Verdächtigungen besteht meiner Meinung nach bei Menschen nicht weniger - und wenn dann noch Stress (Müdigkeit, Beziehungsprobleme, Probleme mit Chef...) dazukommen wird es noch schlimmer.

  3. Re: Das Problem von KI

    Autor: ArcherV 07.05.18 - 14:55

    twothe schrieb:
    --------------------------------------------------------------------------------
    > "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut,
    > aber wenn man das dann in ein System zur automatischen Erschießung von
    > Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig
    > vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.

    Ja, und? Würde es ein Mensch machen wäre die Anzahl der Unschuldigen um ein vielfaches höher.

  4. Re: Das Problem von KI

    Autor: Ben Stan 07.05.18 - 14:56

    Komische Rechnung?

    1000 sind doch 1% und nicht 0,1 ?

  5. Re: Das Problem von KI

    Autor: M.P. 07.05.18 - 16:13

    Zahlenangaben in Prozent (lat.-ital. von Hundert, Hundertstel)

  6. Re: Das Problem von KI

    Autor: maxule 08.05.18 - 02:05

    twothe schrieb:
    --------------------------------------------------------------------------------
    > "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut,
    > aber wenn man das dann in ein System zur automatischen Erschießung von
    > Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig
    > vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.
    >
    > Das war natürlich ein krasse Beispiel,
    Du siehst das falschrum. Wenn die KI 100% der Menschen eliminiert, dann sind 100% der Kriminellen erledigt. Das ist logisch; kein Irrtum und Rechenfehler möglich. Ziel erreicht. KI kann dann abgeschaltet werden. Hm... Von wem?

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. BWI GmbH, Meckenheim, München
  2. Bosch Gruppe, Stuttgart
  3. BWI GmbH, deutschlandweit
  4. Nagel-Group | Kraftverkehr Nagel SE & Co. KG, Versmold

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Blu-ray-Angebote
  1. (2 Monate Sky Ticket für nur 4,99€)
  2. (Prime Video)
  3. (u. a. The Equalizer Blu-ray, Hotel Transsilvanien 2 Blu-ray, Arrival Blu-ray, Die glorreichen 7...


Haben wir etwas übersehen?

E-Mail an news@golem.de


Automatisiertes Fahren: Der schwierige Weg in den selbstfahrenden Stau
Automatisiertes Fahren
Der schwierige Weg in den selbstfahrenden Stau

Der Staupilot im neuen Audi A8 soll der erste Schritt auf dem Weg zum hochautomatisierten Fahren sein. Doch die Verhandlungen darüber, was solche Autos können müssen, sind sehr kompliziert. Und die Tests stellen Audi vor große Herausforderungen.
Ein Bericht von Friedhelm Greis

  1. Autonomes Fahren Ford will lieber langsam sein
  2. Navya Mainz testet autonomen Bus am Rheinufer
  3. Drive-by-wire Schaeffler kauft Lenktechnik für autonomes Fahren

Threadripper 2990WX und 2950X im Test: Viel hilft nicht immer viel
Threadripper 2990WX und 2950X im Test
Viel hilft nicht immer viel

Für Workstations: AMDs Threadripper 2990WX mit 32 Kernen schlägt Intels ähnlich teure 18-Core-CPU klar und der günstigere Threadripper 2950X hält noch mit. Für das Ryzen-Topmodell muss aber die Software angepasst sein und sie darf nicht zu viel Datentransferrate benötigen.
Ein Test von Marc Sauter

  1. 32-Kern-CPU Threadripper 2990WX läuft mit Radeons besser
  2. Threadripper 2990WX AMDs 32-Kerner kostet weniger als Intels 18-Kerner
  3. Zhongshan Subor Z+ AMD baut SoC mit PS4-Pro-Leistung für chinesische Konsole

Stromversorgung: Das Märchen vom Blackout durch Elektroautos
Stromversorgung
Das Märchen vom Blackout durch Elektroautos

Die massenhafte Verbreitung von Elektroautos stellt das Stromnetz vor neue Herausforderungen. Doch verschiedenen Untersuchungen zufolge sind diese längst nicht so gravierend, wie von Kritikern befürchtet.
Ein Bericht von Friedhelm Greis

  1. Elektromobilität iEV X ist ein Ausziehelektroauto
  2. Elektroautos Bundesrechnungshof hält Kaufprämie für unwirksam
  3. Ladekabel Startup Ubitricity gewinnt Klimaschutzpreis in New York

  1. Pie: Sony-Smartphones erhalten Android 9 ab Ende 2018
    Pie
    Sony-Smartphones erhalten Android 9 ab Ende 2018

    Sony hat die Verfügbarkeit der neuen Android-Version 9 alias Pie für seine Smartphones angekündigt: Die Spitzengeräte sollen das Upgrade ab November 2018 erhalten, weitere Geräte erst Anfang 2019.

  2. Streaming: Amazon soll an Fire-TV-Videorekorder arbeiten
    Streaming
    Amazon soll an Fire-TV-Videorekorder arbeiten

    Aktuell soll Amazon ein neues Gerät entwickeln, mit dem sich Fernsehsendungen aufzeichnen lassen. Die TV-Box mit dem Codenamen Frank könnte die Aufzeichnungen über ein Fire TV anschließend auch auf mobile Geräte streamen.

  3. Bevölkerungsschutz: Digitale Reklametafeln sollen Katastrophenwarnungen anzeigen
    Bevölkerungsschutz
    Digitale Reklametafeln sollen Katastrophenwarnungen anzeigen

    Im Krisenfällen sollen Bürger in Deutschland schneller informiert werden. Daher verhandelt das Bundesamt für Bevölkerungsschutz und Katastrophenhilfe (BBK) mit Betreibern von elektronischen Werbetafeln, die im Ernstfall entsprechende Warnungen anzeigen sollen. Auch Warn-Apps sollen vereinheitlicht werden.


  1. 15:25

  2. 14:22

  3. 13:04

  4. 15:02

  5. 14:45

  6. 14:18

  7. 11:33

  8. 11:04