Abo
  1. Foren
  2. Kommentare
  3. Applikationen
  4. Alle Kommentare zum Artikel
  5. › Maschinelles Lernen…

Das Problem von KI

  1. Thema

Neues Thema Ansicht wechseln


  1. Das Problem von KI

    Autor: twothe 07.05.18 - 14:21

    "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut, aber wenn man das dann in ein System zur automatischen Erschießung von Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.

    Das war natürlich ein krasse Beispiel, nehmen wir was realistischeres: die Polizei nutzt das um potentielle Verbrecher zu erkennen und pflückt sich dann die gemeldeten raus um diese dann noch mal zu befragen. Klingt ok wenn man jetzt "nur" 1000 gefunden hat, die man dann natürlich nicht verhaftet hat, oder? Das Problem ist allerdings, dass das System entgegen dem Namen eben NICHT lernt, weil das Modell im Betrieb lernen zu lassen im Regelfall die Erkennungsrate senken würde. Es muss praktisch immer mit großen Datenmengen trainiert werden, ansonsten wird hinterher der falsche zwar nicht mehr gemeldet, dafür aber 100 andere.

    Daraus ergibt sich, dass es unter den 1000 Menschen 10 Menschen gibt, die das System nicht nur wegen der Lichtverhältnisse oder dem Schal falsch erkannt hat, sondern die das System einfach immer pauschal falsch erkennt, weil eben gewisse Ähnlichkeiten vorhanden sind, die man auch nicht weg trainiert bekommt, weil das Modell das einfach nicht her gibt. D.h. diese 10 Menschen werden jetzt dank moderner Software an jedem Flughafen, in jeder Bahn, in jedem Bus, und in jedem Stadion jedes mal festgenommen, befragt und dann wieder frei gelassen, weil das System bei ihnen IMMER einen Treffer meldet.



    1 mal bearbeitet, zuletzt am 07.05.18 14:22 durch twothe.

  2. Re: Das Problem von KI

    Autor: noxxi 07.05.18 - 14:30

    Für mich ist was Du beschreibst kein Problem der KI sondern wie KI eingesetzt wird. Man kann KI einsetzen und sich deren Probleme bewusst sein oder man kann blind den Entscheidungen einer KI folgen ohne sie zu hinterfragen.

    Und würde in den Fällen, welche Du beschreibst, der Mensch denn wirklich besser abschneiden? Das Problem von falschen Verdächtigungen besteht meiner Meinung nach bei Menschen nicht weniger - und wenn dann noch Stress (Müdigkeit, Beziehungsprobleme, Probleme mit Chef...) dazukommen wird es noch schlimmer.

  3. Re: Das Problem von KI

    Autor: ArcherV 07.05.18 - 14:55

    twothe schrieb:
    --------------------------------------------------------------------------------
    > "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut,
    > aber wenn man das dann in ein System zur automatischen Erschießung von
    > Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig
    > vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.

    Ja, und? Würde es ein Mensch machen wäre die Anzahl der Unschuldigen um ein vielfaches höher.

  4. Re: Das Problem von KI

    Autor: Ben Stan 07.05.18 - 14:56

    Komische Rechnung?

    1000 sind doch 1% und nicht 0,1 ?

  5. Re: Das Problem von KI

    Autor: M.P. 07.05.18 - 16:13

    Zahlenangaben in Prozent (lat.-ital. von Hundert, Hundertstel)

  6. Re: Das Problem von KI

    Autor: maxule 08.05.18 - 02:05

    twothe schrieb:
    --------------------------------------------------------------------------------
    > "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut,
    > aber wenn man das dann in ein System zur automatischen Erschießung von
    > Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig
    > vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.
    >
    > Das war natürlich ein krasse Beispiel,
    Du siehst das falschrum. Wenn die KI 100% der Menschen eliminiert, dann sind 100% der Kriminellen erledigt. Das ist logisch; kein Irrtum und Rechenfehler möglich. Ziel erreicht. KI kann dann abgeschaltet werden. Hm... Von wem?

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. Diamant Software GmbH & Co. KG, Bielefeld
  2. dm-drogerie markt GmbH + Co. KG, Wustermark bei Berlin
  3. Capgemini Deutschland GmbH, Erfurt
  4. d.velop AG, Gescher

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Spiele-Angebote
  1. 39,99€ (Release 14.11.)
  2. 53,99€ statt 69,99€
  3. 32,99€


Haben wir etwas übersehen?

E-Mail an news@golem.de


Pixel 3 und Pixel 3 XL im Hands on: Googles Smartphones mit verbesserten Kamerafunktionen
Pixel 3 und Pixel 3 XL im Hands on
Googles Smartphones mit verbesserten Kamerafunktionen

Google hat das Pixel 3 und das Pixel 3 XL vorgestellt. Bei beiden neuen Smartphones legt das Unternehmen besonders hohen Wert auf die Kamerafunktionen. Mit viel Software-Raffinessen sollen gute Bilder auch unter widrigen Umständen entstehen. Die ersten Eindrücke sind vielversprechend.
Ein Hands on von Ingo Pakalski

  1. BQ Aquaris X2 Pro im Hands on Ein gelungenes Gesamtpaket mit Highend-Funktionen

Probefahrt mit Tesla Model 3: Wie auf Schienen übers Golden Gate
Probefahrt mit Tesla Model 3
Wie auf Schienen übers Golden Gate

Die Produktion des Tesla Model 3 für den europäischen Markt wird gerade vorbereitet. Golem.de hat einen Tag in und um San Francisco getestet, was Käufer von dem Elektroauto erwarten können.
Ein Erfahrungsbericht von Friedhelm Greis

  1. 1.000 Autos pro Tag Tesla baut das hunderttausendste Model 3
  2. Goodwood Festival of Speed Tesla bringt Model 3 erstmals offiziell nach Europa
  3. Elektroauto Produktionsziel des Tesla Model 3 erreicht

Neuer Echo Dot im Test: Amazon kann doch gute Mini-Lautsprecher bauen
Neuer Echo Dot im Test
Amazon kann doch gute Mini-Lautsprecher bauen

Echo Dot steht bisher für muffigen, schlechten Klang. Mit dem neuen Modell zeigt Amazon, dass es doch gute smarte Mini-Lautsprecher mit dem Alexa-Sprachassistenten bauen kann, die sogar gegen die Konkurrenz von Google ankommen.
Ein Test von Ingo Pakalski


    1. BVG: Mit bis zu 500 MBit/s im Bus-WLAN unterwegs
      BVG
      Mit bis zu 500 MBit/s im Bus-WLAN unterwegs

      Berliner Linienbusse werden über LTE Advanced mit WLAN angebunden. Der Fahrgast könne damit 100 und 150 MBit/s erwarten, meint die BVG.

    2. Europäischer Gerichtshof: Kein schwarzer Tag für alle Filesharing-Abgemahnten
      Europäischer Gerichtshof
      Kein schwarzer Tag für alle Filesharing-Abgemahnten

      Das Urteil des Europäischen Gerichtshofs zum Filesharing ändert nichts. Es bestätigt nur die bisherige Rechtsprechung des Bundesgerichtshofs. Anschlussinhaber haben nach der grundrechtlich weiterhin besonders geschützten Familie keine näheren Nachforschungspflichten und müssen Angehörige nicht ausspionieren.

    3. Sicherheitslücke in Windows: Den Gast zum Admin machen
      Sicherheitslücke in Windows
      Den Gast zum Admin machen

      Eine Sicherheitslücke in Windows erlaubt, die Rechte von Nutzerkonten auszuweiten. Die Lücke ist seit zehn Monaten bekannt und wurde noch nicht geschlossen. Schadsoftware-Autoren dürften sich freuen.


    1. 19:03

    2. 18:40

    3. 17:44

    4. 17:29

    5. 17:17

    6. 17:00

    7. 17:00

    8. 16:48