Abo
  1. Foren
  2. Kommentare
  3. Applikationen
  4. Alle Kommentare zum Artikel
  5. › Maschinelles Lernen…

Das Problem von KI

  1. Thema

Neues Thema Ansicht wechseln


  1. Das Problem von KI

    Autor: twothe 07.05.18 - 14:21

    "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut, aber wenn man das dann in ein System zur automatischen Erschießung von Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.

    Das war natürlich ein krasse Beispiel, nehmen wir was realistischeres: die Polizei nutzt das um potentielle Verbrecher zu erkennen und pflückt sich dann die gemeldeten raus um diese dann noch mal zu befragen. Klingt ok wenn man jetzt "nur" 1000 gefunden hat, die man dann natürlich nicht verhaftet hat, oder? Das Problem ist allerdings, dass das System entgegen dem Namen eben NICHT lernt, weil das Modell im Betrieb lernen zu lassen im Regelfall die Erkennungsrate senken würde. Es muss praktisch immer mit großen Datenmengen trainiert werden, ansonsten wird hinterher der falsche zwar nicht mehr gemeldet, dafür aber 100 andere.

    Daraus ergibt sich, dass es unter den 1000 Menschen 10 Menschen gibt, die das System nicht nur wegen der Lichtverhältnisse oder dem Schal falsch erkannt hat, sondern die das System einfach immer pauschal falsch erkennt, weil eben gewisse Ähnlichkeiten vorhanden sind, die man auch nicht weg trainiert bekommt, weil das Modell das einfach nicht her gibt. D.h. diese 10 Menschen werden jetzt dank moderner Software an jedem Flughafen, in jeder Bahn, in jedem Bus, und in jedem Stadion jedes mal festgenommen, befragt und dann wieder frei gelassen, weil das System bei ihnen IMMER einen Treffer meldet.



    1 mal bearbeitet, zuletzt am 07.05.18 14:22 durch twothe.

  2. Re: Das Problem von KI

    Autor: noxxi 07.05.18 - 14:30

    Für mich ist was Du beschreibst kein Problem der KI sondern wie KI eingesetzt wird. Man kann KI einsetzen und sich deren Probleme bewusst sein oder man kann blind den Entscheidungen einer KI folgen ohne sie zu hinterfragen.

    Und würde in den Fällen, welche Du beschreibst, der Mensch denn wirklich besser abschneiden? Das Problem von falschen Verdächtigungen besteht meiner Meinung nach bei Menschen nicht weniger - und wenn dann noch Stress (Müdigkeit, Beziehungsprobleme, Probleme mit Chef...) dazukommen wird es noch schlimmer.

  3. Re: Das Problem von KI

    Autor: ArcherV 07.05.18 - 14:55

    twothe schrieb:
    --------------------------------------------------------------------------------
    > "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut,
    > aber wenn man das dann in ein System zur automatischen Erschießung von
    > Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig
    > vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.

    Ja, und? Würde es ein Mensch machen wäre die Anzahl der Unschuldigen um ein vielfaches höher.

  4. Re: Das Problem von KI

    Autor: Ben Stan 07.05.18 - 14:56

    Komische Rechnung?

    1000 sind doch 1% und nicht 0,1 ?

  5. Re: Das Problem von KI

    Autor: M.P. 07.05.18 - 16:13

    Zahlenangaben in Prozent (lat.-ital. von Hundert, Hundertstel)

  6. Re: Das Problem von KI

    Autor: maxule 08.05.18 - 02:05

    twothe schrieb:
    --------------------------------------------------------------------------------
    > "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut,
    > aber wenn man das dann in ein System zur automatischen Erschießung von
    > Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig
    > vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.
    >
    > Das war natürlich ein krasse Beispiel,
    Du siehst das falschrum. Wenn die KI 100% der Menschen eliminiert, dann sind 100% der Kriminellen erledigt. Das ist logisch; kein Irrtum und Rechenfehler möglich. Ziel erreicht. KI kann dann abgeschaltet werden. Hm... Von wem?

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. Alfred Kärcher SE & Co. KG, Winnenden bei Stuttgart
  2. Wirecard Service Technologies GmbH, Aschheim bei München
  3. Universität des Saarlandes, Saarbrücken
  4. neveling.net GmbH, Hamburg

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Spiele-Angebote
  1. 25,49€
  2. 11,95€
  3. 42,99€
  4. 4,99€


Haben wir etwas übersehen?

E-Mail an news@golem.de


Technologie: Warum Roboter in Japan so beliebt sind
Technologie
Warum Roboter in Japan so beliebt sind

Japaner produzieren nicht nur mehr Roboter als jede andere Nation, sie gehen auch selbstverständlicher mit ihnen um. Das liegt an der besonderen Geschichte und Religion des Inselstaats - und an Astro Boy.
Von Miroslav Stimac

  1. Heimautomatisierung Wäschefaltroboter-Hersteller Seven Dreamers ist insolvent
  2. Kreativität Roboterdame Ai-Da soll zeichnen und malen
  3. Automatisierung Roboterhotel entlässt Roboter

Raspi-Tastatur und -Maus im Test: Die Basteltastatur für Bastelrechner
Raspi-Tastatur und -Maus im Test
Die Basteltastatur für Bastelrechner

Für die Raspberry-Pi-Platinen gibt es eine offizielle Tastatur und Maus, passenderweise in Weiß und Rot. Im Test macht die Tastatur einen anständigen Eindruck, die Maus hingegen hat uns eher kaltgelassen. Das Keyboard ist zudem ein guter Ausgangspunkt für Bastelprojekte.
Ein Test von Tobias Költzsch

  1. Bastelcomputer Offizielle Maus und Tastatur für den Raspberry Pi
  2. Kodi mit Raspberry Pi Pimp your Stereoanlage
  3. Betriebssystem Windows 10 on ARM kann auf Raspberry Pi 3 installiert werden

Fitbit Versa Lite im Test: Eher smartes als sportliches Wearable
Fitbit Versa Lite im Test
Eher smartes als sportliches Wearable

Sieht fast aus wie eine Apple Watch, ist aber viel günstiger: Golem.de hat die Versa Lite von Fitbit ausprobiert. Neben den Sport- und Fitnessfunktionen haben uns besonders der Appstore und das Angebot an spaßigen und ernsthaften Anwendungen interessiert.
Von Peter Steinlechner

  1. Smartwatch Fitbit stellt Versa Lite für Einsteiger vor
  2. Inspire Fitbits neues Wearable gibt es nicht im Handel
  3. Charge 3 Fitbit stellt neuen Fitness-Tracker für 150 Euro vor

  1. Hybridkonsole: Nintendo hat 34,7 Millionen Switch verkauft
    Hybridkonsole
    Nintendo hat 34,7 Millionen Switch verkauft

    Die Switch läuft weiterhin gut. Nintendo hat nach eigenen Angaben bislang fast 35 Millionen Einheiten verkauft. Für weiteren Absatz sollen neue Spiele wie Super Mario Maker 2 sorgen. Eine neue Version der Hybridkonsole soll zumindest demnächst nicht erscheinen.

  2. Metropolregion Hamburg: 6.000 Kilometer Glasfaserleitung werden verlegt
    Metropolregion Hamburg
    6.000 Kilometer Glasfaserleitung werden verlegt

    Minister Scheuer hat am Donnerstag das "bislang größte Projekt im Rahmen des Bundesförderprogramms Breitbandausbau" gestartet. Es geht um Timmendorf auf der Insel Poel und rund 6.000 Kilometer Glasfaserleitungen.

  3. Netzwerkfilter: Cloudflare baut Tcpdump-Ersatz für XDP
    Netzwerkfilter
    Cloudflare baut Tcpdump-Ersatz für XDP

    Mit Tcpdump können Netzwerkpakete untersucht werden. Der Express Data Path (XDP) führt diese aber am traditionellen Kernel-Stack vorbei, sodass das Werkzeug nicht mehr genutzt werden kann. Cloudflare stellt deshalb einen eigenen Ersatz als Open Source bereit.


  1. 17:39

  2. 16:27

  3. 15:57

  4. 15:41

  5. 15:25

  6. 15:18

  7. 14:20

  8. 14:01