Abo
  1. Foren
  2. Kommentare
  3. Applikationen
  4. Alle Kommentare zum Artikel
  5. › Maschinelles Lernen…

Das Problem von KI

  1. Thema

Neues Thema Ansicht wechseln


  1. Das Problem von KI

    Autor: twothe 07.05.18 - 14:21

    "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut, aber wenn man das dann in ein System zur automatischen Erschießung von Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.

    Das war natürlich ein krasse Beispiel, nehmen wir was realistischeres: die Polizei nutzt das um potentielle Verbrecher zu erkennen und pflückt sich dann die gemeldeten raus um diese dann noch mal zu befragen. Klingt ok wenn man jetzt "nur" 1000 gefunden hat, die man dann natürlich nicht verhaftet hat, oder? Das Problem ist allerdings, dass das System entgegen dem Namen eben NICHT lernt, weil das Modell im Betrieb lernen zu lassen im Regelfall die Erkennungsrate senken würde. Es muss praktisch immer mit großen Datenmengen trainiert werden, ansonsten wird hinterher der falsche zwar nicht mehr gemeldet, dafür aber 100 andere.

    Daraus ergibt sich, dass es unter den 1000 Menschen 10 Menschen gibt, die das System nicht nur wegen der Lichtverhältnisse oder dem Schal falsch erkannt hat, sondern die das System einfach immer pauschal falsch erkennt, weil eben gewisse Ähnlichkeiten vorhanden sind, die man auch nicht weg trainiert bekommt, weil das Modell das einfach nicht her gibt. D.h. diese 10 Menschen werden jetzt dank moderner Software an jedem Flughafen, in jeder Bahn, in jedem Bus, und in jedem Stadion jedes mal festgenommen, befragt und dann wieder frei gelassen, weil das System bei ihnen IMMER einen Treffer meldet.



    1 mal bearbeitet, zuletzt am 07.05.18 14:22 durch twothe.

  2. Re: Das Problem von KI

    Autor: noxxi 07.05.18 - 14:30

    Für mich ist was Du beschreibst kein Problem der KI sondern wie KI eingesetzt wird. Man kann KI einsetzen und sich deren Probleme bewusst sein oder man kann blind den Entscheidungen einer KI folgen ohne sie zu hinterfragen.

    Und würde in den Fällen, welche Du beschreibst, der Mensch denn wirklich besser abschneiden? Das Problem von falschen Verdächtigungen besteht meiner Meinung nach bei Menschen nicht weniger - und wenn dann noch Stress (Müdigkeit, Beziehungsprobleme, Probleme mit Chef...) dazukommen wird es noch schlimmer.

  3. Re: Das Problem von KI

    Autor: ArcherV 07.05.18 - 14:55

    twothe schrieb:
    --------------------------------------------------------------------------------
    > "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut,
    > aber wenn man das dann in ein System zur automatischen Erschießung von
    > Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig
    > vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.

    Ja, und? Würde es ein Mensch machen wäre die Anzahl der Unschuldigen um ein vielfaches höher.

  4. Re: Das Problem von KI

    Autor: Ben Stan 07.05.18 - 14:56

    Komische Rechnung?

    1000 sind doch 1% und nicht 0,1 ?

  5. Re: Das Problem von KI

    Autor: M.P. 07.05.18 - 16:13

    Zahlenangaben in Prozent (lat.-ital. von Hundert, Hundertstel)

  6. Re: Das Problem von KI

    Autor: maxule 08.05.18 - 02:05

    twothe schrieb:
    --------------------------------------------------------------------------------
    > "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut,
    > aber wenn man das dann in ein System zur automatischen Erschießung von
    > Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig
    > vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.
    >
    > Das war natürlich ein krasse Beispiel,
    Du siehst das falschrum. Wenn die KI 100% der Menschen eliminiert, dann sind 100% der Kriminellen erledigt. Das ist logisch; kein Irrtum und Rechenfehler möglich. Ziel erreicht. KI kann dann abgeschaltet werden. Hm... Von wem?

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. Eurowings Aviation GmbH, Köln
  2. mobilcom-debitel GmbH, Büdelsdorf
  3. McService GmbH, München
  4. Beckhoff Automation GmbH & Co. KG, Verl

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Blu-ray-Angebote
  1. (u. a. 3 Blu-rays für 15€, 2 Neuheiten für 15€)
  2. (u. a. ES Blu-ray 10,83€, Die nackte Kanone Blu-ray-Box-Set 14,99€)


Haben wir etwas übersehen?

E-Mail an news@golem.de


C64-WLAN-Modem ausprobiert: Mit dem C64 ins Netz
C64-WLAN-Modem ausprobiert
Mit dem C64 ins Netz

WLAN am C64 per Steckmodul - klingt simpel und nach einer interessanten Spielerei. Wir haben unseren 8-Bit-Commodore ins Netz gebracht und dabei geschafft, woran wir in den frühen 90ern gescheitert sind: ein Bulletin-Board zu besuchen.
Ein Erfahrungsbericht von Martin Wolf

  1. Klassiker Internet Archive bietet Tausende spielbare C64-Games

Linux-Kernel CoC: Endlich normale Leute
Linux-Kernel CoC
Endlich normale Leute

Als Linus Torvalds sich für seine Unflätigkeit entschuldigte und auch die Linux-Community Verhaltensregeln erhielt, fürchteten viele, die Hölle werde nun zufrieren und die Community schwer beschädigt. Stattdessen ist es eigentlich ganz nett geworden dort.
Eine Analyse von Sebastian Grüner

  1. Kernel ZFS für Linux bekommt GPL-Probleme
  2. Betriebssysteme Linux 5.0rc1 kommt mit Freesync und Adiantum
  3. Retpoline Linux-Kernel soll besseren Spectre-Schutz bekommen

Slighter im Hands on: Wenn das Feuerzeug smarter als der Raucher ist
Slighter im Hands on
Wenn das Feuerzeug smarter als der Raucher ist

CES 2019 Mit Slighter könnte ausgerechnet ein Feuerzeug Rauchern beim Aufhören helfen: Ausgehend von den Rauchgewohnheiten erstellt es einen Plan - und gibt nur zu ganz bestimmten Zeiten eine Flamme.
Ein Hands on von Tobias Költzsch

  1. H2Bike Alpha Wasserstoff-Fahrrad fährt 100 Kilometer weit
  2. Bosch Touch-Projektoren angesehen Virtuelle Displays für Küche und Schrank
  3. Mobilität Das Auto der Zukunft ist modular und wandelbar

  1. DEV Systemtechnik: Distributed CCAP Nodes sollen 10 GBit/s im Kabelnetz bringen
    DEV Systemtechnik
    Distributed CCAP Nodes sollen 10 GBit/s im Kabelnetz bringen

    Mit neuen Distributed-CCAP-Geräten, die bis zu 1.000 angeschlossene Kabelmodems pro Gerät unterstützen, soll ein maximaler Datendurchsatz von mehr als 10 GBit/s pro Knoten im Kabelnetz erreicht werden. Die Docsis-3.1.-Technik kommt aus Deutschland.

  2. Ausrüster: Nokia Deutschland baut massiv Arbeitsplätze ab
    Ausrüster
    Nokia Deutschland baut massiv Arbeitsplätze ab

    Bei Nokia Deutschland werden 15 Prozent der Arbeitsplätze in allen Bereichen gestrichen. Offenbar laufen die Geschäfte trotz 5G-Einführung nicht zufriedenstellend, weil die USA den Handelskrieg mit China weiter anheizen.

  3. Amazon: Fire TV Stick erhält verbesserte Fernbedienung ohne Aufpreis
    Amazon
    Fire TV Stick erhält verbesserte Fernbedienung ohne Aufpreis

    Amazon verkauft den normalen Fire TV Stick mit einer verbesserten Fernbedienung. Damit lässt sich auch die Lautstärke des Fernsehers oder einer Soundbar steuern. Kurzzeitig gibt es die Fire-TV-Fernbedienung einzeln zum halben Preis.


  1. 20:07

  2. 18:46

  3. 18:00

  4. 17:40

  5. 17:25

  6. 17:13

  7. 17:04

  8. 16:22