Abo
  1. Foren
  2. Kommentare
  3. Applikationen
  4. Alle Kommentare zum Artikel
  5. › Maschinelles Lernen…

Das Problem von KI

  1. Thema

Neues Thema Ansicht wechseln


  1. Das Problem von KI

    Autor: twothe 07.05.18 - 14:21

    "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut, aber wenn man das dann in ein System zur automatischen Erschießung von Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.

    Das war natürlich ein krasse Beispiel, nehmen wir was realistischeres: die Polizei nutzt das um potentielle Verbrecher zu erkennen und pflückt sich dann die gemeldeten raus um diese dann noch mal zu befragen. Klingt ok wenn man jetzt "nur" 1000 gefunden hat, die man dann natürlich nicht verhaftet hat, oder? Das Problem ist allerdings, dass das System entgegen dem Namen eben NICHT lernt, weil das Modell im Betrieb lernen zu lassen im Regelfall die Erkennungsrate senken würde. Es muss praktisch immer mit großen Datenmengen trainiert werden, ansonsten wird hinterher der falsche zwar nicht mehr gemeldet, dafür aber 100 andere.

    Daraus ergibt sich, dass es unter den 1000 Menschen 10 Menschen gibt, die das System nicht nur wegen der Lichtverhältnisse oder dem Schal falsch erkannt hat, sondern die das System einfach immer pauschal falsch erkennt, weil eben gewisse Ähnlichkeiten vorhanden sind, die man auch nicht weg trainiert bekommt, weil das Modell das einfach nicht her gibt. D.h. diese 10 Menschen werden jetzt dank moderner Software an jedem Flughafen, in jeder Bahn, in jedem Bus, und in jedem Stadion jedes mal festgenommen, befragt und dann wieder frei gelassen, weil das System bei ihnen IMMER einen Treffer meldet.



    1 mal bearbeitet, zuletzt am 07.05.18 14:22 durch twothe.

  2. Re: Das Problem von KI

    Autor: noxxi 07.05.18 - 14:30

    Für mich ist was Du beschreibst kein Problem der KI sondern wie KI eingesetzt wird. Man kann KI einsetzen und sich deren Probleme bewusst sein oder man kann blind den Entscheidungen einer KI folgen ohne sie zu hinterfragen.

    Und würde in den Fällen, welche Du beschreibst, der Mensch denn wirklich besser abschneiden? Das Problem von falschen Verdächtigungen besteht meiner Meinung nach bei Menschen nicht weniger - und wenn dann noch Stress (Müdigkeit, Beziehungsprobleme, Probleme mit Chef...) dazukommen wird es noch schlimmer.

  3. Re: Das Problem von KI

    Autor: ArcherV 07.05.18 - 14:55

    twothe schrieb:
    --------------------------------------------------------------------------------
    > "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut,
    > aber wenn man das dann in ein System zur automatischen Erschießung von
    > Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig
    > vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.

    Ja, und? Würde es ein Mensch machen wäre die Anzahl der Unschuldigen um ein vielfaches höher.

  4. Re: Das Problem von KI

    Autor: Ben Stan 07.05.18 - 14:56

    Komische Rechnung?

    1000 sind doch 1% und nicht 0,1 ?

  5. Re: Das Problem von KI

    Autor: M.P. 07.05.18 - 16:13

    Zahlenangaben in Prozent (lat.-ital. von Hundert, Hundertstel)

  6. Re: Das Problem von KI

    Autor: maxule 08.05.18 - 02:05

    twothe schrieb:
    --------------------------------------------------------------------------------
    > "Wir haben eine Erkennungsrate von 99,9%!" Klingt jetzt eigentlich gut,
    > aber wenn man das dann in ein System zur automatischen Erschießung von
    > Bösewichtern einbaut, heißt das immer noch, dass bei 1 Millionen zufällig
    > vorbeilaufenden Menschen immer noch 1000 Unschuldige erschossen werden.
    >
    > Das war natürlich ein krasse Beispiel,
    Du siehst das falschrum. Wenn die KI 100% der Menschen eliminiert, dann sind 100% der Kriminellen erledigt. Das ist logisch; kein Irrtum und Rechenfehler möglich. Ziel erreicht. KI kann dann abgeschaltet werden. Hm... Von wem?

Neues Thema Ansicht wechseln


Dieses Thema wurde geschlossen.

Stellenmarkt
  1. CompuGroup Medical Deutschland AG, Höxter
  2. SEG Automotive Germany GmbH über KÖNIGSTEINER AGENTUR, Stuttgart-Weilimdorf
  3. Continental AG, Frankfurt
  4. AXIT GmbH - A Siemens Company, Frankenthal

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Blu-ray-Angebote
  1. 4,25€
  2. (2 Monate Sky Ticket für nur 4,99€)


Haben wir etwas übersehen?

E-Mail an news@golem.de


Shift6m-Smartphone im Hands on: Nachhaltigkeit geht auch bezahlbar und ansehnlich
Shift6m-Smartphone im Hands on
Nachhaltigkeit geht auch bezahlbar und ansehnlich

Cebit 2018 Das deutsche Unternehmen Shift baut Smartphones, die mit dem Hintergedanken der Nachhaltigkeit entstehen. Das bedeutet für die Entwickler: faire Bezahlung der Werksarbeiter, wiederverwertbare Materialien und leicht zu öffnende Hardware. Außerdem gibt es auf jedes Gerät ein Rückgabepfand - interessant.
Von Oliver Nickel


    In eigener Sache: Freie Schreiber/-innen für Jobthemen gesucht
    In eigener Sache
    Freie Schreiber/-innen für Jobthemen gesucht

    IT-Profis sind auf dem Arbeitsmarkt enorm gefragt, und die Branche hat viele Eigenheiten. Du kennst dich damit aus und willst unseren Lesern darüber berichten? Dann schreib für unser Karriere-Ressort!

    1. Leserumfrage Wie sollen wir Golem.de erweitern?
    2. Stellenanzeige Golem.de sucht Redakteur/-in für IT-Sicherheit
    3. Leserumfrage Wie gefällt Ihnen Golem.de?

    3D-Druck on Demand: Wenn der Baumarkt Actionfiguren aus Stahl druckt
    3D-Druck on Demand
    Wenn der Baumarkt Actionfiguren aus Stahl druckt

    Es gibt viele Anbieter für 3D-Druck on Demand und die Preise fallen. Golem.de hat die 3D-Druckdienste von Toom, Conrad Electronic, Sculpteo und Media Markt getestet, um neue Figuren der Big-Jim-Reihe zu erschaffen.
    Ein Praxistest von Achim Sawall