1. Foren
  2. Kommentare
  3. Automobil-Forum
  4. Alle Kommentare zum Artikel
  5. › Maschinensehen: US…

Keine real-world-Ergebnisse

Neue Foren im Freiraum! Raumfahrt und freie Software haben jetzt einen Platz, die Games tummeln sich jetzt alle in einem Forum.
  1. Thema

Neues Thema


  1. Keine real-world-Ergebnisse

    Autor: puerst 08.08.17 - 08:40

    Aussagen wie "Das manipulierte Stopp-Schild sei mit einer Trefferquote von 100 Prozent für eine Geschwindigkeitsbegrenzung auf 45 Meilen pro Stunde gehalten worden" sind irreführend. Damit ist nicht gemeint, dass 100% der von den Automobilherstellern verwendeten Algorithmen das Schild falsch erkennen, sondern dass der von den Forschern verwendete eine (=1) Algorithmus die Bilder falsch interpretierte. Ob dieser Algorithmus überhaupt in irgendeinem Fahrzeug angewendet wird, war für mich nicht ersichtlich.

  2. Re: Keine real-world-Ergebnisse

    Autor: Someone_else 08.08.17 - 09:12

    Ja stimmt. Hier geht es auch nur um PR, um Forschungsgelder zu bekommen.

  3. Re: Keine real-world-Ergebnisse

    Autor: xq 08.08.17 - 09:16

    puerst schrieb:
    --------------------------------------------------------------------------------
    > Ob dieser Algorithmus überhaupt in irgendeinem Fahrzeug angewendet wird,
    > war für mich nicht ersichtlich.
    Darum geht es auch gar nicht. Sie haben gezeigt, dass es möglich ist, ein solches System von außen zu manipulieren.

    Ob die von ihnen verwendeten Marker-Modifikationen jetzt auch gleich bei anderen Systemen anschlagen oder aber diese andere Modifikationen benötigen ist imho eher irrelevant. Der Angriffsvektor ist vorhandenen und vergleichsweise trivial umzusetzen

  4. Re: Keine real-world-Ergebnisse

    Autor: kayozz 08.08.17 - 09:17

    Sie sind an das System herangegangen wie Hacker.

    Es wäre durchaus denkbar, das in naher Zukunft z.B. ein Hacker sich genau ein Fahrzeugmodell heraussucht und versucht, dieses zu verwirren um dann, nur so aus Spaß Stop Schilder gegen 100 Schilder auszutauschen.

  5. Re: Keine real-world-Ergebnisse

    Autor: der_wahre_hannes 08.08.17 - 09:19

    xq schrieb:
    --------------------------------------------------------------------------------
    > puerst schrieb:
    > ---------------------------------------------------------------------------
    > -----
    > > Ob dieser Algorithmus überhaupt in irgendeinem Fahrzeug angewendet wird,
    > > war für mich nicht ersichtlich.
    > Darum geht es auch gar nicht.

    Doch, irgendwie schon.

    > Sie haben gezeigt, dass es möglich ist, ein solches System von außen zu manipulieren.

    "Ein solches System". Was für ein System? Ob die Algorithmen anderer Hersteller auch auf derartige Manipulationen reinfallen ist damit doch gar nicht gesagt.

    > Der Angriffsvektor ist vorhandenen und vergleichsweise trivial umzusetzen

    Und war schon lange vorher bekannt. Dass Witzbolde Schilder übersprühen, abreißen oder umstecken ist kein neues Phänomen.

  6. Re: Keine real-world-Ergebnisse

    Autor: kayozz 08.08.17 - 09:30

    der_wahre_hannes schrieb:
    --------------------------------------------------------------------------------
    > Und war schon lange vorher bekannt. Dass Witzbolde Schilder übersprühen,
    > abreißen oder umstecken ist kein neues Phänomen.

    Nur sind Menschen oft in der Lage, trotzdem richtig zu handeln. Oder anders formuliert: Sie können die Entscheidung treffen, sich den Anweisungen der Schilder zu wiedersetzen und anders zu handeln, weil das in der Situation vernünftig erscheint.

    Einen solchen Algorithmus in eine KI einzubauen ist eine Herausforderung.

  7. Re: Keine real-world-Ergebnisse

    Autor: der_wahre_hannes 08.08.17 - 10:07

    kayozz schrieb:
    --------------------------------------------------------------------------------
    > der_wahre_hannes schrieb:
    > ---------------------------------------------------------------------------
    > -----
    > > Und war schon lange vorher bekannt. Dass Witzbolde Schilder übersprühen,
    > > abreißen oder umstecken ist kein neues Phänomen.
    >
    > Nur sind Menschen oft in der Lage, trotzdem richtig zu handeln. Oder anders
    > formuliert: Sie können die Entscheidung treffen, sich den Anweisungen der
    > Schilder zu wiedersetzen und anders zu handeln, weil das in der Situation
    > vernünftig erscheint.

    Eine KI kann das also nicht sondern hält sich immer strikt an die Schildvorgabe? Das würde ja bedeuten, dass mit 120 km/h ins Stauende reingebrettert wird. immerhin hat es das Schild ja gesagt.

  8. Re: Keine real-world-Ergebnisse

    Autor: xq 08.08.17 - 11:09

    der_wahre_hannes schrieb:
    --------------------------------------------------------------------------------
    > Eine KI kann das also nicht sondern hält sich immer strikt an die
    > Schildvorgabe? Das würde ja bedeuten, dass mit 120 km/h ins Stauende
    > reingebrettert wird. immerhin hat es das Schild ja gesagt.

    Ist jetzt ein Extremfall, der, soweit ich weiß, über andere Systeme abgesichert ist. Aber gehen wir mal von einer subtileren Manipulation aus:
    Du hast eine 30iger Beschränkung innerorts und änderst diese auf eine 60iger-Beschränkung, am besten in der Nähe eines Blitzers.

    Das Fahrverhalten wird sich ändern, aber nicht zwangsweise direkt ein "offensichtlicher" Schaden entstehen

  9. Re: Keine real-world-Ergebnisse

    Autor: der_wahre_hannes 08.08.17 - 11:13

    xq schrieb:
    --------------------------------------------------------------------------------
    > der_wahre_hannes schrieb:
    > ---------------------------------------------------------------------------
    > -----
    > > Eine KI kann das also nicht sondern hält sich immer strikt an die
    > > Schildvorgabe? Das würde ja bedeuten, dass mit 120 km/h ins Stauende
    > > reingebrettert wird. immerhin hat es das Schild ja gesagt.
    >
    > Ist jetzt ein Extremfall, der, soweit ich weiß, über andere Systeme
    > abgesichert ist. Aber gehen wir mal von einer subtileren Manipulation aus:
    > Du hast eine 30iger Beschränkung innerorts und änderst diese auf eine
    > 60iger-Beschränkung, am besten in der Nähe eines Blitzers.
    >
    > Das Fahrverhalten wird sich ändern, aber nicht zwangsweise direkt ein
    > "offensichtlicher" Schaden entstehen

    Das ist jetzt aber kein reines KI-Problem. Ich stelle die kühne Behauptung auf, dass die große Mehrzahl der Verkehrsteilnehmer hier 60 fahren würde.

  10. Re: Keine real-world-Ergebnisse

    Autor: Peter Brülls 08.08.17 - 12:00

    der_wahre_hannes schrieb:
    --------------------------------------------------------------------------------

    > > Du hast eine 30iger Beschränkung innerorts und änderst diese auf eine
    > > 60iger-Beschränkung, am besten in der Nähe eines Blitzers.
    > >
    > > Das Fahrverhalten wird sich ändern, aber nicht zwangsweise direkt ein
    > > "offensichtlicher" Schaden entstehen
    >
    > Das ist jetzt aber kein reines KI-Problem. Ich stelle die kühne Behauptung
    > auf, dass die große Mehrzahl der Verkehrsteilnehmer hier 60 fahren würde.

    Das kommt ja ganz darauf an, wie das Schild manipuliert wurde. Hier geht es halt darum. dass für Menschen erkennbare Manipulationen nicht von einer KI erkannt werden. Und das ist auch eine wichtige Erkenntnis, die letztlich auch in die Reglementierung einfließen muss, dass ein Hostile Test eben auch Manipulationen abdecken muss, die nicht auf Menschentäuschungen ausgelegt sind sondern Maschinentäuschung.

  11. Re: Keine real-world-Ergebnisse

    Autor: der_wahre_hannes 08.08.17 - 12:20

    Peter Brülls schrieb:
    --------------------------------------------------------------------------------
    > der_wahre_hannes schrieb:
    > ---------------------------------------------------------------------------
    > -----
    >
    > > > Du hast eine 30iger Beschränkung innerorts und änderst diese auf eine
    > > > 60iger-Beschränkung, am besten in der Nähe eines Blitzers.
    > > >
    > > > Das Fahrverhalten wird sich ändern, aber nicht zwangsweise direkt ein
    > > > "offensichtlicher" Schaden entstehen
    > >
    > > Das ist jetzt aber kein reines KI-Problem. Ich stelle die kühne
    > Behauptung
    > > auf, dass die große Mehrzahl der Verkehrsteilnehmer hier 60 fahren
    > würde.
    >
    > Das kommt ja ganz darauf an, wie das Schild manipuliert wurde. Hier geht
    > es halt darum. dass für Menschen erkennbare Manipulationen nicht von einer
    > KI erkannt werden.

    Richtig. Von EINER KI, die von den Forschern selbst entwickelt wurde. Daraus Rückschlüsse auf KIs zu ziehen, die Zurzeit von Autoherstellern eingesetzt bzw. getestet werden halte ich für nicht zulässig.

  1. Thema

Neues Thema


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. Support-Specialist (m/w/d)
    Allianz Technology SE, Hamburg
  2. Mitarbeiter Qualitätssicherung Softwareentwicklung Sozialwesen (m/w/d)
    Anstalt für Kommunale Datenverarbeitung in Bayern (AKDB), München
  3. IT Datacenter Specialist (m/w/d)
    DLR Gesellschaft für Raumfahrtanwendungen (GfR) mbH, Oberpfaffenhofen
  4. Beschäftigte:r (w/m/d) in der Informations- und IT-Sicherheit
    Universität zu Köln, Köln

Detailsuche


Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Top-Angebote
  1. mit Rabattcode NBBCRUCIAL15
  2. (u. a. Lenovo IdeaPad 14 Zoll, i7, 16GB, 512GB SSD, Windows 11 Home für 899€)
  3. (u. a. Galaxy A52s 128 GB für 251,26€, Galaxy Watch4 Classic 46 mm für 209,24€)
  4. 999€ statt 1.699€


Haben wir etwas übersehen?

E-Mail an news@golem.de