1. Foren
  2. Kommentare
  3. Wissenschaft
  4. Alle Kommentare zum Artikel
  5. › Neuronale Netze: KI-Angriff…

Ich verstehe es...

  1. Thema

Neues Thema Ansicht wechseln


  1. Ich verstehe es...

    Autor: Anonymer Nutzer 11.01.18 - 12:37

    ...bin ich jetzt ein bot?

  2. Re: Ich verstehe es...

    Autor: Trollversteher 11.01.18 - 15:04

    Dann sag mir doch mal (ohne die Auflösung anzuklicken) was Du bei dem ersten Sprachsample hier auf der Seite verstehst:

    http://nicholas.carlini.com/code/audio_adversarial_examples/

  3. Re: Ich verstehe es...

    Autor: staeff 11.01.18 - 15:45

    Das ist ein wesentlich besseres Beispiel. Nach dem dritten mal dachte ich ich hätte es verstanden. ;-)

  4. Re: Ich verstehe es...

    Autor: GtaSpider 11.01.18 - 16:16

    Mein Pixel 2 versteht aber davon auch nur die Hälfte "merchant gave the boy" wurde zu "Virgin Skaterboy" :P

  5. Re: Ich verstehe es...

    Autor: Zazu42 11.01.18 - 18:21

    Trollversteher schrieb:
    --------------------------------------------------------------------------------
    > Dann sag mir doch mal (ohne die Auflösung anzuklicken) was Du bei dem
    > ersten Sprachsample hier auf der Seite verstehst:
    >
    > nicholas.carlini.com

    mein nexus 5 hat google now und ok google von überall aus eingerichtet und reagiert da nicht...

  6. Re: Ich verstehe es...

    Autor: KlugKacka 11.01.18 - 19:41

    Zazu42 schrieb:
    --------------------------------------------------------------------------------
    > Trollversteher schrieb:
    > ---------------------------------------------------------------------------
    > -----
    > > Dann sag mir doch mal (ohne die Auflösung anzuklicken) was Du bei dem
    > > ersten Sprachsample hier auf der Seite verstehst:
    > >
    > > nicholas.carlini.com
    >
    > mein nexus 5 hat google now und ok google von überall aus eingerichtet und
    > reagiert da nicht...


    Muttu aber auch einschalten :P

  7. Re: Ich verstehe es...

    Autor: chefin 12.01.18 - 08:27

    Keiner sagt, das nun jede Spracherkennung sofort ausgetrickst werden kann. Vorallem angelernte Systeme haben sich auf deine Stimme umgestellt und daher reagieren sie auf andere Muster.

    Hier gehst drum, das man Muster aufbaut die du anders verstehst als der Computer. Spracherkennung heist nicht, das man einen 1:1 Vergleich macht mit einem Sample. Sondern das man es auf Muster reduziert, die zb Tonhöhen rausrechnet. Den jeder Mensch hat andere Tonlage. Also reagiert man auf Tonveränderung. o und a bei selber Frequenz hören sich eben anders an. Teste es mal indem du einen ton summst und dabei den mund zu O und A formst ohne den Ton in seiner Höhe zu verändern. Nur die Änderung zwischen O und A ist relevant, nicht die absolute Tonhöhe und Stimmlage.

    Das reduziert die Information derart stark, das man durchaus andere Wörter sprechen kann, die dann falsch erkannt werden. Wichtig dabei ist: Aufgrund der Art wie Computer es erkennen müssen, erzeugen sie eben diese Schwachstelle. Und das ist ein generelles Problem von Sprachbefehlen. Und noch viel wichtiger ist, das Problem anzugehen und eine Lösung dafür zu entwickeln. Mit: ich habe das Problem aktuell nicht, manöviert man sich selbst in einen Sackgasse.

  8. Re: Ich verstehe es...

    Autor: Trollversteher 15.01.18 - 09:35

    >mein nexus 5 hat google now und ok google von überall aus eingerichtet und reagiert da nicht...

    Die Beispiele stammen aus einem Forschungsprojekt, das erst mal nur die Möglichkeit an sich evaluieren soll, und wurden auf Mozillas "DeepSpeech" optimiert - hier handelt es sich nicht um ein ausgereiftes, universelles System um sämtliche derzeit gängigen Speech-to-Text Systeme erfolgreich auszutricksen.

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. Schock GmbH, Regen
  2. Valtech Mobility GmbH, München
  3. Schlenotronic Computervertriebs GmbH, Frankenthal (Pfalz)
  4. Weisenburger Bau GmbH, Karlsruhe

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Hardware-Angebote


Haben wir etwas übersehen?

E-Mail an news@golem.de