1. Foren
  2. Kommentare
  3. Wissenschaft
  4. Alle Kommentare zum Artikel
  5. › Neuronale Netze: KI-Angriff…

Sprachassistenten...

  1. Thema

Neues Thema Ansicht wechseln


  1. Sprachassistenten...

    Autor: maverick1977 11.01.18 - 10:41

    Sprachassistenten müssten lernen, nur auf ein Stimmmuster zu hören, so dass man Personenbezogen Kommandos festlegen kann. Wäre auch im Falle der Büchsen Alexa und wie sie alle heißen ein sinnvoller Zusatz.

    Wenn jede x-beliebige Person dem Gerät Kommandos geben kann, ist das so, als hätte man einen amoklaufenden Deppen zu Hause, den man nur freundlich bitten muss, die Haustüre zu öffnen, um rein zukommen. Kann doch nicht angehen, dass man sowas zu Hause einsetzt, oder? Da müssten die Versicherungen gleich mal die Verträge prüfen.

  2. Re: Sprachassistenten...

    Autor: Bautz 11.01.18 - 10:46

    Cortana hört nur auf mich. Mit einer aufnahme von mir kann man sie austricksen, mein Vater nicht (und leute können am Telefon nicht erkennen ob ich oder er dran ist, also ähnliche stimme). Einziger Nachteil: Man kann nur eine Stimme trainieren, ich hätte gerne noch die zweite meiner Freundin auch noch mit dabei.

  3. Re: Sprachassistenten...

    Autor: Bouncy 11.01.18 - 10:50

    maverick1977 schrieb:
    --------------------------------------------------------------------------------
    > Sprachassistenten müssten lernen, nur auf ein Stimmmuster zu hören, so dass
    > man Personenbezogen Kommandos festlegen kann. Wäre auch im Falle der
    > Büchsen Alexa und wie sie alle heißen ein sinnvoller Zusatz.
    Wird sicherlich dieses Jahr kommen, alle sind afaik kurz vor der Fertigstellung. Endlich, weil die Fehlaktivierungen durch TV etc. gehen mir schon etwas auf den Keks...

  4. Re: Sprachassistenten...

    Autor: miauwww 11.01.18 - 11:01

    maverick1977 schrieb:
    --------------------------------------------------------------------------------
    > Sprachassistenten müssten lernen, nur auf ein Stimmmuster zu hören, so dass
    > man Personenbezogen Kommandos festlegen kann.

    Dann ahmt die Ki halt Dein Stimmmuster nach - und fertig.

  5. Re: Sprachassistenten...

    Autor: ernstl 11.01.18 - 11:10

    miauwww schrieb:
    --------------------------------------------------------------------------------
    > maverick1977 schrieb:
    > ---------------------------------------------------------------------------
    > -----
    > > Sprachassistenten müssten lernen, nur auf ein Stimmmuster zu hören, so
    > dass
    > > man Personenbezogen Kommandos festlegen kann.
    >
    > Dann ahmt die Ki halt Dein Stimmmuster nach - und fertig.

    Ja, so einfach ist das. Dafür muss die KI leider erstmal umfangreich auf die Stimme trainiert werden. KI bedeutet ja nicht, dass etwas hellseherische Fähigkeiten aus dem Nichts erhält.

    Ich wage sowieso zu bezweifeln, dass viel KI in dem vorgestellten Angriff steckt. Sieht eher aus wie "wir analysieren, auf welche Features die Spracherkennung achtet und filtern aus unserer Audiospur alles raus, was sowieso nicht berücksichtigt wird". Aber heutzutage wird ja jeder handelsübliche Algorithmus als KI bezeichnet.

    http://www.commitstrip.com/en/2017/06/07/ai-inside/

  6. Re: Sprachassistenten...

    Autor: Trollversteher 11.01.18 - 11:21

    >Ich wage sowieso zu bezweifeln, dass viel KI in dem vorgestellten Angriff steckt. Sieht eher aus wie "wir analysieren, auf welche Features die Spracherkennung achtet und filtern aus unserer Audiospur alles raus, was sowieso nicht berücksichtigt wird". Aber heutzutage wird ja jeder handelsübliche Algorithmus als KI bezeichnet.

    Und genau für solche Aufgaben sind neuronale KIs perfekt geeignet - Daten analysieren, bestimmte Merkmale identifizieren, und neue, zukünftige Daten auf diese Merkmale reduzieren. Und da dies in einem "selbstständigen" neuronalen Lernprozess stattfindet, ist es in der Tat eine "KI" und kein "handeslüblicher Algorithmus".

  7. Re: Sprachassistenten...

    Autor: Anonymouse 11.01.18 - 12:13

    Trollversteher schrieb:
    --------------------------------------------------------------------------------
    > >Ich wage sowieso zu bezweifeln, dass viel KI in dem vorgestellten Angriff
    > steckt. Sieht eher aus wie "wir analysieren, auf welche Features die
    > Spracherkennung achtet und filtern aus unserer Audiospur alles raus, was
    > sowieso nicht berücksichtigt wird". Aber heutzutage wird ja jeder
    > handelsübliche Algorithmus als KI bezeichnet.
    >
    > Und genau für solche Aufgaben sind neuronale KIs perfekt geeignet - Daten
    > analysieren, bestimmte Merkmale identifizieren, und neue, zukünftige Daten
    > auf diese Merkmale reduzieren. Und da dies in einem "selbstständigen"
    > neuronalen Lernprozess stattfindet, ist es in der Tat eine "KI" und kein
    > "handeslüblicher Algorithmus".

    Ob hier nun solche KI im Einsatz ist, oder der Mitarbeiter nicht einfach die entsprechenden Befehle selbst eingetippert hat, lässt ich nur vermuten.
    Letzteres halte ich für wahrscheinlicher. Und auch für einen möglichen Angriff über diesen Weg, entwicklelt man vermutlich nicht extra eine KI, sondern tippt halt die paar Befehle die man möchte, händisch ein.

  8. Re: Sprachassistenten...

    Autor: FreierLukas 11.01.18 - 12:17

    "Nicht extra eine K.I." Selbstlernalgorithmen die sich neuronale Netze zu Nutzen machen muss man nicht von Grund auf neu entwickeln, die gibts schon fertig als Import für Python zB. Darum dreht sich doch der ganze Hype. jeder kann es nutzen und wer es nicht tut wird in naher Zukunft keine Chance mehr am Markt haben. Zumindest was Software angeht mit der Menschen interagiert. Software die nicht lernt und sich weiterentwickelt ist dumm und gehört ins 20te Jahrhundert.



    5 mal bearbeitet, zuletzt am 11.01.18 12:20 durch FreierLukas.

  9. Re: Sprachassistenten...

    Autor: deutscher_michel 11.01.18 - 13:07

    > jeder kann es nutzen und wer es nicht tut wird in naher Zukunft keine Chance mehr am
    >Markt haben. Zumindest was Software angeht mit der Menschen interagiert. Software
    >die nicht lernt und sich weiterentwickelt ist dumm und gehört ins 20te Jahrhundert.

    Beide Thesen wage ich sehr stark zu bezweifeln - sicher gibt es Einsatzgebiete für KI aber in den meisten Fällen möchte man keine sicher ändernde Software - sondern sie dient einem speziellen Zweck, den sie zu erfüllen hat. Ein Bankautomat der aus Eingaben lernt und sich anders verhält braucht kein Mensch..

  10. Re: Sprachassistenten...

    Autor: Trollversteher 11.01.18 - 14:52

    >Ob hier nun solche KI im Einsatz ist, oder der Mitarbeiter nicht einfach die entsprechenden Befehle selbst eingetippert hat, lässt ich nur vermuten.

    >Letzteres halte ich für wahrscheinlicher. Und auch für einen möglichen Angriff über diesen Weg, entwicklelt man vermutlich nicht extra eine KI, sondern tippt halt die paar Befehle die man möchte, händisch ein.

    Welche "Befehle" denn? Es geht doch hier nicht um "Befehle eintippern"? Das erinnert mich irgendwie an "Programmierer" oder "Hacker" in schlechten Filmen, die jedes noch so komplexe IT Problem lösen, in dem sie anfangen, wie wild auf ihrer Tastatur herumzuhämmern...

    Es geht hierbei darum, eine DeepSpeech KI auszutricksen, indem man eine beliebige Waveform (zB einen gesprochenen Satz) so verändert, dass der Mensch keine Veränderung erkennt (ist zu 99.9% dem Ausgangssample gleich), aber von einer Spracherkennungs-KI in eine beliebige andere Aussage übersetzt wird. Im Papier wurde zum Beispiel der Satz "it was the best of times, it was the worst of times" so manipuliert, dass die KI daraus "it is a truth univesally acknowledged that a single..." heraushört, *ohne* dass ein Mensch einen Unterschied erkennen würde.

    Oder im Artikel wird der gehörte Satz "Ohne den Datensatz ist der Artikel nutzlos" vom Google Assistant als "Okay Google, navigiere zur Seite Evil dot com" interpretiert.

    Leider kenne ich mich zwar ein wenig mit der Theorie hinter neuronalen Netzen aus, in der konkreten Mathematik dahinter bin ich aber nicht bewandert - soweit ich es verstanden habe, nutzt man hier ähnliche Algorithmen wie sie bei einem neuronalen Netz zur Anwendung kommen, um einen möglichst optimalen Weg zu finden neuronale Spracherkennungs-Netze auszutricksen - eine Art "neuronales Hacking" also.

  11. Re: Sprachassistenten...

    Autor: Trollversteher 11.01.18 - 14:55

    >Beide Thesen wage ich sehr stark zu bezweifeln - sicher gibt es Einsatzgebiete für KI aber in den meisten Fällen möchte man keine sicher ändernde Software - sondern sie dient einem speziellen Zweck, den sie zu erfüllen hat. Ein Bankautomat der aus Eingaben lernt und sich anders verhält braucht kein Mensch..

    Daher werden in solchen Fällen ja auch "ausgelernte" Netze eingesetzt, die einmal auf einen bestimmten Zweck trainiert wurden, und diesen dann, ohne sich selbst weiter zu modifizieren, ausführen. Ausgelernte Netze sind im Gegensatz zu Netzen, die sich noch in der Lernphase befinden, deterministisch, also berechenbar. Zudem benötigen sie wesentlich weniger Performance, weswegen sie ja mittlerweile zur Sprach- Schrift- oder Bilderkennung auch problemlos auf kleinen Smartphones als Hintergrund-Task ausgeführt werden, ohne das Gerät gleich lahm zu legen.

  12. Re: Sprachassistenten...

    Autor: matok 11.01.18 - 21:15

    miauwww schrieb:
    --------------------------------------------------------------------------------
    > Dann ahmt die Ki halt Dein Stimmmuster nach - und fertig.

    Hier geht es ja gerade darum, dass Befehle versteckt übermittelt werden. Das dürfte nicht mehr funktionieren, wenn man ein menschliches Sprachmuster imitiert.

  13. Re: Sprachassistenten...

    Autor: Rubbelbubbel 11.01.18 - 21:18

    Die zweite Stimme deiner Freundin? Deine zweite Freundin?
    SCNR

  14. Re: Sprachassistenten...

    Autor: Trollversteher 15.01.18 - 09:38

    >Hier geht es ja gerade darum, dass Befehle versteckt übermittelt werden. Das dürfte nicht mehr funktionieren, wenn man ein menschliches Sprachmuster imitiert.

    Richtig, dazu müsste man das System ja erst mal (mit einer weiteren KI) an das individuelle Sprachmuster anpassen. Das hier vorgestellte System funktioniert "out of the Box", ein solches System müsste erst mal die individuellen Sprachmuster der Person analysieren, die es immitieren soll.

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. Information und Technik Nordrhein-Westfalen (IT.NRW), Düsseldorf
  2. Deutsche Rentenversicherung Rheinland, Düsseldorf
  3. Hochschule Heilbronn, Heilbronn
  4. ekom21 - KGRZ Hessen, Darmstadt, Kassel

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Hardware-Angebote
  1. 96,51€
  2. täglich neue Deals bei Alternate.de


Haben wir etwas übersehen?

E-Mail an news@golem.de