1. Foren
  2. Kommentare
  3. Sonstiges-Forum
  4. Alle Kommentare zum Artikel
  5. › Apple M1 Max im Test: Schlicht…

warum so starke NPU?

Neue Foren im Freiraum! Raumfahrt und freie Software haben jetzt einen Platz, die Games tummeln sich jetzt alle in einem Forum.
  1. Thema

Neues Thema


  1. warum so starke NPU?

    Autor: ubuntu_user 24.11.21 - 09:03

    die ist ja bei allen gleich und satte 11 TFLOPS
    während die GPU beim normalen M1 nur 2,6 TFLOPS ist.
    jetzt ist natürlich die Frage was eine Operation ist.
    aber grob gesagt war das ja meistens so, dass die CPU allgemeine Befehle kann und die GPU meistens auf Floating Operations optimiert ist. Was sollen denn KI-Operationen sein?
    Zur Neural Engine findet man auch kaum was, außer soll "bessere Kamerabilder machen oder KI-Krams"
    Aber das kann doch jede Grafikkarte, gerade da die auch frei programmierbar sind. Wäre da ne gemeinsame GPU/NPU nicht besser? gerade wenn man Fotos macht und dafür die NPU braucht, hat man ja keine GPU wirklich am auslasten. Und wenn man nen Spiel spielt, dann braucht man die NPU ja nicht.



    1 mal bearbeitet, zuletzt am 24.11.21 09:03 durch ubuntu_user.

  2. Re: warum so starke NPU?

    Autor: ms (Golem.de) 24.11.21 - 09:28

    Es sind 11 Teraops, keine Teraflops - gemeint ist hier INT8 statt FP32.

    Marc Sauter, Sr Editor
    Golem.de

  3. Re: warum so starke NPU?

    Autor: ubuntu_user 24.11.21 - 09:30

    ms (Golem.de) schrieb:
    --------------------------------------------------------------------------------
    > Es sind 11 Teraops, keine Teraflops - gemeint ist hier INT8 statt FP32.

    Oh stimmt.
    hab zu oft Teraflops gelesen.
    Gibts denn irgenwie Beispiele wofür die jetzt genau gut ist?
    Ich hab auch nichts zum Anteil an der die-Größe gefunden



    1 mal bearbeitet, zuletzt am 24.11.21 09:31 durch ubuntu_user.

  4. Re: warum so starke NPU?

    Autor: Steffo 24.11.21 - 09:53

    Man muss festhalten, dass das professionelle CPUs sind. D. h., dass sie mit NVIDIA mithalten können sollten.
    Ich würde bspw. gerne mit neuronalen Netzen arbeiten, aber PyTorch unterstützt momentan noch nicht nativ die NPU. Und selbst Anwendungen wie Photoshop nutzen KI.

  5. Re: warum so starke NPU?

    Autor: abcde 24.11.21 - 10:21

    Der Tensorflow Build von Apple allerdings schon: https://developer.apple.com/metal/tensorflow-plugin/

  6. Re: warum so starke NPU?

    Autor: icepear 24.11.21 - 10:44

    Es geht glaube ich um die sog. int8-Auantisierung. Ich verlinke hier mal etwas das beim Verständnis Helfen könnte: https://towardsdatascience.com/how-to-accelerate-and-compress-neural-networks-with-quantization-edfbbabb6af7

    Im Grunde ist die Idee, dass man Neuronale Netze weniger Hardware intensiv nutzen kann, wenn statt einer Fließkomma Arithmetik eine int8 Festkomma Arithmetik genutzt wird. Abhängig vom jeweiligen Netz (und davon wie es gemacht wird) hat dies dann nur einen minimalen Einfluss auf die Ergebnisse des neuronalen Netzes.

  7. Re: warum so starke NPU?

    Autor: ubuntu_user 24.11.21 - 11:54

    icepear schrieb:
    --------------------------------------------------------------------------------
    > Es geht glaube ich um die sog. int8-Auantisierung. Ich verlinke hier mal
    > etwas das beim Verständnis Helfen könnte: towardsdatascience.com
    >
    > Im Grunde ist die Idee, dass man Neuronale Netze weniger Hardware intensiv
    > nutzen kann, wenn statt einer Fließkomma Arithmetik eine int8 Festkomma
    > Arithmetik genutzt wird. Abhängig vom jeweiligen Netz (und davon wie es
    > gemacht wird) hat dies dann nur einen minimalen Einfluss auf die Ergebnisse
    > des neuronalen Netzes.


    thnx

  1. Thema

Neues Thema


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. SAP-Inhouse Senior Consultants (m/w/d) mit dem Schwerpunkt Betriebswirtschaft
    Landschaftsverband Rheinland, Köln
  2. Projektmanager (w/m/d)
    SSI SCHÄFER Automation GmbH, Giebelstadt
  3. Software Developer Java (m/f/d)
    Hays AG, Stuttgart
  4. System Administrator Infrastructure (m/f/d)
    CETITEC GmbH, Pforzheim

Detailsuche


Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Top-Angebote
  1. (u. a. elektrisch höhenverstellbare Tischgestelle ab 199,99€)
  2. (u. a. No Man's Sky für 22,99€, Assassin's Creed Valhalla - Ragnarök Edition für 45,99€)
  3. 163,99€ statt 299€
  4. 1.279€ statt 1.599€


Haben wir etwas übersehen?

E-Mail an news@golem.de


Superbooth: Technikparadies für Musiknerds
Superbooth
Technikparadies für Musiknerds

Von klassischen E-Pianos bis zu Musikstudios in DIN-A5: Bei der Synthesizer-Messe Superbooth haben Hersteller zum Ausprobieren eingeladen.
Ein Bericht von Daniel Ziegener


    Hyperschallwaffen: China testet Flugzeugträger-Killer in der Wüste
    Hyperschallwaffen
    China testet Flugzeugträger-Killer in der Wüste

    Die Volksbefreiungsarmee schießt im Uiguren-Gebiet auf Attrappen von Kriegsschiffen. Erprobt wird die Fähigkeit, gegnerischen Flotten einen empfindlichen Erstschlag zu versetzen.
    Ein Bericht von Matthias Monroy

    1. Stormcaster-DX Lasergerät für Drohnen-Montage kommt mit Zielverfolgung
    2. Hensoldt Deutsche Jammer sollen russische Luftabwehr stören können
    3. Cybersicherheit Rechenzentren-Projekt der Schweizer Armee "ungenügend"

    Aus dem Verlag: Golem-PCs mit mehr Performance zum selben Preis
    Aus dem Verlag
    Golem-PCs mit mehr Performance zum selben Preis

    Wir haben die günstigen Golem-Systeme mit schnelleren Grafikkarten und Prozessoren versehen, auch Raytracing wird durchweg unterstützt.

    1. Aus dem Verlag Golem-PCs erneut im Preis gesenkt
    2. Aus dem Verlag Golem-PCs noch stärker im Preis gesenkt
    3. Aus dem Verlag Viele Golem-PCs drastisch im Preis gesenkt