1. Foren
  2. Kommentare
  3. Sonstiges-Forum
  4. Alle Kommentare zum Artikel
  5. › Apples M1 Max im Test…

warum so starke NPU?

Neue Foren im Freiraum! Raumfahrt und freie Software haben jetzt einen Platz, die Games tummeln sich jetzt alle in einem Forum.
  1. Thema

Neues Thema Ansicht wechseln


  1. warum so starke NPU?

    Autor: ubuntu_user 24.11.21 - 09:03

    die ist ja bei allen gleich und satte 11 TFLOPS
    während die GPU beim normalen M1 nur 2,6 TFLOPS ist.
    jetzt ist natürlich die Frage was eine Operation ist.
    aber grob gesagt war das ja meistens so, dass die CPU allgemeine Befehle kann und die GPU meistens auf Floating Operations optimiert ist. Was sollen denn KI-Operationen sein?
    Zur Neural Engine findet man auch kaum was, außer soll "bessere Kamerabilder machen oder KI-Krams"
    Aber das kann doch jede Grafikkarte, gerade da die auch frei programmierbar sind. Wäre da ne gemeinsame GPU/NPU nicht besser? gerade wenn man Fotos macht und dafür die NPU braucht, hat man ja keine GPU wirklich am auslasten. Und wenn man nen Spiel spielt, dann braucht man die NPU ja nicht.



    1 mal bearbeitet, zuletzt am 24.11.21 09:03 durch ubuntu_user.

  2. Re: warum so starke NPU?

    Autor: ms (Golem.de) 24.11.21 - 09:28

    Es sind 11 Teraops, keine Teraflops - gemeint ist hier INT8 statt FP32.

    Marc Sauter, Sr Editor
    Golem.de

  3. Re: warum so starke NPU?

    Autor: ubuntu_user 24.11.21 - 09:30

    ms (Golem.de) schrieb:
    --------------------------------------------------------------------------------
    > Es sind 11 Teraops, keine Teraflops - gemeint ist hier INT8 statt FP32.

    Oh stimmt.
    hab zu oft Teraflops gelesen.
    Gibts denn irgenwie Beispiele wofür die jetzt genau gut ist?
    Ich hab auch nichts zum Anteil an der die-Größe gefunden



    1 mal bearbeitet, zuletzt am 24.11.21 09:31 durch ubuntu_user.

  4. Re: warum so starke NPU?

    Autor: Steffo 24.11.21 - 09:53

    Man muss festhalten, dass das professionelle CPUs sind. D. h., dass sie mit NVIDIA mithalten können sollten.
    Ich würde bspw. gerne mit neuronalen Netzen arbeiten, aber PyTorch unterstützt momentan noch nicht nativ die NPU. Und selbst Anwendungen wie Photoshop nutzen KI.

  5. Re: warum so starke NPU?

    Autor: abcde 24.11.21 - 10:21

    Der Tensorflow Build von Apple allerdings schon: https://developer.apple.com/metal/tensorflow-plugin/

  6. Re: warum so starke NPU?

    Autor: icepear 24.11.21 - 10:44

    Es geht glaube ich um die sog. int8-Auantisierung. Ich verlinke hier mal etwas das beim Verständnis Helfen könnte: https://towardsdatascience.com/how-to-accelerate-and-compress-neural-networks-with-quantization-edfbbabb6af7

    Im Grunde ist die Idee, dass man Neuronale Netze weniger Hardware intensiv nutzen kann, wenn statt einer Fließkomma Arithmetik eine int8 Festkomma Arithmetik genutzt wird. Abhängig vom jeweiligen Netz (und davon wie es gemacht wird) hat dies dann nur einen minimalen Einfluss auf die Ergebnisse des neuronalen Netzes.

  7. Re: warum so starke NPU?

    Autor: ubuntu_user 24.11.21 - 11:54

    icepear schrieb:
    --------------------------------------------------------------------------------
    > Es geht glaube ich um die sog. int8-Auantisierung. Ich verlinke hier mal
    > etwas das beim Verständnis Helfen könnte: towardsdatascience.com
    >
    > Im Grunde ist die Idee, dass man Neuronale Netze weniger Hardware intensiv
    > nutzen kann, wenn statt einer Fließkomma Arithmetik eine int8 Festkomma
    > Arithmetik genutzt wird. Abhängig vom jeweiligen Netz (und davon wie es
    > gemacht wird) hat dies dann nur einen minimalen Einfluss auf die Ergebnisse
    > des neuronalen Netzes.


    thnx

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. Marketing Automation Professional (m/f/d)
    ALLPLAN GmbH, München
  2. Information Security Officer (m/w/d)
    DRÄXLMAIER Group, Vilsbiburg bei Landshut
  3. Dozent*in Mathematik für Informatik
    Hochschule Luzern, Luzern (Schweiz)
  4. IT-Architekt (m/w/d)
    rhenag Rheinische Energie Aktiengesellschaft, Köln

Detailsuche


Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Hardware-Angebote
  1. (reduzierte Überstände, Restposten & Co.)
  2. 499,99€


Haben wir etwas übersehen?

E-Mail an news@golem.de