1. Foren
  2. Kommentare
  3. Wissenschaft-Forum
  4. Alle Kommentare zum Artikel
  5. › Nvidia: Hopper ist der…

FP8 ?

  1. Thema

Neues Thema


  1. FP8 ?

    Autor: JouMxyzptlk 08.09.22 - 20:23

    Wie hat sich die Welt über den Pentium Divisionsfehler geärgert! Und jetzt reicht schon FP8? FP16 (in den diversen Aufteilungevarianten) ist ja schon GHrößenordungen unter C16/C64-Basic welche 32 Bit nutzte...
    Ist das der Grund warum so viele KI Modelle bei der Erkennung so leicht zu veräppeln sind? Quasi ein Abwägen von "ich sehe genau" gegen "Ich kann schnell genug lernen und erkennen"?

    Ultra HD ist LOW RES! 8K bis 16K sind mein Metier.

  2. Re: FP8 ?

    Autor: glasen77 09.09.22 - 08:11

    Wenn man keine Ahnung hat, ...

  3. Re: FP8 ?

    Autor: jhi (Golem.de) 09.09.22 - 10:13

    Da gibt es schon einen Unterschied. Beim FDIV-Bug entsprach das Verhalten nicht der Erwartung, war also fehlerhaft.
    Bei FP8 wird bewusst ein kleinerer Wertebereich mit geringerer Auflösung genutzt, weil die höhere Auflösung die Genauigkeit des Ergebnisses kaum oder gar nicht verbessern würde. Das ist bei Transformer-Modellen interessant, weil sie Blöcke von Daten verarbeiten und nicht alle Teile gleich wichtig sind für das Ergebnis.
    Es wird auch nicht für alle Parameter FP8 genutzt, sondern nur da, wo der kleinere Wertebereich keine negativen Auswirkungen hat.

    Dass sich Modelle täuschen lassen liegt daran, dass die gelernten Merkmale zu spezifisch sind. Das klassische Beispiel sind Augen, die KI gut erkennen, aber beispielsweise nicht zwischen echten und ausgedruckten unterscheiden kann.

    Johannes Hiltscher
    (Golem.de)

  4. Re: FP8 ?

    Autor: JouMxyzptlk 09.09.22 - 15:47

    Wenn man IRONIE nicht erkennt...

  5. Re: FP8 ?

    Autor: Jojo! 09.09.22 - 16:59

    Machs bitte nicht noch peinlicher.

  6. Re: FP8 ?

    Autor: JouMxyzptlk 09.09.22 - 18:40

    Wieso muss es immer solche Troller wie euch geben. Immer irgendwelche die nur darauf warten irgendwo jemand, egal wie, zu dissen. Irgendwie immer aus der Suche sich an so was aufzugeilen. Keine Freundlichkeit, keine normale Kommunikation. Immer nur so was.

  7. Re: FP8 ?

    Autor: JouMxyzptlk 09.09.22 - 19:11

    Das fehlt ein Detail, wenn schon FP8 so Ausgenerdet wird :D : FP8 den Vorteil einen größeren Wertebereich im Sinne von Größenordnungen abzudecken. Während INT8 von -127 bis +127 und damit etwa 2,2 Größenordnungen kann FP8 (E5M2) von c.a. 0,03 bis knapp über 3 drei Größenordnungen. Je nachdem wie viele Bits auf den Exponenten oder die Mantisse gehen sind auch über sieben Größenordnungen drin - wobei man den Unendlich Wert von E8M0 verständlicherweise ignoriert.
    Welche FP8 Variante(n) kann diese Karte?

  1. Thema

Neues Thema


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. Resident Engineer (m/w/d)
    Delta Energy Systems (Germany) GmbH, Großraum Stuttgart
  2. IT-Innovation-Manager*in (w/m/d)
    Bundesanstalt für Immobilienaufgaben, Berlin, Potsdam, Bonn
  3. Systemadministrator*in ARD Zentrale Mediensysteme (ARD-Sternpunkt)
    Hessischer Rundfunk Anstalt des öffentlichen Rechts, Frankfurt am Main
  4. Application Manager (w/m/d)
    ING Deutschland, Frankfurt am Main

Detailsuche


Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Top-Angebote
  1. 114,99€ (Angebot auch bei Saturn erhältlich. Vergleichspreis 140,89€)
  2. 0,99€ (Tiefstpreis!)
  3. 125,11€ - Tiefstpreis! (Vergleichspreis über 200€)
  4. u. a. Patriot Viper VENOM 64-GB-Kit DDR5-6000 für 159€ statt 210€ im Vergleich, PowerColor...


Haben wir etwas übersehen?

E-Mail an news@golem.de


Disney+, Netflix und Prime Video: Das goldene Streamingzeitalter wird zum silbernen
Disney+, Netflix und Prime Video
Das goldene Streamingzeitalter wird zum silbernen

Das aktuelle Jahr hat viele Umbrüche im Streamingmarkt erlebt - und nächstes Jahr geht es weiter. Das wird negative Auswirkungen für Anbieter und Kunden haben.
Eine Analyse von Ingo Pakalski

  1. Netflix-Datenschatz Serien laufen erfolgreich und werden trotzdem eingestellt
  2. Streaming Apple und Paramount könnten Streamingdienste bündeln
  3. Streamingabo Arthaus+ erstmals als App für 3,99 Euro pro Monat

Zbox Pico PI430AJ: Flotter Mini-PC mit Solid-State-Kühlung
Zbox Pico PI430AJ
Flotter Mini-PC mit Solid-State-Kühlung

Die fast lautlosen Kühler von Frore Systems funktionieren gut. Mehr Leistung auf so kleinem Raum ist kaum möglich. Eine ARM-CPU wäre aber spannend.
Ein Test von Martin Böckmann


    Powerstream-Wechselrichter: Mein Balkonkraftwerk, mein Strom
    Powerstream-Wechselrichter
    Mein Balkonkraftwerk, mein Strom

    Mit dem Powerstream-Wechselrichter hat Ecoflow ein Gerät, das verschiedene Powerstationen des Herstellers als Energiespeicher nutzen kann. Wie gut das funktioniert und wie wirtschaftlich es ist, haben wir ein halbes Jahr lang getestet.
    Von Mario Keller

    1. Erleichterungen bei Balkonkraftwerken Bundestag tritt bei Solarpaket auf die Bremse
    2. Juristisches Gutachten Wer haftet bei Schäden durch ein Balkonkraftwerk?
    3. Eigentümer und Mieter Anspruch auf Balkonkraftwerke kommt im Frühjahr 2024