1. Foren
  2. Kommentare
  3. Sonstiges
  4. Alle Kommentare zum Artikel
  5. › Turing-Architektur: Nvidias Quadro…

Tensor-Cores nur per Intrinsics

  1. Thema

Neues Thema Ansicht wechseln


  1. Tensor-Cores nur per Intrinsics

    Autor: Ext3h 14.08.18 - 02:40

    Wären ja ganz nett die Teile, wenn man einfach lesbaren Code schreiben könnte, und der Compiler kümmert sich um die Vektorisierung innerhalb eines Threads (notwendig für die Nutzung der Tensor-Cores).

    Kann Nvidias Compiler aber nicht. Also muss man als Entwickler per Hand die Intrinsics zum Packen, für Vector- und Matrix Multiplikation und wieder entpacken verwenden.

    Oder auf von Nvidia zur Verfügung gestellt Bibliotheken setzen. Und auch hier darauf hoffen, dass man nicht nur für einen kurzzeitigen technologischen Vorsprung komplett aufs falsche Pferd gesetzt hat.

  2. Re: Tensor-Cores nur per Intrinsics

    Autor: John2k 14.08.18 - 08:34

    Ext3h schrieb:
    --------------------------------------------------------------------------------
    > Wären ja ganz nett die Teile, wenn man einfach lesbaren Code schreiben
    > könnte, und der Compiler kümmert sich um die Vektorisierung innerhalb eines
    > Threads (notwendig für die Nutzung der Tensor-Cores).
    >
    > Kann Nvidias Compiler aber nicht. Also muss man als Entwickler per Hand die
    > Intrinsics zum Packen, für Vector- und Matrix Multiplikation und wieder
    > entpacken verwenden.
    >
    > Oder auf von Nvidia zur Verfügung gestellt Bibliotheken setzen. Und auch
    > hier darauf hoffen, dass man nicht nur für einen kurzzeitigen
    > technologischen Vorsprung komplett aufs falsche Pferd gesetzt hat.

    Ansich hört es sich interessant an, wenn es die Teile auch in die Consumerkarten schaffen, da dann die Ki sich vielleicht intelligenter verhalten würde.

  3. Re: Tensor-Cores nur per Intrinsics

    Autor: Baron Münchhausen. 14.08.18 - 08:43

    KI training muss mich beim Consumer passieren. Das ist das tolle an AI training, dass die meiste Rechenzeit von Laufzeit zur Trainingszeit verlagert wird.

    Es seiden die AI lernt zur Laufzeit dazu, allerdings weiß ich nicht, ob es für consumer in games oder sonstwo so gut ist, da man ja nicht weiß wohin die AI sich "lernt". Dass da am Ende mal ein Auto sich im Kreis dreht, weils die meisten Punkte gibt, oder eine AI nur noch eine Einheit Produziert bius zum Ende des Spiels...

  4. Re: Tensor-Cores nur per Intrinsics

    Autor: John2k 14.08.18 - 08:50

    Baron Münchhausen. schrieb:
    --------------------------------------------------------------------------------
    > KI training muss mich beim Consumer passieren. Das ist das tolle an AI
    > training, dass die meiste Rechenzeit von Laufzeit zur Trainingszeit
    > verlagert wird.
    >
    > Es seiden die AI lernt zur Laufzeit dazu, allerdings weiß ich nicht, ob es
    > für consumer in games oder sonstwo so gut ist, da man ja nicht weiß wohin
    > die AI sich "lernt". Dass da am Ende mal ein Auto sich im Kreis dreht,
    > weils die meisten Punkte gibt, oder eine AI nur noch eine Einheit
    > Produziert bius zum Ende des Spiels...

    Dann könnte man sie sicherlich beim Hersteller erstmal fürs Balancing einsetzen.
    Wenn die Ki dann auf den Spieler reagieren kann wäre es doch prima.

  5. Re: Tensor-Cores nur per Intrinsics

    Autor: Sinnfrei 14.08.18 - 09:20

    Die meisten verwenden doch heute noch eine strunzdumme cheating AI für Spiele, obwohl es bereits einfache und sehr gute Alternativen gibt (z.B. Kythera).

    __________________
    ...

  6. Re: Tensor-Cores nur per Intrinsics

    Autor: Aluz 14.08.18 - 09:24

    Sinnfrei schrieb:
    --------------------------------------------------------------------------------
    > Die meisten verwenden doch heute noch eine strunzdumme cheating AI für
    > Spiele, obwohl es bereits einfache und sehr gute Alternativen gibt (z.B.
    > Kythera).

    Oftmals ist das aber auch gewollt. AI in spielen wird sowieso absichtlich verdummt, weil sie sonst den Spieler frustrieren wuerde.

  7. Re: Tensor-Cores nur per Intrinsics

    Autor: Gromran 14.08.18 - 09:59

    Du beschwerst dich, dass es dir zu kompliziert ist, aber willst nicht die bereit gestellten Bibliotheken einsetzen?
    Finde den Fehler...

  8. Re: Tensor-Cores nur per Intrinsics

    Autor: Ext3h 14.08.18 - 12:04

    Gromran schrieb:
    --------------------------------------------------------------------------------
    > Du beschwerst dich, dass es dir zu kompliziert ist, aber willst nicht die
    > bereit gestellten Bibliotheken einsetzen?
    > Finde den Fehler...

    Beschweren tue ich mich, weil Nvidia mal wieder sagt "scheiß auf die Entwickler".

    Kombiniert mit einer "du musst unsere SDKs nutzen"-Strategie, was effektiv nur unter eins fällt: Missbrauch der Marktstellung um einen Vendor-Lockin zu erreichen.

    Aus Entwicklersicht ist die Strategie von Nvidia echt zum kotzen.

    Diese "Tensor Cores", wie sie ihre Vektoreinheiten so toll umschreiben, sind zunächst mal auf älteren Plattformen überhaupt nicht verfügbar. Sprich wenn man jetzt nicht speziell auf eine ganz bestimmte Plattform optimiert, dann muss man zwangsläufig mehrere Codepfade schreiben.

    Dann die Sache dass sie es auch nicht hin bekommen haben ihrem Compiler Vektorisierung bei zu bringen. Kann die Konkurrenz schon eine ganze Weile...
    Sprich man muss, wenn man die Vektoreinheiten nutzen will, wie schon gesagt zwangsläufig mehrere Implementierungen schreiben und pflegen.

    Zu Nvidia-Bibliotheken: Zum einen sind die meisten davon von den Lizenzen her absolut inakzeptabel. Dann das Problem dass man trotz deren Bibliotheken noch auf andere Hersteller Rücksicht nehmen muss. Sprich, wir sind wieder bei mehreren Implementierungen die man braucht.


    Wenn man jetzt sagt, "dann gehe ich halt nur auf eine spezifische Plattform", damit bist du auch am Arsch. Spätestens wenn Nvidia in 2-3 Jahren vom KI- und Raytracing-Hype wieder abspringt weil zu viel Konkurrenz, und du dann nichts ohne Neuentwicklung portiert bekommst.
    Fazit: Finger weg von dem was Nvidia da verpfuscht. Zu mindestens so lange, bis sie es hin bekommen die Einheiten transparent nutzbar zu machen.



    1 mal bearbeitet, zuletzt am 14.08.18 12:08 durch Ext3h.

  9. Re: Tensor-Cores nur per Intrinsics

    Autor: Clown 14.08.18 - 14:22

    Ich bin aktuell nicht mehr so im Thema drin, aber als ich vor knapp 10 Jahren meine BMBF-geförderte Diplomarbeit schrieb, hat Prof. nach Industrie-Partnern gesucht. Die haben wir u.a. in nVIDIA gefunden. AMD hat es nicht mal für nötig erachtet mit einer Absage zu antworten.

    Zudem ist es häufig so, dass nVIDIA - zumindest bei den größeren Spieleprojekten - eigene Entwickler zu den Studios geschickt haben, um dort die Grafik entsprechend zu optimieren. Etwas, dass Konkurrent AMD nach wie vor kaum bis stiefmütterlich betreibt.

    Okay, man muss für neueste Features etc andere APIs nutzen oder gar die Vorgehensweise ändern. Das ist aber beim besten Willen nichts Neues oder nVIDIA-spezifisches.

    Daraus ein "scheiß auf die Entwickler" abzuleiten, ist mindestens unehrlich.

    "So you tried to use the computer and it started smoking? Sounds like a Mac to me.." - Louis Rossmann https://www.youtube.com/watch?v=eL_5YDRWqGE&t=60s

  10. Re: Tensor-Cores nur per Intrinsics

    Autor: teenriot* 14.08.18 - 19:08

    Mag ja sein, dass NVidia Zuckerbrot und Peitsche parat hat, aber der Kern der Kritik deines Vorredners hat schon seine Berechtigung.

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. Techniker Krankenkasse, Hamburg
  2. Stiftung Hospital zum heiligen Geist, Frankfurt am Main
  3. Deutsches Krebsforschungszentrum (DKFZ), Heidelberg
  4. über duerenhoff GmbH, Raum Ulm

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Mobile-Angebote
  1. 789€ (mit Rabattcode "PRIMA10" - Bestpreis!)
  2. 689€ (mit Rabattcode "PRIMA10" - Bestpreis!)
  3. 206,10€ (mit Rabattcode "PFIFFIGER" - Bestpreis!)
  4. 369,99€ (Bestpreis!)


Haben wir etwas übersehen?

E-Mail an news@golem.de


Differential Privacy: Es bleibt undurchsichtig
Differential Privacy
Es bleibt undurchsichtig

Mit Differential Privacy soll die Privatsphäre von Menschen geschützt werden, obwohl jede Menge persönlicher Daten verarbeitet werden. Häufig sagen Unternehmen aber nicht, wie genau sie das machen.
Von Anna Biselli

  1. Strafverfolgung Google rückt IP-Adressen von Suchanfragen heraus
  2. Datenschutz Millionenbußgeld gegen H&M wegen Ausspähung in Callcenter
  3. Personenkennziffer Bundestagsgutachten zweifelt an Verfassungsmäßigkeit

IT-Jobs: Die schwierige Suche nach dem richtigen Arbeitgeber
IT-Jobs
Die schwierige Suche nach dem richtigen Arbeitgeber

Nur jeder zweite Arbeitnehmer ist mit seinem Arbeitgeber zufrieden. Das ist fatal, weil Unzufriedenheit krank macht. Deshalb sollte die Suche nach dem passenden Job nicht nur dem Zufall überlassen werden.
Von Peter Ilg

  1. Digitalisierung in Firmen Warum IT-Teams oft übergangen werden
  2. Jobs Unternehmen können offene IT-Stellen immer schwerer besetzen
  3. Gerichtsurteile Wann fristlose Kündigungen für IT-Mitarbeiter rechtens sind

Tutorial: Was ein On Screen Display alles kann
Tutorial
Was ein On Screen Display alles kann

Werkzeugkasten Viele PC-Spieler schwören auf ein OSD. Denn damit lassen sich Limits erkennen, die Bildqualität verbessern und Ruckler verringern.
Von Marc Sauter


    1. Microsoft: Edge-Browser für Linux verfügbar
      Microsoft
      Edge-Browser für Linux verfügbar

      Nach langen Ankündigungen und viel Arbeit stellt Microsoft seinen neuen Edge-Browser auf Chromium-Basis auch für Linux bereit.

    2. Notpetya: USA klagen russische Staatshacker an
      Notpetya
      USA klagen russische Staatshacker an

      Die sechs Angeklagten sollen für etliche Angriffe verantwortlich sein, darunter die Ransomware Notpetya, die weltweit Schäden angerichtet hatte.

    3. Hashfunktion: Git 2.29 unterstützt SHA-256
      Hashfunktion
      Git 2.29 unterstützt SHA-256

      Nach praktischen Angriffen auf SHA-1 musste auch Git seine Technik ändern. Nun gibt es ersten experimentellen Support für SHA-256.


    1. 11:20

    2. 10:55

    3. 10:39

    4. 09:57

    5. 09:42

    6. 09:12

    7. 09:00

    8. 08:52