1. Foren
  2. Kommentare
  3. Sonstiges-Forum
  4. Alle Kommentare zum Artikel
  5. › Turing-Architektur: Nvidias…

Tensor-Cores nur per Intrinsics

  1. Thema

Neues Thema


  1. Tensor-Cores nur per Intrinsics

    Autor: Ext3h 14.08.18 - 02:40

    Wären ja ganz nett die Teile, wenn man einfach lesbaren Code schreiben könnte, und der Compiler kümmert sich um die Vektorisierung innerhalb eines Threads (notwendig für die Nutzung der Tensor-Cores).

    Kann Nvidias Compiler aber nicht. Also muss man als Entwickler per Hand die Intrinsics zum Packen, für Vector- und Matrix Multiplikation und wieder entpacken verwenden.

    Oder auf von Nvidia zur Verfügung gestellt Bibliotheken setzen. Und auch hier darauf hoffen, dass man nicht nur für einen kurzzeitigen technologischen Vorsprung komplett aufs falsche Pferd gesetzt hat.

  2. Re: Tensor-Cores nur per Intrinsics

    Autor: John2k 14.08.18 - 08:34

    Ext3h schrieb:
    --------------------------------------------------------------------------------
    > Wären ja ganz nett die Teile, wenn man einfach lesbaren Code schreiben
    > könnte, und der Compiler kümmert sich um die Vektorisierung innerhalb eines
    > Threads (notwendig für die Nutzung der Tensor-Cores).
    >
    > Kann Nvidias Compiler aber nicht. Also muss man als Entwickler per Hand die
    > Intrinsics zum Packen, für Vector- und Matrix Multiplikation und wieder
    > entpacken verwenden.
    >
    > Oder auf von Nvidia zur Verfügung gestellt Bibliotheken setzen. Und auch
    > hier darauf hoffen, dass man nicht nur für einen kurzzeitigen
    > technologischen Vorsprung komplett aufs falsche Pferd gesetzt hat.

    Ansich hört es sich interessant an, wenn es die Teile auch in die Consumerkarten schaffen, da dann die Ki sich vielleicht intelligenter verhalten würde.

  3. Re: Tensor-Cores nur per Intrinsics

    Autor: Baron Münchhausen. 14.08.18 - 08:43

    KI training muss mich beim Consumer passieren. Das ist das tolle an AI training, dass die meiste Rechenzeit von Laufzeit zur Trainingszeit verlagert wird.

    Es seiden die AI lernt zur Laufzeit dazu, allerdings weiß ich nicht, ob es für consumer in games oder sonstwo so gut ist, da man ja nicht weiß wohin die AI sich "lernt". Dass da am Ende mal ein Auto sich im Kreis dreht, weils die meisten Punkte gibt, oder eine AI nur noch eine Einheit Produziert bius zum Ende des Spiels...

  4. Re: Tensor-Cores nur per Intrinsics

    Autor: John2k 14.08.18 - 08:50

    Baron Münchhausen. schrieb:
    --------------------------------------------------------------------------------
    > KI training muss mich beim Consumer passieren. Das ist das tolle an AI
    > training, dass die meiste Rechenzeit von Laufzeit zur Trainingszeit
    > verlagert wird.
    >
    > Es seiden die AI lernt zur Laufzeit dazu, allerdings weiß ich nicht, ob es
    > für consumer in games oder sonstwo so gut ist, da man ja nicht weiß wohin
    > die AI sich "lernt". Dass da am Ende mal ein Auto sich im Kreis dreht,
    > weils die meisten Punkte gibt, oder eine AI nur noch eine Einheit
    > Produziert bius zum Ende des Spiels...

    Dann könnte man sie sicherlich beim Hersteller erstmal fürs Balancing einsetzen.
    Wenn die Ki dann auf den Spieler reagieren kann wäre es doch prima.

  5. Re: Tensor-Cores nur per Intrinsics

    Autor: Sinnfrei 14.08.18 - 09:20

    Die meisten verwenden doch heute noch eine strunzdumme cheating AI für Spiele, obwohl es bereits einfache und sehr gute Alternativen gibt (z.B. Kythera).

    __________________
    ...

  6. Re: Tensor-Cores nur per Intrinsics

    Autor: Aluz 14.08.18 - 09:24

    Sinnfrei schrieb:
    --------------------------------------------------------------------------------
    > Die meisten verwenden doch heute noch eine strunzdumme cheating AI für
    > Spiele, obwohl es bereits einfache und sehr gute Alternativen gibt (z.B.
    > Kythera).

    Oftmals ist das aber auch gewollt. AI in spielen wird sowieso absichtlich verdummt, weil sie sonst den Spieler frustrieren wuerde.

  7. Re: Tensor-Cores nur per Intrinsics

    Autor: Gromran 14.08.18 - 09:59

    Du beschwerst dich, dass es dir zu kompliziert ist, aber willst nicht die bereit gestellten Bibliotheken einsetzen?
    Finde den Fehler...

  8. Re: Tensor-Cores nur per Intrinsics

    Autor: Ext3h 14.08.18 - 12:04

    Gromran schrieb:
    --------------------------------------------------------------------------------
    > Du beschwerst dich, dass es dir zu kompliziert ist, aber willst nicht die
    > bereit gestellten Bibliotheken einsetzen?
    > Finde den Fehler...

    Beschweren tue ich mich, weil Nvidia mal wieder sagt "scheiß auf die Entwickler".

    Kombiniert mit einer "du musst unsere SDKs nutzen"-Strategie, was effektiv nur unter eins fällt: Missbrauch der Marktstellung um einen Vendor-Lockin zu erreichen.

    Aus Entwicklersicht ist die Strategie von Nvidia echt zum kotzen.

    Diese "Tensor Cores", wie sie ihre Vektoreinheiten so toll umschreiben, sind zunächst mal auf älteren Plattformen überhaupt nicht verfügbar. Sprich wenn man jetzt nicht speziell auf eine ganz bestimmte Plattform optimiert, dann muss man zwangsläufig mehrere Codepfade schreiben.

    Dann die Sache dass sie es auch nicht hin bekommen haben ihrem Compiler Vektorisierung bei zu bringen. Kann die Konkurrenz schon eine ganze Weile...
    Sprich man muss, wenn man die Vektoreinheiten nutzen will, wie schon gesagt zwangsläufig mehrere Implementierungen schreiben und pflegen.

    Zu Nvidia-Bibliotheken: Zum einen sind die meisten davon von den Lizenzen her absolut inakzeptabel. Dann das Problem dass man trotz deren Bibliotheken noch auf andere Hersteller Rücksicht nehmen muss. Sprich, wir sind wieder bei mehreren Implementierungen die man braucht.


    Wenn man jetzt sagt, "dann gehe ich halt nur auf eine spezifische Plattform", damit bist du auch am Arsch. Spätestens wenn Nvidia in 2-3 Jahren vom KI- und Raytracing-Hype wieder abspringt weil zu viel Konkurrenz, und du dann nichts ohne Neuentwicklung portiert bekommst.
    Fazit: Finger weg von dem was Nvidia da verpfuscht. Zu mindestens so lange, bis sie es hin bekommen die Einheiten transparent nutzbar zu machen.



    1 mal bearbeitet, zuletzt am 14.08.18 12:08 durch Ext3h.

  9. Re: Tensor-Cores nur per Intrinsics

    Autor: Clown 14.08.18 - 14:22

    Ich bin aktuell nicht mehr so im Thema drin, aber als ich vor knapp 10 Jahren meine BMBF-geförderte Diplomarbeit schrieb, hat Prof. nach Industrie-Partnern gesucht. Die haben wir u.a. in nVIDIA gefunden. AMD hat es nicht mal für nötig erachtet mit einer Absage zu antworten.

    Zudem ist es häufig so, dass nVIDIA - zumindest bei den größeren Spieleprojekten - eigene Entwickler zu den Studios geschickt haben, um dort die Grafik entsprechend zu optimieren. Etwas, dass Konkurrent AMD nach wie vor kaum bis stiefmütterlich betreibt.

    Okay, man muss für neueste Features etc andere APIs nutzen oder gar die Vorgehensweise ändern. Das ist aber beim besten Willen nichts Neues oder nVIDIA-spezifisches.

    Daraus ein "scheiß auf die Entwickler" abzuleiten, ist mindestens unehrlich.

    If they have to advertise it, you either don't need it or it's crap.

  10. Re: Tensor-Cores nur per Intrinsics

    Autor: teenriot* 14.08.18 - 19:08

    Mag ja sein, dass NVidia Zuckerbrot und Peitsche parat hat, aber der Kern der Kritik deines Vorredners hat schon seine Berechtigung.

  1. Thema

Neues Thema


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. IT-Systemadministrator (m/w/d)
    Kommunaler Versorgungsverband Baden-Württemberg, Karlsruhe
  2. IT-Projektmanager:in in der Softwareentwicklung (m/w/d)
    STRABAG BRVZ GMBH, Wien, Spittal/Drau, Villach, Stuttgart
  3. Chief Information Security Officer (CISO) (m/w/d)
    SachsenEnergie AG, Dresden
  4. Linux Administrator*in (m/w/d)
    Humboldt-Universität zu Berlin, Berlin-Adlershof

Detailsuche


Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Hardware-Angebote
  1. (reduzierte Überstände, Restposten & Co.)


Haben wir etwas übersehen?

E-Mail an news@golem.de