Effizienz

[ogh]

Ich habe spaßeshalber bereits Programme in OpenCL und Cuda geschrieben (beide aus dem Anwendungsgebiet Computer Vision).
Das war vor gut einem Jahr und ich nehme an, dass sich die Art GPUs zu programmieren nicht grundsätzlich geändert hat.

Bei meinen Versuchen war es extrem entscheidend wie der Speicher der GPU verwendet wurde. Je mehr der Shared- und Local Memory genutzt wurde, desto besser. Zugriffe auf den Global Memory sind um Größenordnungen langsamer als Zugriffe auf Local- und Shared Memory. Wichtig war den Speicher bei Datentransfers möglichst so anzusprechen, dass die Hardeware-Block-Transfers verwendet wurden.
Das alles hat im Vergleich zum Programmieren auf der CPU relativ viel Verständnis der Architektur erfordert und man muss sich relativ viele Gedanken über Indizierung von Arrays und die Art in der man seine Daten anordnet machen.

Der Unterschied zwischen meinen ersten und meinen finalen Programmversionen war bei meinen Versuchen etwa ein Faktor 10 in Performanz.

Ich frage mich deshalb, ob es Sinn macht, einen nicht für die GPU optimierten Java-Code einfach auf die GPU zu werfen.

[blubblord]

Irgendwo gibts doch bestimmt noch paar Code-Schnipsel die man da mal durchjagen könnte , einfach um zu sehen wie viel es denn unter "realen Bedingungen" bringt.
Und wenns den Code für die gleiche Aufgabe dann auch shcon hndisch optimiert gibt hätte man nen schönen Vergleich.

Bin auf dem Gebiet allerdings absolut nicht bedandert, kann daher keine "Schnipsel" beisteuern.

[jpuhr]

ogh schrieb:
> Der Unterschied zwischen meinen ersten und meinen finalen Programmversionen
> war bei meinen Versuchen etwa ein Faktor 10 in Performanz.
>
> Ich frage mich deshalb, ob es Sinn macht, einen nicht für die GPU
> optimierten Java-Code einfach auf die GPU zu werfen.

Absolut. Wenn man Grafikkarten programmiert, muss man wirklich wissen, was man macht. Das Programmiermodell unterscheidet sich wirklich massiv vom dem von General-Purpose-CPUs.

Insofern bin ich auch äußerst skeptisch.

[gorsch]

edit: missverständnis, der code muss doch extra geschrieben werden...
Insofern nix neues, Ähnliches gibt's bereits für ändere Sprachen



1 mal bearbeitet, zuletzt am 13.08.12 11:09 durch gorsch.

[Hotte101]

Ein paar Testfälle aus den Folien zum Vortrag auf der "International Conference on High Performance Computing" (wären vielleicht auch für den Artikel interessant):

Dense Matrix Multiplication: 67X faster
4096x4096 Matrizen

Brute Force Fourier Transform: 54X faster
n = 114688

Sobel Filter: 3.8X slower
1600x1200 pixel image

(hier wird jeweils Java mit Rootbeer und Java ohne Rootbeer verglichen)

Gerade der letzte Fall macht wohl deutlich, dass die GPU wohl nicht besonders effizient eingesetzt wird. Frage mich aber, woher der Unterschied zu dem ersten Experiment herkommt. Sind schließlich beides Matrixmultiplikationen...



1 mal bearbeitet, zuletzt am 13.08.12 12:01 durch Hotte101.