Auslastung

[prolemiker]

Verstehe ich nicht wirklich. Deep Learning ist im Training extrem vorhersagbar, es ist nicht so dass irgendwann nach so zwei Tagen das "System" feststellt "Huch, ich brauch mehr Resourcen mein Netzwerk ist plötzlich doppel so gross". Das ist der Wissenschaftler, der das feststellt und ein neuen Job in Auftrag gibt.[1]

Ich kann jetzt schon bei AWS eine DGX-2 buchen, für solange wie ich Geld habe. Stell ich nach ein paar "Epochen" fest, dass es zu langsam läuft, rechne ich durch, ob ich mir zwei DGX leisten kann und überlege / teste, ob mein Modell überhaupt hinreichend skaliert um davon profitieren zu können (gegeben den extrem hohen Kosten, $33/h für die A100 x8).

Im übrigen kosten diese Machienen in der Miete bei Amazon auf ein Jahr Dauernutzung so viel wie die komplette, eigene Neuanschaffung. Inklusive Strom für ein paar Jahre. Weiss nicht, wie Microsoft das unterbieten will

Die wollen nur was vom Kuchen abhaben oder jagen mit Buzzwords die kleinen Firmen, die auch mal was mit KI machen wollen

[1] Bla bla Google AutoML und es findet von sich aus die Architektur. Bin nicht so überzeugt davon, aber wenn, dann nehm' ich doch eh lieber gleich Google Cloud Compute