Koeffizienten vorgegeben???

[ashahaghdsa]

Also die können suuuper schnell, immer die gleiche Berechnung durchführen?? Und kommen dann zu einem immer konstanten Ergebniss?? Wow, das muss eine Revolution sein.

Oder ist nur eine Matrix fest? Dann könnte ich das mit dem Inferencing noch etwas nachvollziehen. Aber bis der Llama2 Chip fertig ist, gibt es Llama3...

[maxule]

Nur einer der beiden Multiplikanden. Damit sind schon eine ganze Reihe von Operationen möglich.

Wenn man lichtschnellle Operatoren mit latenzarmer Si/SiGe-Logik vernetzt, kann da schon irgendwann was flottes draus werden.

[jhi (Golem.de)]

Die Matrix ist fest, der Vektor natürlich variabel. Es lassen sich also sehr schnell beliebige Vektoren mit immer der selben Matrix multiplizieren, weshalb Inferencing eine denkbare Anwendung ist. Die Idee, an konkrete Modelle angepasste Chips zu entwickeln, gibt es ja durchaus.

Johannes Hiltscher
(Golem.de)