Was ist mit dedizierter GPU?

[Mbf]

Wie sieht es aus, wenn der PC eine dedizierte GPU hat? Kann die nicht dafür verwendet werden? Die am Ende sicher leistungsfähiger.

[Quantium40]

Die neueren CPUs und SoCs bringen ja meist schon eigene KI-Beschleuniger mit, so dass eine dedizierte GPU zwar verwendbar sein könnte, aber nicht notwendig sein sollte.

[PSmith]

Mbf schrieb:
--------------------------------------------------------------------------------
> Wie sieht es aus, wenn der PC eine dedizierte GPU hat? Kann die nicht dafür
> verwendet werden? Die am Ende sicher leistungsfähiger.

Wie soll das helfen wenn es sich bei Copilot um einen Cloud-Service handelt ?

[maxule]

PSmith schrieb:
--------------------------------------------------------------------------------
> Mbf schrieb:
> ---------------------------------------------------------------------------
> -----
> > Wie sieht es aus, wenn der PC eine dedizierte GPU hat? Kann die nicht
> dafür
> > verwendet werden? Die am Ende sicher leistungsfähiger.
>
> Wie soll das helfen wenn es sich bei Copilot um einen Cloud-Service handelt
> ?
Stromverbrauch outsourcing.

[Mbf]

PSmith schrieb:
> Wie soll das helfen wenn es sich bei Copilot um einen Cloud-Service handelt ?

Da eine lokale Rechenleistung von mindestens 40 TOPS vorausgesetzt wird, würde ich mal erwarten, dass es da schon auch um lokale Berechnungen geht.

[x2k]

Fragt sich was mit älteren cpus ist. Ein ryzen 3800 wird vermutlich keinen ki beschleuniger mitbringen.
Und wenn dann in fem system keine potente gpu steckt wirds eng.
Ggf gibt es ja dann ki Erweiterungskarten.

[windbeutel]

Mbf schrieb:
--------------------------------------------------------------------------------
> Wie sieht es aus, wenn der PC eine dedizierte GPU hat? Kann die nicht dafür
> verwendet werden? Die am Ende sicher leistungsfähiger.

Die braucht man im Wesentlichen fürs Training, nicht für die Ausführung.

[bernstein]

Lol,
KI-modelle laufen auch auf einem uralt rpi…
Nur halt viel langsamer.

Dss ms jetzt 40 tops & 16gb ram vorsussetzt ist reines „schaut her liebe hardwarehersteller wir fördern eure hardwareverkäufe“!