Eine sachlichere und weniger reißerische Analyse war vor kurzem bei ZON

[windbeutel]

https://www.zeit.de/digital/2023-04/emily-bender-ki-gefahr-ethik

"Was GPT-4 und ähnliche Systeme produzieren, sind keine Informationen, sondern Nichtinformationen. Sie produzieren Aneinanderreihungen von Wörtern."



ChatGPT und Co. haben mit "starker" KI nullkommagarnichts zu tun.

Aussagen wie "GPT-4 löst manche komplexen Programmieraufgaben besser als die meisten Menschen" sind schlicht Unsinn und reine Panikmacherei. Das Gegenteil ist wahr: ChatGPT löst die allermeisten Programmieraufgaben fehlerhaft und schlechter als ein ausgebildeter Programmierer. Bei komplexen Aufgaben versagt ChatGPT regelmäßig.

Es würde ja auch kein Mensch Panik vor Stabmixern verbreiten, nur weil die eine Zwiebel schneller kleinhacken als die meisten Menschen.

Das eigentliche Problem mit LLM ist, dass die einen Haufen Müll produzieren, der auf den ersten Blick nicht als solcher erkennbar ist. Die Desinformation, die daraus resultiert, ist die Gefahr. Nicht, dass diese Systeme irgendwie "intelligent" wären.



1 mal bearbeitet, zuletzt am 04.04.23 11:52 durch windbeutel.

[twothe]

windbeutel schrieb:
--------------------------------------------------------------------------------
> Aussagen wie "GPT-4 löst manche komplexen Programmieraufgaben besser als
> die meisten Menschen" sind schlicht Unsinn

Nein, das ist eine Aussage die garantiert immer richtig ist, denn sie beinhaltet den Ausschluss "manche." Und irgendeine Aufgabe wird sich da schon finden wenn man nur lange genug sucht. D.h. die Aussagen im Artikel nicht falsch, aber belanglos, weil sie immer zwischen einem "könnte" und "möglicherweise" schweben. Da hätte ich auch einfach ChatGPT fragen können, der hätte das kürzer zusammen gefasst.

Ein Beispiel übrigens wo GPT-4 wirklich gut ist: es kennt einfach alle Patterns und Algorithmen auswendig, und kann bei einem komplexen Problem Hinweise geben welcher Algorithmus hier hilfreich sein könnte.

Warum GPT-4 nie wirklich gut programmieren können wird: Es lernt von den schlechten Leuten, denn die guten posten ihren Code nicht für Fragen im Internet, die können die Probleme ja selber lösen. Das ist mir ganz deutlich aufgefallen, als ich GPT-4 bat eine Methode mit funktionelle Programmierung in Java zu analysieren die ich geschrieben hatte. Es hat rein gar nichts verstanden und was völlig überfordert, denn kaum jemand hat Beispiele mit FP in Java online gestellt.

[Elperdido]

Für viele ist sicher auch ein Thermo Mix intelligent ,weil er aus Zutaten etwas geschmackvolles zubereiten kann ...aber für einen Grossteil der Menschheit ,gefangen zwischen Ideologien ,VTs ,Religionenetc welche ihnen einfache binäre Antworten liefern und wundergläubige die an die Allmacht solcher "KI" glauben, ist eine solche binäre "KI" sicher genauso eine Gefahr wie midjourney für künstler die Klon Art fertigen.

[toj]

windbeutel schrieb:
--------------------------------------------------------------------------------
> Gegenteil ist wahr: ChatGPT löst die allermeisten Programmieraufgaben
> fehlerhaft und schlechter als ein ausgebildeter Programmierer. Bei
> komplexen Aufgaben versagt ChatGPT regelmäßig.

"noch".

Vor 100 Jahren hat man auch gesagt, dass sich Glühbirnen nicht durchsetzen, weil sie alle paar Tage kaputtgegangen sind. Schlechter als jede Gaslampe.

Du schaust auf den jetzigen Zustand. Der ist aber recht unerheblich. Es zählt die Geschwindigkeit, mit der es sich weiterentwickelt.

[tentreehasleaves]

Dass wir KI auch als harmlos ansehen, wird unser Untergang sein. Dieses Problem haben Atomwaffen nicht. Bei KI werden wir es aber erst verstehen, wenn es zu spät ist.

[karako]

toj schrieb:
--------------------------------------------------------------------------------
> windbeutel schrieb:
> ---------------------------------------------------------------------------
> -----
> > Gegenteil ist wahr: ChatGPT löst die allermeisten Programmieraufgaben
> > fehlerhaft und schlechter als ein ausgebildeter Programmierer. Bei
> > komplexen Aufgaben versagt ChatGPT regelmäßig.
>
> "noch".
>
> Vor 100 Jahren hat man auch gesagt, dass sich Glühbirnen nicht durchsetzen,
> weil sie alle paar Tage kaputtgegangen sind. Schlechter als jede Gaslampe.
>
> Du schaust auf den jetzigen Zustand. Der ist aber recht unerheblich. Es
> zählt die Geschwindigkeit, mit der es sich weiterentwickelt.

Genauso gibt es den umgekehrten Fall. Wenn ich denke was alles die Welt ändern sollte, aber sich nie durchsetzen konnte.

Es gibt bis heute keine fliegende Autos, der Kopierer und Drucker gibt es auch noch usw.

tentreehasleaves schrieb:
--------------------------------------------------------------------------------
> Dass wir KI auch als harmlos ansehen, wird unser Untergang sein. Dieses
> Problem haben Atomwaffen nicht. Bei KI werden wir es aber erst verstehen,
> wenn es zu spät ist.
Das Problem ist mehr das die Leute bei OpenAI eine rosarote Brille anhaben und Geld, Ansehen und teilweise Machtbesessen sind und alle Risiken eingehen würden, wenn sie von einem ein wenig mehr erhalten.

[Hotohori]

twothe schrieb:
--------------------------------------------------------------------------------
> Warum GPT-4 nie wirklich gut programmieren können wird: Es lernt von den
> schlechten Leuten, denn die guten posten ihren Code nicht für Fragen im
> Internet, die können die Probleme ja selber lösen. Das ist mir ganz
> deutlich aufgefallen, als ich GPT-4 bat eine Methode mit funktionelle
> Programmierung in Java zu analysieren die ich geschrieben hatte. Es hat
> rein gar nichts verstanden und was völlig überfordert, denn kaum jemand hat
> Beispiele mit FP in Java online gestellt.

Und genau darum werden zukünftig gute Programmierer selbst solche KIs mit ihrem Code zu optimieren und dafür auch von Unternehmen bezahlt werden. Ich denke der Konkurrenzkampf zwischen Unternehmen wie MS, Google etc. wird über besser optimierte KI Modelle für spezielle Einsätze statt finden. Wer die bessere KI in seinem Gebiet hat, wird der Konkurrenz überlegen sein, also wird viel Geld ins optimieren fließen.

Wir stehen bei AI immer noch völlig am Anfang. Bei GPT-4 kann man ja null von AGI reden.



1 mal bearbeitet, zuletzt am 05.04.23 22:46 durch Hotohori.

[ThadMiller]

"Vor 100 Jahren hat man auch gesagt, dass sich Glühbirnen nicht durchsetzen, weil sie alle paar Tage kaputtgegangen sind."

Ähm, nein. Die waren ZU LANGE haltbar.