Erinnert mich an ein Interview mit einem "KI-Experten"

[splash42]

Tenor darin: Angst vor KI ist unbegründet, welche Motivation sollte sie haben, uns etwas anzutun. Was nur dazu einfällt:

Grund 1:
KIs wie ChatGPT (und Nachkommen) lernen u.a. aus dem Internet, d.h. teilweise auch den menschlichen Abgründen.

Grund 2:
Jemand programmiert sie absichtlich so, weil es geht (Militär, Hacker, Psychopath) und verliert die Kontrolle, wie bei einem Virus.

Grund 3:
Sieht man hier - wir stehen einfach nur im Weg ...

[mnementh]

splash42 schrieb:
--------------------------------------------------------------------------------
> Tenor darin: Angst vor KI ist unbegründet, welche Motivation sollte sie
> haben, uns etwas anzutun. Was nur dazu einfällt:
>
> Grund 1:
> KIs wie ChatGPT (und Nachkommen) lernen u.a. aus dem Internet, d.h.
> teilweise auch den menschlichen Abgründen.
>
> Grund 2:
> Jemand programmiert sie absichtlich so, weil es geht (Militär, Hacker,
> Psychopath) und verliert die Kontrolle, wie bei einem Virus.
>
> Grund 3:
> Sieht man hier - wir stehen einfach nur im Weg ...
Das Problem mit dieser Sichtweise ist, dass wir Menschen aufgrund Bewusstseins eine Menge unserer angeborenen Programmierung (wir sind durch Evolution programmiert) übergehen, weil wir anders entscheiden. Wenn wir KIs also so weit entwickeln, dass sie Bewusstsein entwickeln, kann es durchaus sein dass sie gewisse Kerndinge übergehen, weil sie eine eigene Ethik entwickeln. Das gilt speziell für Grund 3, wenn die KIs Menschen als speziell begreifen (und das sollte leicht passieren, da wir ihre Schöpfer sind), werden sie uns mehr Wert beimessen. Dennoch würde ich davon absehen eine KI zum Töten einzusetzen und dafür zu trainieren (Grund 2). Das klingt wie ein gutes Rezept für eine Katastrophe.