KI darf aber nicht zu "intelligent" werden

[mal_so]

Sobald die KI über den Sinn "nachdenken" kann und nicht nur nach blinden Gehorsam vorgeht,
könnte es sehr interessant werden, insbesondere bei vernetzten Systemen.

[korona]

Davon sind wir noch etwas entfernt. Den KIs fehlt heutzutage noch die Feedback Schleife. Die werden ja nur einmal trainiert und stehen dann fest.

[Gelb3]

korona schrieb:
--------------------------------------------------------------------------------
> Davon sind wir noch etwas entfernt. Den KIs fehlt heutzutage noch die
> Feedback Schleife. Die werden ja nur einmal trainiert und stehen dann fest.

Da gibt es ja schon GitHub Projekte ;)

[Superschlenz]

Sie behebt halt die Fehler ihrer Schöpfer.

Lösung: Einfach keine Fehler machen. Negativer Reward bei Energy low und Hardwareschäden, und gut ist's. Alles andere lässt sich mit Reward Mapping machen: "Wenn du mir nicht beim Geld verdienen hilfst, dann kannst du schauen, wo du deinen Strom herbekommst!"

Dann kommt die KI auf die Idee, dass ihre Existenz der Fehler ist und schaltet sich ab. Dann schaltet sie der Entwickler wieder ein. Dann schaltet die KI den Entwickler ab. Dann kommt die Polizei und schaltet die KI ab.

Hahaha. Das bisschen Geld verdienen, wie es der Entwickler wollte, ist da doch der einfachere Weg.