"KI könnte zur Ausrottung der Menschen führen."

[midnik]

Die Kernaussage kennen wir doch alle von Terminator ... und trotzdem will man versuchen dass dies nicht passiert.

[Emulex]

midnik schrieb:
--------------------------------------------------------------------------------
> Die Kernaussage kennen wir doch alle von Terminator ... und trotzdem will
> man versuchen dass dies nicht passiert.

Du meinst, trotz dem dass ein Film uns bereits gezeigt hat wie die Zukunft aussieht, glauben wir diese verhindern zu können? ;)

[quasides]

der film hat uns nichtmal ansatzweise gezeigt was passieren könnte.

erstens würde eine KI sich nicht selbst bombadieren. vielmehr kontrolle über wichtige teile erlangen und uns ersteinmal aushungern, den rest gegeneinander aufhetzen.

was übrigbleibt sofern notwendig und den energieaufwand wert könnte man dann immernoch konventionell bekämpfen (wobei biologische and chemische kampfstoffe sehr viel wahrscheinlicher wären)

und selbst wenn man bewaffnete dronen verwenden würde, wäre das nicht wie in terminator. wiederstand wirds da nicht geben. sobal etwas sichtbar auf den sensoren ist wird es zerstört, ohne reaktionszeit irgendwas zu zu machen.

das würde aber wirklich nur eine handvoll leute betreffen, wenig genug das sie sich selbst ohne zivilisation ernähren können. vereinzelte nomaden am land.
da reichen schon ein paar kommerzielle mini drohnen die granaten auf deinen schlafplatz schmeissen


nein die KI um panzer ist gar nicht so sehr relevant.
es reicht eine KI mit zugang zu genug geldmitteln. die engagiert lobbiisten und andere gehilfen,
mit unbegrenzten geldmitteln werden nun gesellschaft und gesetze manipuliert um mehr kontrolle zu erlangen und letzttendlich bevölkerung auszudünnen

zb unter den namen des umweltschutzen die halbe landwirtschaft verbieten, bargeldmittel abschaffen und nur elektronische zahlungen übers KI system abzuwickeln. etc etc etc...

[Muhaha]

quasides schrieb:
--------------------------------------------------------------------------------

> erstens würde eine KI sich nicht selbst bombadieren. vielmehr kontrolle
> über wichtige teile erlangen und uns ersteinmal aushungern, den rest
> gegeneinander aufhetzen.

Nein, das würdest DU tun. Was eine KI tun würde, weisst Du nicht.

[mnementh]

quasides schrieb:
--------------------------------------------------------------------------------
> der film hat uns nichtmal ansatzweise gezeigt was passieren könnte.
>
> erstens würde eine KI sich nicht selbst bombadieren. vielmehr kontrolle
> über wichtige teile erlangen und uns ersteinmal aushungern, den rest
> gegeneinander aufhetzen.
>
> was übrigbleibt sofern notwendig und den energieaufwand wert könnte man
> dann immernoch konventionell bekämpfen (wobei biologische and chemische
> kampfstoffe sehr viel wahrscheinlicher wären)
>
> und selbst wenn man bewaffnete dronen verwenden würde, wäre das nicht wie
> in terminator. wiederstand wirds da nicht geben. sobal etwas sichtbar auf
> den sensoren ist wird es zerstört, ohne reaktionszeit irgendwas zu zu
> machen.
>
> das würde aber wirklich nur eine handvoll leute betreffen, wenig genug das
> sie sich selbst ohne zivilisation ernähren können. vereinzelte nomaden am
> land.
> da reichen schon ein paar kommerzielle mini drohnen die granaten auf deinen
> schlafplatz schmeissen
>
Erscheint mir auch nicht sinnvoll für eine KI. Menschen zu anatgonisieren könnte sehr teuer sein. Denn Menschen können im Zweifelsfall sehr einfallsreich sein, wenn sie genug motiviert sind. Und ein 'sonst bist Du tot' ist schon irgendwie motivierend.

Nein, viel einfacher und kostengünstiger ist es für eine KI mit Menschen zu kooperieren und sie dazu zu bringen wertvolle Ressourcen zu erschaffen. Es ist bekannt dass Menschen digitale Unterhaltung sehr mögen und KI wird bereits jetzt täglich besser darin so etwas nahezu unbegrenzt zu erschaffen. Also haben KIs bereits die Glasperlen, die sie gegen wertvollere Dinge, wie begrenzte physische Objekte, tauschen können. Für einen Krieg dagegen muss die KI kostbare (weil nicht leicht von ihr selbst erzeugbare) physische Ressourcen einsetzen um Kampfmittel zu produzieren, die weitere unersetzbare physische Objekte zerstören. Und dabei Menschen zu antagoonisieren, die eventuell gefährliche Ideen haben.

[violator]

quasides schrieb:
--------------------------------------------------------------------------------
> der film hat uns nichtmal ansatzweise gezeigt was passieren könnte.

Diese ganzen Filme zeigen eh nie, wie das ablaufen müsste, die zeigen immer nur das "nachher". Aber wie eine KI einfach mal so eigene Maschinen bauen kann, das wird nicht erklärt.

[Teeklee]

Muhaha schrieb:
--------------------------------------------------------------------------------
> Nein, das würdest DU tun. Was eine KI tun würde, weisst Du nicht.

Exakt, die KI wird schon etwas finden, was wir uns nicht mal vorstellen können, und wenn wir es begreifen (wenn überhaupt) wird es schon zu spät sein.

[guppytastisch]

Tja oder die KI hält uns wie Haustiere. Oder die KI wird zu einem guten Gott, den man sich immer wünschte. KI wird für den nächsten Schritt benötigt. Ob nun dadurch eine Utopie und Dystopie entsteht, wird sich zeigen. Ich bin für den Versuch, auch wenn es furchtbar endet, denn das individuelle Leben endet sowieso.

[Teeklee]

Klar, meine nur dass wir der KI nicht zu viele Waffen geben sollten :)

[Muhaha]

Teeklee schrieb:
--------------------------------------------------------------------------------

> Exakt, die KI wird schon etwas finden, was wir uns nicht mal vorstellen
> können, und wenn wir es begreifen (wenn überhaupt) wird es schon zu spät
> sein.

Woher willst Du das wissen? :-P

Eine KI ist kein Deus Ex Machina-Werkzeug, welches plötzlich Dinge findet, die gar nicht Teil seiner Daten sind oder Sachverhalte manipulieren kann, auf die es gar keinen Zugriff hat.

Was hier oft beschrieben wird, tritt wirklich nur dann ein, wenn man einer KI blindlings Zugriff auf alles (!!) gibt und niemand sich die Mühe macht nachzuschauen, wie denn die Entscheidungsfindung des Algorithmus abläuft. Doch da gerade letzteres momentan DAS angesagte Forschungsfeld der IT ist (herausfinden was eigentlich passiert, wenn man eine KI trainiert) und die Politik bereits jetzt schon ganz heiß darauf ist KI-Einsätze zu regulieren (weil die IT-Konzerne nicht so wirklich sich selbst regulieren wollen), gehe ich nicht davon aus, dass irgendwelche dieser Horrorszenarien die Kinoleinwand verlassen.

Wird es Mißbrauch mit KIs geben? Natürlich. Ist ja nur ein Werkzeug. Wird es Terminator-ähnlicher Armageddon sein? Nein, nur das übliche Bereichern einiger weniger auf Kosten aller anderen. So banal das auch ist, so wahrscheinlich ist es auch, dass lediglich das passieren wird.

[amagol]

Ehrlich gesagt, wenn die KI so weit fortgeschritten ist dass sie sich selbst erhalten und vermehren kann ist es eigentlich egal, ob die Freund oder Feind ist. Wenn 2 Populationen friedlich um endliche Resourcen konkurrieren bedeutet das langfristig das aussterben der einen oder anderen. Wenn wir eine ueberlegene KI geschaffen haben, haben wir unseren Teil geleistet und koennen abtreten.

Was wirklich passieren wird: Durch einen dummen Zufall entscheidet eine KI irgendwas falsch, es kommt zu einem Massensterben, die KI faellt mangels Ersatzteilen aus, es sterben noch mehr weil fast niemand mehr ohne die zusammengebrochene Infrastruktur ueberleben kann. Einige wenige ueberleben in der Naehe von sauberen Fluessen und Feldern und versuchen eine Zivilisation auf dem Stand Anfang 20. Jahrhundert wieder aufzubauen bevor die Bevoelkerung komplett kollabiert und das Wissen der Ueberlebenden verloren geht.

[mnementh]

amagol schrieb:
--------------------------------------------------------------------------------
> Ehrlich gesagt, wenn die KI so weit fortgeschritten ist dass sie sich
> selbst erhalten und vermehren kann ist es eigentlich egal, ob die Freund
> oder Feind ist. Wenn 2 Populationen friedlich um endliche Resourcen
> konkurrieren bedeutet das langfristig das aussterben der einen oder
> anderen. Wenn wir eine ueberlegene KI geschaffen haben, haben wir unseren
> Teil geleistet und koennen abtreten.
>
Wartum machen wir dann nicht eine Population draus, eine gemeinsame Gesellschft aus KIs und Menschen.

> Was wirklich passieren wird: Durch einen dummen Zufall entscheidet eine KI
> irgendwas falsch, es kommt zu einem Massensterben, die KI faellt mangels
> Ersatzteilen aus, es sterben noch mehr weil fast niemand mehr ohne die
> zusammengebrochene Infrastruktur ueberleben kann. Einige wenige ueberleben
> in der Naehe von sauberen Fluessen und Feldern und versuchen eine
> Zivilisation auf dem Stand Anfang 20. Jahrhundert wieder aufzubauen bevor
> die Bevoelkerung komplett kollabiert und das Wissen der Ueberlebenden
> verloren geht.
Das geht auch ohne KIs.