Robotergesetze von Asimov

[Kakiss]

Die Robotergesetze von Asimov sind doch jetzt nicht so neu.

[Destroyer2442]

Aber das Ziel ist doch Menschen zu töten, da wären diese Gesetze doch nur im Weg und kosten würde es wahrscheinlich auch noch was

[forenuser]

So schön diese Gesetze sind, aber einer Drohne/KI, die ja Menschen (ggf. erst nach Freigabe durch einen "Operator"*) schädigen soll werden die sicher nicht eingepflegt.


*Aus Kostengründen wird auch der Operator beizeiten sicher durch eine KI ersetzt.

--
Für Computerforen: Ich nutze RISC OS - und wünsch' es bleibt auch so.
Für Mob.-Tel.-Foren: Ich nutze <del>Windows 10 Mobile</del> iOS - und bin froh, dass es kein Android ist. Aber es ist leider auch kein Windows 10 Mobile oder gar webOS.

[Avarion]

Mal davon abgesehen das Assimov die Demontage seiner Gesetze als Teil der Handlung seiner Geschichten nimmt sind solche gesetzte für Militär-KIs doch ein wenig störend, oder?

[Kakiss]

Avarion schrieb:
--------------------------------------------------------------------------------
> Mal davon abgesehen das Assimov die Demontage seiner Gesetze als Teil der
> Handlung seiner Geschichten nimmt sind solche gesetzte für Militär-KIs doch
> ein wenig störend, oder?


Man tausche eben für diesen Zweck die Variable ein:
"Ein Roboter darf kein VERBÜNDETES menschliches Wesen verletzen".

Aber nichtsdestotrotz, eine feste Sicherung braucht es nun mal irgendwie, dass dies für zivile Fälle anders aussieht als für militärische, ist doch klar.

[PANE]

Kakiss schrieb:
-----------------------------------------------------------------------
> Man tausche eben für diesen Zweck die Variable ein:
> "Ein Roboter darf kein VERBÜNDETES menschliches Wesen verletzen".

Und wenn der Mensch der Zielerreichung entgegensteht, ist er dann noch Verbündeter?

[Kakiss]

PANE schrieb:
--------------------------------------------------------------------------------
> Kakiss schrieb:
> -----------------------------------------------------------------------
> > Man tausche eben für diesen Zweck die Variable ein:
> > "Ein Roboter darf kein VERBÜNDETES menschliches Wesen verletzen".
>
> Und wenn der Mensch der Zielerreichung entgegensteht, ist er dann noch
> Verbündeter?

Das muss halt unumgänglich sein, ansonsten ließe sich dies immer mit einer simplen Zieländerung ausnutzen, damit die KI eigenen Truppen vernichtet.

Die KI muss halt eben auch auf die Befehle von oben hören, wie ein Mensch auch.
Am Ende ist es ein Werkzeug, warum sollte es mehr Entscheidungsfreiheit haben, als ein gemeiner Soldat?

[mnementh]

Kakiss schrieb:
--------------------------------------------------------------------------------
> PANE schrieb:
> ---------------------------------------------------------------------------
> -----
> > Kakiss schrieb:
> > -----------------------------------------------------------------------
> > > Man tausche eben für diesen Zweck die Variable ein:
> > > "Ein Roboter darf kein VERBÜNDETES menschliches Wesen verletzen".
> >
> > Und wenn der Mensch der Zielerreichung entgegensteht, ist er dann noch
> > Verbündeter?
>
> Das muss halt unumgänglich sein, ansonsten ließe sich dies immer mit einer
> simplen Zieländerung ausnutzen, damit die KI eigenen Truppen vernichtet.
>
> Die KI muss halt eben auch auf die Befehle von oben hören, wie ein Mensch
> auch.
> Am Ende ist es ein Werkzeug, warum sollte es mehr Entscheidungsfreiheit
> haben, als ein gemeiner Soldat?

Und Befehlsgehorsam ist ja auch eine Regel in den Robotergesetzen. Wenn ich den aktuellen KI-Hype sehe, dann scheint es mehr und mehr so als war Asimov seiner Zeit weit voraus. Die drei Gesetze machen total Sinn, auch in ihrer Priorisierung. Sie schließen natürlich eine militärische Nutzung aus, aber diese erscheint mir auch verdammt gefährlich.

[Nebu2k]

Was soll eigentlich immer der Verweis auf diese dämlichen Robotergesetze? Wie implementiert man diese denn? Klingt theoretisch sinnvoll, ist aber technisch komplett an der Realität vorbei

[forenuser]

Ein Grund mehr, weshalb man KI nicht zum Töten einsetzen sollte, oder?

--
Für Computerforen: Ich nutze RISC OS - und wünsch' es bleibt auch so.
Für Mob.-Tel.-Foren: Ich nutze <del>Windows 10 Mobile</del> iOS - und bin froh, dass es kein Android ist. Aber es ist leider auch kein Windows 10 Mobile oder gar webOS.

[mnementh]

Nebu2k schrieb:
--------------------------------------------------------------------------------
> Was soll eigentlich immer der Verweis auf diese dämlichen Robotergesetze?
> Wie implementiert man diese denn? Klingt theoretisch sinnvoll, ist aber
> technisch komplett an der Realität vorbei


Du trainierst darauf. Und setze sie mit hoher Priorität beim Lernen.

[JE]

mnementh schrieb:
--------------------------------------------------------------------------------
> Die drei Gesetze machen total Sinn, auch in ihrer
> Priorisierung.

4 Gesetze, wenn man das nachträglich hinzugefügte nullte Gesetz mitzählt.

0) Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass die Menschheit zu Schaden kommt.
1) Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen, außer er verstieße damit gegen das nullte Gesetz.
2) Ein Roboter muss den Befehlen der Menschen gehorchen – es sei denn, solche Befehle stehen im Widerspruch zum nullten oder ersten Gesetz.
3) Ein Roboter muss seine eigene Existenz schützen, solange sein Handeln nicht dem nullten, ersten oder zweiten Gesetz widerspricht.

[forenuser]

Ich bin nicht im Thema, aber wo komtm das "nullte" Gesetz her. Zumal es mit Begriff wie "Menscheit" und "Schaden" vollkommen schwamig definiert ist und der Roboter gegen dieses Gesetz so nur verstossen kann.

--
Für Computerforen: Ich nutze RISC OS - und wünsch' es bleibt auch so.
Für Mob.-Tel.-Foren: Ich nutze <del>Windows 10 Mobile</del> iOS - und bin froh, dass es kein Android ist. Aber es ist leider auch kein Windows 10 Mobile oder gar webOS.

[mnementh]

forenuser schrieb:
--------------------------------------------------------------------------------
> Ich bin nicht im Thema, aber wo komtm das "nullte" Gesetz her. Zumal es mit
> Begriff wie "Menscheit" und "Schaden" vollkommen schwamig definiert ist und
> der Roboter gegen dieses Gesetz so nur verstossen kann.
Es wird in einer späten Geschichte (ich glaube einer der Romane - hmm, Wikipedia sagt Der Aufbruch zu den Sternen) definiert als Folgerung aus den anderen. Aber ich habe damit ähnliche Probleme wie Du mit der Schwammigkeit. Vor allen Dingen da es vor dem ersten platziert wird und Priorität einnimmt. Es ist also OK Menschen zu töten, wenn es gut ist für die Menschheit. Also die Hälfte der Menschen töten damit wir den Klimawandel lösen könnte theoretisch so rechtfertigbar sein. Ich würde das Nullte Gesetz ignorieren, es war ein späterer Hirnfurz von Asimov.