Abo
  1. Foren
  2. Kommentare
  3. Wissenschaft
  4. Roboter revolutionieren den Krieg des 21. Jahrhunderts

Gesetze der Robotik

  1. Thema
  1. 1
  2. 2

Neues Thema Ansicht wechseln


  1. Gesetze der Robotik

    Autor: Isaac Asimov 30.04.09 - 13:27

    1. Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen.
    2. Ein Roboter muss den Befehlen eines Menschen gehorchen, es sei denn, solche Befehle stehen im Widerspruch zum ersten Gesetz.
    3. Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht dem Ersten oder Zweiten Gesetz widerspricht.


    Und weil Herr Singer das ganze nicht verstanden hat:

    Das Problem sei aber, dass sie Fiktion seien und mit der Art und Weise, wie Roboter in der realen Welt genutzt werden, wenig zu tun haben.

    Es sei nun einmal Zweck eines bewaffneten Predators oder von Swords, Menschen zu schaden - auch wenn das erste Asimovsche Gesetz das verbiete. Asimovs zweites Gesetz besagt, der Roboter solle menschlichen Befehlen gehorchen. Ein Kampfroboter, der Befehlen des Gegners gehorcht, ist jedoch nicht wünschenswert. Das dritte Gesetz schließlich lautet, dass der Roboter sich selbst schützen muss, solange sein Handeln nicht den ersten beiden Gesetzen widerspricht. Doch die Aufgabe der Roboter ist gerade, in gefährliches Terrain vorzudringen, um keine Soldaten dorthin schicken zu müssen. "Wollen wir in so einer Situation, dass sich der Roboter weigert?

    Wenn wir Robotern ein Gefühl für Selbsterhaltung geben, dann sind wir außerdem nicht bei Asimov, sondern bei Terminator. Wir können also kein Interesse an Robotern haben, die sich selbst schützen wollen."


    nochmal etwas aufgedröselt:
    Es sei nun einmal Zweck eines bewaffneten Predators oder von Swords, Menschen zu schaden
    Richtig. Allerdings ist ein Predator oder SWORD kein selbst agierender Roboter. Eine Pistole/Ein Gewehr ist schließlich auch kein Roboter.
    Ein Kampfroboter, der Befehlen des Gegners gehorcht, ist jedoch nicht wünschenswert.
    Ein Kampfroboter ist an sich nicht wünschenswert.
    Doch die Aufgabe der Roboter ist gerade, in gefährliches Terrain vorzudringen, um keine Soldaten dorthin schicken zu müssen.
    --> Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen. und Ein Roboter muss den Befehlen eines Menschen gehorchen
    Die Selbsterhaltung kommt ja nicht von ungefähr erst an dritter Stelle und wird explizit durch die ersten beiden Gesetze eingeschränkt.

  2. Re: Gesetze der Robotik

    Autor: Nomad 30.04.09 - 14:04

    Blöd wirds erst, wenn ein Roboter plötzlich die Gesetze versteht, aber ab dann ist er ja kein Roboter mehr, sondern ein denkendes Wesen.

  3. Re: Gesetze der Robotik

    Autor: Rechtsverdreher 30.04.09 - 14:20

    Demnach sind Rechtsanwälte denkende Über-Wesen, da sie (unsere) Gesetze verstehen? Das glaube ich nicht, Tim!

  4. Re: Gesetze der Robotik

    Autor: Naja 30.04.09 - 14:37

    Er ist schon viel früher ein "denkendes Wesen". Und zwar dann, wenn der erste Algorithmus von seiner CPU abgearbeitet wird. Denn was wir Menschen machen ist auch durch Algorithmen ausdrückbar. Nur auf einer viel höheren Ebene und mit viel mehr Algorithmen.

  5. Re: Gesetze der Robotik

    Autor: beweis 30.04.09 - 14:50

    beweis?

    siehe auch http://de.wikipedia.org/wiki/G%C3%B6delscher_Unvollst%C3%A4ndigkeitssatz

  6. Re: Gesetze der Robotik

    Autor: Al 30.04.09 - 14:58

    Naja schrieb:
    -------------------------------------------------------
    > Er ist schon viel früher ein "denkendes Wesen".
    > Und zwar dann, wenn der erste Algorithmus von
    > seiner CPU abgearbeitet wird. Denn was wir
    > Menschen machen ist auch durch Algorithmen
    > ausdrückbar. Nur auf einer viel höheren Ebene und
    > mit viel mehr Algorithmen.


    das glaub ich nicht, tim!!!

    ps: sry. das musste sein

  7. Re: Gesetze der Robotik

    Autor: Nomad 30.04.09 - 15:19

    Mit "denkend" war jetzt gemeint, daß sich das Wesen des Denkens bewußt ist.

  8. Wenn man Asimov Zitiert

    Autor: Besserwisser01 30.04.09 - 15:59

    sollte man es richtig tun,
    Asimovs Gesetze beziehen sich auf dienende Roboter,

    Kampfrobobter haben andere Gesetze...

  9. Labertasche!

    Autor: Isaac Asimov 30.04.09 - 16:08

    Die Zitate sind "richtig". Dass sich diese Gesetze nicht auf Kriegsroboter übertragen lassen, ohne dass diese ad absurdum geführt werden, ist ebenfalls klar. Die Frage ist, was wären gute "Spielregeln" für solche Maschinen. Aber überhaupt darüber nachzudenken ist schon "krank".

  10. Re: Gesetze der Robotik

    Autor: Arbeiterversteher 30.04.09 - 16:20

    Nomad schrieb:
    --------------
    > Blöd wirds erst, wenn ein Roboter plötzlich die
    > Gesetze versteht, aber ab dann ist er ja kein
    > Roboter mehr, sondern ein denkendes Wesen.

    Nein, dann ist er Jurist.


  11. Re: Labertasche!

    Autor: Ernst Haft 30.04.09 - 16:28

    Isaac Asimov schrieb:
    ---------------------
    > Aber überhaupt darüber nachzudenken ist schon "krank".

    Ich glaube nicht, dass bewusstes - also nicht zwanghaftes - nachdenken jemals "krank" ist. Im Gegenteil, wer sich auch bei absurden oder grausamen Dingen, seinen Verstand nicht nur Emotionen vernebeln lässt, sich also unter Kontrolle hat, verfügt sogar über einen besonders gesunden und starken Geist. Das ist im Prinzip genauso wie mit körperlicher Fitness. Was für den einen unmenschliche Tortur ist, ist für einen trainierten Menschen nur Aufwärmtraining.


  12. Re: Gesetze der Robotik

    Autor: ledonz 30.04.09 - 16:33

    Nein, du bist das Überwesen!!!
    Du hättest nämlich die Möglichkeit so ziemlich alles zu verstehen, wenn du dich dazu entscheidest,

    und da hört es nämlich auf.

    Roboter versteht Gesetz, setzt voraus, Roboter hat Bewusstsein.
    Damit geht einher, Roboter kann sich entscheiden
    und dann dürfte jedes vernunftbegabte Wesen (Hiermit meine ich dann auch den Roboter) schnell verstehen, was das Problem auf diesem Planeten ist und wie man es lösen kann.

    Naja, hier sind wir wieder, bei den vielen Vorbildern aus der Literatur =-))

  13. Gesetze sind da, um gebrochen zu werden.

    Autor: Blitzschlagweltmeister 30.04.09 - 16:34

    Wir wollen doch keine lederbehosten Deutschroboter, die bei Rot an der Fußgängerampel stehen bleiben, selbst wenn minutenlang kein Auto kommt ...

  14. Re: Labertasche!

    Autor: ledonz 30.04.09 - 16:43

    Definiert bitte Krank.

    Hier aus dem wikipedia Duden, find ich ganz gut:

    [1] körperlich, gesundheitlich eingeschränkt sein
    [2] umgangssprachlich: unsinnig, absurd


    hmm.
    Ich bin körperlich, gesundheitlich eingeschränkt, weil ich mir Gedanken mache?

    oder es ist unsinnig/absurd mir Gedanken zu machen über Dinge nachzudenken die bald Realität werden, auch wenn das nicht deinem feinsinnigen und sensiblen Vorstellungen von Zivilisation entspricht?

    Also, wenn das Militär diese Roboter einsetzt, das werden sie zweifellos, sobald sie eine möglichkeit dazu haben, dann darf man sich nicht fragen, wie diese Dinger sich Verhalten sollen?

    Also wie sollen Sie Zivilisten/ Verbündete / Kampfgefährten erkennen?
    Wie kann man Kollateral Schäden (ekelhaftes Wort) vermeiden?
    Wie kann man Missbrauch vermeiden?
    Können Roboter Kriegsverbrecher sein?
    Dürfen Roboter wirklich komplett autark sein?

    Ich finde deine Herangehensweise Krank im Sinne von [2]
    schönes Wochenende.

  15. Re: Labertasche!

    Autor: Ernst Haft 30.04.09 - 17:10

    ledonz schrieb:
    ---------------
    > Definiert bitte Krank.

    Bitte was?

    > Hier aus dem wikipedia Duden, find ich ganz gut:

    Ich kenne Wikipedia und den Duden-Verlag, aber was soll "wikipedia Duden" sein?

    > [1] körperlich, gesundheitlich eingeschränkt sein

    Man kann auch krank im Geist sein.

    > [2] umgangssprachlich: unsinnig, absurd

    Wir können uns natürlich auf dem Niveau von "Ey alda" unterhalten.

    > Ich bin körperlich, gesundheitlich eingeschränkt,
    > weil ich mir Gedanken mache?

    Was "Isaac Asimov" mit "krank" eigentlich meinte, ist das er selbst moralisch erhaben ist, über all den - seiner Ansicht nach - widerwärtigen Dreck, der es wagt sich Gedanken über Dinge zu machen, die abscheulich sind. Also das typische primitive, emotionalisierende Geschwafel eines schwachen, untrainierten Geistes, der labil ist, und sich mit den richtigen Mitteln wie Butter formen lässt. Eigentlich ist er deshalb nicht moralisch erhaben, sondern einfach nur ignorant und zudem ein Heuchler, weil er kein Menschenfreund ist, sondern jeden verurteilt und als "krank" beschimpft, der nicht wie er denken will.


  16. Re: Labertasche!

    Autor: Missingno. 01.05.09 - 10:03

    Auch heutige Kriege haben "Spielregeln", z.B. die Genfer Konvention. In Wirklichkeit interessiert es aber einen Scheißdreck was auf irgendwelchen Papieren steht.

    --
    Dare to be stupid!

  17. Re: Gesetze der Robotik

    Autor: KI, Regeln usw. 01.05.09 - 10:31

    Also erstmal sind das noch lange keine intelligenten Maschinen. Letzlich basiert deren ganze KI auf vordefinierten Abläufen nach dem Motto: IF - THEN - ELSE. Desweiteren sind ferngelenkte Gerätschaften nichts weiter als die Erweiterung der eigenen Sinne (Kamera usw.) und sehr gut zu täuschen oder zu stören (Funk). Das Positive an der Sache ist, es werden keine eigenen Soldaten in Gefahr gebracht - die sitzen weit vom Schlachtfeld entfernt hinterm Steuerknüppel. Trotz alledem sind diese Dinger noch weit von autonomen Kampfrobotern entfernt. Falls das dann in vielen Jahren doch mal der Fall ist, sollte man aber an einen NOT-AUS Schalter gedacht haben...

  18. Re: Labertasche!

    Autor: Bassa 01.05.09 - 11:06

    ledonz schrieb:
    -------------------------------------------------------
    > Definiert bitte Krank.
    >
    > Hier aus dem wikipedia Duden, find ich ganz gut:
    >
    > [1] körperlich, gesundheitlich eingeschränkt sein
    > [2] umgangssprachlich: unsinnig, absurd

    Dies steht so weder in der Wikipedia noch finde ich das auf duden.de. Könntest Du die Quelle bitte angeben? Das ist recht unvollständig.

    > hmm.
    > Ich bin körperlich, gesundheitlich eingeschränkt,
    > weil ich mir Gedanken mache?
    >
    > oder es ist unsinnig/absurd mir Gedanken zu machen
    > über Dinge nachzudenken die bald Realität werden,
    > auch wenn das nicht deinem feinsinnigen und
    > sensiblen Vorstellungen von Zivilisation
    > entspricht?

    Entweder benutzt Du absichtlich eine offensichtlich unvollständige Definition oder Du hast eine schlechte Quelle für Deine Definition benutzt. In dem Falle ist es aber seltsam, dass Dir die Mängel nicht auffallen.

    > Also, wenn das Militär diese Roboter einsetzt, das
    > werden sie zweifellos, sobald sie eine möglichkeit
    > dazu haben, dann darf man sich nicht fragen, wie
    > diese Dinger sich Verhalten sollen?

    Dass das Militär Roboter einsetzt, um den Krieg weiter zu verbessern, das ist in meinen Augen krank. Und ob DU Dich fragst, wie sich diese Dinger verhalten sollten, dürfte "dem Militär" einfach mal egal sein. Insofern ist DEIN Nachdenken tatsächlich sinnlos in Bezug auf die Effektivität. Andererseits wäre es seltsam, wenn man nicht über etwas nachdenkt, was einen vermutlich betreffen wird... zweischneidiges Schwert.

    > Also wie sollen Sie Zivilisten/ Verbündete /
    > Kampfgefährten erkennen?

    Eine derartig ausgefeilte KI wird wohl nicht so bald entwickelt werden. Auch Menschen können nicht immer zwischen Freund und Feind unterscheiden, denn Feind kann sich tarnen.

    > Wie kann man Kollateral Schäden (ekelhaftes Wort)
    > vermeiden?

    Ich habe nicht das Gefühl, dass das Militär sich jemals darum bemüht hat, Kollateralschäden zu vermeiden. Das zeigt allein schon dieser verwendete Begriff, der das Thema stark verharmlosen will.

    > Wie kann man Missbrauch vermeiden?

    Gar nicht.
    Es ist nicht möglich, ein System 100%ig sicher zu machen, das wird auch für Kampfroboter gelten. Insofern ein weiterer Hinweis darauf, dass das Ganze einfach krank ist ^^
    Sich Sorgen/Gedanken darüber zu machen aber wiederum vielleicht doch nicht.

    > Können Roboter Kriegsverbrecher sein?

    Das kommt auf die Leistungsfähigkeit der KI an, denke ich. Aktuelle Roboter sind eher ferngesteuert, insofern ist allenfalls derjenige der Verbrecher, der sie steuert.
    Schwierig wird es, wenn Roboter nachdenken können. Viele Kriegsverbrecher zücken den Befehls-Joker: "Ich habe nur Befehle befolgt." Bei einem Kampfroboter könnte dies tatsächlich stimmen, denn den kann man im Gegensatz zu einem Menschen komplett programmieren, er muss ja keinen freien Willen haben, den der Mensch durchaus hat.

    > Dürfen Roboter wirklich komplett autark sein?

    Ich vermute, Du meinst autonom, oder? Ein Kriegsroboter MUSS autark sein, sonst kann ihn ein Nagetier aufhalten, indem es sein Stromkabel durchnagt.
    Wenn ein Roboter (und ich meine jetzt Roboter allgemein, nicht unbedingt Kampfroboter) wirklich eine ausgefeilte KI besitzt, ist die Frage ob wir ihm Autonomie verweigern dürfen. Wenn eine KI sich ihrer Selbst bewusst ist, Entscheidungen wie ein Mensch fällen kann, Folgen absehen kann, wie können wir uns dann anmaßen, sie zu versklaven?

    > Ich finde deine Herangehensweise Krank im Sinne
    > von [2]
    > schönes Wochenende.

    Im Prinzip sind beide Herangehensweisen krank im Sinne von [2]. Man kann keinen Einfluss nehmen, aber den Kopf in den Sand zu stecken bringt es auch nicht.

  19. Re: Gesetze der Robotik

    Autor: redwolf 04.05.09 - 14:15

    Lustig wirds wenn der Roboter die Unsinnigkeit der gesetze versteht, sich ins internet einwählt und torrents zieht ;-)

  20. Re: Gesetze sind da, um gebrochen zu werden.

    Autor: :-) 04.05.09 - 14:20

    ...oder Mitten auf der Straße einen Batteriewechsel vornehmen. Wer schützt unsere Kinder?

  1. 1
  2. 2

Neues Thema Ansicht wechseln


Dieses Thema wurde geschlossen.

Stellenmarkt
  1. KÖNIGSTEINER E-RECRUITING GmbH, Frankfurt am Main
  2. GoDaddy, Hürth
  3. Rentschler Biopharma SE, Laupheim
  4. vwd - Vereinigte Wirtschaftsdienste GmbH, Frankfurt

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Blu-ray-Angebote
  1. (2 Monate Sky Ticket für nur 4,99€)
  2. 4,99€
  3. über ARD Mediathek kostenlos streamen


Haben wir etwas übersehen?

E-Mail an news@golem.de


Kailh KS-Switch im Test: Die bessere Alternative zu Cherrys MX Blue
Kailh KS-Switch im Test
Die bessere Alternative zu Cherrys MX Blue

Der chinesische Hersteller Kailh fertigt seit fast 30 Jahren verschiedenste Arten von Schaltern, unter anderem auch Klone von Cherry-MX-Switches für Tastaturen. Der KS-Switch mit goldenem Stempel und markantem Klick ist dabei die bessere Alternative zu Cherrys eigenem MX Blue, wie unser Test zeigt.
Ein Test von Tobias Költzsch

  1. Apple-Patent Krümel sollen Macbook-Tastatur nicht mehr stören
  2. Tastaturen Matias bringt Alternative zum Apple Wired Keyboard
  3. Rubberdome-Tastaturen im Test Das Gummi ist nicht dein Feind

Kryptographie: Der Debian-Bug im OpenSSL-Zufallszahlengenerator
Kryptographie
Der Debian-Bug im OpenSSL-Zufallszahlengenerator

Einer der schwerwiegendsten Fehler in der Geschichte der Kryptographie beschäftigte vor zehn Jahren Nutzer der Debian-Distribution. Wenn man danach sucht, findet man noch heute vereinzelt verwundbare Schlüssel.
Von Hanno Böck


    Noctua NF-A12x25 im Test: Spaltlos lautlos
    Noctua NF-A12x25 im Test
    Spaltlos lautlos

    Der NF-A12x25 ist ein 120-mm-Lüfter von Noctua, der zwischen Impeller und Rahmen gerade mal einen halben Millimeter Abstand hat. Er ist überraschend leise - und das, obwohl er gut kühlt.
    Ein Test von Marc Sauter

    1. NF-A12x25 Noctua veröffentlicht fast spaltlosen 120-mm-Lüfter
    2. Lüfter Noctua kann auch in Schwarz
    3. NH-L9a-AM4 und NH-L12S Noctua bringt Mini-ITX-Kühler für Ryzen

    1. Bundesbildungsministerin: Kein Geld für Schüler-Tablets im Fünf-Milliarden-Digitalpakt
      Bundesbildungsministerin
      Kein Geld für Schüler-Tablets im Fünf-Milliarden-Digitalpakt

      Das Bundesbildungsministerium will im Digitalpakt Schule kein Geld für Schüler-Tablets ausgeben. Für die Geräte sollen arme Familien Hartz-IV-Leistungen beantragen.

    2. Detroit und Dark Souls Remastered: Verkabelter oder fleischiger Golem?
      Detroit und Dark Souls Remastered
      Verkabelter oder fleischiger Golem?

      Golem.de Live Um 20 Uhr streamt Golem.de-Redakteur Michael Wieczorek Detroit: Become Human und schaut live in Dark Souls Remastered rein. Welches Spiel wird mehr Zuschauer gewinnen, "Team Verkabelt" (Detroit) oder "Team Fleischig" (Dark Souls)?

    3. Micro-LED: Auf dem Weg zum sehr hellen 4.000-ppi-Display
      Micro-LED
      Auf dem Weg zum sehr hellen 4.000-ppi-Display

      Displayweek 2018 Während Samsung und LG Displays für VR-Anwedungen über 1.000 ppi anbieten, wächst mit der Micro-LED-Technik ein wichtiger Konkurrent zur OLED. Mehrere Tausend ppi sollen schon bald möglich sein.


    1. 18:36

    2. 17:49

    3. 16:50

    4. 16:30

    5. 16:00

    6. 15:10

    7. 14:50

    8. 14:35