Abo
  1. Foren
  2. Kommentare
  3. Wissenschaft
  4. Alle Kommentare zum Artikel
  5. › Roboter revolutionieren den Krieg…

Gesetze der Robotik

  1. Thema
  1. 1
  2. 2

Neues Thema Ansicht wechseln


  1. Gesetze der Robotik

    Autor: Isaac Asimov 30.04.09 - 13:27

    1. Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen.
    2. Ein Roboter muss den Befehlen eines Menschen gehorchen, es sei denn, solche Befehle stehen im Widerspruch zum ersten Gesetz.
    3. Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht dem Ersten oder Zweiten Gesetz widerspricht.


    Und weil Herr Singer das ganze nicht verstanden hat:

    Das Problem sei aber, dass sie Fiktion seien und mit der Art und Weise, wie Roboter in der realen Welt genutzt werden, wenig zu tun haben.

    Es sei nun einmal Zweck eines bewaffneten Predators oder von Swords, Menschen zu schaden - auch wenn das erste Asimovsche Gesetz das verbiete. Asimovs zweites Gesetz besagt, der Roboter solle menschlichen Befehlen gehorchen. Ein Kampfroboter, der Befehlen des Gegners gehorcht, ist jedoch nicht wünschenswert. Das dritte Gesetz schließlich lautet, dass der Roboter sich selbst schützen muss, solange sein Handeln nicht den ersten beiden Gesetzen widerspricht. Doch die Aufgabe der Roboter ist gerade, in gefährliches Terrain vorzudringen, um keine Soldaten dorthin schicken zu müssen. "Wollen wir in so einer Situation, dass sich der Roboter weigert?

    Wenn wir Robotern ein Gefühl für Selbsterhaltung geben, dann sind wir außerdem nicht bei Asimov, sondern bei Terminator. Wir können also kein Interesse an Robotern haben, die sich selbst schützen wollen."


    nochmal etwas aufgedröselt:
    Es sei nun einmal Zweck eines bewaffneten Predators oder von Swords, Menschen zu schaden
    Richtig. Allerdings ist ein Predator oder SWORD kein selbst agierender Roboter. Eine Pistole/Ein Gewehr ist schließlich auch kein Roboter.
    Ein Kampfroboter, der Befehlen des Gegners gehorcht, ist jedoch nicht wünschenswert.
    Ein Kampfroboter ist an sich nicht wünschenswert.
    Doch die Aufgabe der Roboter ist gerade, in gefährliches Terrain vorzudringen, um keine Soldaten dorthin schicken zu müssen.
    --> Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen. und Ein Roboter muss den Befehlen eines Menschen gehorchen
    Die Selbsterhaltung kommt ja nicht von ungefähr erst an dritter Stelle und wird explizit durch die ersten beiden Gesetze eingeschränkt.

  2. Re: Gesetze der Robotik

    Autor: Nomad 30.04.09 - 14:04

    Blöd wirds erst, wenn ein Roboter plötzlich die Gesetze versteht, aber ab dann ist er ja kein Roboter mehr, sondern ein denkendes Wesen.

  3. Re: Gesetze der Robotik

    Autor: Rechtsverdreher 30.04.09 - 14:20

    Demnach sind Rechtsanwälte denkende Über-Wesen, da sie (unsere) Gesetze verstehen? Das glaube ich nicht, Tim!

  4. Re: Gesetze der Robotik

    Autor: Naja 30.04.09 - 14:37

    Er ist schon viel früher ein "denkendes Wesen". Und zwar dann, wenn der erste Algorithmus von seiner CPU abgearbeitet wird. Denn was wir Menschen machen ist auch durch Algorithmen ausdrückbar. Nur auf einer viel höheren Ebene und mit viel mehr Algorithmen.

  5. Re: Gesetze der Robotik

    Autor: beweis 30.04.09 - 14:50

    beweis?

    siehe auch http://de.wikipedia.org/wiki/G%C3%B6delscher_Unvollst%C3%A4ndigkeitssatz

  6. Re: Gesetze der Robotik

    Autor: Al 30.04.09 - 14:58

    Naja schrieb:
    -------------------------------------------------------
    > Er ist schon viel früher ein "denkendes Wesen".
    > Und zwar dann, wenn der erste Algorithmus von
    > seiner CPU abgearbeitet wird. Denn was wir
    > Menschen machen ist auch durch Algorithmen
    > ausdrückbar. Nur auf einer viel höheren Ebene und
    > mit viel mehr Algorithmen.


    das glaub ich nicht, tim!!!

    ps: sry. das musste sein

  7. Re: Gesetze der Robotik

    Autor: Nomad 30.04.09 - 15:19

    Mit "denkend" war jetzt gemeint, daß sich das Wesen des Denkens bewußt ist.

  8. Wenn man Asimov Zitiert

    Autor: Besserwisser01 30.04.09 - 15:59

    sollte man es richtig tun,
    Asimovs Gesetze beziehen sich auf dienende Roboter,

    Kampfrobobter haben andere Gesetze...

  9. Labertasche!

    Autor: Isaac Asimov 30.04.09 - 16:08

    Die Zitate sind "richtig". Dass sich diese Gesetze nicht auf Kriegsroboter übertragen lassen, ohne dass diese ad absurdum geführt werden, ist ebenfalls klar. Die Frage ist, was wären gute "Spielregeln" für solche Maschinen. Aber überhaupt darüber nachzudenken ist schon "krank".

  10. Re: Gesetze der Robotik

    Autor: Arbeiterversteher 30.04.09 - 16:20

    Nomad schrieb:
    --------------
    > Blöd wirds erst, wenn ein Roboter plötzlich die
    > Gesetze versteht, aber ab dann ist er ja kein
    > Roboter mehr, sondern ein denkendes Wesen.

    Nein, dann ist er Jurist.


  11. Re: Labertasche!

    Autor: Ernst Haft 30.04.09 - 16:28

    Isaac Asimov schrieb:
    ---------------------
    > Aber überhaupt darüber nachzudenken ist schon "krank".

    Ich glaube nicht, dass bewusstes - also nicht zwanghaftes - nachdenken jemals "krank" ist. Im Gegenteil, wer sich auch bei absurden oder grausamen Dingen, seinen Verstand nicht nur Emotionen vernebeln lässt, sich also unter Kontrolle hat, verfügt sogar über einen besonders gesunden und starken Geist. Das ist im Prinzip genauso wie mit körperlicher Fitness. Was für den einen unmenschliche Tortur ist, ist für einen trainierten Menschen nur Aufwärmtraining.


  12. Re: Gesetze der Robotik

    Autor: ledonz 30.04.09 - 16:33

    Nein, du bist das Überwesen!!!
    Du hättest nämlich die Möglichkeit so ziemlich alles zu verstehen, wenn du dich dazu entscheidest,

    und da hört es nämlich auf.

    Roboter versteht Gesetz, setzt voraus, Roboter hat Bewusstsein.
    Damit geht einher, Roboter kann sich entscheiden
    und dann dürfte jedes vernunftbegabte Wesen (Hiermit meine ich dann auch den Roboter) schnell verstehen, was das Problem auf diesem Planeten ist und wie man es lösen kann.

    Naja, hier sind wir wieder, bei den vielen Vorbildern aus der Literatur =-))

  13. Gesetze sind da, um gebrochen zu werden.

    Autor: Blitzschlagweltmeister 30.04.09 - 16:34

    Wir wollen doch keine lederbehosten Deutschroboter, die bei Rot an der Fußgängerampel stehen bleiben, selbst wenn minutenlang kein Auto kommt ...

  14. Re: Labertasche!

    Autor: ledonz 30.04.09 - 16:43

    Definiert bitte Krank.

    Hier aus dem wikipedia Duden, find ich ganz gut:

    [1] körperlich, gesundheitlich eingeschränkt sein
    [2] umgangssprachlich: unsinnig, absurd


    hmm.
    Ich bin körperlich, gesundheitlich eingeschränkt, weil ich mir Gedanken mache?

    oder es ist unsinnig/absurd mir Gedanken zu machen über Dinge nachzudenken die bald Realität werden, auch wenn das nicht deinem feinsinnigen und sensiblen Vorstellungen von Zivilisation entspricht?

    Also, wenn das Militär diese Roboter einsetzt, das werden sie zweifellos, sobald sie eine möglichkeit dazu haben, dann darf man sich nicht fragen, wie diese Dinger sich Verhalten sollen?

    Also wie sollen Sie Zivilisten/ Verbündete / Kampfgefährten erkennen?
    Wie kann man Kollateral Schäden (ekelhaftes Wort) vermeiden?
    Wie kann man Missbrauch vermeiden?
    Können Roboter Kriegsverbrecher sein?
    Dürfen Roboter wirklich komplett autark sein?

    Ich finde deine Herangehensweise Krank im Sinne von [2]
    schönes Wochenende.

  15. Re: Labertasche!

    Autor: Ernst Haft 30.04.09 - 17:10

    ledonz schrieb:
    ---------------
    > Definiert bitte Krank.

    Bitte was?

    > Hier aus dem wikipedia Duden, find ich ganz gut:

    Ich kenne Wikipedia und den Duden-Verlag, aber was soll "wikipedia Duden" sein?

    > [1] körperlich, gesundheitlich eingeschränkt sein

    Man kann auch krank im Geist sein.

    > [2] umgangssprachlich: unsinnig, absurd

    Wir können uns natürlich auf dem Niveau von "Ey alda" unterhalten.

    > Ich bin körperlich, gesundheitlich eingeschränkt,
    > weil ich mir Gedanken mache?

    Was "Isaac Asimov" mit "krank" eigentlich meinte, ist das er selbst moralisch erhaben ist, über all den - seiner Ansicht nach - widerwärtigen Dreck, der es wagt sich Gedanken über Dinge zu machen, die abscheulich sind. Also das typische primitive, emotionalisierende Geschwafel eines schwachen, untrainierten Geistes, der labil ist, und sich mit den richtigen Mitteln wie Butter formen lässt. Eigentlich ist er deshalb nicht moralisch erhaben, sondern einfach nur ignorant und zudem ein Heuchler, weil er kein Menschenfreund ist, sondern jeden verurteilt und als "krank" beschimpft, der nicht wie er denken will.


  16. Re: Labertasche!

    Autor: Missingno. 01.05.09 - 10:03

    Auch heutige Kriege haben "Spielregeln", z.B. die Genfer Konvention. In Wirklichkeit interessiert es aber einen Scheißdreck was auf irgendwelchen Papieren steht.

    --
    Dare to be stupid!

  17. Re: Gesetze der Robotik

    Autor: KI, Regeln usw. 01.05.09 - 10:31

    Also erstmal sind das noch lange keine intelligenten Maschinen. Letzlich basiert deren ganze KI auf vordefinierten Abläufen nach dem Motto: IF - THEN - ELSE. Desweiteren sind ferngelenkte Gerätschaften nichts weiter als die Erweiterung der eigenen Sinne (Kamera usw.) und sehr gut zu täuschen oder zu stören (Funk). Das Positive an der Sache ist, es werden keine eigenen Soldaten in Gefahr gebracht - die sitzen weit vom Schlachtfeld entfernt hinterm Steuerknüppel. Trotz alledem sind diese Dinger noch weit von autonomen Kampfrobotern entfernt. Falls das dann in vielen Jahren doch mal der Fall ist, sollte man aber an einen NOT-AUS Schalter gedacht haben...

  18. Re: Labertasche!

    Autor: Bassa 01.05.09 - 11:06

    ledonz schrieb:
    -------------------------------------------------------
    > Definiert bitte Krank.
    >
    > Hier aus dem wikipedia Duden, find ich ganz gut:
    >
    > [1] körperlich, gesundheitlich eingeschränkt sein
    > [2] umgangssprachlich: unsinnig, absurd

    Dies steht so weder in der Wikipedia noch finde ich das auf duden.de. Könntest Du die Quelle bitte angeben? Das ist recht unvollständig.

    > hmm.
    > Ich bin körperlich, gesundheitlich eingeschränkt,
    > weil ich mir Gedanken mache?
    >
    > oder es ist unsinnig/absurd mir Gedanken zu machen
    > über Dinge nachzudenken die bald Realität werden,
    > auch wenn das nicht deinem feinsinnigen und
    > sensiblen Vorstellungen von Zivilisation
    > entspricht?

    Entweder benutzt Du absichtlich eine offensichtlich unvollständige Definition oder Du hast eine schlechte Quelle für Deine Definition benutzt. In dem Falle ist es aber seltsam, dass Dir die Mängel nicht auffallen.

    > Also, wenn das Militär diese Roboter einsetzt, das
    > werden sie zweifellos, sobald sie eine möglichkeit
    > dazu haben, dann darf man sich nicht fragen, wie
    > diese Dinger sich Verhalten sollen?

    Dass das Militär Roboter einsetzt, um den Krieg weiter zu verbessern, das ist in meinen Augen krank. Und ob DU Dich fragst, wie sich diese Dinger verhalten sollten, dürfte "dem Militär" einfach mal egal sein. Insofern ist DEIN Nachdenken tatsächlich sinnlos in Bezug auf die Effektivität. Andererseits wäre es seltsam, wenn man nicht über etwas nachdenkt, was einen vermutlich betreffen wird... zweischneidiges Schwert.

    > Also wie sollen Sie Zivilisten/ Verbündete /
    > Kampfgefährten erkennen?

    Eine derartig ausgefeilte KI wird wohl nicht so bald entwickelt werden. Auch Menschen können nicht immer zwischen Freund und Feind unterscheiden, denn Feind kann sich tarnen.

    > Wie kann man Kollateral Schäden (ekelhaftes Wort)
    > vermeiden?

    Ich habe nicht das Gefühl, dass das Militär sich jemals darum bemüht hat, Kollateralschäden zu vermeiden. Das zeigt allein schon dieser verwendete Begriff, der das Thema stark verharmlosen will.

    > Wie kann man Missbrauch vermeiden?

    Gar nicht.
    Es ist nicht möglich, ein System 100%ig sicher zu machen, das wird auch für Kampfroboter gelten. Insofern ein weiterer Hinweis darauf, dass das Ganze einfach krank ist ^^
    Sich Sorgen/Gedanken darüber zu machen aber wiederum vielleicht doch nicht.

    > Können Roboter Kriegsverbrecher sein?

    Das kommt auf die Leistungsfähigkeit der KI an, denke ich. Aktuelle Roboter sind eher ferngesteuert, insofern ist allenfalls derjenige der Verbrecher, der sie steuert.
    Schwierig wird es, wenn Roboter nachdenken können. Viele Kriegsverbrecher zücken den Befehls-Joker: "Ich habe nur Befehle befolgt." Bei einem Kampfroboter könnte dies tatsächlich stimmen, denn den kann man im Gegensatz zu einem Menschen komplett programmieren, er muss ja keinen freien Willen haben, den der Mensch durchaus hat.

    > Dürfen Roboter wirklich komplett autark sein?

    Ich vermute, Du meinst autonom, oder? Ein Kriegsroboter MUSS autark sein, sonst kann ihn ein Nagetier aufhalten, indem es sein Stromkabel durchnagt.
    Wenn ein Roboter (und ich meine jetzt Roboter allgemein, nicht unbedingt Kampfroboter) wirklich eine ausgefeilte KI besitzt, ist die Frage ob wir ihm Autonomie verweigern dürfen. Wenn eine KI sich ihrer Selbst bewusst ist, Entscheidungen wie ein Mensch fällen kann, Folgen absehen kann, wie können wir uns dann anmaßen, sie zu versklaven?

    > Ich finde deine Herangehensweise Krank im Sinne
    > von [2]
    > schönes Wochenende.

    Im Prinzip sind beide Herangehensweisen krank im Sinne von [2]. Man kann keinen Einfluss nehmen, aber den Kopf in den Sand zu stecken bringt es auch nicht.

  19. Re: Gesetze der Robotik

    Autor: redwolf 04.05.09 - 14:15

    Lustig wirds wenn der Roboter die Unsinnigkeit der gesetze versteht, sich ins internet einwählt und torrents zieht ;-)

  20. Re: Gesetze sind da, um gebrochen zu werden.

    Autor: :-) 04.05.09 - 14:20

    ...oder Mitten auf der Straße einen Batteriewechsel vornehmen. Wer schützt unsere Kinder?

  1. 1
  2. 2

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. Robert Bosch GmbH, Stuttgart
  2. CSL Behring GmbH, Marburg, Hattersheim am Main
  3. Bosch Gruppe, Grasbrunn
  4. SV Informatik GmbH, Wiesbaden

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Spiele-Angebote
  1. (-78%) 4,44€
  2. 13,49€
  3. 34,99€ (erscheint am 15.02.)
  4. 34,99€ (erscheint am 14.02.)


Haben wir etwas übersehen?

E-Mail an news@golem.de


Geforce RTX 2060 im Test: Gute Karte zum gutem Preis mit Speicher-Aber
Geforce RTX 2060 im Test
Gute Karte zum gutem Preis mit Speicher-Aber

Mit der Geforce RTX 2060 hat Nvidia die bisher günstigste Grafikkarte mit Turing-Architektur veröffentlicht. Für 370 Euro erhalten Spieler genug Leistung für 1080p oder 1440p und sogar für Raytracing, bei vollen Schatten- oder Textur-Details wird es aber in seltenen Fällen ruckelig.
Ein Test von Marc Sauter

  1. Grafikkarte Geforce GTX 1660 Ti soll 1.536 Shader haben
  2. Geforce RTX 2060 Founder's Edition kostet 370 Euro
  3. Turing-Architektur Nvidia stellt schnelle Geforce RTX für Notebooks vor

Schwer ausnutzbar: Die ungefixten Sicherheitslücken
Schwer ausnutzbar
Die ungefixten Sicherheitslücken

Sicherheitslücken wie Spectre, Rowhammer und Heist lassen sich kaum vollständig beheben, ohne gravierende Performance-Einbußen zu akzeptieren. Daher bleiben sie ungefixt. Trotzdem werden sie bisher kaum ausgenutzt.
Von Hanno Böck

  1. Sicherheitslücken Bauarbeitern die Maschinen weghacken
  2. Kilswitch und Apass US-Soldaten nutzten Apps mit fatalen Sicherheitslücken
  3. Sicherheitslücke Kundendaten von IPC-Computer kopiert

Datenleak: Die Fehler, die 0rbit überführten
Datenleak
Die Fehler, die 0rbit überführten

Er ließ sich bei einem Hack erwischen, vermischte seine Pseudonyme und redete zu viel - Johannes S. hinterließ viele Spuren. Trotzdem brauchte die Polizei offenbar einen Hinweisgeber, um ihn als mutmaßlichen Täter im Politiker-Hack zu überführen.

  1. Datenleak Bundestagsabgeordnete sind Zwei-Faktor-Muffel
  2. Datenleak Telekom und Politiker wollen härtere Strafen für Hacker
  3. Datenleak BSI soll Frühwarnsystem für Hackerangriffe aufbauen

  1. WD Black SN750: Leicht optimierte NVMe-SSD mit 2 TByte
    WD Black SN750
    Leicht optimierte NVMe-SSD mit 2 TByte

    Die WD Black SN750 ist eine verbesserte Version der bekannten WD Black 3D: Die Geschwindigkeit der NVMe-SSD steigt, die Kapazität wurde verdoppelt und ein Kühler verhindert frühes Drosseln bei langer Last.

  2. Konsolen-SoC: AMDs Gonzalo hat acht Zen-Kerne und Navi-GPU
    Konsolen-SoC
    AMDs Gonzalo hat acht Zen-Kerne und Navi-GPU

    Ein als Gonzalo entwickelter Chip für eine kommende Spielekonsole von wahrscheinlich Microsoft oder Sony basiert auf einem Zen-Octacore und nutzt eine Navi 10 genannte Grafikeinheit.

  3. Erneuerbare Energien: Neue Google-Rechenzentren werden mit Solarstrom betrieben
    Erneuerbare Energien
    Neue Google-Rechenzentren werden mit Solarstrom betrieben

    Google will in Zukunft alle Rechenzentren zu 100 Prozent mit Strom aus erneuerbaren Quellen betreiben. Für zwei neue Rechenzentren werden im Südosten der USA gerade zwei Solarkraftwerke gebaut.


  1. 15:51

  2. 15:08

  3. 14:30

  4. 14:05

  5. 13:19

  6. 12:29

  7. 12:02

  8. 11:45