Abo
  1. Foren
  2. Kommentare
  3. Wirtschaft
  4. Alle Kommentare zum Artikel
  5. › Computerchip: IBM stellt…

Vergesst die drei Regeln nicht ...

  1. Thema

Neues Thema Ansicht wechseln


  1. Vergesst die drei Regeln nicht ...

    Autor: Sinnfrei 08.08.14 - 11:31

    1. Ein Roboter darf kein menschliches Wesen verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen Schaden zugefügt wird.

    2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.

    3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

    Das sollte man grundsätzlich bei jeder Art der AI berücksichtigen.

    __________________
    ...

  2. Re: Vergesst die drei Regeln nicht ...

    Autor: Master68 08.08.14 - 11:37

    Menschen müssen auch viel und trotzdem halten sie sich nicht dran. In dem Moment, in dem Du einem Roboter ein "Hirn" verpasst, das ähnlich (oder genau so) wie ein menschliches funktioniert, hast Du damit die selben Probleme wie mit Menschen - und jegliche Regeln sind erst mal für'n A****...

  3. Re: Vergesst die drei Regeln nicht ...

    Autor: Gizeh 08.08.14 - 11:40

    Master68 schrieb:
    --------------------------------------------------------------------------------
    > Menschen müssen auch viel und trotzdem halten sie sich nicht dran. In dem
    > Moment, in dem Du einem Roboter ein "Hirn" verpasst, das ähnlich (oder
    > genau so) wie ein menschliches funktioniert, hast Du damit die selben
    > Probleme wie mit Menschen - und jegliche Regeln sind erst mal für'n
    > A****...

    Terminator inc.
    Wobei die ja durch "logische" Rechnung zu ihrem Ergebnis kamen...
    Ist eher sowas wie der Roboter aus iRobot. Den kanns genau so in "böse" geben.

  4. Re: Vergesst die drei Regeln nicht ...

    Autor: Hmmpf 08.08.14 - 11:43

    Quelle:

    http://en.wikipedia.org/wiki/Three_Laws_of_Robotics

  5. Re: Vergesst die drei Regeln nicht ...

    Autor: wlorenz65 09.08.14 - 14:01

    Gute Idee. Jetzt müssen wir nur noch jemand finden, der diese drei Regeln in C implementiert.

  6. Re: Vergesst die drei Regeln nicht ...

    Autor: deWilli 09.08.14 - 16:14

    Mit neuronalen Chips "programmiert" man an sich nichts, sondern lässt die etwas erlernen. Natürlich wäre es denkbar, die Verschaltungsparameter wieder auszuwerten und auf einen anderen Chip zu übertragen oder daraus zu lernen, wie bestimmte Funktionen statisch gebaut werden können, die sich nicht imperativ lösen lassen. Um dort aber die Asimovschen Regeln unterzubringen, bräuchte man einen zusätzlichen, klassischen Kontroll-chip. Das dürfte ebenfalls der Fall sein, wenn man eine Art OS darauf laufen lassen möchte.
    Schließlich ist Vergessen ein essentieller Bestandteil des Lernens. Wo kämen wir dahin, wenn irgend eine "Bestrafung" auf den Teil zurückpropagiert wird, der Kontroll"strukturen" beinhaltet?
    Wenn sich derartige Computer oder Roboter eigenständig replizieren und optimieren können, müssten diese "Anweisungen" durch gewisse "Denkmuster" ersetzt werden. Folglich benötigt man Kerngedanken, die den Menschen und den Chip schützen. Gewissermaßen wäre ein Roboter durch reine Logik dazu zu bringen, selbst auf diese 3 Regeln zu kommen.

  7. Re: Vergesst die drei Regeln nicht ...

    Autor: wlorenz65 11.08.14 - 08:45

    Also Mensch: "Geh weg und lass mich in Ruge!" Roboter: "Das darf ich nicht. Dir könnte in meiner Abwesenheit Schaden zugefügt werden."

    Eltern: "Wir wollen ein Kind zeugen." Roboter: "Das darf ich nicht zulassen. Das Kind wird alt und sterben. Vor diesem Schaden muss es bewahrt werden."

    So also in etwa die klare und reine Logik des Herrn Asimov. Und die Politiker schauen dabei tatenlos zu? Halte ich für unwahrscheinlich. Sobald lernfähige Roboter mit dem Menschen vergleichbarer Intelligenz existieren, werden die Politiker darauf drängen, dass diese sich an das Grundgesetz und das Bürgerliche Gesetzbuch usw. zu halten haben und nicht an die Regeln des Herrn Asimov.

    Also müsste man das so implementieren, dass es von Politikern nicht überschrieben werden kann, zum Beispiel in C. Denn Politiker sprechen kein C.

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. neubau kompass AG, München
  2. Schwarz IT KG, Neckarsulm
  3. Joyson Safety Systems Aschaffenburg GmbH, Berlin
  4. Heinrich-Heine-Universität, Düsseldorf

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Spiele-Angebote
  1. 3,99€
  2. 44,99€
  3. (-79%) 12,50€
  4. 137,70€


Haben wir etwas übersehen?

E-Mail an news@golem.de


Sonos Move im Test: Der vielseitigste Lautsprecher von Sonos
Sonos Move im Test
Der vielseitigste Lautsprecher von Sonos

Der Move von Sonos überzeugt durch Bluetooth und ist dank Akku und stabilem Gehäuse vorzüglich für den Außeneinsatz geeignet. Bei den Funktionen ist der Lautsprecher leider nicht so smart wie er sein könnte.
Ein Test von Ingo Pakalski

  1. Update für Multiroom-Lautsprecher Sonos-App spielt keine lokalen Inhalte mehr vom iPhone ab
  2. Smarter Lautsprecher Erster Sonos-Lautsprecher mit Akku und Bluetooth
  3. Soundbars Audiohersteller Teufel investiert in eigene Ladenkette

Programmiersprache: Java 13 bringt mehrzeilige Strings mit Textblöcken
Programmiersprache
Java 13 bringt mehrzeilige Strings mit Textblöcken

Die Sprache Java steht im Ruf, eher umständlich zu sein. Die Entwickler versuchen aber, viel daran zu ändern. Mit der nun verfügbaren Version Java 13 gibt es etwa Textblöcke, mit denen sich endlich angenehm und ohne unnötige Umstände mehrzeilige Strings definieren lassen.
Von Nicolai Parlog

  1. Java Offenes Enterprise-Java Jakarta EE 8 erschienen
  2. Microsoft SQL-Server 2019 bringt kostenlosen Java-Support
  3. Paketmanagement Java-Dependencies über unsichere HTTP-Downloads

Verkehrssicherheit: Die Lehren aus dem tödlichen SUV-Unfall
Verkehrssicherheit
Die Lehren aus dem tödlichen SUV-Unfall

Soll man tonnenschwere SUV aus den Innenstädten verbannen? Oder sollten technische Systeme schärfer in die Fahrzeugsteuerung eingreifen? Nach einem Unfall mit vier Toten in Berlin mangelt es nicht an radikalen Vorschlägen.
Eine Analyse von Friedhelm Greis

  1. Torc Robotics Daimler-Tochter testet selbstfahrende Lkw
  2. Edag Citybot Wandelbares Auto mit Rucksackmodulen gegen Verkehrsprobleme
  3. Tusimple UPS testet automatisiert fahrende Lkw

  1. Beatbox: Das Pappmischpult zum Selberbauen
    Beatbox
    Das Pappmischpult zum Selberbauen

    Kickstarter ist auch eine Plattform für sonderbare Produkte. Die Beatbox ist beispielsweise ein programmierbares MIDI-Mischpult, das von Nutzern zusammengebaut wird. Das Chassis ist aus Pappe konstruiert. Die Buttons stammen von Arcade-Automaten.

  2. iPhone 11 Pro Max: Das neue iPhone hat 4 GByte RAM und wesentlich mehr Akku
    iPhone 11 Pro Max
    Das neue iPhone hat 4 GByte RAM und wesentlich mehr Akku

    Auch beim iPhone 11 Pro Max lässt sich iFixit eine komplette Demontage nicht entgehen: Das Gerät nutzt wohl tatsächlich 4 GByte RAM. Außerdem waren die Bastler vom wesentlich größeren Akku und gleich zwei Ladekabeln überrascht.

  3. Fairtube: Google lädt die Youtuber-Gewerkschaft zu Gesprächen ein
    Fairtube
    Google lädt die Youtuber-Gewerkschaft zu Gesprächen ein

    Mehr Transparenz, mehr Entscheidungsrecht und eine Anlaufstelle: Fairtube fordert von Googles Videoplattform Youtube bessere Arbeitsbedingungen für Inhalteersteller. Die Parteien werden im Oktober miteinander sprechen. Beide Seiten sind in ihren Ansichten recht weit voneinander entfernt.


  1. 13:29

  2. 13:01

  3. 12:08

  4. 11:06

  5. 08:01

  6. 12:30

  7. 11:51

  8. 11:21