Abo
  1. Foren
  2. Kommentare
  3. Wissenschaft
  4. Alle Kommentare zum Artikel
  5. › Digitalisierung: Nein, Ethik kann…

Also wenn schon der erste Absatz Unsinn ist...

  1. Thema

Neues Thema Ansicht wechseln


  1. Also wenn schon der erste Absatz Unsinn ist...

    Autor: twothe 11.12.18 - 10:45

    Natürlich lässt sich Ethik programmieren, dazu gibt es auch schon unzählige Beispiele. Ethik ist das Vergleichen von Werten und Gütern, daraus werden Regeln formuliert (sog. Gesetze) und diese Regeln kann man problemlos jedem Computer beibringen.

    "Du sollst nicht töten!" ist eine sehr einfache Regel. Diese einem Computer einzuprogrammieren ist simpel und findet in praktisch jedem Spiel Anwendung, bei der NPCs einer bestimmten Fraktion keinen Schaden zufügen sollen. Ich sehe hier eher ein Horizont-Problem beim Autor als ein technisches.

    Der nächste Schritt wäre dann diese Regel mit KI so weit aufzuweichen, dass sie auch komplexere Fälle verarbeiten kann. Beispielsweise die Frage ob lieber 2 Menschen oder 10 Menschen getötet werden sollen, wenn der Tod unvermeidlich ist. Auch das ist eine simple Anwendung von Regeln (gewichte Menge, Alter, Gesundheit zu einem Ergebnis), die bei Autos nur deswegen durch einen Zufallsgenerator ersetzt wurden, weil man ansonsten ja auch die Schuld für die Toten auf sich nimmt.

    Sorry @Golem, aber der Artikel ist wirklich Quatsch.

  2. Re: Also wenn schon der erste Absatz Unsinn ist...

    Autor: Peter Remmers 11.12.18 - 10:52

    twothe schrieb:
    --------------------------------------------------------------------------------

    > "Du sollst nicht töten!" ist eine sehr einfache Regel. Diese einem Computer einzuprogrammieren ist simpel

    Das das nicht stimmt, hat schon Isaac Asimov gezeigt.

    > Auch das ist eine simple Anwendung von Regeln (gewichte Menge, Alter, Gesundheit zu einem Ergebnis), die bei Autos nur deswegen durch einen Zufallsgenerator ersetzt wurden, weil man ansonsten ja auch die Schuld für die Toten auf sich nimmt.

    Wenn es so einfach wäre... und bei welchem Auto wurde diese Frage durch einen Zufallsgenerator entschieden? Quelle?

  3. Re: Also wenn schon der erste Absatz Unsinn ist...

    Autor: honna1612 11.12.18 - 10:56

    Nee jetzt troll nicht rum der Artikel ist quatsch.

  4. Re: Also wenn schon der erste Absatz Unsinn ist...

    Autor: Peter Remmers 11.12.18 - 11:13

    honna1612 schrieb:
    --------------------------------------------------------------------------------
    > Nee jetzt troll nicht rum der Artikel ist quatsch.

    Ist er nicht!


    Nein, jetzt mal ehrlich, es ist einer der wenigen guten Artikel, die ich zu dem Thema bisher gelesen habe. Alleine die Vorstellung, dass"Du sollst nicht töten" eine simple Regel wäre, ist so täuschend, dass ein Autor wie Asimov daraus interessante Geschichten machen konnte. Wie sieht der Code für diese Regel aus? Was heißt "töten"? Dürfen auch Tiere nicht getötet werden? Was ist, wenn die Kausalkette meiner Handlungen irgendwann den Tod einer Person zur Folge hat, während die Handlung selbst aber völlig harmlos und alltäglich ist? - Die Regel richtet sich an Menschen, die sie vor dem Hintergrund ihrer Kultur und der Umstände interpretieren. Diese Interpretation in Code zu fassen, ist hochkomplex (und vor allem anwendungsspezifisch).

    Abgesehen davon ist das allgemeine Mordverbot bei weitem nicht das einzige Thema, dass u.a. durch KI-Technologien berührt wird. Im Artikel geht es z.B. um Diskriminierung - ein viel sensibleres Thema, das erst recht nicht mehr simpel ist. Hier hat man ja schon das Problem, gerechte und funktionierende Regeln zu finden.

  5. Re: Also wenn schon der erste Absatz Unsinn ist...

    Autor: MrTridac 11.12.18 - 12:58

    twothe schrieb:
    --------------------------------------------------------------------------------
    > "Du sollst nicht töten!" ist eine sehr einfache Regel. Diese einem Computer
    > einzuprogrammieren ist simpel und findet in praktisch jedem Spiel
    > Anwendung, ...

    Das ist Unsinn. Wo ziehst Du denn da die Grenze?
    Darf man Pflanzen töten? Oder Schimmel?
    Was wenn mein KI-Auto über eine Ameise fährt, ist das dann moralisch und ethisch vertretbar?
    Oder die vielen toten Insekten auf Frontscheiben. Das ist Massenmord - theoretisch.

    "Du sollst nicht töten!" ist definitiv keine "sehr einfache Regel".

  6. Re: Also wenn schon der erste Absatz Unsinn ist...

    Autor: naja123 11.12.18 - 13:29

    Aboslute Zustimmung. Die Begründung ist, dass Ethik zu komplex sei und das bisherige Systeme keine vernünftigen Ergebnisse geliefert haben. Geradezu ärmlich, das technische Verständnis des Autors.

  7. Re: Also wenn schon der erste Absatz Unsinn ist...

    Autor: twothe 11.12.18 - 19:56

    MrTridac schrieb:
    --------------------------------------------------------------------------------
    > "Du sollst nicht töten!" ist definitiv keine "sehr einfache Regel".

    Siehe Absatz 2, den du wohl nicht mehr gelesen hast.

    Kleines Beispiel: aus rechtlichen Gründen müssen Maschinen - z.b. eine Kreissäge in einer Fabrik - so gebaut werden, dass Personen- und Sachschaden ausgeschlossen ist. Was macht also ein modernes System das erkennt das ein Mensch zu nahe an die Sägeblätter kommt? Es schaltet sich ab. Die Regel wurde also erfolgreich einprogrammiert. Ja, so simpel ist das, und schon ist der Artikel als Unsinn entlarvt.

    Jetzt könnte es hypothetisch passieren, dass ein irrer Massenmörder gerade plant ein Krankenhaus in die Luft zu sprengen während er neben besagter Kreissäge steht, doch ein Sägewerkmitarbeiter fasst sich ein Herz und stößt ihn in die Maschine, die sich prompt abschaltet, und der Mörder sprengt daraufhin wütend das Krankenhaus. Wäre es hier besser gewesen wenn die Säge an geblieben wäre, den Mörder getötet hätte und das Krankenhaus mit all den Leuten darin noch stehen würde?

    Die Antwort auf diese Frage ist derart komplex, dass selbst der Mensch für solche Situationen keine Regeln finden kann. Rechtlich wird so ein Mord aus Notwehr schlicht nur entschuldigt, aber wie generell in einer solchen Situation zu verfahren ist steht in keinem Gesetzbuch. Technisch könnte man problemlos einer KI einprogrammieren über Gesichtserkennung bei gesuchten Mördern nicht abzuschalten, oder schlicht auf Zuruf an zu bleiben. Es gibt zwei Gründe warum das nicht gemacht wird: erstens sind solche Sonderfeatures zu teuer und zweitens würde man dann Mord in eine Maschine programmieren und die Verantwortlichen würden dann bei jedem Fehlverhalten die Strafe dafür bekommen.

  8. Re: Also wenn schon der erste Absatz Unsinn ist...

    Autor: Jakelandiar 11.12.18 - 21:51

    naja123 schrieb:
    --------------------------------------------------------------------------------
    > Aboslute Zustimmung. Die Begründung ist, dass Ethik zu komplex sei und das
    > bisherige Systeme keine vernünftigen Ergebnisse geliefert haben. Geradezu
    > ärmlich, das technische Verständnis des Autors.

    Ich nur bis hierhin gelesen:

    "Die Vorstellung, dass sich Ethik in einfache Regeln gießen lässt, mag in Videospielen funktionieren. In der realen Welt sind ethische Entscheidungsprozesse aber komplexe soziale und psychologische Vorgänge, die trotz identischer ethischer Regeln je nach sozialem, politischem, religiösem oder kulturellem Hintergrund der entscheidenden Person zu ganz unterschiedlichen Ergebnissen führen können."

    Dann wusste ich das der Rest Müll sein wird. Es heißt der Computer kann keine Ethik haben, weil dem Autor das Ergebnis nicht gefallen hat, sagt dann aber einen Absatz später das es das gleiche Ergebnis praktisch auch bei menschen gibt und das jeder Mensch ein anderes Ergebnis hat das ihm ebenso nicht gefällt.

    Dann kann die Maschine Definitiv auch Ethik haben. Den Rest braucht man nicht mehr lesen.

  9. Re: Also wenn schon der erste Absatz Unsinn ist...

    Autor: HighZ 19.12.18 - 23:03

    Ethik wird in den Kommentaren nur auf "töten oder nicht" begrenzt.
    (Thema Kreissäge: Die hält auch bei ner Wurst an, geht da um Prüfströme die fließen.
    Von "Das ist ein mensch ich halte an" sind wir da noch recht weit entfernt.
    Geschweige denn: Mörder wird gekillt, Arbeiterhand nicht.)

    Es wird doch aber in dem Artikel eindeutig folgende Aussage getroffen: Selbst wenn man alle
    ethischen Punkte eines Menschen benutzt, diskriminiert man alleine dadurch, dass die Programmierer festlegen was "ethisch korrekt" ist. Und selbst das ist nicht einfach.

    Meiner Meinung nach ein guter Artikel. Vielleicht sollte man das "es wird niemals gehen" etwas einschränken, aber aktuell auf jeden Fall vollsten Zuspruch.

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. über experteer GmbH, München
  2. BWI GmbH, Bonn / mehrere Standorte
  3. Landratsamt Reutlingen, Reutlingen
  4. Heinrich-Heine-Universität, Düsseldorf

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Top-Angebote
  1. 219,00€
  2. (z. B. Core i5 9600K + Gigabyte Z390 Aorus Master für 468,00€, Core i7 900K + MSI MPG Z390...
  3. GRATIS
  4. 129,90€ (Bestpreis!)


Haben wir etwas übersehen?

E-Mail an news@golem.de


IAA 2019: PS-Wahn statt Visionen
IAA 2019
PS-Wahn statt Visionen

IAA 2019 Alle Autobosse bekennen sich auf der IAA zur Nachhaltigkeit, doch auf den Ständen findet man weiterhin viele große, spritfressende Modelle. Dabei stellt sich die grundsätzliche Frage: Ist das Konzept der Automesse noch zeitgemäß?
Eine Analyse von Dirk Kunde


    Mobile-Games-Auslese: Superheld und Schlapphutträger zu Besuch im Smartphone
    Mobile-Games-Auslese
    Superheld und Schlapphutträger zu Besuch im Smartphone

    Markus Fenix aus Gears of War kämpft in Gears Pop gegen fiese (Knuddel-)Aliens und der Typ in Tombshaft erinnert an Indiana Jones: In Mobile Games tummelt sich derzeit echte und falsche Prominenz.
    Von Rainer Sigl

    1. Mobile-Games-Auslese Verdrehte Räume und verrückte Zombies für unterwegs
    2. Dr. Mario World im Test Spielspaß für Privatpatienten
    3. Mobile-Games-Auslese Ein Wunderjunge und dreimal kostenloser Mobilspaß

    Ryzen 7 3800X im Test: Der schluckt zu viel
    Ryzen 7 3800X im Test
    "Der schluckt zu viel"

    Minimal mehr Takt, vor allem aber ein höheres Power-Budget für gestiegene Frequenzen unter Last: Das war unsere Vorstellung vor dem Test des Ryzen 7 3800X. Doch die Achtkern-CPU überrascht negativ, weil AMD es beim günstigeren 3700X bereits ziemlich gut meinte.
    Ein Test von Marc Sauter

    1. Agesa 1003abba Microcode-Update taktet Ryzen 3000 um 50 MHz höher
    2. Agesa 1003abb Viele ältere Platinen erhalten aktuelles UEFI für Ryzen 3000
    3. Ryzen 5 3400G und Ryzen 3 3200G im Test Picasso passt

    1. Cache-Server: Memcached-Inhalte überleben Neustart
      Cache-Server
      Memcached-Inhalte überleben Neustart

      Die neue Version 1.5.18 des Cache-Servers Memcached kann Inhalte auch über Neustarts der Software hinweg erhalten. Dabei hilft eine Linux-Kernel-Funktion namens DAX (Direct Access).

    2. Telekom: "Stadtwerke wollen neue Glasfasermonopole schaffen"
      Telekom
      "Stadtwerke wollen neue Glasfasermonopole schaffen"

      Telekom und Vodafone sind sich einig gegen die Stadtwerke und deren TK-Töchter: Planungen werden häufig von Kommunen, die selbst ausbauen wollen, verschleppt und verzögert.

    3. Europa: Google steckt 3 Milliarden Euro in europäische Rechenzentren
      Europa
      Google steckt 3 Milliarden Euro in europäische Rechenzentren

      Google nimmt für den Standort Europa viel Geld in die Hand. So soll in Finnland ein weiteres Rechenzentrum für 600 Millionen Euro entstehen. Weitere Standorte hat Google in Irland, Belgien, den Niederlanden und auch Deutschland.


    1. 16:00

    2. 15:46

    3. 14:58

    4. 14:49

    5. 14:45

    6. 14:32

    7. 14:20

    8. 14:07