1. Foren
  2. Kommentare
  3. Wissenschaft
  4. Alle Kommentare zum Artikel
  5. › Digitalisierung: Nein, Ethik kann…

"Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

  1. Thema
  1. 1
  2. 2

Neues Thema Ansicht wechseln


  1. "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: Eheran 11.12.18 - 12:42

    >Selbstfahrende Autos müssen künftig entscheiden, ob sie eher einen Erwachsenen umfahren oder ein Kind.

    Was ist das denn für ein Unsinn?
    Alleine durch Messrauschen der Sensoren würde es nie den Fall geben, dass X und Y genau gleich sind. Immer ist eine der beiden Varianten z.B. durch einen kürzeren Bremsweg, geringere Aufprallgeschwindigkeit usw. die bessere. Das ist ein Pseudoargument ohne jede Grundlage, weil es so realitätsfern ist, wie es nur sein kann. Das wäre auch bei einem menschlichen Fahrer noch so, nur lenkt der im Zweifel einfach völlig zufällig irgendwo hin, wenn er überhaupt reagiert.

  2. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: MrTridac 11.12.18 - 13:02

    >Selbstfahrende Autos müssen künftig entscheiden, ob sie eher einen Erwachsenen umfahren oder ein Kind.

    Mit diesem Satz hatte sich der Autor auch bei mir in die "ich hab keine Ahnung, aber schreib trotzdem mal was" - Ecke gestellt.

    Kein autonomes Fahrzeug was jemals für den Straßenverkehr freigegeben wird, wird solche Entscheidungen treffen.
    Bremsen und gut. Was passiert passiert.

    ... so ein Heini ...

  3. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: phade 11.12.18 - 13:09

    Quatsch. Jedes Auto wird solche Entscheidungen treffen müssen. Jeder Fahrer macht das heute schon. Es kommt eben auf die gewollte Gewichtung an.

    Heute sagt man schon: lieber das kreuzende Wild plattfahren, als Lenken und den Waagen ausbrechen zu lassen. Da geht man nämlich davon aus, dass ein sich überschlagender Waagen gefährlich für Unbeteiligte sein könnte. Und wenn ich meine, trotzdem ausweichen zu können, ohne mich oder jemanden anderen zu gefährenden ? Dann halte ich mich nicht an die Regel und weiche aus. Und wenn ich ein Arsch bin und meine, dass es für mich besser ausgehen wird, wenn ich den Gegenverkehr schramme, als mit 80 einen Hirsch vor die Scheibe zu bekommen, weiche ich generell aus.

    Was ist besser:
    mich in den LKW ballern zu lassen (was den anderen Fahrer und mich tötet) oder auf den belebten Bürgersteig auszuweichen, wenn meine Bremsen versagen ?
    Ich kann da entscheiden und wenn die Ethik der Gesellschaft sagt, dass ich mich falsch entschieden habe, werde ich bestraft.

    Nur: wie bestraft mein eine KI ? Seinen Programmierer ? Hersteller ?
    Komisch. in den USA wurden die Diesel-Hersteller bestraft, weil sich deren Software nicht an die Gesetze gehalten hat. Und konnte auch zivil verklagt werden. In Deutschland oder der EU wurde noch kein Hersteller zur Kasse gebeten. Weltweit gibt es bis heute nicht einmal Gesetze für die Software von selbstfahrenden Autos, geschweige denn eine Diskussion über Haftung.



    5 mal bearbeitet, zuletzt am 11.12.18 13:24 durch phade.

  4. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: foobarJim 11.12.18 - 13:13

    Eheran schrieb:
    --------------------------------------------------------------------------------
    > Selbstfahrende Autos müssen künftig entscheiden, ob sie eher einen
    > Erwachsenen umfahren oder ein Kind.

    Ich frag mich auch, warum diese Fragestellung immer wieder rausgekramt wird. Schon allein dadurch, dass ein autonomes Auto sich an Geschwindigkeitbegrenzungen und an korrekte Abstände halten würde, würden schon extrem viele Unfälle vermieden werden. Dass eine solch unwahrscheinliche Konstellation bedacht werden muss ist klar. Aber es IMHO nicht das Killerargument gegen eine KI.

  5. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: phade 11.12.18 - 13:18

    foobarJim schrieb:
    --------------------------------------------------------------------------------
    > Dass eine solch
    > unwahrscheinliche Konstellation bedacht werden muss ist klar. Aber es IMHO
    > nicht das Killerargument gegen eine KI.

    Korrekt. Selbstfahrende Autos sind aber die ersten KIs, die alle von uns betreffen werden. Und es lassen sich damit auch so wunderbare Beispiele konstruieren, die jeder versteht.

    Lest mal Harari oder den letzten Hawking.

  6. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: Eheran 11.12.18 - 13:22

    >Jeder Fahrer macht das heute schon.
    Bullshit. Sowas entscheidet niemand. Schon gar nicht "jeder Fahrer", wenn überhaupt nur 1%(? oder weniger?) in ihrem Leben mal in richtige Unfälle verwickelt sind.

    >Heute sagt man schon: lieber das kreuzende Wild plattfahren, als Lenken und den Waagen ausbrechen zu lassen. Da geht man nämlich davon aus, dass ein sich überschlagender Waagen gefährlich für unbeteiligte sein könnte.
    Nein, sowas denkt man nicht, weil dafür gar keine Zeit ist. Das Tier springt vors Auto und entweder macht man SOFORT etwas oder nicht. Da gibt es keine Zeit noch Risiken abzuwägen. Wie die Person reagier ist eher Zufall. Manche sind in Schockstarre, manche reißen das Lenkrad rum, manche bremsen oder Kombinationen. Damit man da überhaupt reagieren kann muss man beim Fahren immer Aufmerksamkeit dabei sein. Andernfalls ist der Unfall passiert, bevor der Fahrer wirklich was merkt.

    >mich in den LKW ballern zu lassen (was den anderen Fahrer und mich tötet) oder auf den belebten Bürgersteig auszuweichen, wenn meine Bremsen versagen ?
    Ich kann da entscheiden und wenn die Ethik der Gesellschaft sagt, dass ich mich falsch entschieden habe, werde ich bestraft.
    Noch so ein absurdes Beispiel, was vielleicht einem von 100'000 Autofahrern im Leben mal passiert. (Da legt man einen kleinen Gang ein) und lässt sich so weit rollen, wie es nur irgendwie geht. Dann fährt man dem Vordermann hinten drauf (geringste Geschwindigkeitsdifferenz) oder in parkenden Autos. Warum dabei jemand sterben sollte ist unklar. Innerorts mit <50km/h ist die Energie nicht so gigantisch. Ich kann weder erkennen, warum ein LKW-Fahrer dein Auffahren groß jucken sollte, noch, warum man da in eine Menschenmenge fahren sollte.

  7. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: Eheran 11.12.18 - 13:24

    >Dass eine solch unwahrscheinliche Konstellation bedacht werden muss ist klar.
    Warum sollte man?
    Das Auto kann überhaupt nicht einschätzen, wie alt irgendwer ist oder ob die Person an Krebs im Endstatium leidet oder schwanger ist oder...
    Das Beispiel ist einfach Unsinn.

  8. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: phade 11.12.18 - 13:29

    Die Beispiele kannst du beliebig kleiner staffeln.

    Besser meine Beine kaputt als die an der Seite parkenden Autos ?
    usw usw ...

    Der Trick ist doch, dass ich dadurch, dass ich nichts mache oder das Falsche, zur Verantwortung gezogen werden kann. Ich bin der Fahrer, ich entscheide, ich hafte. Wenn ich die Entscheidung aber nicht mehr treffe, weil es gar keinen Fahrersitz mehr gibt ?



    1 mal bearbeitet, zuletzt am 11.12.18 13:30 durch phade.

  9. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: pumok 11.12.18 - 13:52

    Eheran schrieb:
    --------------------------------------------------------------------------------

    > Das Auto kann überhaupt nicht einschätzen, wie alt irgendwer ist oder ob
    > die Person an Krebs im Endstatium leidet oder schwanger ist oder...

    Ich kann auch nicht erkennen, ob ein Fussgänger am Strassenrand Krebs im Endstadion hat.
    Eine KI wird irgendwann aber technisch in der Lage dazu sein: Person durch Gesichterkennung identifizieren und in der Krankenkassendatenbank nachschauen. Die Frage ist nur, ob wir das wollen und wenn ja, ob es dann ethisch korrekt ist, die KI den Krebskranken töten zu lassen.
    Schwanger im 9. Monat wird die KI sehr wohl erkennen, schwanger in der 1. Woche erkenn ich auch nicht...

  10. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: honna1612 11.12.18 - 13:59

    > Schwanger im 9. Monat wird die KI sehr wohl erkennen, schwanger in der 1.
    > Woche erkenn ich auch nicht...

    Leute das Problem ist gelöst. Kein Mensch trifft im Unfallfall solche entscheidungen. Eine KI die fährt muss kein dilemma lösen. Man lenkt nicht in den gegenverkehr und nicht in andere menschen. Einfach bremsen wenn keine andere möglichkeit.

  11. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: 0xDEADC0DE 11.12.18 - 14:00

    Eheran schrieb:
    --------------------------------------------------------------------------------
    > Das Beispiel ist einfach Unsinn.

    Dann konstruiert man ein Beispiel, dass sinniger ist:
    Man fährt in einem autonomen Fahrzeug und ein Baum stürzt plötzlich um.
    Es gibt nun 2 Möglichkeiten: Man überlässt dem Fahrzeug das Steuer, oder man übernimmt es.
    Überlässt man es, weicht das Fahrzeug aus, weil der Bremsweg zu kurz ist um den Menschen im Fahrzeug zu schützen. Es kommt aber ins Schleudern, gerät von der Straße und fährt auf eine Gruppe von Menschen zu. Nun muss es entscheiden, versucht es auszuweichen und die Menschen zu schützen, oder fährt es gegen eine Wand.

    Hat der Fahrer oben die Kontrolle übernommen, wird er versuchen auszuweichen, ins Schleudern kommen und unkontrolliert ebenfalls auf die Menschenmenge zusteuern. Wird er nun ebenfalls die Wand oder die Menschenmenge ansteuern, wenn er es überhaupt noch beeinflussen könnte?

    Moral und Ethik fährt immer mit, auch bei "kleinen" Gegebenheiten. Sieht man übrigens täglich z. B. auf Parkplätzen:

    Das autonome Auto will ausparken, von hinten nähert sich ein Fussgänger. Was wird es wohl tun? Es wird warten. Was wird ein Mensch stattdessen tun? Er wird einfach rausfahren und den Fussgänger gefährden.

    KIs können nicht alles besser machen, sie machen es aber anders.

  12. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: 0xDEADC0DE 11.12.18 - 14:01

    Und riskiert einen toten Menschen im Fahrzeug obwohl er gerettet werden könnte? Man kann es sich auch schon sehr einfach machen...

  13. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: pumok 11.12.18 - 14:03

    Würde der Mensch ja auch so machen. Warum muss denn die KI immer perfekt sein?

  14. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: ChristophAugenAuf 11.12.18 - 14:13

    Allen, die immer noch diese theoretische Diskussion führen, wer im Zweifel über den Haufen gefahren wird, sei gesagt:
    Es gibt dazu klare Regeln im Grundgesetz. Der Wert eines Menschen ist nicht aufrechenbar. Nicht mit Geld, nicht mit einem anderen Menschen nicht mit 1000 Menschen. Eine Logik, die ein Scoring erstellt und dann Personen eliminiert, ist nicht mit dem Grundgesetz vereinbar. Wenn ein Unfall nicht mehr durch Ausweichen zu vermeiden ist, kann es nur eine Entscheidung geben. Das Fahrzeug notbremsen. Was danach kommt ist dann Zufall. Wem das nicht reicht, soll sich einen Schleudersitz zulegen.

    Es gibt keine nach unseren Maßstäben keine ethisch korrekte Bevorzugung von Menschen, egal wie alt, krank und wie kriminell jemand ist.

  15. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: Korbeyn 11.12.18 - 14:16

    Natürlich ist das "Trolley-Problem" (so der Name dieser Thematik) ein Punkt, den man bedenken sollte. In einer absoluten Notsituation kann es schon sein das man als reale Person in diese Situation kommt.

    Warum nicht auch eine autonomes Fahrzeug?

  16. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: phade 11.12.18 - 14:21

    pumok schrieb:
    --------------------------------------------------------------------------------
    > Würde der Mensch ja auch so machen. Warum muss denn die KI immer perfekt
    > sein?

    Weil die KI aktuell nicht haftbar zu machen ist. Deshalb müssen wir die Regeln vorgeben, damit derjenige der der KI die Regeln eventuell fehlerhaft einpflanzt, haftbar zu machen ist.

    Das "einfach Bremsen" funktioniert als "Alleinheilung" eben auch nicht. Heftiges Bremsen gefährtet dann den nachvollgenden Verkehr, eventuell mit noch dramatischeren Folgen.

    Soll die KI heftig bremsen, um den auf die Strasse gelaufenen Mann nicht zu überfahren und riskiert dann den Tot des nicht-angeschnallten Selbstfahrers hinten ? Beide mal ohne Krebs, nicht Frau, nicht schwanger und Kind ? Was ist, wenn 50/50 ist ? Oder nur 51/49 ? Oder 10 autonome Autos hintereinander Bremsen müssen und nur der 11te Selbstfahrer ins Gras beissen muss, weil das erste Auto entschieden hat, dass der Hund ganz vorne zu schützen ist ?

    Also wird der KI die Regel "voll bremsen, wenn nichts mehr anderes geht" eingepflanzt, als gesetzliche Vorschrift für die Hersteller. Was heisst denn "wenn nichts mehr geht" genau ? Tiere überfahren ist ja wohl hierzulande ok. Sachschaden anrichten ? Geht das noch, bevor die KI die Vollbremsung einleitet ?

    Der Selbstfahrer ist uns dann egal. Hast du halt Pech, wenn du nicht so schnell wie die KIs reagieren kannst, dein Auto das Umfeld nicht erkennen und du dir kein selbstfahrendes Auto leisten kannst ? Kann man so festlegen (und MUSS man), man kann das aber auch einfach mal zuerst durchdenken. Gesamtgesellschaftlich. Weltweit. Detailiert.



    2 mal bearbeitet, zuletzt am 11.12.18 14:31 durch phade.

  17. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: Mr Miyagi 11.12.18 - 14:45

    phade schrieb:
    --------------------------------------------------------------------------------
    > pumok schrieb:
    > ---------------------------------------------------------------------------
    > -----
    > > Würde der Mensch ja auch so machen. Warum muss denn die KI immer perfekt
    > > sein?
    >
    > Weil die KI aktuell nicht haftbar zu machen ist. Deshalb müssen wir die
    > Regeln vorgeben, damit derjenige der der KI die Regeln eventuell fehlerhaft
    > einpflanzt, haftbar zu machen ist.
    >
    > Das "einfach Bremsen" funktioniert als "Alleinheilung" eben auch nicht.
    > Heftiges Bremsen gefährtet dann den nachvollgenden Verkehr, eventuell mit
    > noch dramatischeren Folgen.
    >
    > Soll die KI heftig bremsen, um den auf die Strasse gelaufenen Mann nicht zu
    > überfahren und riskiert dann den Tot des nicht-angeschnallten Selbstfahrers
    > hinten ? Beide mal ohne Krebs, nicht Frau, nicht schwanger und Kind ? Was
    > ist, wenn 50/50 ist ? Oder nur 51/49 ? Oder 10 autonome Autos
    > hintereinander Bremsen müssen und nur der 11te Selbstfahrer ins Gras
    > beissen muss, weil das erste Auto entschieden hat, dass der Hund ganz vorne
    > zu schützen ist ?

    Dann baut der Selbstfahrer einen selbstverschuldeten Unfall weil er den nötigen Sicherheitsabstand nicht eingehalten hat. Wo ist der Unterschied zum Status quo? Das ist das Problem des Selbstfahrers und nicht des autonomen Autos.

  18. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: Eheran 11.12.18 - 14:47

    >Der Selbstfahrer ist uns dann egal. Hast du halt Pech, wenn du nicht so schnell wie die KIs reagieren kannst, dein Auto das Umfeld nicht erkennen und du dir kein selbstfahrendes Auto leisten kannst ?
    Er ist uns nicht egal und er hat auch nicht Pech. Wer so wenig Sicherheitsabstand lässt, dass er nicht mehr rechtzeitig zum stehen kommt, der bricht schlichtweg das Gesetz. Dabei spielt es keine Rolle wie schnell irgendwer vor dir reagiert oder nicht reagiert, jeder Autofahrer muss dafür sorgen, dass es einen ausreichenden Sicherheitsabstand zum Vordermann gibt. Und generell, dass man die Strecke weiter einsehen kann, als der Bremsweg in dem Moment wäre. Andernfalls fährt die Person zu schnell.

  19. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: Eheran 11.12.18 - 14:50

    >Dann konstruiert man ein Beispiel, dass sinniger ist
    Eine Situation, die bislang veilleicht 1x in ganz Deutschland passiert ist, seit es Autos gibt, ist kein sinnvolles Beispiel.

  20. Re: "Selbstfahrende Autos [...] entscheiden [...] einen Erwachsenen umfahren oder ein Kind. "

    Autor: pumok 11.12.18 - 15:00

    phade schrieb:
    --------------------------------------------------------------------------------

    > Weil die KI aktuell nicht haftbar zu machen ist.

    Das ist mir bewusst. Ich mag das Argument gar nicht, auch wenn ich es anerkenne und keine praktikable Lösung für das Problem haben.
    In naher Zukunft würde es weniger Verkehrstote geben, wenn die Autos autonom fahren würden. Das geht aber nicht, wegen der Haftungsfrage. Also akzeptieren wir, dass viele Menschen sterben, weil die KI nicht haftbar gemacht werden kann.
    Und wo bleibt denn da die Ethik?

  1. Thema
  1. 1
  2. 2

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. Kaufmännische/n MitarbeiterIn Chemie Branche mit Labor-Kenntnissen (m/w/d)
    Adecco Personaldienstleistungen GmbH, Freiburg
  2. Mitarbeiter für Konzeption und Qualitätssicherung (m/w/d)
    ADG Apotheken-Dienstleistungsgesellschaft mbH, Ludwigsburg, Fürth
  3. DevOps Engineer Schwerpunkt Microsoft Azure DevOps (m/w/d)
    SEW-EURODRIVE GmbH & Co KG, Bruchsal
  4. Referent (w/m/d) im Bereich IT-Sicherheit
    Hochschule der Medien (HdM), Stuttgart-Vaihingen

Detailsuche


Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Top-Angebote
  1. 32,99€ (Bestpreis!)
  2. 32,99€ (Bestpreis!)
  3. mit bis zu 30% Rabatt
  4. (u. a. MSI Optix G32CQ4DE WQHD/165 Hz für 329€ + 6,99€ Versand und be quiet! Pure Base 600...


Haben wir etwas übersehen?

E-Mail an news@golem.de


Realme GT im Test: Realmes neues Top-Smartphone startet zum Sonderpreis
Realme GT im Test
Realmes neues Top-Smartphone startet zum Sonderpreis

Das Realme GT mit Snapdragon 888, schnellem AMOLED-Display und guter Kamera kostet anfangs nur 370 Euro - aber auch zum Normalpreis lohnt es sich.
Ein Test von Tobias Költzsch

  1. Realme 8 und 8 5G Realme bringt 5G-Smartphone für 200 Euro
  2. Realme 8 Pro im Test Viel Hauptkamera für wenig Geld
  3. Android Realme bringt 5G-Smartphone für 230 Euro nach Deutschland

Neues Apple TV 4K im Test: Teures Streaming-Gerät mit guter Fernbedienung
Neues Apple TV 4K im Test
Teures Streaming-Gerät mit guter Fernbedienung

Beim neuen Apple TV 4K hat sich Apple eine ungewöhnliche Steuerung einfallen lassen, die aber im Alltag eher eine Spielerei ist.
Ein Test von Ingo Pakalski

  1. Shareplay TVOS 15 soll gemeinsame Streaming-Erlebnisse schaffen
  2. Apple TV Farbkalibrierung per iPhone schneidet schlecht ab
  3. Sofasuche beendet Airtag-Hülle für Apple-TV-Fernbedienung

Dragonbox-Pyra-Macher im Interview: Die Linux-Spielekonsole aus Deutschland
Dragonbox-Pyra-Macher im Interview
Die Linux-Spielekonsole aus Deutschland

Mit viel Verspätung ist die Dragonbox Pyra erschienen. Entwickler Michael Mrozek musste ganz schön kämpfen, damit es überhaupt dazu kam. Wir haben ihn in Ingolstadt zum Gespräch getroffen.
Ein Interview von Martin Wolf