1. Foren
  2. Kommentare
  3. Internet
  4. Alle Kommentare zum Artikel
  5. › IMHO: Roboter plündern nicht

KI und Roboter

  1. Thema

Neues Thema Ansicht wechseln


  1. KI und Roboter

    Autor: lestard 04.09.15 - 14:43

    Meiner Ansicht nach fehlt im Artikel ein wichtiger Aspekt, nämlich was passiert, wenn eine echte KI sich gegen den Menschen stellen sollte.
    KIs werden immer besser und irgendwann könnte es eine KI geben, die sich möglicherweise gegen die Menschheit stellt. Die der Menschheit gegenüber feindselig eingestellt ist. Eine KI ist aber erstmal nur Software. Von einer feindseligen KI geht keine Gefahr aus, solange sie isoliert auf einem Computer vor sich hin "läuft".
    Gefährlich wirds erst, wenn es ihr gelingt, ihre feindseligkeit auszuleben. Und da macht es dann plötzlich einen großen Unterschied, ob da draussen in der "echten Welt" nur "dumme" Panzer rumstehen und menschliche Soldaten, die der KI den Vogel zeigen, oder bewaffnete Roboter, die die Befehle der KI auch wirklich ausführen.

    Von bewaffneten Robotern ohne echte KI geht keine allgemeine Gefahr aus, genauso wenig wie von einer böswilligen KI. Aber in Kombination wird es brenzlig.

  2. Re: KI und Roboter

    Autor: NeoTiger 04.09.15 - 14:54

    Künstliche Intelligenz hat wenig mit Dämonologie zu tun, auch wenn der Vergleich in den Unterhaltungsmedien gerne gemacht wird, weil man sich davor so schön gruseln kann.

  3. Re: KI und Roboter

    Autor: theonlyone 07.09.15 - 12:05

    NeoTiger schrieb:
    --------------------------------------------------------------------------------
    > Künstliche Intelligenz hat wenig mit Dämonologie zu tun, auch wenn der
    > Vergleich in den Unterhaltungsmedien gerne gemacht wird, weil man sich
    > davor so schön gruseln kann.

    Es gibt 2 grundverschiedene Thesen von "echter" KI.

    Das problematische Szenario ist eben das eine KI die einmal in der Lage ist sich selbst zu verbessern, dies so schnell tut, das sie komplett "explodiert" in ihren Fähigkeiten und dann auch nicht mehr abzuschalten ist (schon allein weil die Maschine weiß was der Mensch vor hat, bevor dieser es umsetzen kann).

    So eine KI würde letztlich handeln ohne das der Mensch einen Einfluß hat und man kann auch nicht sagen wie sie sich verhalten würde.

    Für die einen wäre das die absolute weiterentwicklung, wie ein Evolutions-Schritt der Menschheit zur reinen KI, für andere ist das eben der Untergang.


    Das andere Szenario erzeugt eine KI die sich im Zweifel selbst abschaltet und die Interessen der Menschen höher wertet , durch Regeln etc. ; ist letztlich genauso problematisch, klingt aber schöner.

  4. Re: KI und Roboter

    Autor: Menplant 07.09.15 - 13:29

    theonlyone schrieb:
    --------------------------------------------------------------------------------
    > NeoTiger schrieb:
    > ---------------------------------------------------------------------------
    > -----
    > > Künstliche Intelligenz hat wenig mit Dämonologie zu tun, auch wenn der
    > > Vergleich in den Unterhaltungsmedien gerne gemacht wird, weil man sich
    > > davor so schön gruseln kann.
    >
    > Es gibt 2 grundverschiedene Thesen von "echter" KI.
    >
    > Das problematische Szenario ist eben das eine KI die einmal in der Lage ist
    > sich selbst zu verbessern, dies so schnell tut, das sie komplett
    > "explodiert" in ihren Fähigkeiten und dann auch nicht mehr abzuschalten ist
    > (schon allein weil die Maschine weiß was der Mensch vor hat, bevor dieser
    > es umsetzen kann).
    >
    > So eine KI würde letztlich handeln ohne das der Mensch einen Einfluß hat
    > und man kann auch nicht sagen wie sie sich verhalten würde.
    >
    > Für die einen wäre das die absolute weiterentwicklung, wie ein
    > Evolutions-Schritt der Menschheit zur reinen KI, für andere ist das eben
    > der Untergang.
    >
    > Das andere Szenario erzeugt eine KI die sich im Zweifel selbst abschaltet
    > und die Interessen der Menschen höher wertet , durch Regeln etc. ; ist
    > letztlich genauso problematisch, klingt aber schöner.

    In Filmen sind die Menschen immer die guten, also nicht zwangsläufig alle, aber mindestens einer. Aber die Tiere sind Böse und die Aliens und die Roboter sowieso...
    Ein Tier folgt seinen Instinkten, ein intelligentes Wesen seinen Interessen und Roboter ihrer Bestimmung/Programmierung. Der große Unterschied bei der Programmierung ist die Programmierung. Solange ein Roboter nicht darauf programmiert ist etwas zu tun, macht er es auch nicht.
    Anweisungen sind entweder hardcodiert oder basieren auf Algorithmen. Es gibt aber keinen Seed Algorithmus der einfach alles lernt und dann noch diese Daten effizient verwerten kann. Selbst wenn es so einen Algorithmus geben würde, wäre die gesamte Rechnerleistung des Internets nicht schnell genug eine solche Superintelligenz zu füttern. Das ist alleine schon das Prinzip von lernen, du weißt nicht was Schmerzen sind sind solange du dich im Leben noch nicht verletzt hast. Eine selbst lernende KI muss erst überflüssige, redundante und falsche Informationen speichern bevor es diese Filtern kann.

    Die Realität sieht aber so aus, dass ein Algorithmus nicht alles sonder nur einzelne Dinge berechnen kann und es dabei klare Grenzen gibt. Eine Maschine die wahllos Menschen tötet wurde entweder dazu programmiert dies zu tun, oder jemand hat unfassbar schlecht programmiert, nicht getestet und das bei einem bereits riskanten und gefährlichen System.


    If(Random.next(100) == 5){
    killpeople();
    }

  5. Re: KI und Roboter

    Autor: theonlyone 07.09.15 - 14:38

    Menplant schrieb:
    --------------------------------------------------------------------------------
    > In Filmen sind die Menschen immer die guten, also nicht zwangsläufig alle,
    > aber mindestens einer. Aber die Tiere sind Böse und die Aliens und die
    > Roboter sowieso...
    > Ein Tier folgt seinen Instinkten, ein intelligentes Wesen seinen Interessen
    > und Roboter ihrer Bestimmung/Programmierung. Der große Unterschied bei der
    > Programmierung ist die Programmierung. Solange ein Roboter nicht darauf
    > programmiert ist etwas zu tun, macht er es auch nicht.

    Eine "KI" ist per se mal nicht hardcoded, den dann wäre es keine echte KI, sondern nur das was wir heute unter stink normalen programmen verstehen.

    Eine der wichtigsten Funktionen einer echten KI ist eben das sie sich selbst verbessern kann. Ergo, die Logik die wir anwenden um ein Programm zu schreiben, wäre selbst ein Programm das sich verbessern und erweitern kann ; ergo jedes Problem lösen kann, früher oder später.
    Und da es sich hier um ein Programm handelt steigert es seine leistung explosionsartig und jeder Zyklus führt zu Verbesserungen.

    Das entspricht dem Szenario indem der Mensch garkeine Kontrolle mehr hat und das in kürzester Zeit.

    So eine echte KI müsste die Welt um sich herum simulieren um sagen zu können welches Ergebnis eine handlung hervorruft, was auch bedeutet das sie sagen kann was andere in ihrer Umgebung tun werden.

    Von so einer echten KI sind wir natürlich noch weit weit entfernt, wir können aktuell nur begrenzte KIs für sehr abgegrenzte Gebiete bauen, die dann z.B. Schach spielen können. Eine KI die man auf ein komplett neues Gebiet loslassen kann und das dieses dann selbstständig optimiert, sowas haben wir noch nicht ; abhängig von der These wäre das aber eben auch ein Alptraum-Szenario.

  6. Re: KI und Roboter

    Autor: Menplant 07.09.15 - 15:25

    Die Quintessenz meiner Aussage ist, dass es für Menschen praktisch unmöglich ist eine KI zu entwickeln, von der nicht abzuschätzen wie sie sich verhält und eine Super KI aktuell wahrscheinlich, eher aber nie berechenbar ist (an den Leistungsansprüchen gemessen) aufgrund physikalischer Grenzen.

  7. Re: KI und Roboter

    Autor: theonlyone 07.09.15 - 17:18

    Menplant schrieb:
    --------------------------------------------------------------------------------
    > Die Quintessenz meiner Aussage ist, dass es für Menschen praktisch
    > unmöglich ist eine KI zu entwickeln, von der nicht abzuschätzen wie sie
    > sich verhält und eine Super KI aktuell wahrscheinlich, eher aber nie
    > berechenbar ist (an den Leistungsansprüchen gemessen) aufgrund
    > physikalischer Grenzen.

    Auch heute können wir Neuronale Netze bauen die sehr komplex sind und die zu Lösungen führen die wir nicht erkannt haben, schlichtweg weil die maschine in selbst solch kleinen Abgesteckten Szenarien einfach durchprobiert und versucht ein Optimum zu finden.

    Beim Thema Probleme zu lösen deren Aufgabenfelder nicht abgesteckt sind, fehlt der entscheidende Funken Know-How um eine solche KI zu entwerfen.

    Den sobald eine KI die Fähigkeit hat sich selbst zu verbessern, explodiert diese KI in ihren Fähigkeiten in kürzester Zeit, was die Quintessenz des Alptraum-Szenario darstellt.
    Wenn es also eine "echte" KI gibt, werden wir das ziemlich schnell alle zu spüren bekommen.

  8. Re: KI und Roboter

    Autor: Menplant 08.09.15 - 14:19

    theonlyone schrieb:
    --------------------------------------------------------------------------------
    > Auch heute können wir Neuronale Netze bauen die sehr komplex sind und die
    > zu Lösungen führen die wir nicht erkannt haben, schlichtweg weil die
    > maschine in selbst solch kleinen Abgesteckten Szenarien einfach
    > durchprobiert und versucht ein Optimum zu finden.
    Das sind Lösungen die von einem Menschen genauso hätten gelöst werden können, es ist nur eine Frage der Dauer.

    > Beim Thema Probleme zu lösen deren Aufgabenfelder nicht abgesteckt sind,
    > fehlt der entscheidende Funken Know-How um eine solche KI zu entwerfen.
    ...und Leistung und Speicherplatz. Nicht zu vergessen die bereits erwähnte physikalische Grenze (Stichwort Technologieknoten).

    > Den sobald eine KI die Fähigkeit hat sich selbst zu verbessern, explodiert
    > diese KI in ihren Fähigkeiten in kürzester Zeit, was die Quintessenz des
    > Alptraum-Szenario darstellt.
    > Wenn es also eine "echte" KI gibt, werden wir das ziemlich schnell alle zu
    > spüren bekommen.
    Sie würde wohl Wort wörtlich explodieren. Sofern der Selbstverbesserungs-Algorithmus nicht schon fehlerhaft ist, werden es zumindest ein Teil der Daten sein, mit dem sich die KI füttert. Es gibt hunderttausende Dinge die im vornherein beachtet werden müssen, damit sich die KI nicht selbst abschießt. Das ist alles Code, der vornherein geschrieben werden muss, aber gleichzeitig macht jede festgeschriebene Codezeile, die KI umso mehr angreifbar und fehleranfällig.

    Ungeachtet von Speicher- und Leistungsproblemen müsste die Kernkomponente des Systems, der "Seed" (oder das Gehirn) in sich perfekt und nicht veränderbar sein.

  9. Re: KI und Roboter

    Autor: theonlyone 11.09.15 - 15:12

    Menplant schrieb:
    --------------------------------------------------------------------------------
    > Das sind Lösungen die von einem Menschen genauso hätten gelöst werden
    > können, es ist nur eine Frage der Dauer.

    Es gibt für Menschen schlichtweg eine "Dauer" die es unmöglich macht zu einer Lösung zu kommen, eine maschine kann vieles einfach so massiv schneller, das es das einzige Mittel ist hier eine Lösung zu finden.

    Den jedes Problem kannst du so komplex aufblasen das kein Mensch mehr in der Lage ist das Problem zu überblicken, geschweige den alle Möglichkeiten "durchzuprobieren" um ein Optimum zu finden.

    Die Grenze für Maschinen ist da eher nach oben offen, du kannst immer "mehr" Rechner nehmen, bessere Technik einsetzen und immer schnellere Prozessoren bauen um mehr Leistung rauszuholen.

    > ...und Leistung und Speicherplatz. Nicht zu vergessen die bereits erwähnte
    > physikalische Grenze (Stichwort Technologieknoten).

    Das sind keine festen Grenzen, es sind nur temporäre Grenzen von Kosten und was du aktuell technisch umsetzen kannst.

    Mach Quanten-Rechner möglich und wir bewegen uns auf komplett anderen Welten von Paralellisierung.

    Mach für Speicher Kristalle möglich und du hast so viel Speicher das dir schlecht wird.
    Der einfache Transistor ist da ein Auslaufmodel, genauso wie wir nicht mehr in riesigen Röhren Computer bauen die Hausgroß sind.

    Noch weiter getrieben wird man vielleicht "organische" Rechner bauen, die dann Daten in Zellen speichern und tatsächlich wachsen und/oder mit menschlichen Gehirnen funktionieren.
    Ja, all das ist Zukunft, wie schnell das kommt, lass es 50 oder 100 Jahre sein, dann haben wir komplett andere Technik, was wir uns heute garnicht vorstellen können ; oder gar für unmöglich halten.

    > Sie würde wohl Wort wörtlich explodieren. Sofern der
    > Selbstverbesserungs-Algorithmus nicht schon fehlerhaft ist, werden es
    > zumindest ein Teil der Daten sein, mit dem sich die KI füttert. Es gibt
    > hunderttausende Dinge die im vornherein beachtet werden müssen, damit sich
    > die KI nicht selbst abschießt. Das ist alles Code, der vornherein
    > geschrieben werden muss, aber gleichzeitig macht jede festgeschriebene
    > Codezeile, die KI umso mehr angreifbar und fehleranfällig.

    Das Beispiel ist simpel. Du hast eine KI die in der Lage ist sich selbst zu optimieren.

    Mit jedem Zyklus wird sie besser darin sich selbst zu optimieren, das was Menschen sowieso tun macht die Maschine einfach viel schneller, Paralell auf aber millionen von Rechnern und jeder Zyklus führt zu einer Verbesserung.

    Das ist die "Explosion", den das Ganze ist so viel schneller als alles was der Mensch in "hardcoded" Lösungen stecken kann ; den für die maschine existiert kein Zeitdruck, keine Grenze, jeder Zyklus ergibt eine Verbesserung und das abartig schnell.

    > Ungeachtet von Speicher- und Leistungsproblemen müsste die Kernkomponente
    > des Systems, der "Seed" (oder das Gehirn) in sich perfekt und nicht
    > veränderbar sein.

    Eine echte KI setzt vorraus das absolut nichts an der KI fest oder unveränderbar ist. Das ganze Konzept verlangt das sich eine KI vollständig selbst verbessern und umschreiben kann ; was auch genau das Problem ist warum es aktuell keine echte KI gibt und genau das bereitet auch den klügsten Menschen kopfzerbrechen ; den hätte man eine Lösung dafür gäbe es eine echte KI und das würde wiederrum bedeuten das diese KI bereits laufen würde.


    Watson / Siri und auch selbstfahrende Autos sind keine "echte" KI , sondern nur Programme die ihre ganz eng abgesteckten Gebiete lösen können und auch nur für Daten die ihnen zur Verfügung gestellt werden.

    Was ihnen fehlt und was absolut essentiell für eine echte KI ist , eine Möglichkeit die Realität zu Simulieren ; ein Modell der Realität um Aussagen zu treffen was passiert, wenn eine handlung ausgeführt wird.
    Und so ein "Model der Realität" ist entsprechend komplex, da es praktisch alles mit einbezieht und damit könnte man auch absolut jedes Problem lösen das in der Realität auftreten kann.

    Grundlegend haben wir dafür ja Physikalische Gesetze, das hilft schonmal vieles abzudecken. Aber in vielen Fragen fehlen uns einfach noch grundlegende Gesetze wie die Welt um uns herum funktioniert.

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. Aptar Radolfzell GmbH, Radolfzell / Eigeltingen
  2. Delkeskamp Verpackungswerke GmbH, Nortrup bei Osnabrück
  3. OMIRA GmbH, Ravensburg
  4. Lamigraf GmbH, Bönen

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Spiele-Angebote
  1. (u. a. Struggling für 8,99€, Jurassic World Evolution für 11,25€, Jurassic World Evolution...
  2. 39,99€ (PS4, Xbox One, Nintendo Switch)
  3. (u. a. Green Hell für 6,99€, Dead by Daylight für 5,49€, Dying Light - The Following Enhanced...
  4. 50,99€


Haben wir etwas übersehen?

E-Mail an news@golem.de


Mario Kart Live im Test: Ein Klempner, der um Konsolen kurvt
Mario Kart Live im Test
Ein Klempner, der um Konsolen kurvt

In Mario Kart Live (Nintendo Switch) fährt ein Klempner durchs Wohnzimmer. Golem.de hat das Spiel mit einem Konsolen-Rennkurs ausprobiert.
Von Peter Steinlechner

  1. Nintendo Entwickler arbeiten offenbar an 4K-Updates für Switch Pro
  2. Nintendo Switch Mario Kart Live schickt Spielzeugauto auf VR-Rennstecke
  3. 8bitdo Controller macht die Nintendo Switch zum Arcade-Kabinett

iPad Air 2020 im Test: Apples gute Alternative zum iPad Pro
iPad Air 2020 im Test
Apples gute Alternative zum iPad Pro

Das neue iPad Air sieht aus wie ein iPad Pro, unterstützt dasselbe Zubehör, kommt mit einem guten Display und reichlich Rechenleistung. Damit ist es eine ideale Alternative für Apples teuerstes Tablet, wie unser Test zeigt.
Ein Test von Tobias Költzsch

  1. Tablet Apple stellt neues iPad und iPad Air vor

Big Blue Button: Das große blaue Sicherheitsrisiko
Big Blue Button
Das große blaue Sicherheitsrisiko

Kritische Sicherheitslücken, die Golem.de dem Entwickler der Videochat-Software Big Blue Button meldete, sind erst nach Monaten geschlossen worden.
Eine Recherche von Hanno Böck