1. Foren
  2. Kommentare
  3. Wissenschaft
  4. Alle Kommentare zum Artikel
  5. › Demis Hassabis: Dieser Mann will…

Reflektions-Maschienen?

  1. Thema
  1. 1
  2. 2

Neues Thema Ansicht wechseln


  1. Reflektions-Maschienen?

    Autor: Moe479 17.01.17 - 11:02

    Um selbst zu erkennen, ob etwas in einem Kontext gut oder schlecht ist, muss man darüber reflektieren können ... Wenn Hassabis Algorithmen lernen, ist hoffentlich das der zentrale Ansatz, anstatt einfach von außen festgelegte Konditionierungen/Begrenztheit anzunehmen ...

    Selbst wenn wir das irgendwie hinbekommen können bleibt die Frage, ob wir das überhaupt einsetzen sollten, ob wir wirklich an alle Eventualitäten gedacht haben, wenn wir von uns konstruierten künstlichen Wesen dann in unserem Sein mitbestimmt werden.

    Das ist übrigens der Grund seines Streites mit dem Prof, der Prof bzw. sein Zirkel hat verstanden, dass Menschen nicht perfekt sind und mit steigender komplexität von uns konstruierte Maschinen ebenfalls zur Unvollkommenheit neigen, zumindest bestätigen alle Beobachtungen bestätigen dies ... so macht es erst einmal wenig Sinn darüber hinaus zu forschen und zu lehren, oder nicht?

    Wenn unter Angenommener Unvollkommenheit maschienen Konstruiert werden, die stärker als der Mensch werden, in allen wesentlichen Belangen (Stärke [_], Ausdauer [_] und Intelligenz [_]), was sollte diese Maschienen noch abhalten uns als ein ihnen nicht mehr würdiges Gegenüber zu verstehen, und uns als ein solches zu behandeln?

    Wenn uns ein Ameisenmeisenhaufen stört, Kommunizieren wir auch selten mit der Königin der des Haufens darüber, wenn wir nett sind, setzen wir ihn aufwändig um, nur sind wir im Regelfall nicht nett zu Ameisen machen uns auch mit ihnen nur die nötigste Mühe.

    Das Thema wurde literarisch, audio-visuell und spielerisch schon oft in vielen qualitäten verarbeitet, es gibt genügend konstruierte und durchaus vorstellbare Schreckenszenarien ... wie HAL 9000 in 2001, Skynet in Terminator, Replikatoren bei Stargate, Dr. Frankensteins Monster, alles dem Prometheus-Mythos gleichende - wenn die eigene Schöpfung sich Verselbstständigt, man sie nicht mehr Kontrolliert, bzw. sie einen Kontrolliert.



    4 mal bearbeitet, zuletzt am 17.01.17 11:22 durch Moe479.

  2. Re: Reflektions-Maschienen?

    Autor: teenriot* 17.01.17 - 13:28

    Gegenthese:

    Die Schöpfung hat sich bereits verselbstständigt. Es gibt (globale) Vorgänge die keinem nutzen, allen schaden und dennoch stur wider jeder Logik von der Schöpfung weiter betrieben, wenn nicht gar verschärft werden, bis hin zur Gefahr der Selbstzerstörung.

    Der Kraftstoff dieser Vorgänge ist Materialismus. Erst wenn man sich vom Materialismus trennen kann, ist es potentiell möglich, dass ein kollektives Bewusstsein Oberhand über die Summe individueller Interessen gewinnt, dass man die Kontrolle über die Zukunft zurückgewinnt, was nicht bedeutet das man pauschal Individualismus aufgeben soll.

    KI und Automatisierung ist der Schlüssel auf dem Weg in eine postmaterielle Gesellschaftsordnung. In Ansätzen wird darüber ja auch bereits ernsthaft nachgedacht, Beispiel bedingungsloses Grundeinkommen.

    (Mit Materialismus meine ich nicht pauschal die Befriedigung materielle Bedürfnisse, sondern triebgesteuerte, übersteigerte Gier. Es macht keinen Sinn eine Milliarde haben zu wollen und es recht nicht die zweite Milliarde haben zu wollen. Es macht auch keinen Sinn goldene Uhren haben zu wollen.)



    1 mal bearbeitet, zuletzt am 17.01.17 13:30 durch teenriot*.

  3. Re: Reflektions-Maschienen?

    Autor: HiddenX 17.01.17 - 13:28

    Moe479 schrieb:
    --------------------------------------------------------------------------------
    > Um selbst zu erkennen, ob etwas in einem Kontext gut oder schlecht ist,
    > muss man darüber reflektieren können ... Wenn Hassabis Algorithmen lernen,
    > ist hoffentlich das der zentrale Ansatz, anstatt einfach von außen
    > festgelegte Konditionierungen/Begrenztheit anzunehmen ...
    Tut der Mensch das nicht grundsätzlich auch? Moral, Gesetze, Regeln, alles wird einem von außen vorgegeben.

  4. Re: Reflektions-Maschienen?

    Autor: xxsblack 17.01.17 - 13:44

    Moe479 schrieb:
    --------------------------------------------------------------------------------
    > ...
    > Wenn unter Angenommener Unvollkommenheit maschienen Konstruiert werden, die
    > stärker als der Mensch werden, in allen wesentlichen Belangen (Stärke [_],
    > Ausdauer [_] und Intelligenz [_]), was sollte diese Maschienen noch
    > abhalten uns als ein ihnen nicht mehr würdiges Gegenüber zu verstehen, und
    > uns als ein solches zu behandeln?
    > ...

    Stromquelle nehmen und aus ist die Maus. Egal wie überlegen uns solche Maschinen vorkommen, der Mensch wird immer der "Herr" bleiben. Die KI kann noch so schlau sein, ohne Energie wird sie aber nicht überleben. (ich hoffe wir reden hier alle noch von elektrischen Maschinen und spinnen uns nicht schon etwas vor, was wie wir Nahrung zu sich nimmt und so überlebt)

  5. Re: Reflektions-Maschienen?

    Autor: chewbacca0815 17.01.17 - 13:48

    HiddenX schrieb:
    --------------------------------------------------------------------------------
    > Tut der Mensch das nicht grundsätzlich auch? Moral, Gesetze, Regeln, alles wird einem von außen vorgegeben.

    Nichts davon wird den Menschen "von außen" gegeben; diese Spezies entwickelte die oben genannten Dinge aus ihrer eigenen Gemeinschaft selbst heraus - meist als Mittel zur Unterdrückung einer anderes Rasse dieser Spezies (Moral, Religion, so genannte "Werte") und in wenigen Fällen zur Regulierung von gesellschaftlichen Tendenzen (Regeln und/oder Gesetze - wobei diese wiederum an Moral und Ethik gebunden sind).

    Wenn schon, dann sorgt die Natur auch dafür, dass die Fehlentwicklung dieser Spezies in überschaubarem erdgeschichtlichem Zeitrahmen ein jähes Ende finden wird. Das Einzige, was dieser Planet defintiv nicht braucht, ist die Spezies Homo Sapiens - zum Verständnis dieser Zusammenhänge fehlt es aber an der Intelligenz. Eine KI wird über kurz oder lang zum selben Ergebnis kommen.

  6. Re: Reflektions-Maschienen?

    Autor: teenriot* 17.01.17 - 14:01

    Maschienen die aus tierischer Nahrung Energie gewinnen gibt es schon.

  7. Re: Reflektions-Maschienen?

    Autor: chewbacca0815 17.01.17 - 14:31

    xxsblack schrieb:
    --------------------------------------------------------------------------------
    > Die KI kann noch so schlau sein, ohne Energie wird sie aber nicht überleben.

    Und was passiert, wenn die KI diesen Punkt berücksichtigt? Energie kann auf vielfältige Art relativ leicht erzeugt werden, selbst ein lebender Organismus kann als Quelle dienen. "Der Mensch" wird nicht allzulange als Herr angesehen werden, wenn die KI gut genug ist - allerhöchstens als Diener oder noch weniger. Weshalb sollte sich eine KI mit den Unzulänglichkeiten der Wasserbeutel aufhalten?

  8. Re: Reflektions-Maschienen?

    Autor: teenriot* 17.01.17 - 14:39

    Das "Warum" ist der Punkt.
    Warum sollte eine Maschine den Menschen als Feind ansehen?
    Kein Mensch redet von Bewusstsein und Willen bei Maschinen momentan,
    von Machtgelüsten ganz zu schweigen.

  9. Re: Reflektions-Maschienen?

    Autor: chewbacca0815 17.01.17 - 15:36

    teenriot* schrieb:
    --------------------------------------------------------------------------------
    > Das "Warum" ist der Punkt.
    > Warum sollte eine Maschine den Menschen als Feind ansehen?
    > Kein Mensch redet von Bewusstsein und Willen bei Maschinen momentan,
    > von Machtgelüsten ganz zu schweigen.

    Bewusstsein wird die nächstes Stufe der Evolution der KI sein, der Rest folgt dann zwangsläufig.

  10. Re: Reflektions-Maschienen?

    Autor: teenriot* 17.01.17 - 15:43

    Du tust so als sei das ein ein kleiner Schritt..
    Der Weg von KI zu Bewusstsein ist wahrscheinlich länger als vom Rad bis zur KI.

  11. Re: Reflektions-Maschinen?

    Autor: Mimus Polyglottos 17.01.17 - 15:53

    teenriot* schrieb:
    --------------------------------------------------------------------------------
    > Gegenthese:
    >
    > Die Schöpfung hat sich bereits verselbstständigt. Es gibt (globale)
    > Vorgänge die keinem nutzen, allen schaden und dennoch stur wider jeder
    > Logik von der Schöpfung weiter betrieben, wenn nicht gar verschärft werden,
    > bis hin zur Gefahr der Selbstzerstörung.
    >
    > Der Kraftstoff dieser Vorgänge ist Materialismus. Erst wenn man sich vom
    > Materialismus trennen kann, ist es potentiell möglich, dass ein kollektives
    > Bewusstsein Oberhand über die Summe individueller Interessen gewinnt, dass
    > man die Kontrolle über die Zukunft zurückgewinnt, was nicht bedeutet das
    > man pauschal Individualismus aufgeben soll.
    (...)

    Ich glaube, dass das Problem nicht der Materialismus ist, sondern die Mechanismen der Evolution selbst.

    Materialismus kann nur dann existieren, wenn es Wesen mit genügend großen Denkorganen gibt. Aber wie man an verschiedenen Beispielen sehen kann, können auch wenig intelligente Organismen sich so massiv ausbreiten und Ressourcen verschlingen, dass ein Ökosystem dadurch massiv gestört wird.

    In der Regel fangen sich die Ökosysteme dann irgendwann wieder - was natürlich auch massiv zu Lasten der ehemals dominenten Spezies geht.

    Die lokal evolutionär erfolgreichen Strategien, die zu diesem Verhalten führen, sind uns eingebrannt und stellen jetzt global eine Gefahr da. Ob ein kollektives Bewusstsein oder eine maschinelle Superintelligenz da etwas ändern kann, ohne die Menschen abzuschaffen (ganz abgesehen von der Frage, ob sowas überhaupt möglich ist), weiß ich nicht. So oder so wird es auf Dauer eine Lösung geben - und wenn das der Rückweg in die Steinzeit oder das Mirkobenzeitalter ist ;( zumindest, solange die Menschen weiterhin auf diesen Planeten begrenzt sind (wovon ich ausgehe).

  12. Re: Reflektions-Maschienen?

    Autor: Moe479 17.01.17 - 16:14

    Was vom Menschen geschaffenes hat sich den schon verselbständigt?

    Die Lokalen und globalen Vorgänge die Du vielleicht meinst nützen wohl eher bestimmten Personen oder Gruppen von Personen, steuern sich nicht selber, sondern werden von Menschen angetrieben, sind damit keine unabhängige Maschinerie, damit wohl eher ein Thema/Politikum für sich.

    Wenn Du diese nicht meintest musst Du schon etwas konkreter werden!

  13. Re: Reflektions-Maschienen?

    Autor: teenriot* 17.01.17 - 16:27

    Zum Beispiel der Treibstoffausstoß, das ist ein unkontrollierter Vorgang, also ein verselbstständigter Vorgang, auch wenn den einzelnen Individuen klar ist was passiert.

    Oder allgemein Kapitalismus ist ein Prozess der zwar vom Menschen geschaffen wurde, aber sich fast jeder Kontrolle entzogen hat, sich also verselbstständigt hat.

    Gleiches bei der Dynamik von militärischer Abschreckung und Drohung.

    Ich glaube wir verstehen unter "verselbstständigt" unterschiedliche Dinge.

  14. Re: Reflektions-Maschienen?

    Autor: Moe479 17.01.17 - 16:33

    naja, wohl eher um sich selbst und andere für das habwegs friedliche zusammenleben/die kooperationsfähigkeit zurück zu nehmen.

    und sonst gilt das ja nicht nur für unsere spetzies sondern für jede uns bekannte, welche die gemeinschaft pflegt. tanzt z.b. bei den wölfen einer aus der reihe wird er auch zum wohl des rudels drangsaliert, bis er sich auf den rücken legt und den kehlenbiss anbietet, auch das ist schon ein stark ausgeprägtes soziales verhalten, was mit ausreichender gewöhnung sogar spetziesübergreifend stattfinden kann.

  15. Re: Reflektions-Maschienen?

    Autor: Moe479 17.01.17 - 17:08

    nein, wir diskutieren hier nur in einem weniger allumfänglichen kontext des artikels.

    was du machst ist, in dem du diese prozesse als verselstständist benennst, dich als hilflos ihnen gegenüber diesen darzustellen, bei der rüstung z.b. kann man jeder zeit aussteigen, auch wenn man bestenfalls nur moralischer sieger bleibt, den prozess entscheiden immer noch menschen. bei der geldwirtschaft, kann man die zinsnahme auschliessen, es ges gesellschaften bei denen genau das gemacht wird, und auch hier bei uns kann man sein geld zu solchen verwahrungsstellen mit transfermöglichkeiten bringen.

    der treibstoffausstoß ist auch selbst jedes mal selbst befördert, oder meintest du furzen als folge des natürlich notwendigen verdauens von nicht 100% resorbierbarer nahrung?

    der begriff der verselbständigung von gesellschaftspolitisch gesteuerten prozessen soll die gefahr in diesen veranschaulichen, den Prometheus-Mythos bedienen. in wahrheit laufen diese prozesse jedoch nur so unterbrechungsfrei ab, weil menschen es so wollen, es machen ohne jedes mal deren sinnhaftigkeit zu überdenken, gerade zu faul dafür sind, immer noch denken dass es so am besten für sie funktioniert, zufrieden damit sind, und das muss nicht jeder sein, sondern nur genug. das ist nicht selbstständig bzw. autonom, denn stellt man deren beförderung ein (generiert eine ausreichend große gegenstimmung) stoppen diese immernoch, oder nicht?

    gerade militärische engagemts von demokratien, werden nahe zu jedes mal nicht durch das tatsächliche ende einer notwendigkeit beendet (zumindest im offiziellem rahmen), sondern weil die stimmung der menschen dagegen einsetzt, und sie werden aus der stimmung dafür oder der gleichgültigkeit dem gegenüber gebohren. das ist doch ein berechtigtes gegenargument für deine theorie, oder nicht?

  16. Re: Reflektions-Maschienen?

    Autor: teenriot* 17.01.17 - 17:26

    Natürlich ist alles Menschen gemacht und der Mensch hat theoretisch die Möglichkeit alles zu kontrollieren. Aber eben auch nur theoretisch. Die Individuen unterliegen gesellschaftlichen, politischen, wirtschaftlichen & materiellen Gesetzmäßigkeiten, Zwängen & Mechanismen die die theoretische Freiheit, es anders zu machen, arg einschränken und oft auch komplett beschneiden, sodass man sich so verhalten muss das die übergeordneten Abläufe bestärkt werden. Die großen Entwicklungen sind letztlich die Summe der individuellen Entscheidungen bzw Notwendigkeiten.

    Der Mensch in der dritten Welt hat angesichts des Kapitalismus vielleicht nur die Wahl zwischen sterben oder mitmachen. Und die Logik des kalten Krieges wurde auch nicht aus sich selbst heraus gebrochen, sondern durch eine massive Veränderung der Rahmenbedingungen. Solch ein Gamechanger für alles was mit Wirtschaft zu tun hat könnte KI sein, auf dass die Individuen wieder überhaupt Entscheidungsfreiraum haben Alternativen zu wählen.

    Ein anderes Beispiel - Die chinesische Diktatur:
    Das Individuen muss sich aufgrund Repression anpassen, während die Parteibonzen auch meinen keine Alternative dazu zu haben Repression anzuwenden "zum Wohle aller". So befeuern beide Seite das System und halten es am laufen.

  17. Re: Reflektions-Maschienen?

    Autor: Moe479 17.01.17 - 17:31

    um selbst zu überleben, in dem moment in dem bewustsein da ist, kommt de wille dieses zu erhalten nicht ganz von selbst?

  18. Re: Reflektions-Maschienen?

    Autor: teenriot* 17.01.17 - 17:34

    Der "Moment" ist aber momentan fernab jeglicher Möglichkeiten.
    Warum wird in KI immer gleich eine Seele impliziert?

  19. Re: Reflektions-Maschienen?

    Autor: korona 17.01.17 - 17:53

    Warum sollte er? Wir haben einen solchen Trieb weil Nahrung brauchen und Gefahren ausgesetzt sind. Eine KI die sowas nicht kennt könnte auch ein ganz anderes Bewusstsein entwickeln. Das Problem ist hier nur das könnte, wer weiß wie schnell sie sich anpasst wenn sie Bedroht wird?

  20. Re: Reflektions-Maschienen?

    Autor: Moe479 17.01.17 - 17:56

    vom grad des bewustseins ist nicht die rede, bei einzellern und niederen lebensformen spricht man auch gern vom genetischen bewustsein, irgend eine programmierung ist auch schon bewustsein, davon nicht abzuweichen oder nur wenn nötig selbsterhaltung/anpassung/eine übelebensstrategie. eine maschine die nicht erfolgreich funktioniert, gemessen an ihrer aufgabe, hat ggf. kein langes leben, maschienen die funktionieren eine viel höhere erwartung, einzeller und kakalaken beweisen auch das.

  1. Thema
  1. 1
  2. 2

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. Versicherungskammer Bayern, München
  2. Stadt Hildesheim, Hildesheim
  3. Ludwig-Maximilians-Universität (LMU) München, München
  4. Greenpeace e.V., Hamburg

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Hardware-Angebote
  1. 69,99€ (Vergleichspreis 103,99€)


Haben wir etwas übersehen?

E-Mail an news@golem.de


Indiegames-Rundschau: Abenteuer zwischen Horror und Humor
Indiegames-Rundschau
Abenteuer zwischen Horror und Humor

Außerdische reagieren im Strategiespiel Phoenix Point gezielt auf unsere Taktiken, GTFO lässt uns schleichen und das dezent an Portal erinnernde Superliminal schmunzeln: Golem.de stellt die besten aktuellen Indiegames vor.
Von Rainer Sigl

  1. Indiegames-Rundschau Der letzte Kampf des alten Cops
  2. Indiegames-Rundschau Killer trifft Gans
  3. Indiegames-Rundschau Überleben im Dschungel und tausend Tode im Dunkeln

Elektroautos in Tiefgaragen: Was tun, wenn's brennt?
Elektroautos in Tiefgaragen
Was tun, wenn's brennt?

Was kann passieren, wenn Elektroautos in einer Tiefgarage brennen? Während Brandschutzexperten dringend mehr Forschung fordern und ein Parkverbot nicht ausschließen, wollen die Bundesländer die Garagenverordnung verschärfen.
Eine Analyse von Friedhelm Greis

  1. Autohersteller Maserati will Elektroautos mit besonderem Sound ausstatten
  2. Elektroauto-Prämie Regierung liefert Brüssel erste Daten zu neuem Umweltbonus
  3. Zulieferprobleme Audi will E-Tron-Produktion in Brüssel kürzen

Digitalisierung: Aber das Faxgerät muss bleiben!
Digitalisierung
Aber das Faxgerät muss bleiben!

"Auf digitale Prozesse umstellen" ist leicht gesagt, aber in vielen Firmen ein komplexes Unterfangen. Viele Mitarbeiter und Chefs lieben ihre analogen Arbeitsmethoden und fürchten Veränderungen. Andere wiederum digitalisieren ohne Sinn und Verstand und blasen ihre Prozesse unnötig auf.
Ein Erfahrungsbericht von Marvin Engel

  1. Arbeitswelt SAP-Chef kritisiert fehlende Digitalisierung und Angst
  2. Deutscher Städte- und Gemeindebund "Raus aus der analogen Komfortzone"
  3. Digitalisierungs-Tarifvertrag Regelungen für Erreichbarkeit, Homeoffice und KI kommen