Abo
  1. Foren
  2. Kommentare
  3. Applikationen
  4. Alle Kommentare zum Artikel
  5. › Deepmind: Mit neuronalem Netz…

Ein Problem

  1. Thema

Neues Thema Ansicht wechseln


  1. Ein Problem

    Autor: Bujin 08.02.16 - 12:23

    Neuronale Netzwerke sind ja schön und gut aber nehmen wir mal an man benutzt diese für irgendeinen Service der Menschen betrifft. Die einzige Möglichkeit mit Millionen Menschen zu interagieren wäre doch das Internet. Man würde die Maschine mit Millionen Menschen verbinden und sie würde so lernen wie sie uns am besten dienen kann. Sie würde mehr über uns lernen als wir je über uns selbst lernen könnten.

    Wie könnten wir jemals feststellen ob uns diese Maschine überhaupt korrekte Ergebnisse liefert, wenn sie lernen würde dass sie mit Falschinformationen eher ans Ziel kommt? Wenn man mal genau darüber nachdenkt werden wir doch schon lange von einem Computer gesteuert. Wir googlen jeden Tag und dabei konzentrieren wir uns eigentlich nur auf die erste Seite.

    Jetzt passiert etwas erstaunliches: Der Computer hat sein neuronales Netz das lernt wie es Inhalte im Netz bewertet und die Rückkopplung kommt vom Menschen der sich daran anpasst (SEO). Wohin kann so eine Rückkopplung führen? Wir sind Teil des Algorithmus und die Maschine wird lernen wie sie uns zu beeinflussen hat, damit die Inhalte die es im Netz gibt immer höher eingestuft werden.

    Ich finde sowas echt erschreckend zumal niemand alles überblicken kann. Niemand bei Google weiß was jeder einzelne für Suchergebnisse sieht weil es einfach zu viele sind.

    Es geht aber noch weiter. Google lernt dass bei Katastrophen das Interesse am Netz gewaltig ansteigt. Leute informieren sich online über das was passiert ist. So ein neuronales Netz könnte ohne Probleme lernen Konflikte auszulösen. Es muss nur die Suchergebnisse an strategisch wichtigen Punkten anpassen. Da bekomm ich direkt ne Gänsehaut^^

  2. Re: Ein Problem

    Autor: Peter Später 08.02.16 - 12:28

    Okay Google. Brauche ich heute einen Regenschirm?

    - Nein

    "es regnet"

    *face of betrayal*

  3. Re: Ein Problem

    Autor: Bujin 08.02.16 - 12:30

    Ja, du denkst es wäre nur ein simpler Fehler aber die wahre Absicht könnte gewesen sein dich ein bisschen zu verärgern, was mit Sicherheit deine Entscheidungen des jeweiligen Tages beeinflussen wird.

    Ich meine klar, sowas gleicht einer Verschwörungstheorie aber könnten wir wirklich feststellen ob es nur ein zufälliger Fehler war oder doch gezielt?

  4. Re: Ein Problem

    Autor: photoliner 08.02.16 - 14:49

    Bujin schrieb:
    --------------------------------------------------------------------------------
    > Es geht aber noch weiter. Google lernt dass bei Katastrophen das Interesse
    > am Netz gewaltig ansteigt. Leute informieren sich online über das was
    > passiert ist. So ein neuronales Netz könnte ohne Probleme lernen Konflikte
    > auszulösen. Es muss nur die Suchergebnisse an strategisch wichtigen Punkten
    > anpassen. Da bekomm ich direkt ne Gänsehaut^^


    Das würde aber bedeuten, dass dieses neuronale Netz versteht, Inhalte zu generieren. Noch zieht es mehr oder weniger "intelligente" Schlüsse aus Dingen, die es vorher millionenmal gesehen und davon diverse Male falsch eingeschätzt hat.
    Solange wir noch lange nicht an dem Punkt der Generierung von Inhalten angekommen sind, sehe ich NNs als spezialisierte Nische, denn als Bedrohung.

  5. Re: Ein Problem

    Autor: theonlyone 08.02.16 - 15:50

    Was das "Ziel" ist bestimmt man mit einem Punkte System.

    Die ganze Logik baut darauf auf das abfolgen von Aktionen besser sind die am Ende mehr Punkte bekommen.

    Gerade bei der Interaktion mit Menschen sollte die Zufriedenheit der Menschen hcoh gewichtet sein, den egal was raus kommt, wenn der Mensch am Ende unzufriedener ist als zuvor ist das schlecht.


    Wie man diese Puntke verteilung macht, DAS ist die Sache des Programmierers der die Daten vorgibt und da kann man natürlich viel "schmu" einbauen.

    Am Ende lässt man sein netz auch nicht blind loslaufen, irgendwer muss auch mal bewerten ob es tut was man sich vorgestellt hat und genau da greift wieder ein Mensch ein und im Zweifel passt man seine Punkte vergabe eben wieder an, bis man Ergebnisse bekommt die einen zufriedenstellen.

    Schlechte Handlungen werden entsprechend mit wenig oder negativen Punkten bewertet, die Logik des Netz wird also versuchen diese Aktionen zu vermeiden.



    Je nachdem wie viel Handlungsspielraum die Logik hat kann aus jeder Kleinigkeit eine Katastrophe entstehen, wenn wir sie auf die reale Welt loslassen.
    Ein Wegfindungsalgorithmus ist eine Sache, aber sobald ein abstraktes Ziel definiert ist Menschen zufrieden zu stellen wird es schon schwer das Ziel genau einzugrenzen.

  6. Re: Ein Problem

    Autor: Seasdfgas 08.02.16 - 16:12

    Bujin schrieb:
    --------------------------------------------------------------------------------
    > Neuronale Netzwerke sind ja schön und gut aber nehmen wir mal an man
    > benutzt diese für irgendeinen Service der Menschen betrifft. Die einzige
    > Möglichkeit mit Millionen Menschen zu interagieren wäre doch das Internet.
    > Man würde die Maschine mit Millionen Menschen verbinden und sie würde so
    > lernen wie sie uns am besten dienen kann. Sie würde mehr über uns lernen
    > als wir je über uns selbst lernen könnten.
    >
    > Wie könnten wir jemals feststellen ob uns diese Maschine überhaupt korrekte
    > Ergebnisse liefert, wenn sie lernen würde dass sie mit Falschinformationen
    > eher ans Ziel kommt? Wenn man mal genau darüber nachdenkt werden wir doch
    > schon lange von einem Computer gesteuert. Wir googlen jeden Tag und dabei
    > konzentrieren wir uns eigentlich nur auf die erste Seite.
    >
    > Jetzt passiert etwas erstaunliches: Der Computer hat sein neuronales Netz
    > das lernt wie es Inhalte im Netz bewertet und die Rückkopplung kommt vom
    > Menschen der sich daran anpasst (SEO). Wohin kann so eine Rückkopplung
    > führen? Wir sind Teil des Algorithmus und die Maschine wird lernen wie sie
    > uns zu beeinflussen hat, damit die Inhalte die es im Netz gibt immer höher
    > eingestuft werden.
    >
    > Ich finde sowas echt erschreckend zumal niemand alles überblicken kann.
    > Niemand bei Google weiß was jeder einzelne für Suchergebnisse sieht weil es
    > einfach zu viele sind.
    >
    > Es geht aber noch weiter. Google lernt dass bei Katastrophen das Interesse
    > am Netz gewaltig ansteigt. Leute informieren sich online über das was
    > passiert ist. So ein neuronales Netz könnte ohne Probleme lernen Konflikte
    > auszulösen. Es muss nur die Suchergebnisse an strategisch wichtigen Punkten
    > anpassen. Da bekomm ich direkt ne Gänsehaut^^

    das sind probleme, die unser künstlicher freund hoffentlich in absehbarer zeit selbst löst. soll der sich mit diesen widersprüchen außeinandersetzen.

  7. Re: Ein Problem

    Autor: tingelchen 08.02.16 - 17:22

    Nur weil es heißt Neuronale Netzwerke können lernen, heißt dies noch lange nicht das es so lernen kann wie unser Gehirn oder über irgendwelche Gefühle verfügt. Solche Netzwerke werden für bestimmte Aufgaben entwickelt. Die "Knoten" können nur Informationen in einem ganz bestimmten Bereich sammeln.

    Solche Netzwerke machen sich keine Gedanken um Weltherrschaft. Solche größenwahnsinnigen Gedanken machen sich nur Menschen. Sie sammeln lediglich Informationen und verarbeiten diese anhand ihrer Programmierung. Im Grunde ein stumpfer Algorithmus nur mit dem Faktor das dieser "Fehleranalyse" betreiben kann um False Positives besser zu vermeiden.

    Oder um es anders aus zu drücken. Neuronale Netzwerke denken nicht!

  8. Re: Ein Problem

    Autor: hw75 08.02.16 - 20:55

    Natürlich ist für neuronale Netze unabdingbar, das Resultat vernünftig auf Korrektheit zu beurteilen, das gleiche gilt auch für genetische Algorithmen.

    Das Problem wird dadurch angegangen, dass der Algorithmus millionenfach auf zufällig generierte Situationen angewandt wird.

    Natürlich kann es danach immer noch vorkommen, dass der Algorithmus irgendwann nicht funktioniert, das ist bei Menschen aber auch nicht anders. "Man lernt nie aus".

  9. Re: Ein Problem

    Autor: tingelchen 09.02.16 - 14:39

    Nur das der Mensch sich seiner selbst bewusst ist und Vorstellungen von seiner Gestaltung seiner Zukunft hat. Ein Neuronales Netzwerk denkt nicht. Zum "Denken" fehlt dem Netzwerk schlicht der nötige Algorithmus ;)

    Ja, sie lernen. Habe nichts anderes behauptet. Aber sie lernen nur in einem ganz engen Rahmen. Ein Neuronales Netzwerk welches für die Bilderkennung entwickelt wurde, denkt nicht über den Inhalt der Bilder nach. Ein Neuronales Netzwerk für Spracherkennung fängt zwar an Sprache zu verstehen. Aber es denkt nicht über den Kontext nach. Es übersetzt die Sprache lediglich stumpf in eine Folge von Befehlen die andere Anwendungen verarbeiten können.

    Von der Gefahr die der TE hier anspricht, ist man mit Neuronalen Netzwerken noch Lichtjahre entfernt.

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. NOVO Data Solutions GmbH & Co. KG, Bamberg
  2. Heise Medienwerk GmbH & Co. KG, Rostock
  3. ViGEM GmbH, Karlsruhe
  4. Schwarz Dienstleistung KG, Neckarsulm

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Hardware-Angebote
  1. 49,70€
  2. (reduzierte Überstände, Restposten & Co.)


Haben wir etwas übersehen?

E-Mail an news@golem.de


5G-Antenne in Berlin ausprobiert: Zu schnell, um nützlich zu sein
5G-Antenne in Berlin ausprobiert
Zu schnell, um nützlich zu sein

Neben einem unwirtlichen Parkplatz in Berlin-Adlershof befindet sich ein Knotenpunkt für den frühen 5G-Ausbau von Vodafone und Telekom. Wir sind hingefahren, um 5G selbst auszuprobieren, und kamen dabei ins Schwitzen.
Von Achim Sawall und Martin Wolf

  1. Tausende neue Nutzer Vodafone schafft Zuschlag für 5G ab
  2. Vodafone Callya Digital Prepaid-Tarif mit 10 GByte Datenvolumen kostet 20 Euro
  3. Kabelnetz Vodafone bekommt Netzüberlastung nicht in den Griff

Apple TV+: Apples Videostreamingdienst ist nicht konkurrenzfähig
Apple TV+
Apples Videostreamingdienst ist nicht konkurrenzfähig

Bei so einem mickrigen Angebot hilft auch ein mickriger Preis nicht: Apples Streamingdienst hat der Konkurrenz von Netflix, Amazon und bald Disney nichts entgegenzusetzen - und das wird sich auf Jahre nicht ändern.
Eine Analyse von Ingo Pakalski

  1. Apple TV+ Disney-Chef tritt aus Apple-Verwaltungsrat zurück
  2. Apple TV+ Apples Streamingangebot kostet 4,99 Euro im Monat
  3. Videostreaming Apple TV+ startet mit fünf Serien für 10 US-Dollar monatlich

Recruiting: Wenn das eigene Wachstum zur Herausforderung wird
Recruiting
Wenn das eigene Wachstum zur Herausforderung wird

Gerade im IT-Bereich können Unternehmen sehr schnell wachsen. Dabei können der Fachkräftemangel und das schnelle Onboarding von neuen Mitarbeitern zum Problem werden. Wir haben uns bei kleinen Startups und Großkonzernen umgehört, wie sie in so einer Situation mit den Herausforderungen umgehen.
Von Robert Meyer

  1. Recruiting Alle Einstellungsprozesse sind fehlerhaft
  2. LoL Was ein E-Sport-Trainer können muss
  3. IT-Arbeit Was fürs Auge

  1. GNU-Gründer: Richard Stallman tritt von MIT- und FSF-Position zurück
    GNU-Gründer
    Richard Stallman tritt von MIT- und FSF-Position zurück

    Nach verstörenden Äußerungen zu einem der Opfer Jeffrey Epsteins tritt der Gründer des GNU-Projekts, Richard Stallman, von seiner Position beim MIT und dem FSF-Vorstand zurück.

  2. Fossil: Google soll hybride Smartwatch-Technologie gekauft haben
    Fossil
    Google soll hybride Smartwatch-Technologie gekauft haben

    Beim 40-Millionen-Dollar-Deal mit Fossil Anfang 2019 hat Google offenbar Technologie und Entwickler rund um eine hybride Smartwatch gekauft. Fraglich ist, ob Google die Technik tatsächlich für eine eigene Uhr verwenden wird - bislang macht es weniger den Anschein.

  3. Wi-Fi 6: Zertifizierungsphase des neuen WLAN-Standards beginnt
    Wi-Fi 6
    Zertifizierungsphase des neuen WLAN-Standards beginnt

    Die Wi-Fi Alliance hat mit der Zertifizierung von Wi-Fi 6 begonnen. Der auch als 802.11ax bekannte WLAN-Funkstandard bietet höhere Datenraten und funktioniert auf beiden Funkbändern.


  1. 10:16

  2. 10:06

  3. 09:30

  4. 09:06

  5. 09:03

  6. 08:37

  7. 07:43

  8. 07:16