1. Foren
  2. Kommentare
  3. OpenSource
  4. Alle Kommentare zum Artikel
  5. › KI: 175 Milliarden Parameter…

Anzahl Parameter

  1. Thema

Neues Thema Ansicht wechseln


  1. Anzahl Parameter

    Autor: Kommentator1729 02.06.20 - 11:43

    2 Meinungen von jemanden, der mit solchen Modellen täglich arbeitet:

    1. An alle die hier im Forum meinen: "Das Modell bildet ja nur die Realität ab. Fangt an die Realität zu akzeptieren". Nein, das Modell bildet nicht die Realität ab. Das Modell lernt aus Texten die von Menschen geschrieben werden. Wenn diese Texte Vorurteile haben, dann übernimmt das Modell diese.

    2. Der Titel "Auch 175 Milliarden Parameter schützen nicht vor Vorurteilen", ist ziemlich witzig/bescheuert. Denn, was sind denn Vorurteile? (Häufig) falsche Urteile, welche aus einer nicht repräsentativen Beobachtung geschlossen werden. Beispielsweise hätte das Modell ein Vorurteil, wenn es einen Bild-Artikel über Gewalt in Flüchtlingsheimen liest und fortan alle Syrer/Erithrea mit Schlägern gleichsetzt. Im Bereich ML, nennt man solch einen Fehler "overfitting". Das heißt, das Modell, wird an die Eingangsdaten "überangepasst". Mehr Parameter begünstigen overfitting. Das heißt mehr Parameter begünstigen Vorurteile. Natürlich muss man sagen, dass OpenAI dem natürlich gegensteuert, indem es mehr Daten verwendet. Und zudem muss man sagen, dass viele der Vorurteile wahrscheinlich nicht vom Modell selbst geschlossen wurden, sondern (wie in Punkt 1 geschrieben) von den Eingangsdaten übernommen worden. Aber die Überschrift allein genommen klingt eben wie: "Auch 1 Badewanne Wasser schützten den kleinen Timmi nicht vor dem Ertrinken." (Sorry, für die dunkle Wendung, aber mir fällt grad nichts Besseres ein).

  2. Re: Anzahl Parameter

    Autor: on(Golem.de) 02.06.20 - 12:05

    Hallo,

    Overfitting ist ein interessantes Phänomen, das anscheinend hier vorliegt. Ich habe die Überschrift angepasst und den Begriff noch im Text erwähnt. Danke für den hilfreichen Input.

    Viele Grüße

    Oliver Nickel
    Golem.de

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Sie müssen ausserdem in Ihrem Account-Profil unter Forum einen Nutzernamen vergeben haben. Zum Login

Stellenmarkt
  1. SP_Data GmbH & Co. KG, Herford
  2. Metaways Infosystems GmbH, Hamburg
  3. Niedersächsische Landesbehörde für Straßenbau und Verkehr, Hannover
  4. ENERTRAG Aktiengesellschaft, Berlin, Dauerthal

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Spiele-Angebote
  1. 22,99€
  2. 29,99€
  3. (-15%) 25,49€


Haben wir etwas übersehen?

E-Mail an news@golem.de


  1. Physik: Die Informationskatastrophe
    Physik
    Die Informationskatastrophe

    Die Menschheit produziert zur Zeit etwa 10 hoch 21 Bits an Informationen. Was passiert, wenn sich das weiter steigert?

  2. Foxconn: "Chinas Tage als Weltfabrik sind gezählt"
    Foxconn
    "Chinas Tage als Weltfabrik sind gezählt"

    Der Chef von Foxconn sieht aufgrund des US-chinesischen Handelskonfliktes die Zukunft der Produktion in China in Gefahr. Das Unternehmen will auf andere Länder ausweichen.

  3. Bioshock, Vivaldi, Slack: Sonst noch was?
    Bioshock, Vivaldi, Slack
    Sonst noch was?

    Was am 12. August 2020 neben den großen Meldungen sonst noch passiert ist, in aller Kürze.


  1. 17:34

  2. 17:17

  3. 17:00

  4. 16:31

  5. 15:35

  6. 15:08

  7. 14:21

  8. 13:57