1. Foren
  2. Kommentare
  3. Politik/Recht
  4. Alle Kommentare zum Artikel
  5. › Deep Fake: Polizei soll…

Model Training

  1. Thema

Neues Thema Ansicht wechseln


  1. Model Training

    Autor: B-Reich 21.11.19 - 17:38

    Wie wird das Model trainiert?
    Ich befürchte fast mit einem großen Satz an Kinderpornografie,

    ""Diese computergenerierten Bilder sehen echten Bildern täuschend ähnlich, zeigen aber niemals echte Kinder", sagte die Justizministerin. "Wir dürfen nie vergessen, dass hinter kinderpornografischen Bildern schreckliche Missbrauchstaten an Kindern stehen."

    Die Bilder nutzen um ein Model zu lernen, wahrscheinlich ohne das die Opfer es wissen, finde ich widerlich.
    Also ein Model kann wohl kaum mit "normaler" Pornografie gelernt werden.

  2. Re: Model Training

    Autor: HeroFeat 21.11.19 - 18:18

    Eventuell ist die Herstellung Streng Geheim, da es das Vertrauen in den Staat erschüttern könnte (oder eine ähnliche Begründungen).

    Aber wie du schon schreibst. Es wird vermutlich echtes Material genommen und dann die Kinder auf den Videos zusammengestückelt. Aber schon alleine das die Behörden dann eine Datenbank unterhalten mit Kinderpornografie ist extrem bedenklich. Solches Material sollte einfach so schnell wie irgend möglich gelöscht werden.

    Und ich kann mir den Skandal schon vorstellen, wenn irgendwann herauskommt, das es unter den Polizisten, Entwicklern, ... einen Pädophilien gab/gibt.

    Alles eine extrem schwierige Thematik. Aber wenn hier Polizisten zu Tätern werden sollen um die Täter zu fassen sehe ich das extrem kritisch. Wie bei allen Bereichen bei denen eher die Methoden von Geheimdiensten angewendet werden. Wenn also eine möglicherweise frustrierte Person erst radikalisiert wird, dann vermittelt man Kontakte, besorgt Geld und besorgt die Materialien für den Anschlag und nimmt die Personen als Terroristen fest und feiert sich für den Erfolg. Glücklicherweise in Deutschland meines Wissens nicht so der Fall. Aber es soll woanders durchaus schon vorgekommen sein.

    Insgesamt alles sehr komplexe Themen und es braucht meiner Meinung sehr viel Diskussion darüber was der Staat darf und was nicht. Aber grundsätzlich muss der Staat und seine Beschäftigten meiner Meinung nach immer moralisch besser (na klar kommt dann die Frage nach wessen Moral) und einwandfreier als alle anderen handeln.

  3. Re: Model Training

    Autor: Garius 21.11.19 - 19:34

    B-Reich schrieb:
    --------------------------------------------------------------------------------
    > Wie wird das Model trainiert?
    > Ich befürchte fast mit einem großen Satz an Kinderpornografie,
    >
    > ""Diese computergenerierten Bilder sehen echten Bildern täuschend ähnlich,
    > zeigen aber niemals echte Kinder", sagte die Justizministerin. "Wir dürfen
    > nie vergessen, dass hinter kinderpornografischen Bildern schreckliche
    > Missbrauchstaten an Kindern stehen."
    >
    > Die Bilder nutzen um ein Model zu lernen, wahrscheinlich ohne das die Opfer
    > es wissen, finde ich widerlich.
    > Also ein Model kann wohl kaum mit "normaler" Pornografie gelernt werden.
    Bin kein Grafiker, aber könnte man sowas nicht mit echten erwachsenen Modellen trainieren und dann nachträglich anpassen?

  4. Re: Model Training

    Autor: naexta 21.11.19 - 20:47

    HeroFeat schrieb:
    --------------------------------------------------------------------------------
    > Eventuell ist die Herstellung Streng Geheim, da es das Vertrauen in den
    > Staat erschüttern könnte (oder eine ähnliche Begründungen).
    >
    > Aber wie du schon schreibst. Es wird vermutlich echtes Material genommen
    > und dann die Kinder auf den Videos zusammengestückelt. Aber schon alleine
    > das die Behörden dann eine Datenbank unterhalten mit Kinderpornografie ist
    > extrem bedenklich. Solches Material sollte einfach so schnell wie irgend
    > möglich gelöscht werden.
    >
    > Und ich kann mir den Skandal schon vorstellen, wenn irgendwann herauskommt,
    > das es unter den Polizisten, Entwicklern, ... einen Pädophilien gab/gibt.
    >
    > Alles eine extrem schwierige Thematik. Aber wenn hier Polizisten zu Tätern
    > werden sollen um die Täter zu fassen sehe ich das extrem kritisch. Wie bei
    > allen Bereichen bei denen eher die Methoden von Geheimdiensten angewendet
    > werden. Wenn also eine möglicherweise frustrierte Person erst radikalisiert
    > wird, dann vermittelt man Kontakte, besorgt Geld und besorgt die
    > Materialien für den Anschlag und nimmt die Personen als Terroristen fest
    > und feiert sich für den Erfolg. Glücklicherweise in Deutschland meines
    > Wissens nicht so der Fall. Aber es soll woanders durchaus schon vorgekommen
    > sein.
    >
    > Insgesamt alles sehr komplexe Themen und es braucht meiner Meinung sehr
    > viel Diskussion darüber was der Staat darf und was nicht. Aber
    > grundsätzlich muss der Staat und seine Beschäftigten meiner Meinung nach
    > immer moralisch besser (na klar kommt dann die Frage nach wessen Moral) und
    > einwandfreier als alle anderen handeln.

    Den Skandal gab es schon. Sebastian Edathy.

    Dort wurde Beweismaterial vernichtet.

    Jeder Otto N. wäre dafür in einer Anstalt XYZ.

  5. Re: Model Training

    Autor: ibsi 21.11.19 - 23:00

    HeroFeat schrieb:
    --------------------------------------------------------------------------------
    > Aber schon alleine
    > das die Behörden dann eine Datenbank unterhalten mit Kinderpornografie ist
    > extrem bedenklich. Solches Material sollte einfach so schnell wie irgend
    > möglich gelöscht werden.
    >
    Zum filtern schon nützlich denk ich.

  6. Re: Model Training

    Autor: HeroFeat 21.11.19 - 23:18

    Zum Filtern reicht aber eine Art Hash aus. Dafür braucht man nicht das Rohmaterial. Das machen auch einige der großen US-Anbieter so. Wer sonst, keine Ahnung. Aber für Deep Fakes reicht eben nicht nur ein Hash aus, sondern du brauchst schon eine Datenbank mit echten Bildern. Ob man da Bilder von volljährigen nehmen kann bezweifel ich irgendwie doch stark. Ich habe keine Ahnung wie das Material von dem wir hier reden (was in den Kreisen üblich ist) aussieht und will es auch nicht wissen. Trotzdem ist es allgemein schon so, dass das Quellmaterial schon besser nah an dem gewünschten Ergebnis dran sein sollte.

  7. Re: Model Training

    Autor: John2k 22.11.19 - 08:09

    HeroFeat schrieb:
    --------------------------------------------------------------------------------
    > Eventuell ist die Herstellung Streng Geheim, da es das Vertrauen in den
    > Staat erschüttern könnte (oder eine ähnliche Begründungen).
    >
    > Aber wie du schon schreibst. Es wird vermutlich echtes Material genommen
    > und dann die Kinder auf den Videos zusammengestückelt. Aber schon alleine
    > das die Behörden dann eine Datenbank unterhalten mit Kinderpornografie ist
    > extrem bedenklich. Solches Material sollte einfach so schnell wie irgend
    > möglich gelöscht werden.

    Das Dümmste, was man machen kann, ist es alles gleich zu löschen.
    Was hat man davon? Klärt man so einen Fall auf?
    Damit man die Opfer kennt, muss man auch einen Bezug zu ihnen haben. Dafür braucht man dann die entsprechenden Bilder etc...

  8. Re: Model Training

    Autor: John2k 22.11.19 - 08:14

    Garius schrieb:
    --------------------------------------------------------------------------------
    > B-Reich schrieb:
    > ---------------------------------------------------------------------------
    > -----
    > > Wie wird das Model trainiert?
    > > Ich befürchte fast mit einem großen Satz an Kinderpornografie,
    > >
    > > ""Diese computergenerierten Bilder sehen echten Bildern täuschend
    > ähnlich,
    > > zeigen aber niemals echte Kinder", sagte die Justizministerin. "Wir
    > dürfen
    > > nie vergessen, dass hinter kinderpornografischen Bildern schreckliche
    > > Missbrauchstaten an Kindern stehen."
    > >
    > > Die Bilder nutzen um ein Model zu lernen, wahrscheinlich ohne das die
    > Opfer
    > > es wissen, finde ich widerlich.
    > > Also ein Model kann wohl kaum mit "normaler" Pornografie gelernt werden.
    > Bin kein Grafiker, aber könnte man sowas nicht mit echten erwachsenen
    > Modellen trainieren und dann nachträglich anpassen?

    Man könnte vermutlich einfach freiwillige einscannen, motion capturing betreiben und entsprechend digital rendern. Das würde auch zu am Computer erstellte Aufnahmen passen.
    Deepfake nutzt man ja eher für vorhandenes Material.
    So wirklich eindeutig geht das nicht hervor aus dem Artikel.
    Vielleicht ist es auch eine Kobination beider Möglichkeiten.
    Computergerendert und ein echtes Gesicht per Deepfake.

    Ansich könnte man diese technische Möglichkeit nutzen und den Markt damit fluten, dass sich eine komerzielle herstellung nicht mehr lohnt. Bzw der Austausch in den Foren nicht mehr notwendig ist.



    2 mal bearbeitet, zuletzt am 22.11.19 08:19 durch John2k.

  9. Re: Model Training

    Autor: chefin 22.11.19 - 08:41

    B-Reich schrieb:
    --------------------------------------------------------------------------------
    > Wie wird das Model trainiert?
    > Ich befürchte fast mit einem großen Satz an Kinderpornografie,
    >
    > ""Diese computergenerierten Bilder sehen echten Bildern täuschend ähnlich,
    > zeigen aber niemals echte Kinder", sagte die Justizministerin. "Wir dürfen
    > nie vergessen, dass hinter kinderpornografischen Bildern schreckliche
    > Missbrauchstaten an Kindern stehen."
    >
    > Die Bilder nutzen um ein Model zu lernen, wahrscheinlich ohne das die Opfer
    > es wissen, finde ich widerlich.
    > Also ein Model kann wohl kaum mit "normaler" Pornografie gelernt werden.

    Es gibt auch die Option einfach einen normalen Porno umzurendern. Und es gibt flachbrüstige 18 Jährige Pornomodels die genau auf dieser Pädophilenmasche ihre Karriere aufbauen, ohne dabei mit dem Gesetz direkt zu kollidieren. Und glaub mir, die wissen genau, welches Publikum bzw welche Triebe sie damit ansprechen. Und nichts davon ist Strafbar, bestenfalls moralisch etwas niveaulos. Von dieser Stelle aus ist es nicht mehr schwer das umzurendern und aus 18 eine 12 Jähriger zu machen. Ist der Kopf dann komplett Computergeneriert, würde, da der Körper ansonsten fast nicht verändert wird, die strafbare Grenze nur minimal überschritten werden.

    Ich persönlich tue mich auch schwer, wenn Polizei eine solche Grenze einreist. Sicher, bei dieser Art Kriminalität möchte man zustimmen, die Täter zu finden. Aber ist eine Grenze erstmal gefallen, wird sie weitere Kreise ziehen. Was wenn wir dann in Zukunft Angebote bekommen, bei Straftaten zu helfen, sagen wir, dir bietet jemand 10 Millionen, ein Haus mit Grundstück in einem Land das nicht ausliefert um seine Frau loszuwerden. Du sagst ja, gehst wegen versuchtem Mord in den Knast. Minority Report....du bist ein Straftäter bevor du die Tat begehst, den du hättest es ja gemacht. Wie willst du das den noch verbieten? Was wäre daran anders wie computergenerierte KiPo zu verbreiten.

    Ein sehr gefährlicher Weg, den wir da einschlagen

  10. Re: Model Training

    Autor: twothe 22.11.19 - 10:59

    Das wäre mit dem Deep Fake System durchaus auch ohne "echte" Kinderpornographie möglich. Dazu müsste man erst eine KI darauf trainieren in Filmen Personen realistisch gegen Kinder auszutauschen. Die könnte man ganz legal an normalen Filmen trainieren. Und dann setzt man diese KI auf normale Pornographie an.

    Das Ergebnis wäre dann übrigens strafbar, da auch völlig fiktive Pornographie in jedweder Form (Schrift, Bild, Ton) verboten ist, sofern die Darsteller minderjährig sein könnten. Die Gesetzeslage in Deutschland ist so scharf, dass ich dringend davon abrate hier auch nur zu experimentieren.

  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. operational services GmbH & Co. KG, Dresden, Berlin, Frankfurt am Main, München, Zwickau
  2. BSH Hausgeräte GmbH, Traunreut
  3. Schwäbisch Media Digital GmbH & Co. KG, Ravensburg
  4. operational services GmbH & Co. KG, verschieden Standorte

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Spiele-Angebote
  1. 4,99€
  2. 4,32€
  3. 2,49€
  4. 52,99€


Haben wir etwas übersehen?

E-Mail an news@golem.de


Minikonsolen im Video-Vergleichstest: Die sieben sinnlosen Zwerge
Minikonsolen im Video-Vergleichstest
Die sieben sinnlosen Zwerge

Golem retro_ Eigentlich sollten wir die kleinen Retrokonsolen mögen. Aber bei mittelmäßiger Emulation, schlechter Steuerung und Verarbeitung wollten wir beim Testen mitunter über die sieben Berge flüchten.
Ein Test von Martin Wolf


    Radeon RX 5500 OEM (4GB) im Test: AMDs beste 200-Euro-Karte seit Jahren
    Radeon RX 5500 OEM (4GB) im Test
    AMDs beste 200-Euro-Karte seit Jahren

    Mit der Radeon RX 5500 hat AMD endlich wieder eine sparsame und moderne Mittelklasse-Grafikkarte im Angebot. Verglichen mit Nvidias Geforce GTX 1650 Super reicht es zum Patt - aber nicht in allen Bereichen.
    Ein Test von Marc Sauter

    1. Workstation-Grafikkarte AMDs Radeon Pro W5700 hat USB-C-Anschluss
    2. Navi-Grafikeinheit Apple bekommt Vollausbau und AMD bringt RX 5300M
    3. Navi-14-Grafikkarte AMD stellt Radeon RX 5500 vor

    Staupilot: Der Zulassungsstau löst sich langsam auf
    Staupilot
    Der Zulassungsstau löst sich langsam auf

    Nach jahrelangen Verhandlungen soll es demnächst internationale Zulassungskriterien für hochautomatisierte Autos geben. Bei höheren Automatisierungsgraden strebt die Bundesregierung aber einen nationalen Alleingang an.
    Ein Bericht von Friedhelm Greis

    1. San José Bosch und Daimler starten autonomen Taxidienst
    2. Autonomes Fahren Ermittler geben Testfahrerin Hauptschuld an Uber-Unfall
    3. Ermittlungsberichte Wie die Uber-Software den tödlichen Unfall begünstigte

    1. Neue Richtlinien: Youtube will verschleierte oder indirekte Drohungen löschen
      Neue Richtlinien
      Youtube will verschleierte oder indirekte Drohungen löschen

      Die Betreiber von Youtube wollen entschiedener gegen Hasskommentare und Drohungen vorgehen. Ab sofort soll herabsetzende Sprache nicht mehr toleriert werden. Das gilt auch dann, wenn einzelne Videos noch erlaubt wären, aber mehrere ein problematisches Verhaltensmuster ergeben.

    2. Motorola Razr im Hands on: Klappen wie 2004
      Motorola Razr im Hands on
      Klappen wie 2004

      Mit dem Razr hat Motorola seinen Klassiker aus dem Jahr 2004 wiederaufgelegt - aber mit faltbarem Display. Im ersten Test gefällt uns das Gerät sowohl klein zusammengeklappt als auch ausgeklappt als vollwertiges Smartphone. Wie beim Galaxy Fold ist für uns allerdings die größte Frage die nach der Haltbarkeit.

    3. Smartphone: Oppo zeigt verbesserte Version seiner lochlosen Frontkamera
      Smartphone
      Oppo zeigt verbesserte Version seiner lochlosen Frontkamera

      Der chinesische Hersteller Oppo hat eine neue Version einer Frontkamera für Smartphones vorgestellt, die ohne Öffnung direkt unter dem Display eingebaut ist. Die neue Version der Kamera scheint kleiner zu sein, auch die Bildqualität ist offenbar besser.


    1. 12:15

    2. 12:05

    3. 11:57

    4. 11:42

    5. 11:30

    6. 11:17

    7. 11:05

    8. 10:49