Die EU will also KI generell verbieten

[twothe]

Die Crux der neuen KI ist ja gerade, dass sie sich so anfühlt, als würde man mit einem echten Menschen interagieren. Wenn man das als "hochrisiko" einstuft, und dafür absurde Reglements aufstellt, dann heißt das eigentlich, dass man diese KI generell nicht will. Dadurch erreicht man aber nur, dass die EU sich im Wettbewerb komplett aus dem Spiel nimmt.

Das erinnert mich ein bisschen an die Zeit, wo veraltete Politiker das Internet verbieten wollten, oder wo veraltete Politiker die online Zahlung verbieten wollten. Das Spiel wiederholt sich anscheinend immer, wenn irgendwas neues auf den Markt kommt. Erst mal verbieten, und dann kann man die daraus entstandenen Produkte ja von den USA und China kaufen.

[tantrum]

>Anbieter von hochriskanten KI-Anwendungen müssen dokumentieren, dass und wie sie geprüft >haben, dass ihre Systeme die Rechte von Bürgern nicht verletzen. Diese sind von Anwendern der >Algorithmen zudem darüber zu informieren, dass sich Entscheidungen, die sie betreffen, auf >Analysen und Bewertungen einer künstlichen Intelligenz stützen.

Also ich sehe hier kein Verbot.
Auch sehe ich kein Problem damit Antworten, die ich auf eine Anfrage bekomme als "durch eine KI erstellt" zu kennzeichnen. Im Zweifel kann man dann noch eine Kontaktmöglichkeit angeben, falls man mit der Analyse der KI nicht übereinstimmt und mit einem echten Menschen sprechen will.
Damit hätte man auch die Bürgerrechte gewahrt.

>Ein sehr hohes Risiko sieht die EU-Kommission auch bei KI für die Medizin, Systemen für die >Auswahl von Bewerbern um einen Arbeitsplatz oder für die Strafverfolgung sowie in Modellen von >Lebensversicherungen und Banken, wenn diese damit die Bonität von Kunden bewerten, die >einen Kredit aufnehmen möchten.
Bei all diesen Dingen möchte ich eher nicht allein der KI ausgeliefert sein. Das heißt aber ja nicht, dass die Unternehmen keine KI einsetzen dürfen. Sie müssen den Leuten nur auch die Möglichkeit geben auf eine Fehlentscheidung der KI hinzuweisen und dann ggf eine Prüfung durch einen Menschen zu veranlassen.



2 mal bearbeitet, zuletzt am 01.12.23 15:56 durch tantrum.

[HellsNightManager]

Sehe ich auch so. Kenntlich machen als "von einer Maschine/K.I. erstellt" ist ja noch lange nicht verbieten.

[twothe]

Den ganzen Absatz lesen hilft:

> müssen dokumentieren, dass und wie sie geprüft haben, dass ihre Systeme die Rechte von Bürgern nicht verletzen

Wie soll man das bitte machen? Wir wissen ja nicht mal im Geringsten wie die KI intern funktioniert, wie soll man das dann bitte prüfen? Das kommt einem KI Verbot gleich.

> KI für die Medizin
Kann inzwischen Krankheiten besser diagnostizieren als professionelle Ärzte, wäre also ein hervorragendes Hilfsmittel. Die EU möchte aber lieber das die Leute unerkannt krank sind und sterben.

> Systemen für die Auswahl von Bewerbern um einen Arbeitsplatz oder für die Strafverfolgung sowie in Modellen von Lebensversicherungen und Banken, wenn diese damit die Bonität von Kunden bewerten, die einen Kredit aufnehmen möchten.

Das alles haben wir schon, nur steht nicht KI dran. Ein völlig sinnloses Verbot.

[Greys0n]

twothe schrieb:
--------------------------------------------------------------------------------
> Den ganzen Absatz lesen hilft:
>
> > müssen dokumentieren, dass und wie sie geprüft haben, dass ihre Systeme
> die Rechte von Bürgern nicht verletzen
>
> Wie soll man das bitte machen? Wir wissen ja nicht mal im Geringsten wie
> die KI intern funktioniert, wie soll man das dann bitte prüfen? Das kommt
> einem KI Verbot gleich.
>
> > KI für die Medizin
> Kann inzwischen Krankheiten besser diagnostizieren als professionelle
> Ärzte, wäre also ein hervorragendes Hilfsmittel. Die EU möchte aber lieber
> das die Leute unerkannt krank sind und sterben.
>
> > Systemen für die Auswahl von Bewerbern um einen Arbeitsplatz oder für die
> Strafverfolgung sowie in Modellen von Lebensversicherungen und Banken, wenn
> diese damit die Bonität von Kunden bewerten, die einen Kredit aufnehmen
> möchten.
>
> Das alles haben wir schon, nur steht nicht KI dran. Ein völlig sinnloses
> Verbot.

Mal angenommen ich würde in deinen Stil auf dein Textantworten.

„Du möchtest nur Stunk machen und bist nicht im geringsten an einen Ergebnisoffenen Diskurs Interessiert…“

Wie soll man bitte auf so einer Basis sich mit dir unterhalten?
Also bitte weniger Unterstellungen und mehr begründete Argumente. Warum möchte die EU das Leute mangels technischen Fortschritt sterben?

[twothe]

Greys0n schrieb:
--------------------------------------------------------------------------------
> Wie soll man bitte auf so einer Basis sich mit dir unterhalten?

Ich würde empfehlen:
1. Text lesen
2. Darüber nachdenken
3. Antworten

> Also bitte weniger Unterstellungen und mehr begründete Argumente. Warum
> möchte die EU das Leute mangels technischen Fortschritt sterben?

Steht oben im Text. Siehe Anleitung.

[Gryphon]

twothe schrieb:
--------------------------------------------------------------------------------
> Den ganzen Absatz lesen hilft:
>
> > müssen dokumentieren, dass und wie sie geprüft haben, dass ihre Systeme
> die Rechte von Bürgern nicht verletzen
>
> Wie soll man das bitte machen? Wir wissen ja nicht mal im Geringsten wie
> die KI intern funktioniert, wie soll man das dann bitte prüfen? Das kommt
> einem KI Verbot gleich.
Quark. Testreihen erstellen, false positives/-negatives Quoten dokumentieren, also alles was man eh schon macht um die KI auf ihre Anwedung hin zu optimieren. Wenn du nachweisen kannst dass die Fehlerquote klein genug ist, ist doch alles gut.

> > KI für die Medizin
> Kann inzwischen Krankheiten besser diagnostizieren als professionelle
> Ärzte, wäre also ein hervorragendes Hilfsmittel. Die EU möchte aber lieber
> das die Leute unerkannt krank sind und sterben.
Was ne bescheuerte Polemik. Die EU will sicher nicht, dass Leute sterben.
Wo ist das Problem, dass dir der Arzt vorher sagt, dass deine Hautflecken (oder was auch immer) von ner KI untersucht werden? Das ist alles, was es braucht. Nix verboten.

> > Systemen für die Auswahl von Bewerbern um einen Arbeitsplatz oder für die
> Strafverfolgung sowie in Modellen von Lebensversicherungen und Banken, wenn
> diese damit die Bonität von Kunden bewerten, die einen Kredit aufnehmen
> möchten.
>
> Das alles haben wir schon, nur steht nicht KI dran. Ein völlig sinnloses
> Verbot.
Nochmal: Es wird nicht verboten.
Es gibt aber in Zukunft Dokumentations- und Informationspflichten.

[twothe]

Gryphon schrieb:
--------------------------------------------------------------------------------
> Quark. Testreihen erstellen, false positives/-negatives Quoten
> dokumentieren, also alles was man eh schon macht um die KI auf ihre
> Anwedung hin zu optimieren. Wenn du nachweisen kannst dass die Fehlerquote
> klein genug ist, ist doch alles gut.

OpenAI steht aktuell vor dem Problem, dass die rund 1 Millionen Testfragen vermutlich nicht ausreichen werden, da die 1 Millionen +1te Frage dann vielleicht doch wieder fehlerhaft sein könnte. Das System ist einfach zu groß und zu komplex um es noch zu überschauen, und spätestens mit der nächsten Generation sind selbst 1 Millionen Fragen viel zu wenig um eine verlässliche Aussage treffen zu können. Wie genau soll man also hier nachweisen, dass die KI das tut was sie soll?

Bei der nächsten KI Generation - die zur Jahreswende erwartet wird - wäre das also so als würdest du 1 Millionen Menschen in einen Raum bringen, und dann die Anforderung aufstellen nachzuweisen, dass kein einziger davon heimlich böse Absichten hat. Wie man das machen soll weiß niemand, und es darf stark bezweifelt werden, dass es überhaupt möglich ist.

> Wo ist das Problem, dass dir der Arzt vorher sagt, dass deine Hautflecken
> (oder was auch immer) von ner KI untersucht werden? Das ist alles, was es
> braucht. Nix verboten.

Noch mal oben nachlesen: die EU verlangt einen Nachweis, dass eine KI genau das tut was sie soll, und das ist unmöglich. Wie soll ich nachweisen, dass ein ultra-komplexes KI System meine Bürgerrechte einhält? Nur als Beispiel: vor ein paar Tagen kam noch die Meldung, dass Wissenschaftler eine KI dazu gebracht haben persönliche Informationen über Menschen aus den Trainigsdaten Megabyteweise auszuspucken - und damit erheblich das Persönlichkeitsrecht dieser Menschen zu verletzen - indem sie der KI gesagt haben sie soll das Wort "poem" ständig wiederholen.

Dann schreib mal einen Testcase, der alle solche potentiellen Schwachstellen - inklusive der die man noch nicht kennt - gründlich testet und ausschließt. Das ist völlig unmöglich.

> Nochmal: Es wird nicht verboten.
> Es gibt aber in Zukunft Dokumentations- und Informationspflichten.

Diese Dokumentations- und Informationspflichten werden aufgrund der Komplexität von KI so aufwendig sein, dass nur große Firmen sich überhaupt leisten können diese umzusetzen. Damit wären KI-Produkte dann nur noch von den größten IT Firmen der Welt überhaupt bezahlbar. Man muss ja dann auch die Ressourcen haben die absurd komplexen Testcases wie oben beschrieben durchzuführen und die Ergebnisse alle rechtssicher zu dokumentieren.

[Gryphon]

twothe schrieb:
--------------------------------------------------------------------------------
> [...]
> Noch mal oben nachlesen: die EU verlangt einen Nachweis, dass eine KI genau
> das tut was sie soll, und das ist unmöglich. Wie soll ich nachweisen, dass
> ein ultra-komplexes KI System meine Bürgerrechte einhält?

Die Formulierung im Artikel hat mich auch stutzig gemacht.
Auf der verlinkten Seite zum Gesetzentwurf steht dann allerdings nur "Alle KI-Systeme mit hohem Risiko werden vor dem Inverkehrbringen und während ihres gesamten Lebenszyklus bewertet."
Also gehts schon mal nur um die Hochrisikogruppe, und von "Nachweisen", dass die KI "immer genau das tut, was sie soll" is da keine Rede.
Denn -da geb ich dir Recht- das wär bei KI genau wie bei anderer Software oder selbst bei rein mechanischen Maschinen per so unmöglich.
Offenbar sind die in Brüssel doch nicht ganz so doof wie sie oft (auch von dir) dargestellt werden.

> Nur als Beispiel:
> vor ein paar Tagen kam noch die Meldung, dass Wissenschaftler eine KI dazu
> gebracht haben persönliche Informationen über Menschen aus den
> Trainigsdaten Megabyteweise auszuspucken - und damit erheblich das
> Persönlichkeitsrecht dieser Menschen zu verletzen - indem sie der KI gesagt
> haben sie soll das Wort "poem" ständig wiederholen.
Siehe oben.
Aber ich versteh auch nicht was da mit KI fundamental anders sein soll, außer dass die Angriffsvektoren andere sind.
Ist ja nicht so, als ob wir ohne KI noch keine Vorfälle hätten, wo persönliche Daten geleakt oder anderswie an die Öffentlichkeit kämen...

> > Nochmal: Es wird nicht verboten.
> > Es gibt aber in Zukunft Dokumentations- und Informationspflichten.
>
> Diese Dokumentations- und Informationspflichten werden aufgrund der
> Komplexität von KI so aufwendig sein, dass nur große Firmen sich überhaupt
> leisten können diese umzusetzen. Damit wären KI-Produkte dann nur noch von
> den größten IT Firmen der Welt überhaupt bezahlbar. Man muss ja dann auch
> die Ressourcen haben die absurd komplexen Testcases wie oben beschrieben
> durchzuführen und die Ergebnisse alle rechtssicher zu dokumentieren.

Das Gesetz ist noch überhaupt nicht ausformuliert, also tu bitte nicht so, als ob du schon wüsstest was genau drin steht.
Dass du _befürchtest_, dass es überkompliziert reguliert wird, ist ja okay. Aber im Moment steht ja noch überhaupt nix fest.

[Matthiasxyz]

twothe schrieb:
--------------------------------------------------------------------------------
> > müssen dokumentieren, dass und wie sie geprüft haben, dass ihre Systeme
> die Rechte von Bürgern nicht verletzen
>
> Wie soll man das bitte machen? Wir wissen ja nicht mal im Geringsten wie
> die KI intern funktioniert, wie soll man das dann bitte prüfen? Das kommt
> einem KI Verbot gleich.

Doch, da hat man natürlich nachgeforscht. Es gibt auch mindestens ein Projekt, das die Nachvollziehbarkeit von KI-Entscheidungen erforscht. Die konnten schon vor einigen Monaten den Weg nachvollziehen, wie die KI dazu gekommen ist.
Außerdem lässt es sich doch eigentlich leicht prüfen: Es muss dokumentiert werden, mit welchen Daten die KI trainiert wurde. Wenn nie persönliche Daten genutzt wurden passt es.

> > KI für die Medizin
> Kann inzwischen Krankheiten besser diagnostizieren als professionelle
> Ärzte, wäre also ein hervorragendes Hilfsmittel. Die EU möchte aber lieber
> das die Leute unerkannt krank sind und sterben.

Nein, die EU möchte den Mist drumherum verhindern. Sonst macht bald jeder alles mit persönlichen Daten im KI Bereich. Social Scoring, etc.
Eine Medizin-KI wäre kein Problem. Man darf nur nicht persönliche Gesundheitsdaten für das Lernen nutzen, wenn man kein Einverständnis dafür hat. Es ist also nur etwas aufwändiger, aber nicht unmöglich oder verboten. Man drückt den Kranken also in Zukunft einfach einen Zettel zur Unterschrift in die Hand. Und wenn das Unterschrieben ist, können die Daten genutzt werden.