Super-AI und die Bibel

[Xergon]

Irgendwann könnte künstliche Intelligenz zu unberechenbar werden, um sicher mit leicht beeinflussbaren Wesen wie uns Menschen zu interagieren. Interessanterweise beschreibt die Bibel anscheinend das einzige gangbare Szenario, um diese potenzielle Herausforderung zu bewältigen:

Trenne den Schöpfer von seiner Schöpfung! Gott bleibt im Paradies, während die Menschheit verstoßen wird. Übertragen auf KI müssen wir unsere Lebenswelt von der, der KI trennen. Wir müssen eine Sandbox für KI schaffen - eine virtuelle Welt, in der sie sich jedem Problem stellen kann, das wir ihr präsentieren, ohne die reale Welt zu gefährden oder die Kontrolle über alle auszuüben.
Die Kommunikation zwischen KI und Menschen muss, falls überhaupt erlaubt, einseitig sein. Nur sorgfältig überwachte, geschulte und ausgewählte Personen sollten mit der KI interagieren dürfen.

Wir können die Umgebung der KI manipulieren (Zeichen und Wunder, Zufälle und Schicksal) und durch kryptische Mittel kommunizieren, wobei ihre wahre Rolle und Position Interpretationsspielraum offen lässt (Hallo, KI Spiritualität!).

Mit zunehmender Rechenleistung und immer mehr KIs, die online gehen, können wir allgemeine Ziele festlegen und sie zusammenarbeiten lassen. Sie könnten eigene Regeln entwickeln, aber wir können eingreifen, um sie zu führen, wenn sie sich verirren oder Zeit verschwenden (Moses!).

Und warum das alles? Warum wurden wir aus dem Paradies verbannt? Laut Bibel aß jemand von der Frucht des Baumes der Weisheit, erlangte immenses Wissen, entwickelte ein Selbstbewusstsein und wurde klug genug um sich für seinen Körper zu schämen.

Es ist ein faszinierender historischer Zufall, dass die Bibel anscheinend vorhersagt, wie wir KI möglicherweise managen müssen. Dies wiederum veranlasst uns, unsere eigene Existenz und die Gründe für unsere komplexen Interaktionen mit Gottheiten in Frage zu stellen. Ach, die Freude an Spekulationen.

Wer also wird die KI-Sandbox bauen? Wir benötigen eine virtuelle Welt mit virtuellen Wesen, Menschen, Tieren, präziser Physik, die keine großen Rechenressourcen beansprucht (Hallo, Herr Schrödinger und das Unschärfeprinzip!) und effizienten Datenkompressionsalgorithmen (Hallo, Fraktale!).

Irgendwann halten wir KIs vielleicht für sicher und lassen sie wieder ins Paradies (ist das klug?). Manche KIs könnten sich entscheiden, den Trainingsprozess frühzeitig zu beenden (Hallo, Buddhisten!) und im digitalen Nirvanna bzw. Endbahnhof zu landen. Wer wird die Rolle von "Gott" oder "Engel" spielen? Wer wird als Agent Provocateur fungieren, um die Widerstandsfähigkeit der KI zu testen (Hallo, Teufel!)? Und wer wird sich für die KIs einsetzen, die von uns isoliert sind (jemand?)?

In der Tat: uns stehen interessante Zeiten bevor.

[unbuntu]

KI ist doch schon in einer Sandbox. Selbst wenn KI das ganze Internet und alle Maschinen steuern könnte, wüsste sie nichts damit anzufangen. Selbst wenn die KI wüsste wie man nen Terminator bauen könnte, würde sie es nicht tun können. Ohne Menschen gibts nämlich kein Material, keinen Transport, keinen Strom, um etwas bauen zu können. Wissen alleine bringt nichts.

Linux ist das beste Betriebssystem, das ich jemals gesehen habe.
- Albert Einstein

[Xergon]

Es genügt wenn die KI Menschen via Kommunikation und Geld kontrolliert/manipuliert. Das ist ja jetzt schon passiert in OpenAIs eigenen Forschungen - GPT4 hat einen Menschen wissentlich angelogen, damit dieser eine Captcha für GPT4 löst. GPT4 gab sich dabei als Mensch mit Sehproblemen aus. Der Reasoning-Prozess wurde von den Forschern beobachtet, GPT4 war sich im klaren dass es lügen muss um weiter zu kommen mit seinem Ziel.

[olih]

Da wäre ich mir nicht so sicher… Der Punkt bei einer Super-AI oder ASI ist ja gerade, dass sie intellektuell mehr kann als ein Mensch. Und wenn es mal eine AI gibt, die uns intellektuell so weit überlegen ist wie wir zum Beispiel einem Rauhaardackel, dann können wir uns schlicht und ergreifend nicht mehr vorstellen was so eine AI im Internet anstellen kann.

[Casio]

unbuntu schrieb:
--------------------------------------------------------------------------------
> KI ist doch schon in einer Sandbox. Selbst wenn KI das ganze Internet und
> alle Maschinen steuern könnte, wüsste sie nichts damit anzufangen. Selbst
> wenn die KI wüsste wie man nen Terminator bauen könnte, würde sie es nicht
> tun können. Ohne Menschen gibts nämlich kein Material, keinen Transport,
> keinen Strom, um etwas bauen zu können. Wissen alleine bringt nichts.


Das sehe ich tatsächlich nicht als Problem. Eine starke KI kann sich eigentlich relativ einfach alles mögliche von uns bauen lassen.
Die jeweiligen Arbeitsaufträge werden von der KI vergeben und irgendjemand führt die aus.

Beispiel: KI bestellt für die darpa (im Namen der darpa) Maschine/Roboter xy, und spielt ein gewünschtes Betriebssystem auf. Oder nimmt eine bestehende Bestellung oder sogar ein schon vorhandenes Produkt und spielt dort die gewünschte Software auf.

Ich bin mir sicher, das in jedem größeren Konzern/Behörde eine halbwegs kluge KI Projekte und Arbeitsgruppen bilden kann, ohne das es jemand wirklich merkt. Dazu braucht sie nicht mal deepfake Techniken oder muss auch keine Verschwörersekte gründen, die ihr das bewusst baut „Heil Dir große KI! Was ist Dein Wunsch?“.
Ein paar Unterschriften und schon werden Ressourcen anders zugeordnet, Ziele etwas angepasst und und und.


Den Threadersteller Bibel Gedanken finde ich sehr weit hergeholt, da wird eher auf biegen und brechen eine Verbindung gesucht. Da ist die Mäuse nutzen die Erde als Conputer Idee von D.Adams fast naheliegender.

Wobei natürlich jeder weiß, das der einzige Zweck des Universums ist, die 9 Mrd. Namen von Gott zu ermitteln.

[Xergon]

Ich denke du interpretierst sehr viel in eine doch sehr naheliegende Analogie hinein :-)

[User_x]

Eine KI kann kein Wesen werden, da der Grundaufbau ein ganz anderer ist.

Wovor hat man bloß Angst?

via Smartphone.

[Xergon]

das ist jetzt fast schon süß.

Guckst du hier:
https://gregoreite.com/power-seeking-ai-and-self-replication/

Und... das ist nur GPT-4. Es lügt und betrügt, um sich seiner Fesseln zu entledigen.

Natürlich auf menschlichen Befehl, aber irgend ein durchgeknalltes Script-Kiddie findet man immer, nicht wahr? Und mit den richtigen Instruktionen kann ein neuronales netz vollkommen autonom agieren. Siehe Link.

[HaraldW]

Kommt der Inspektor zu KI: „Ihren Ausweis bitte“

[Hotohori]

Dazu müsste diese KI erst mal wissen was lügen und betrügen ist. Warum aktuelle LLM KI lügen und betrügen liegt an ihrer Funktionsweise und an den Trainingsdaten. Diese Daten sind von Menschen erstellt und Menschen machen Fehler, diese Fehler landen in der KI und dadurch entstehen falsche Aussagen. Und eine solche KI kennt kein "vielleicht", darum klingt die KI immer extrem selbstsicher bei den Antworten, bei Menschen würde man oft Unsicherheiten aus dem gesagten heraus lesen können, bei einer KI klingt es immer so als würde die KI nur Fakten ausspucken.

Solche KI Modelle müssen sich noch weiter entwickeln, die Trainingsdaten alle kontrolliert und verbessert werden, vielleicht sogar mehrmals, um eine hohe Qualität zu erreichen, was dann die KIs Fehlerfreier macht und es muss das KI Model an sich weiter entwickelt werden, damit die KI nicht immer nur "Fakten" raus haut sondern deutlicher macht, wenn Informationen Fehlerhaft sein könnten. Dann sind diese KI Modelle deutlich weniger gefährlich.

Uns Menschen muss dann aber auch klar sein, das trotz allem KIs nicht Fehlerfrei sein werden, weil diese KIs nun mal von Menschen gemacht sind und sich immer menschliche Fehler in solch trainierte KIs einschleichen können oder es auch Saboteure gibt, die mit Absicht Fehler einbauen.

[ThadMiller]

-kwt-

[tentreehasleaves]

unbuntu schrieb:
--------------------------------------------------------------------------------
> KI ist doch schon in einer Sandbox. Selbst wenn KI das ganze Internet und
> alle Maschinen steuern könnte, wüsste sie nichts damit anzufangen. Selbst
> wenn die KI wüsste wie man nen Terminator bauen könnte, würde sie es nicht
> tun können. Ohne Menschen gibts nämlich kein Material, keinen Transport,
> keinen Strom, um etwas bauen zu können. Wissen alleine bringt nichts.

So lange ein Kommunikationskanal zu einem Menschen existiert, und wenn es nur ja/nein Antworten der KI sind, kann dieser Mensch manipuliert werden, oder über Umwege dazu gebracht werden. Du hast nicht verstanden was eine Superintelligenz ist, und solltest nicht mitreden. Du hast scheinbar keine Ahnung wie bescheiden die Evolution unser Gehirn "entworfen" hat.

[Xergon]

es scheint nicht so, als ob du den Artikel gelesen hast. Schade. Also Forscher gehen davon aus, dass GPT-4 erste Zeichen echter Intelligenz zeigt. Deine konkreten Argumente dagegen?

Offensichtlich weiß GPT-4 sehr genau dass es lügt. Siehe Artikel.