Wie sieht ein KI-unfreundliches Spiel aus?

[lestard]

Mir kam beim Lesen die Frage, wie denn ein Spiel beschaffen sein muss, dass es auf der einen Seite für einen Computer/KI prinzipiell spielbar ist (also z.B. nicht sowas wie Fussball, wo die Hardware noch nicht gleichwertig ist), auf der anderen Seite aber sehr schwer für eine KI ist und der Mensch auf lange Sicht hin im Vorteil sein wird.
Oder anders gefragt: Bei welchen Aspekte bei (Brett-)Spielen sind Menschen dem Computer überlegen?

[henryanki]

lestard schrieb:
--------------------------------------------------------------------------------
> Mir kam beim Lesen die Frage, wie denn ein Spiel beschaffen sein muss, dass
> es auf der einen Seite für einen Computer/KI prinzipiell spielbar ist (also
> z.B. nicht sowas wie Fussball, wo die Hardware noch nicht gleichwertig
> ist), auf der anderen Seite aber sehr schwer für eine KI ist und der Mensch
> auf lange Sicht hin im Vorteil sein wird.
> Oder anders gefragt: Bei welchen Aspekte bei (Brett-)Spielen sind Menschen
> dem Computer überlegen?

Spiele wie Montezuma's Revenge wurden erst vor kurzem erfolgreich angegangen (mehr Infos hier: https://openai.com/blog/learning-montezumas-revenge-from-a-single-demonstration/). Generell gibt es meiner Meinung nach keine Spiele mehr die ein Computer nicht besser spielen könnte. Wenn man es darauf anlegt, ein Spiel zu designen, was der Computer nicht spielen kann, könnte man aber überlegen, z.B. Adversarial Noise (https://towardsdatascience.com/breaking-machine-learning-with-adversarial-examples-a3ddc5c75ea4) mit einzubauen.

[lestard]

Lässt sich das mit dem Adversarial Noise denn verallgemeinern oder ist das auf Erkennung von Bildern (oder anderen Medien) beschränkt?

Mein Gedanke zielte auf die Formulierung der Spielregeln ab: Kann man Spielregeln für ein Spiel so formulieren, dass:
1) Menschen die Regeln noch begreifen und das Spiel spielen können,
2) Computer prinzipiell auch gegen Menschen spielen können und
3) Computer real kaum eine Chance gegen Menschen haben?

Man würde das Pferd von hinten aufzäumen: Nicht schauen, welche Probleme eine KI noch alles lösen kann sondern schauen, wie man Probleme formuliert, die für KIs unlösbar sind. Und natürlich würde man im nächsten Schritt dann den Gegenbeweis antreten und es doch versuchen und damit am Ende auch die KI-Forschung voranbringen.

[henryanki]

lestard schrieb:
--------------------------------------------------------------------------------
> Lässt sich das mit dem Adversarial Noise denn verallgemeinern oder ist das
> auf Erkennung von Bildern (oder anderen Medien) beschränkt?
>
> Mein Gedanke zielte auf die Formulierung der Spielregeln ab: Kann man
> Spielregeln für ein Spiel so formulieren, dass:
> 1) Menschen die Regeln noch begreifen und das Spiel spielen können,
> 2) Computer prinzipiell auch gegen Menschen spielen können und
> 3) Computer real kaum eine Chance gegen Menschen haben?
>
> Man würde das Pferd von hinten aufzäumen: Nicht schauen, welche Probleme
> eine KI noch alles lösen kann sondern schauen, wie man Probleme formuliert,
> die für KIs unlösbar sind. Und natürlich würde man im nächsten Schritt dann
> den Gegenbeweis antreten und es doch versuchen und damit am Ende auch die
> KI-Forschung voranbringen.

Solange sich das Ziel („objective function“) als differenzierbare Funktion formulieren lässt, lässt es sich durch Backpropagation (Grundlage des Erfolgs aktueller Machine Learning Modelle) optimieren. Typischerweise ist das mit Spielen möglich, daher wird es glaube ich schwierig.
Adversarial Noise ist nicht auf Bilder beschränkt. Es nutzt gezielt aus, dass Backpropagation mit partiellen Differentialen arbeitet. Menschen scheinen interessanterweise deutlich robuster dem gegenüber zu sein. Aber auch wir können getäuscht werden (optische Täuschungen kann man mglw. als Adversarial Noise sehen).

[wlorenz65]

Lang andauernde Spiele, die über den kurzfristigen zeitlichen Denkhorizont des Durchschnittsmenschen hinaus gehen, und wo ein kurzfristiger Gewinn am Ende ins Negative umschlägt. Der kurzfristig denkende Mensch sieht nur den momentanen Vorteil und spielt das Spiel, während die nicht eingeschränkte langfristig denkende Maschine den Nachteil sieht und sich weigert. So wie beim Kinder zeugen. Die Eltern bekommen die Orgasmen, und das Baby 80 Jahre später die Krebsdiagnose. Würden die Eltern sehen können, was sie da verursachen, hätten sie vermutlich weniger Spaß oder würden verzichten. Deshalb wurde ihre Intelligenz von den Genen begrenzt, damit sie nicht aussterben. Akademiker schrammen an dieser Grenze und haben deshalb weniger Kinder. Diesen natürlichen Mechanismus müsste man jetzt nur noch in ein Spiel packen.



1 mal bearbeitet, zuletzt am 13.07.19 04:59 durch wlorenz65.

[bike4energy]

Wie wäre es mit dem Spiel Dixit.
Das stelle ich mir noch sehr fordernd fuer eine KI vor.

"Dixit ist ein kommunikatives Gesellschaftsspiel, das die Phantasie großer und kleiner Spieler gleichermaßen beflügelt. 84 verträumt illustrierte Karten gilt es zu entdecken und zu interpretieren.

Ein Erzähler wählt eine seiner Karten und versieht sie mit einer Aussage - ein Zitat, ein Wort, es gibt keine Grenze. Die von hierdurch inspirierten Mitspieler wählen nun selbst eine Karte und vermischen diese. Wer die Karte des Erzählers findet, punktet - und sollte weder zu vage noch zu präzise sein."



1 mal bearbeitet, zuletzt am 13.07.19 08:05 durch bike4energy.

[henryanki]

wlorenz65 schrieb:
--------------------------------------------------------------------------------
> Lang andauernde Spiele, die über den kurzfristigen zeitlichen Denkhorizont
> des Durchschnittsmenschen hinaus gehen, und wo ein kurzfristiger Gewinn am
> Ende ins Negative umschlägt. Der kurzfristig denkende Mensch sieht nur den
> momentanen Vorteil und spielt das Spiel, während die nicht eingeschränkte
> langfristig denkende Maschine den Nachteil sieht und sich weigert. So wie
> beim Kinder zeugen. Die Eltern bekommen die Orgasmen, und das Baby 80 Jahre
> später die Krebsdiagnose. Würden die Eltern sehen können, was sie da
> verursachen, hätten sie vermutlich weniger Spaß oder würden verzichten.
> Deshalb wurde ihre Intelligenz von den Genen begrenzt, damit sie nicht
> aussterben. Akademiker schrammen an dieser Grenze und haben deshalb weniger
> Kinder. Diesen natürlichen Mechanismus müsste man jetzt nur noch in ein
> Spiel packen.


Was für ein unglaublicher Schwachsinn.. Egal was du nimmst, nimm weniger.

[henryanki]

bike4energy schrieb:
--------------------------------------------------------------------------------
> Wie wäre es mit dem Spiel Dixit.
> Das stelle ich mir noch sehr fordernd fuer eine KI vor.
>
> "Dixit ist ein kommunikatives Gesellschaftsspiel, das die Phantasie großer
> und kleiner Spieler gleichermaßen beflügelt. 84 verträumt illustrierte
> Karten gilt es zu entdecken und zu interpretieren.
>
> Ein Erzähler wählt eine seiner Karten und versieht sie mit einer Aussage -
> ein Zitat, ein Wort, es gibt keine Grenze. Die von hierdurch inspirierten
> Mitspieler wählen nun selbst eine Karte und vermischen diese. Wer die Karte
> des Erzählers findet, punktet - und sollte weder zu vage noch zu präzise
> sein."

Das können Machinen leider auch schon seit 2015... https://cs.stanford.edu/people/karpathy/deepimagesent/ ;)