Deep Learning: Forscher von Uber bringen ihrer KI das Spiel Pitfall bei

Der traurige Rekord einer künstlichen Intelligenz im Klassiker Pitfall: Null Punkte - bislang. Das haben jedenfalls Wissenschaftler des Fahrdienstleisters Uber herausgefunden, nachdem sie ihrer eigenen KI das Spiel erfolgreich beigebracht haben. Auch in Montezuma's Revenge haben sie Bestleistungen erzielt, allerdings konnten KIs dieses Spiel von Atari schon bisher einigermaßen gut lösen.

Die Forscher wollten anhand der beiden Games neue Ansätze zur Problemlösung und Wegfindung ausprobieren, wie sie in ihrem Blog schreiben. Die Erkenntnisse könnten unter anderem in der Robotik weiterhelfen.

Besonders herausfordernd seien die Probleme bei Pitfall gewesen. Dessen Spielablauf funktioniere schlecht mit klassischem Deep Learning, weil es nur wenige klar erkennbare Belohnungen gebe, für deren Erlangung sich die Algorithmen in immer neuen Durchgängen optimieren könnten. Gerade mal 32 solcher Gaben seien in den über 255 Umgebungen versteckt.

Stattdessen würden "viele Aktionen zu kleinen negativen Belohnungen führen, wodurch die Algorithmen von der Erkundung der Umgebung abhalten", schreiben die Wissenschaftler. Gemeint ist etwa, dass die Hauptfigur in einem Sumpf versinkt oder von einem Krokodil gefressen wird. Aus diesem Grund seien bisher alle Versuche einer echten KI in Pitfall direkt nach dem Start gescheitert - ohne einen einzigen Punkt.

Um zu besseren Ergebnissen zu kommen, haben die Forscher bei Uber ein paar neue Ansätze kombiniert. So sei ihrer KI - die sie Go-Explore nennen - beigebracht worden, sich bei der Erkundung neuer Umgebungen besser an bereits erkundete Levels zu erinnern, die Ergebnisse zu kombinieren und dann immer wieder nach frischen Lösungsansätzen zu suchen.

Zusätzlich haben die Programmierer neue Wege gefunden, der KI einen schnellen Überblick über noch unbekanntes Terrain zu geben, indem sie deren Aufbau auf eine bewusst simple Art herunterskalieren und das Ergebnis ins Archiv übernehmen.

Außerdem habe es sich bewährt, "zuerst die Aufgaben zu lösen und - falls nötig - die Lösung erst später robuster machen", statt zu früh mit dem Optimieren zu beginnen. Das alles habe dazu geführt, dass Go-Explore in Pitfall über 21.000 Punkte sammeln konnte, was deutlich mehr sei als das, was sehr gute menschliche Spieler schaffen würden.