Was OpenAIs Chef-Forscher mit der Super-KI machen würde
OpenAIs Chef-Wissenschaftler Ilya Sutskever spricht über einen möglichen Pfad zur Super-KI, weshalb er keine Angst vor ihr hat und wie sie die Welt verbessern könnte.
KI-Forscher Ilya Sutskever ist Mitgründer von OpenAI und einer der Mitautoren des AlexNet-Papers, das 2012 den Siegeszug des Deep Learning einläutete.
OpenAI will dafür sorgen, dass Künstliche Intelligenz der Menschheit zugutekommt. Die ausführliche Version dieser Mission hat OpenAI in einer Charta zusammengetragen. Seit Anfang 2019 besteht die Organisation aus dem For-Profit-Unternehmen OpenAI LP und der übergeordneten Non-Profit-Organisation OpenAI Inc. Großinvestor bei OpenAI LP ist Microsoft mit rund einer Milliarde US-Dollar.
OpenAI Chef-Wissenschaftler Ilya Sutskever gehört zu den weltweit bekanntesten KI-Forschern. Bild: Lex Fridmann (Screenshot bei YouTube)
Open AI: Schritt für Schritt zur Super-KI
Eine generelle Künstlichen Intelligenz (GKI, Erklärung) wäre uns Menschen wohl in allen Belangen überlegen und könnte im Idealfall die meisten unserer Probleme lösen. Noch ist dieser Super-KI je nach Expertenmeinung zwischen zehn, dutzenden oder hunderten Jahren entfernt – oder gar ein völliges Hirngespinst.
OpenAIs Strategie sieht vor, sich dieser Super-KI schrittweise zu nähern: Viele kleinere KI-Projekte aus unterschiedlichen Bereichen sollen nach und nach zu einem umfangreichen, besonders mächtigen Modell zusammenwachsen.
“Deep Learning plus ein paar Ideen”
Im Interview mit KI-Forscher und Podcaster Lex Fridmann verrät Ilya Sutskever nun, was es für eine generelle KI braucht und was er mit ihr anstellen würde.
Zentral für eine GKI sei KI-Training nach dem Deep-Learning-Prinzip, sagt Sutskever. Doch es brauche “noch ein paar mehr Ideen”.
Eine wichtige Rolle auf dem Weg zur Super-KI wird laut Sutskever das sogenannte “Self-Play” spielen. Als Self-Play bezeichnet man einen Prozess, bei dem mehrere KI-Agenten gegen- oder miteinander spielen und so neue Lösungsstrategien entwickeln.
OpenAIs Experimente wie der Dota-Five-Bot oder KI-Agenten, die sich verstecken können, hätten gezeigt, dass KI mit Self-Play kreative und nützliche Lösungen für Probleme finden kann, meint Sutskever. Die Fähigkeit, uns mit einer nützlichen Lösung zu überraschen, sei einer der wichtigsten Aspekte einer GKI.
Dass diese Experimente bisher nur in Simulationen stattfinden, sei kein Hindernis. Simulationen hätten Vor- und Nachteile, doch Experimente wie die Zauberwürfel lösende Roboterhand hätten gezeigt, dass KI-Wissen und -Fähigkeiten gut aus einer Simulation in die echte Welt übertragen werden können.
OpenAI entwickelte eine KI für eine Roboterhand, die den Zauberwürfel (Rubik’s Cube) lösen kann. Den Lösungsvorgang lernte die KI erst in der Simulation. Dann wandte sie das Wissen aus der Simulation erfolgreich mit einer realen Roboterhand an. Bild: OpenAI
Wie man eine Super-KI testet
Doch woher wissen wir, ob wir auf dem richtigen Weg sind? Es sei hart, Fortschritt in der KI-Entwicklung einzuschätzen, sagt Sutskever. Die meisten Menschen seien wohl erst beeindruckt, wenn KI einen starken Einfluss auf das Bruttoinlandsprodukt habe.
Doch Sutskever sucht etwas Anderes: Ein Deep-Learning-System, das bei einer Aufgabe wie der Bildanalyse oder Übersetzung “niemals einen Fehler macht, den ein Mensch unter keinen Umständen machen würde.”
So ein robustes KI-System ist für Sutskever ein wichtiger Schritt auf dem Weg hin zur GKI. Was es noch brauchen könnte? Körper seien hilfreich, Bewusstsein möglich, aber beides wohl nicht notwendig. Ähnliche Ideen hatte Sutskever bereits auf einer Nvidia-Konferenz vorgetragen.
Die Machtverlockung einer Super-KI: “Ich finde diese Frage trivial”
Gegen Ende des Interviews stellt Fridmann dann die harten Fragen: Was würde Sutskever machen, wenn er eine Super-KI vor sich hat? Und könne er die Kontrolle über sie abgeben, angesichts der umfassenden Macht, die er damit aufgibt?
Er wolle diese Macht nicht und fände allein die Vorstellung schrecklich, sagt Sutskever. Er hoffe stattdessen, dass GKI demokratische Prozesse auf die nächste Stufe bringt: Jede Nation, jede Stadt solle eine eigene GKI haben. Die Bürgerinnen und Bürger sollen dann demokratisch über Aufgaben und Ziele der GKI bestimmen. Diese müsse dann versuchen, sie in die Tat umzusetzen.
Sutskever bemüht das Bild einer Unternehmensstruktur als Vorbild: Die KI wäre der CEO, die Menschheit würde den Vorstand bilden und den Chef bei Bedarf auf Knopfdruck feuern oder neustarten. Damit das sicher glänge, müsse man die KI so anlegen, dass sie von Menschen kontrolliert werden will.
So oder so: Wenn er als einer der ersten Menschen eine GKI entwickle, würde er diese Macht teilen – da ist sich Sutskever sicher. Diese Entscheidung sei “trivial”.
Auf die Frage, ob er mit dieser Einstellung zu einer Minder- oder Mehrheit in der KI-Branche gehöre, antwortet Sutskever: “Ich weiß nicht, ob die meisten Menschen gut sind, aber ich denke, wenn es wirklich darauf ankommt, können sie besser sein, als wir denken.”
Über Sutskevers demokratische KI sprechen wir auch in unserem MIXED.de Podcast Folge #196. Das ganze Interview mit Sutskever gibt’s auf YouTube bei Lex Fridmann.
Titelbild: Drew Graham
Weiterlesen über Künstliche Intelligenz:
Filed under: Forschung,KI und Forschung,KI und Kultur,KI-Training,Künstliche Intelligenz,Wandel - @ 17. Mai 2020 11:55