OpenAI: Neuer Lern-Trick soll Deep-Learning-Schwäche überwinden
Künstliche Intelligenz ist vergesslich, sagen Forscher von OpenAI. Sie wollen mit Meta-Lernen nachhelfen und so der Super-KI den Weg bahnen.
Warum werden Bildanalyse-KIs eigentlich gleichzeitig mit Katzen- und Hundebildern trainiert? Warum nicht hintereinander? Erst die Katzen, dann die Hunde und so weiter?
Weil Neuronale Netze vergesslich sind: Sobald sie für eine neue Aufgabe trainiert werden, verlieren sie ihre alten Fähigkeiten. Wird etwa eine Bildanalyse-KI, die ausschließlich auf Katzen spezialisiert ist, auf Hundeerkennung trainiert, verliert sie ihre Katzenkenntnis.
Deshalb werden Bildanalyse-KIs mit großen Bilddatenbanken darauf trainiert, möglichst viele Objekte zu erkennen.
Ohne Erinnerung keine Generalisierung
Doch abseits der Bilderkennung ist ein derart umfangreiches KI-Training nicht so leicht machbar: Es existieren keine entsprechenden Datenbanken oder es ist völlig unklar, wie die Aufgaben gleichzeitig trainiert werden sollen. Eine KI, die Müll sortiert, kann schwer gleichzeitig Autofahren lernen.
Für OpenAI Forscher Jeff Clune ist diese “katastrophale Vergesslichkeit” eine der größten Schwächen aktueller KIs. Intelligente Maschinen, die kontinuierlich neue Aufgaben dazulernen, seien so unerreichbar.
Clune arbeitet deshalb an KIs mit Erinnerungsvermögen. In Kooperation mit der Universität Vermont und seinem früheren Unternehmen Uber AI Labs veröffentlicht er einen Lernalgorithmus, mit dem eine Künstliche Intelligenz mehrere Aufgaben hintereinander lernen können soll.
Neuer Lernalgorithmus steuert das Lernen
Dafür setzen die Forscher auf automatisiertes Meta-Lernen: Ein Netzwerk steuert gezielt die Lernfähigkeit eines zweiten Netzwerkes und optimiert dessen Fähigkeit, mehrere Aufgaben hintereinander zu lernen.
Das Steuer-Netzwerk friert dafür einzelne Abschnitte im Lern-Netzwerk ein und kann so für jede Aufgabe eigene Abschnitte freigeben oder blockieren. So lernt dann etwa ein Teil des Netzwerks, Katzen zu identifizieren und ein anderer, Hunde zu erkennen.
Bei einem Experiment testeten die Forscher den Lernalgorithmus mit einer KI, die Schriftzeichen erkennen musste. Die KI wurde mit 600 Schriftzeichen nacheinander trainiert und erkannte sie alle. Das zeigt, dass die automatisierte Meta-Lernmethode funktioniert – und das besser als manuelle Methoden. Bei denen liegt der Rekord bisher bei 200 Schriftzeichen nacheinander.
Für Clune und die anderen beteiligten Forscher ist das nur der Anfang: Der Lernalgorithmus soll nun abseits der Schrifterkennung getestet werden. Theoretisch sei es mit der Methode möglich, tausende Lerneinheiten hintereinander zu absolvieren, vermuten die Forscher.
Diese vernetzte Modularisierung beim Lernen wäre wohl ein wichtiger Beitrag für OpenAIs geheimes Super-KI-Projekt, bei dem über die Zeit viele einzelne KI-Projekte zu einem großen verschmelzen sollen.
Quelle: Arxiv
Weiterlesen über Künstliche Intelligenz:
Filed under: Forschung,KI-Training,Künstliche Intelligenz,Wandel - @ 2. März 2020 8:56