Wie lernt eigentlich eine künstliche Intelligenz?
Lesezeit: 3 Min
Das Übertragen von Wissen hilft der Menschheit seit jeher, von Generation zu Generation leistungsfähiger zu werden. Auch in der Welt der künstlichen Intelligenz kann das Wissen, das an einer Stelle erlernt wurde, in einem anderen Kontext wiederverwendet werden. Unser AI-Engineer Manuel Hoffmann skizziert in diesem Gastbeitrag, wie man in drei einfachen Schritten aus einer allgemeinen KI, eine individuelle KI macht, die ganz spezielle Frage beantwortet.
Wie kann eine KI bereits Erlerntes auf neue Anwendungsfälle übertragen?
Das geschieht bei neuronalen Netzen ganz einfach in drei Schritten. Für den Wissenstransfer wird zunächst ein bereits trainiertes neuronales Netz herangezogen. Anschließend wird ein Teil dieses Modells eingefroren. Dieser Teil des Modells bleibt im Weiteren unverändert und dient als “Wissensbasis” für den restlichen Teil des Modells. Im letzten Schritt wird das Modell an die neue Anwendung und mithilfe der neuen Daten angepasst.
Und wie sieht Wissenstransfer in der KI-Welt konkret aus?
Genau so einfach wie es klingt! Nehmen wir für dieses Beispiel einmal an, dass in der Produktion von Metallplatten einige Bilder zur Qualitätssicherung aufgezeichnet haben. Fehler in der Produktion haben unterschiedliche Auswirkungen und können z.B. Einschlüsse, Kratzer und Löcher sein. Ziel der Anwendung ist es die Produktionsfehler anhand der Bilder in ihre entsprechende Kategorie zu klassifizieren. Da es sich um eine Aufgabe aus der Bildverarbeitung handelt, suchen wir zunächst (z.B. auf huggingface.co oder im torchvision Paket) nach einem passenden Bildverarbeitungs-Modell. Wir stoßen auf das VGG-19 Modell und entscheiden uns aufgrund der kompakten Größe und hohen Genauigkeit dafür, dieses zu verwenden. Das Modell wurde bereits auf dem Imagenet Datensatz mit über 14 Millionen annotierten Bildern trainiert. Im zweiten Schritt wird das Modell geteilt, in den sogenannten Merkmals-Extraktion- und den Ausgangs-Teil. Der Merkmals-Extraktor umfasst die Aufbereitung der Daten und überträgt diese in eine stark abstrahierte Darstellung. Da die Merkmalsextraktion unabhängig von der konkreten Anwendung am Ausgang des neuronalen Netzes ist, kann dieser Teil des Modells unverändert bleiben. Der Modellausgang muss jedoch sowohl an die neue Aufgabe als auch an die veränderten Daten angepasst werden. Da im Datensatz exakt sechs unterschiedliche Produktionsfehler enthalten sind, passen wir der Ausgang auf genau sechs Klassen an. Jetzt können wir das angepasste Modell auf den Bildern aus der Qualitätssicherung weiter trainieren und schon nach kurzer Zeit mit überzeugender Sicherheit die richtige Fehlerklasse erkennen.
Warum?
Da wir auf ein bereits trainiertes Modell zugreifen, können wir in kurzer Zeit und mit minimalem Aufwand erste Ergebnisse erzielen. Zudem können wir die Komplexität der Modell-Entwicklung enorm reduzieren. So wird auch unser Programmcode wesentlich schlanker und einfacher zu verstehen. Das erleichtert uns die Wartung und Weiterentwicklung der KI erheblich. Da wir unser Modell nicht von Grund auf neu trainieren müssen, sparen wir einen Großteil der Energiekosten, die für das Training aufgewendet werden.
Verstanden! Aber wann ergibt das Sinn?
Immer. Oder immer, wenn wir ein vortrainiertes Modell finden. Da es mittlerweile sehr viele vortrainierte Modelle aus unterschiedlichen Domänen unter entsprechenden Nutzungsrichtlinien gibt, ist diese Voraussetzung in den meisten Anwendungsfällen gegeben. Speziell wenn wir nur wenige Trainingsbeispiele oder nur teilweise annotierte Datensätze zur Verfügung haben, macht es Sinn sich auf das Erlernte eines vortrainierten Modells zu stützen.
Um das skizzierte Beispiel einmal in Aktion zu sehen, haben wir hier den Programmcode zum selbst Ausprobieren angehängt. Viel Spaß beim Eintauchen in die Welt der KI.
