Autoren: Andy Yap, Gregor Schock, Fabio Ferreira, AKKA Automotive; Jens Bruno Wittek, AKKA Digital<\/p>\n
Maschinelles Lernen kann in zahlreichen Anwendungsfeldern Mehrwerte generieren. Neueinsteiger k\u00f6nnen mit den verwendeten Begriffen nicht immer etwas anfangen und werden teilweise durch „Marketing-Sprache“ verunsichert. Gerade Begriffe aus diesem Themenfeld sind derzeit allgegenw\u00e4rtig und werden verallgemeinernd benutzt. In diesem Beitrag werden die Grundprinzipien des Machine Learning aus verschiedenen Perspektiven betrachtet und anschaulich erkl\u00e4rt. Es werden realistische Erwartungen an datenbasierte Analyseprojekte vermittelt.<\/strong><\/p>\n Die Begriffe K\u00dcNSTLICHE INTELLIGENZ (KI) oder auch ARTIFICIAL INTELLGENCE (AI) werden h\u00e4ufig genutzt – bedeuten das gleiche – und fassen alle Verfahren zusammen, die zum Ziel haben, eine Intelligenz in einem technischen System abzubilden. Eine sehr allgemeine Definition von Intelligenz ist die F\u00e4higkeit, komplexe Probleme zu l\u00f6sen [1]. MACHINE LEARNING (ML) [2] ist der Oberbegriff f\u00fcr diejenigen Methoden von AI, welche Algorithmen automatisch durch Nutzung vorhandener Daten verbessern.<\/p>\n Ein wesentliches Ziel von ML ist die Konstruktion eines generalisierenden Systems. Dies wird gebildet, geformt und verbessert auf Basis relevanter Daten. Ein wichtiges ML-Konzept, welches auf einigen Eigenschaften nat\u00fcrlicher Nervensysteme basiert, ist die Nachbildung NEURONALER NETZE (NN). Diese mathematischen Nachbildungen werden als K\u00dcNSTLICHE NEURONALE NETZE (KNN) bezeichnet.<\/p>\n Anmerkung: KNN ist im Bereich der KI auch die Abk\u00fcrzung f\u00fcr einen Algorithmus eines Klassifikationsverfahrens [3]. Dieses ist in diesem Beitrag nicht gemeint, veranschaulicht aber die Begriffsvielfalt in diesem Themenfeld. Biologische NN haben mit den hier beschriebenen KNN nur bedingt etwas gemeinsam, da sie lediglich als Vorlage f\u00fcr Aufbau und Funktionsweise dienen. Deshalb gibt es Netze, welche sich \u00e4hnlich wie die biologischen Vorbilder verhalten. Es k\u00f6nnen aber auch andere Funktionsweisen \u00fcber KNN abgebildet werden.<\/p>\n Ein KNN (Abbildung 1, s.\u00a0PDF<\/a>) besteht aus mehreren Neuronen, die in Form von Schichten oder engl. Layers (Input-, Hidden- und Output-Layer) angeordnet sind. Wir stellen hier das DEEP LEARNING (DL) [4] vor, bei dem die KNN mehrere verdeckte Zwischenschichten (Hidden Layer) enthalten. Es werden dabei drei Arten von Neuronen klassifiziert, die ihrer jeweiligen Schicht zugeordnet werden: Input-, Output- und Hidden-Neuron. Ein k\u00fcnstliches Neuron (Abbildung 2, s.\u00a0PDF<\/a>) errechnet einen einzigen Ausgangswert o, den es an alle mit ihm verbundenen Neuronen \u00fcbergibt. Einer Verbindung zwischen zwei Neuronen ist ein Gewicht w zugeordnet, das die Abschw\u00e4chung oder Verst\u00e4rkung eines Signals erlaubt.<\/p>\n Lernen bedeutet sinnvolles \u00c4ndern der Gewichte bis ein Abbruchkriterium erreicht ist (Lernen durch Fehler). Dabei wird eine Ausgabe wiederholt berechnet und durch Anpassung der Gewichte optimiert. Abbruchkriterien dieser Lernphase k\u00f6nnen eine maximale Anzahl an Iterationen, eine gute L\u00f6sung (Optimum der Ausgabe) oder eine geringe Ver\u00e4nderung der Netzausgabe sein. Nach Beendigung der Lernphase repr\u00e4sentieren alle Gewichte eines KNN das gelernte Wissen. Die zuvor erw\u00e4hnte Tiefe eines KNN bezieht sich auf die Anzahl der verdeckten Schichten, wobei mit heutiger Rechenleistung mehrere hundert Schichten berechenbar sind.<\/p>\n Anwendungsfelder f\u00fcr KNN gibt es vor allem dort, wo die Komplexit\u00e4t physikalischer oder mathematischer Modelle sehr hoch ist oder wo Details wichtig sind, die aber in einer Modellierung nicht beachtet werden k\u00f6nnen. Wichtige Nachteile von KNN sind der gro\u00dfe Rechenaufwand, die gro\u00dfe Menge der ben\u00f6tigten Daten sowie das Fehlen einer les- oder verstehbaren Grundstruktur.<\/p>\n Ein wichtiger Vorteil ist die universelle Einsetzbarkeit der KNN, da kein Systemwissen in die Erstellung einflie\u00dft. Au\u00dferdem k\u00f6nnen alle inhaltlich relevanten Daten unabh\u00e4ngig von ihrer Qualit\u00e4t (z.B. Rauschen, Aufl\u00f6sung etc.) direkt verarbeitet werden.<\/p>\n Prinzipiell sind gro\u00dfe Datenmengen eine Voraussetzung f\u00fcr die sinnvolle Anwendung von KNN. Um diese aber richtig zu nutzen, ist es sinnvoll ein eng verwandtes Gebiet vorzustellen: DATA MINING (DM). DM ist von den Methoden und Zielen eng mit dem ML verwandt. Eine M\u00f6glichkeit f\u00fcr die Durchf\u00fchrung eines DM Projekts [5] ist der „Cross Industry Standard Process for Data Mining“ (Abbildung 3, s.\u00a0PDF<\/a>). Dieser zeigt die wesentlichen Schritte eines datenbasierten Projektes. Dabei flie\u00dfen neue Erkenntnisse iterativ ein, um vorherige Schritte zu verbessern und noch einmal auszuf\u00fchren.<\/p>\n Voraussetzung f\u00fcr den Erfolg eines Projekts ist ein umfassendes Wissen \u00fcber die Fragestellung und die Ziele. Oft gibt es Vorgaben an die Analyse, wie m\u00f6glichst gute Ergebnisse, eine gute Interpretierbarkeit oder Schnelligkeit. Die inhaltlichen Ziele gilt es in eine zu optimierende Gr\u00f6\u00dfe zu \u00fcbersetzen, die m\u00f6glichst klar definiert oder gut zu messen ist und die Fragestellung m\u00f6glichst gut repr\u00e4sentiert.<\/p>\n Es gilt die Software zu analysieren, die an der Entstehung, Verarbeitung, Speicherung und Verwendung der Daten beteiligt ist oder war. Eventuell gibt es Hinweise darauf, dass Daten f\u00fcr den angedachten Use Case nicht repr\u00e4sentativ sind oder Hinweise auf fehlerhafte Daten. F\u00fcr ein erstes Verst\u00e4ndnis eignen sich beschreibende statistische Kennzahlen, eine Ausrei\u00dferanalyse und explorative Grafiken.<\/p>\n Es ist sinnvoll, die Daten aufzuteilen (Abbildung 4, s.\u00a0PDF<\/a>), damit mit einem Teil der Daten die entwickelten Modelle (wie KNN) getestet und validiert werden k\u00f6nnen.<\/p>\n Die Datenvorverarbeitung nimmt erfahrungsgem\u00e4\u00df in vielen Projekten rund 80% der Zeit ein. Hier lassen sich gro\u00dfe Verbesserungen der KI-Systeme erzielen. Wichtige Schritte sind die Ersetzung fehlender oder falscher Werte (Imputation) oder Zusammenfassung von Variablenkategorien. Oft ist es n\u00f6tig, Messwerte in eine genormte Skala zu transformieren, um unterschiedliche Variablen vergleichbar zu machen. Auch kann es je nach Methode sinnvoll sein, stark korrelierte Variablen oder solche mit zu geringer Aussagekraft zu entfernen oder allgemein die Dimension zu reduzieren. Das Format von Einheiten, Encoding, Zeit- und Datumsvariablen muss immer beachtet werden.<\/p>\n [1]<\/p>\n<\/td>\n Max Tegmark; \u201cLeben 3.0: Mensch sein im Zeitalter K\u00fcnstlicher Intelligenz\u201d; Ullstein Verlag; 2017<\/p>\n<\/td>\n<\/tr>\n [2]<\/p>\n<\/td>\n Christopher Bishop. \u201cPattern Recognition and Machine Learning\u201d. Springer, 2006.<\/p>\n<\/td>\n<\/tr>\n [3]<\/p>\n<\/td>\n [4]<\/p>\n<\/td>\n Ian Goodfellow et al., \u201cDeep Learning\u201d. MIT Press, 2016<\/p>\n<\/td>\n<\/tr>\n [5]<\/p>\n<\/td>\n C. Shearer, \u201cThe CRISP-DM model: the new blueprint for data mining\u201d, Journal of Data Warehousing ; vol. 5, no 4: pp 13\u201422, 2000<\/p>\n<\/td>\n<\/tr>\n [6]<\/p>\n<\/td>\n Google AI Blog: Posted by Jonathan Huang; \u201cAccelerated Training and Inference with the Tensorflow Object Detection API\u201d, 13.07.2018 [Stand 01.10.2018]. URL: https:\/\/ai.googleblog.com\/2018\/07\/accelerated-training-and-inference-with.html<\/p>\n<\/td>\n<\/tr>\n [7]<\/p>\n<\/td>\n A. G. Howard, M. Zhu, B. Chen, D. Kalenichenko, W. Wang, T. Weyand, M. Andreetto, H. Adam. Google Inc.: \u201eMobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications\u201c. arXiv preprint arXiv: 1704.04861v1, 2017. URL: https:\/\/arxiv.org\/pdf\/1704.04861.pdf<\/p>\n<\/td>\n<\/tr>\n [8]<\/p>\n<\/td>\n B. Jacob, S. Kligys, B. Chen, M. Zhu, M. Tang, A. Howard, H. Adam, D. Kalenichenko. Google Inc.: \u201cQuantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference\u201d, The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2018, pp. 2704-2713. URL: https:\/\/arxiv.org\/pdf\/1712.05877.pdf<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\nNutzen und Vergleich mit klassischen L\u00f6sungsmethoden<\/h2>\n
\n<\/strong><\/p>\nAblauf eines DM-Projekts<\/h2>\n
Verst\u00e4ndnis des Problems<\/h2>\n
Verst\u00e4ndnis der Daten<\/h2>\n
Datenbearbeitung<\/h2>\n
Modellierung<\/h2>\n
\n\n
\n \n \n \n \n \n \n \n Evelyn Fix and Joseph L. Hodges Jr. \u201cDiscriminatory analysis-nonparametric discrimination: consistency properties\u201d. University of California Berkeley, 1951.<\/td>\n<\/tr>\n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n Bildquellenverzeichnis<\/h2>\n