Autor: Tobias Sch\u00fcle, Siemens AG<\/p>\n
Die Embedded Multicore Building Blocks (EMB\u00b2) sind eine als Open-Source-Software zur Verf\u00fcgung stehende Bibliothek f\u00fcr die parallele Programmierung von eingebetteten Systemen. EMB\u00b2 basiert auf MTAPI (Multicore Task Management API), einem Standard f\u00fcr das Task-Management in mit C\/C++ implementierten Applikationen. Im Folgenden geben wir einen \u00dcberblick \u00fcber EMB\u00b2 und zeigen auf, wie sich Parallelit\u00e4t \u00fcber die Grenzen von klassischen Multicore-Prozessoren hinaus mittels MTAPI nutzen l\u00e4sst. Bei der Programmierung eingebetteter Systeme sind Entwickler heutzutage oftmals mit Parallelit\u00e4t und Heterogenit\u00e4t konfrontiert [1]. Parallelit\u00e4t ist auf Applikationsebene erforderlich, um die Leistung von Multicore-Prozessoren aussch\u00f6pfen zu k\u00f6nnen. Dies ist jedoch mit zahlreichen H\u00fcrden und Fallstricken bei der Software-Entwicklung verbunden. Erschwerend kommt hinzu, dass viele eingebettete Systeme neben mehreren, gleichartigen Prozessorkernen spezielle Beschleuniger wie Signalprozessoren oder gar programmierbare Logikbausteine (FPGAs) enthalten. Tats\u00e4chlich bestehen moderne Systems-on-a-Chip (SoCs) aus verschiedensten Prozessoren, die f\u00fcr unterschiedliche Zwecke optimiert sind. Solche SoCs zeichnen sich durch eine hohe Leistung bei relativ geringem Energieverbrauch aus. Zu den Kehrseiten geh\u00f6ren eine hohe Komplexit\u00e4t der Software-Entwicklung sowie Herstellerabh\u00e4ngigkeit und damit mangelnde Portabilit\u00e4t. Der MTAPI-Standard [2] verspricht, diese Probleme zu l\u00f6sen. Bevor wir jedoch auf die grundlegenden Konzepte von MTAPI eingehen, geben wir einen \u00dcberblick \u00fcber EMB\u00b2.<\/p>\n Abbildung 1 (siehe\u00a0PDF<\/a>) zeigt die wesentlichen Bibliotheksbausteine und deren Einordnung im Gesamtsystem. Auf unterster Ebene befindet sich die Basisbibliothek, die vom Betriebssystem und der Prozessorarchitektur abstrahiert. Darauf baut die MTAPI-Implementierung auf, die entweder direkt von der Applikation aus nutzbar ist oder indirekt \u00fcber die Komponenten\u00a0Algorithms<\/em>\u00a0und\u00a0Dataflow<\/em>. Letztere stellen h\u00e4ufig benutzte, parallele Algorithmen beziehungsweise Schablonen f\u00fcr die Verarbeitung von Datenstr\u00f6men zur Verf\u00fcgung. Eine Besonderheit der MTAPI-Implementierung ist die Unterst\u00fctzung von Task-Priorit\u00e4ten und -Affinit\u00e4ten. Diese unterst\u00fctzen die Umsetzung von Echtzeiteigenschaften und erlauben eine feingranulare Kontrolle \u00fcber die Hardware. So k\u00f6nnen beispielsweise mittels Affinit\u00e4ten Prozessorkerne f\u00fcr bestimmte Aufgaben reserviert werden.<\/p>\n Desweiteren stehen dem Entwickler threadsichere Datenstrukturen (Container) zur Verf\u00fcgung, die speziell f\u00fcr den Einsatz in eingebetteten Systemen ausgelegt sind. Dazu geh\u00f6rt zum einen, dass die Datenstrukturen w\u00e4hrend des Betriebs keinen dynamischen Speicher allokieren \u2013 f\u00fcr viele eingebettete Systeme, insbesondere in sicherheitskritischen Bereichen, ein Muss. Zudem kommen sie ohne blockierende Synchronisationsmechanismen aus (lock-\/wait-free<\/em>), woraus sich Garantien bzgl. des Fortschritts der zugreifenden Threads ableiten lassen [3]. Dies ist gerade in eingebetteten Systemen ein nicht zu untersch\u00e4tzender Vorteil gegen\u00fcber klassischen, blockierenden Verfahren.<\/p>\n Eine ausf\u00fchrlichere Beschreibung der Komponenten mit Code-Beispielen ist in [4] und [5, 6] zu finden (siehe dazu\u00a0https:\/\/github.com\/siemens\/embb\/<\/a>).<\/p>\n Um die Leistung von Multicore-Prozessoren ausnutzen zu k\u00f6nnen, muss die zu verrichtende Arbeit in kleine Teile (Tasks<\/em>) zerlegt werden. Da Threads f\u00fcr diesen Zweck in der Regel zu schwergewichtig sind, wurden in den letzten ein bis zwei Jahrzehnten effiziente Scheduling-Verfahren entwickelt, die ausf\u00fchrbereite Tasks auf die vorhandenen Kerne abbilden. Mit MTAPI stehen seit einigen Jahren auch standardisierte Schnittstellen f\u00fcr die Erzeugung, Verwaltung und Synchronisation von Tasks zur Verf\u00fcgung. Wesentliche Ziele bei der Definition von MTAPI waren die Benutzbarkeit in kleinen, ressourcenbegrenzten Systemen \u00fcber eine leichtgewichtige API sowie die Unterst\u00fctzung von heterogenen Systemen mit verteiltem Speicher und unterschiedlichen Befehlssatzarchitekturen. Zudem setzt MTAPI nicht notwendigerweise ein Betriebssystem voraus, sondern kann auch direkt auf der Hardware (bare metal<\/em>) betrieben werden.<\/p>\n Abbildung 2 (siehe\u00a0PDF<\/a>) illustriert die Programmierung von heterogenen Systemen mit MTAPI. Das Beispielsystem besteht aus einer Multicore-CPU mit vier Kernen, wobei ein Kern eine besondere Rolle mit eigenem Betriebssystem einnimmt, einem Graphikprozessor (GPU) und einem Signalprozessor (DSP). Diese Komponenten werden jeweils durch einen MTAPI-Knoten (Node<\/em>) repr\u00e4sentiert und bilden zusammen eine Dom\u00e4ne (Domain<\/em>). Als Benutzer kann man entweder explizit angeben, auf welchem Knoten ein Task ausgef\u00fchrt werden soll, oder die Entscheidung dar\u00fcber dem Scheduler \u00fcberlassen. EMB\u00b2 verwendet standardm\u00e4\u00dfig f\u00fcr das Scheduling innerhalb eines Knotens priorit\u00e4tsbasiertes\u00a0Work Stealing<\/em>, w\u00e4hrend\u00a0 innerhalb einer Dom\u00e4ne Tasks in Abh\u00e4ngigkeit der Knotenauslastung verteilt werden. MTAPI selbst gibt jedoch keine Scheduling-Verfahren vor, und so ist es auch in EMB\u00b2 m\u00f6glich, eigene Scheduling-Algorithmen einzusetzen.<\/p>\n Neben Tasks kennt MTAPI zwei weitere damit verwandte Konzepte:\u00a0Jobs<\/em>\u00a0und\u00a0Actions<\/em>. Ein Task ist gem\u00e4\u00df MTAPI-Spezifikation die Ausf\u00fchrung eines Jobs mit bestimmten Daten. Ein Job wiederum repr\u00e4sentiert die auszuf\u00fchrende Funktion auf einer abstrakten Ebene. Jeder Job wird durch mindestens eine Action implementiert. Auf diese Weise k\u00f6nnen in heterogenen Systemen Implementierungen f\u00fcr verschiedene Prozessoren hinterlegt werden. Eine Action kann sogar komplett in Hardware implementiert sein. Abbildung 3 verdeutlicht den Zusammenhang zwischen Tasks, Jobs und Actions. Da Actions sehr unterschiedlicher Natur sein k\u00f6nnen, stellt EMB\u00b2 eine Plugin-Schnittstelle zur Verf\u00fcgung, \u00fcber die benutzerdefinierte Actions in MTAPI integriert werden k\u00f6nnen. So kann zum Beispiel eine FPGA-basierte Action mittels Plugin einem Job zugeordnet und transparent zu anderen Actions ausgef\u00fchrt werden. Neben der Unterst\u00fctzung heterogener Systeme hat die Trennung von Jobs und Actions den Vorteil, dass sich damit Applikationen f\u00fcr eine aus unterschiedlichen Hardware-Konfigurationen bestehende Produktfamilie auf einheitliche Weise entwickeln lassen.<\/p>\n EMB\u00b2 stellt vordefinierte Plugins f\u00fcr h\u00e4ufig benutzte Technologien zur Verf\u00fcgung. Das folgende Beispiel zeigt die Erzeugung einer Action f\u00fcr OpenCL-Code. Zun\u00e4chst wird die entsprechende Header-Datei eigebunden, der OpenCL-Kernel definiert und anschlie\u00dfend das Plugin initialisiert:<\/p>\n #include\u00a0<\/strong><embb\/mtapi\/c\/mtapi_opencl.h><\/p>\n const char\u00a0<\/strong>* kernel = „__kernel void MyKernel(\u2026) {\u2026} „;<\/p>\n mtapi_status_t status;<\/p>\n mtapi_opencl_plugin_initialize(&status);<\/p>\n Nun kann die Action registriert und OPENCL_JOB zugeordnet werden:<\/p>\n float<\/strong>\u00a0node_local = 1.0f;<\/p>\n action = mtapi_opencl_action_create(<\/p>\n \u00a0 OPENCL_JOB,<\/p>\n \u00a0 kernel, „MyKernel“, local_work_size, element_size,<\/p>\n \u00a0 &node_local,\u00a0sizeof<\/strong>(float<\/strong>),<\/p>\n \u00a0 &status);<\/p>\n Dabei sind\u00a0local_work_size<\/span>\u00a0und\u00a0element_size<\/span>\u00a0OpenCL-spezifische Argumente, und node_local verweist auf gemeinsam genutzte Daten innerhalb des Knotens [5, 6]. Bevor der Job durch einen Task ausgef\u00fchrt wird, k\u00f6nnen ihm optional weitere Actions zugeordnet werden [2].<\/p>\n Die parallele Programmierung gewinnt auch bei der Entwicklung eingebetteter Systeme zunehmend an Bedeutung, da von Singlecore-Prozessore keine wesentliche Geschwindigkeitssteigerung mehr zu erwarten ist. Herk\u00f6mmliche threadbasierte Ans\u00e4tze sind jedoch oft fehleranf\u00e4llig, ineffizient und umst\u00e4ndlich zu benutzen. Eine weitere Herausforderung bilden heterogene Systems-on-a-Chip, die verschiedenartige Prozessoren auf einem Chip vereinigen. Standardisierte Schnittstellen wie MTAPI helfen, von dieser Diversit\u00e4t zu abstrahieren und Parallelit\u00e4t auf Systemebene effizient zu nutzen.<\/p>\n [1] H. Alkhatib, P. Faraboschi, E. Frachtenberg, H. Kasahara, D. Lange, P. Laplante, A. Merchant, D. Milojicic, K. Schwan. „IEEE CS 2022 Report“. IEEE Computer Society, 2014.<\/p>\n [2] „Multicore Task Management API (MTAPI) Specification V1.0“. The Multicore Association, 2013.<\/p>\n [3] M. Herlihy, N. Shavit. „On the Nature of Progress“. International Conference on Principles of Distributed Systems (OPODIS), Springer, 2011.<\/p>\n [4] T. Sch\u00fcle. „Embedded Multicore Building Blocks \u2013 Parallel Programming Made Easy“. Embedded World, 2015.<\/p>\n [5] Embedded Multicore Building Blocks \u2013 Tutorial, 2015.<\/p>\n [6] Embedded Multicore Building Blocks \u2013 Reference Manual, 2015.<\/p>\n Beitrag als PDF downloaden<\/strong><\/a><\/p>\n Wollen Sie sich auf den aktuellen Stand der Technik bringen?<\/strong><\/p>\n Dann informieren Sie sich\u00a0hier<\/strong>\u00a0<\/a>zu Schulungen\/ Seminaren\/ Trainings\/ Workshops und individuellen Coachings von MircoConsult zum Thema Multicore \/Mikrocontroller.<\/p>\n Training & Coaching zu den weiteren Themen unseren Portfolios finden Sie\u00a0hier<\/a>.<\/strong><\/p>\n Wertvolles Fachwissen zum Thema Modellierung \/Embedded- und Echtzeit-Softwareentwicklung steht\u00a0hier<\/strong>\u00a0<\/a>f\u00fcr Sie zum kostenfreien Download bereit.<\/p>\n
\n<\/strong><\/p>\nEmbedded Multicore Building Blocks (EMB\u00b2)<\/h2>\n
Multicore Task Management API (MTAPI)<\/h2>\n
Zusammenfassung<\/h2>\n
Literaturverzeichnis<\/h2>\n
\nMulticore – unsere Trainings & Coachings<\/h2>\n
\nMulticore – Fachwissen<\/h2>\n