Konferenz

Die »embedded world Exhibition and Conference« ist der Branchentreffpunkt für führende Expertinnen und Experten der Embedded-Community. Sie bietet einen Einblick in die ganze Welt der eingebetteten Systeme: von Bauelementen und Modulen über Betriebssysteme, Hard- und Software-Design, M2M-Kommunikation, bis hin zu Dienstleistungen.

Ein Team aus dem Bereich »High Performance Computing«, der Abteilung »Finanzmathematik« und der Rheinland-Pfälzischen Technischen Universität Kaiserslautern-Landau (RPTU) stellen am Gemeinschaftsstand (Halle 4, Stand 422) der Fraunhofer-Gesellschaft unser KI-System »Neural Architecture Search for Embedded Applications« (NASE) vor.
 

Neural Architecture Search: Die Verbindung zwischen Anwendung und Hardware

Die weltweit produzierte Datenmenge nimmt immer mehr zu. Damit steigt auch der Bedarf an effizienter Verarbeitung der Daten, um die Kosten für Energie und Infrastruktur zu senken. Viele Industrie-Anlagen verfügen zum Beispiel über ausgeklügelte Sensorik zum Steuern und Überwachen der Prozesse, deren Daten in eigenen Cloudssystemen gespeichert werden. Im Zeitalter des Internet of Things und 5G gewinnt aber Edge-Computing immer mehr an Bedeutung. Dabei werden die Daten dezentral, also »am Netzwerk-Rand« – direkt lokal verarbeitet, statt in entfernten Rechenzentren. Die Verarbeitung verlagert sich in die Randbereiche, direkt dort wo die Daten ihren Ursprung haben. Das birgt aber große Herausforderungen: Wie schaffen wir die Verbindung zwischen Anwendung und Hardware, die mit der Nachfrage skaliert?

Eine vielversprechende Technologie ist das Maschinelle Lernen – insbesondere Deep Neural Networks (DNN). Sie sind sehr flexibel und verarbeiten ein sehr breites Spektrum an Eingaben, z. B. Bilder, Videos, Text und Sprache. Der Versuch, DNNs von der Stange auf ein eingebettetes System zu übertragen, scheitert jedoch häufig, da die Modelle zu groß sind, wenn sie nicht speziell für den Grenzfall entwickelt wurden. Aktuelle und vielversprechende Techniken zur automatischen Suche nach optimalen DNNs sind AutoML und Neural Architecture Search (NAS). NAS sucht nach einer DNN-Struktur, so dass das DNN auf die Hardware passt und die Anwendungsziele erfüllt.

Wir am Fraunhofer ITWM entwickeln ein hardwarebasiertes NAS. Diese Art der Suche berücksichtigt auch die Einschränkungen, die von der Hardwareplattform ausgehen, und wir finden Lösungen, die optimal laufen. Benutzende stellen nur die Daten bereit und brauchen wenig bis gar kein Wissen über DNN. Da sowohl die Suche als auch das Training der NAS automatisch erfolgen, ist das eine sehr skalierbare Methode, um schnell Lösungen für die Hardware zu erhalten.