Künstliche Intelligenz (KI) ist ein Schlagwort und eine mittlerweile fast undurchschaubare Welt. Gerade mittelständische Unternehmen stehen vor der Herausforderung, rechtzeitig entsprechende Lösungen zu finden oder Ressourcen zu schaffen und Knowhow zu entwickeln. Die Herausforderung beginnt aber schon sehr viel früher.
Als Embedded-KI werden Elektroniksysteme bezeichnet, in denen KI autark und lokal wirkt. Das Marktpotenzial ist enorm - mitverursacht durch Mitläufertrends wie (I)IoT, entsprechende Connectivity, Security und Cloud Services. Allied Analytics schätzt den KI-Halbleitermarkt im Jahre 2030 auf über 190 Mrd. US-Dollar Volumen. Zum Vergleich: das Wachstum des AI-as-a-service-(Cloud-)Marktes wird auf fast 44 Mrd. US-Dollar im gleichen Zeitraum geschätzt.
Ein Markt mit großem Wachstumspotenzial
In der Praxis lässt sich Embedded-KI in drei wesentliche Einsatzgruppen aufteilen: funktionale Innovationen, User Interaction und Predictive/Preventive Maintenance. Ersteres ermöglicht neuartige Funktionen, die den Zielnutzen eines Produkts oder Prozesses optimieren oder gar verändern. Als zusätzliches, sich daraus ergebendes Feld wird User Interaction ausgelagert.
Diese erstreckt sich von einfacher Sprach-Befehlseingabe (d.h. KWS, Keyword Spotting) über Gestenerkennung bis hin zu komplexeren Mensch-Maschine-Kollaborationen wie Bedienertracking, Augentracking oder Werkstückerfassung.
Als wohl größte „hidden needs“ vieler Produkthersteller sind aktuell die typischen Wartungsthemen wie die vorausschauende Wartung oder vorbeugende Wartung anzusehen, die über einfaches Condition Monitoring hinausgehen und wirklich frühzeitige und intelligente Vorhersagen über konkrete Fehlerbilder liefern.
„Die meisten Unternehmen wissen oft gar nicht, was in ihren Produkten für Möglichkeiten stecken. Wir haben ein Labor, in denen wir mit modernster Technik Daten sammeln, aber auch in wenigen Stunden Hardware produzieren und für die Serie testen können.“ erklärt Viacheslav Gromov, Geschäftsführer von AITAD.
„Von der Vielzahl der Möglichkeiten, Embedded-KI zu integrieren, sind die meisten unserer Kunden sichtlich überrascht. In den Kunden-Prototypen kommen aber nur die Komponenten, die den größtmöglichen Nutzen für den Kunden und Anwender haben. Der Embedded-KI-Markt ist teilweise noch sehr undurchsichtig. Hier braucht es definitiv noch mehr Aufklärungsbedarf – vom Management bis hin zu den Entwicklern.“
Cloud-KI versus Embedded-KI and Edge AI
Cloud-KI allein ist nur ein Übergang, die Zukunft liegt bei dezentraler Verarbeitung, ist sich Gromov sicher: „Wir arbeiten am Sensor auf der Platine mit derart großen Datenmengen, dass wir sie gar nicht weiter übertragen könnten. Die KI muss sie direkt vor Ort weiterverarbeiten und verwerfen, um die gewollten, tiefgehenden Zusammenhänge aufzuspüren.“
Mit Embedded-KI wird die lokale Verarbeitung großer Datenmengen ermöglicht, sodass das Risiko des Abfangens oder Manipulieren von sensiblen Daten verringert wird. Das führt zu einer höheren Daten- und Systemsicherheit. Ein Gerät muss keine performante Netzwerkinfrastruktur vorhalten, um Daten verarbeiten zu können.
Somit ist eine geringere Konnektivität erforderlich, was die Produktionskosten reduziert. Embedded-KI lebt auf beschränkten Ressourcen, was Stromversorgung (auch Batteriebetrieb), Rechen- und Speicherleistung angeht. Solche Komponenten erfassen und verarbeiten die Daten sofort, und können darauf in Millisekunden reagieren, was bei vielen Anwendungen ein Muss ist. Ebenso kann das Gerät Daten in Echtzeit analysieren und überträgt nur das, was für die weitere Analyse in der Cloud relevant ist (Stichwort: Datenmengen reduzieren).
Dazu Gromov: „Embedded-KI – von Edge-AI zu unterscheiden – ist ein „Game Changer“ und eine junge Technologie, die für Erstnutzer branchenweite USPs schafft. Die Unternehmen müssen beim Produktdesign neu denken. Eine datengetriebene Entwicklung erfordert Langfristigkeit, mit einer für Optimierungen und Updates sowie Praxistests gerüsteter Organisation. Die effiziente Systemvalidierung geht bei solchen KIs auch nur mit Proof-of-Concepts.“
Unternehmen sollten auf Individuallösungen setzen
Der Embedded-KI-Markt ist noch weitgehend unbesetzt, wobei immer mehr Insellösungen oder niederschwellige Angebote hinzukommen. „Wir empfehlen Unternehmen ganz klar einen Ansatz weg von fertigen Insellösungen. Diese können nur begrenzt auf die Bedürfnisse angepasst werden, mit kleineren oder größeren Abstrichen. Individuelle Systemanfertigungen haben einen viel größeren Spielraum,“ so Gromov weiter.
„Das heißt herauszufinden, welches KI-Modell ins Produkt passt, wie sie sich effektiv auf Hardware umsetzen lässt, dafür die entsprechenden Systemkomponenten anhand gesammelter und ausgewerteter Daten zu entwickeln, das Ganze anhand eines Prototyps umzusetzen und in Praxis zu testen. Das klingt am Anfang nach viel Aufwand.“
„Wenn man sich aber anschaut, wie lange das Produkt auf dem Markt ist und welche Vorteile Unternehmen und Nutzer zum Beispiel auch gerade im Bereich Preventive/Predictive Maintenance davon haben, dann lohnt sich die Investition auf jeden Fall.“
Täglich ergibt sich ein ähnliches Bild bei der Produktentwicklung, meint Viacheslav Gromov: „Aufklärung, Ressourcen und Kompetenzen sind das eine. Darüber hinaus gibt es erfahrungsgemäß einige Stolpersteine: Die meisten Mittelständler scheitern bereits an Datenarten. Meistens werden Daten unüberlegt gesammelt – mit falschen Intervallen, Abtastraten, Auflösungen, mit falscher Sensorik oder am falschen Ort.“
„Spätestens sind es aber die spezifischen Anforderungen außerhalb des Standardprozesses, die den Endpunkt der eigenen Entwicklung bedeuten. Probieren Unternehmen beispielsweise ein Machine-Learning-Modell mit DNNs (also sogenannten verzögerten neuronalen Netzen) mit den gängigen Frameworks zu implementieren, stoßen sie schnell an Grenzen. Das geht nur mit eigener Erfahrung und eigens angepassten, halbautomatisierten Werkzeugen.“