Wie ein Start-up maschinelles Lernen mit Sensoren verbindet

Pete Warden, der ehemalige technische Leiter von Googles TensorFlow Mobile Team, hat ein Start-up gegründet, das Systeme für Machine Learning (ML) in Sensoren integriert. Die Idee zu Useful Sensors entstand, als er feststellte, dass das Modell der Software-Frameworks, was für die Einführung von ML genutzt wird, nicht bei allen Gerätetypen gleichermaßen gut funktioniert. Also überlegte Warden, wie man ML-Funktionen mit kleinen und preiswerten Modulen wie Sensoren zugänglicher machen könnte.

Die Integration von ML in kleine Geräte ist nichts Neues. Denn viele der uns bekannten Mobiltelefone kombinieren diese Art von Systemen der künstlichen Intelligenz (KI), um zum Beispiel Lieder zu identifizieren oder Nutzungsmodi für Kameras, wie Nachtsicht, einzurichten. Allerdings stellt die Implementierung von KI in kleinere Gerätetypen eine große Herausforderung dar. Und so kommt das, was wir TinyML nennen, ins Spiel.

Denn vereinfacht gesagt, bringt TinyML Machine-Learning-Lösungen auf kleine Hardware und trainiert sie für eine bestimmte Funktion, ohne dass die Trainingsdaten extern verarbeitet werden müssen. Dadurch ist es möglich, lokal aktualisierte ML-Modelle auf dem Gerät selbst zu generieren, die zum Beispiel einen intelligenten Lautsprecher mit einem neuen Auslösewort trainieren oder einen industriellen Prozess auf den ML-Sensoren selbst ändern können. Hierbei handelt sich also um ein Echtzeit-Training, das nicht in der Cloud oder auf großen Servern mit ML-Systemen, sondern am Rande des Systems durchgeführt wird.

Pete Warden gilt als TinyML-Experte und ist Mitautor des Buches „TinyML: Machine Learning with TensorFlow Lite on Arduino and Ultra-Low-Power Microcontrollers“.

Das erste Produkt von Useful Sensors ist der sogenannte Person Sensor. Er verwendet ein Kameramodul, das mit Algorithmen vorprogrammiert ist, um Gesichter in der Nähe zu erkennen und über eine einfache Schnittstelle Informationen darüber liefert, wo sie sich befinden. Dabei ist der Sensor so konzipiert, dass er in größere Systeme integriert werden kann, um beispielsweise einen Kioskbildschirm aus dem Ruhemodus zu aktivieren, wenn sich jemand nähert, ein Mikrofon stumm zu schalten, wenn niemand anwesend ist, oder Ventilatoren auf eine Person zu richten. Auf der Sparkfun-Entwicklerseite ist der Sensor für 10 Dollar erhältlich.

Mit der gedanklichen Planung gehen aber auch Sorgen über einen möglichen Missbrauch einher, den die Verbreitung vertraulicher Daten über Kameras und Mikrofone mit sich bringen würde. Daher beschloss Pete Warden, die ML-Verarbeitung vom zentralen Mikrocontroller auf Peripheriegeräte – in diesem Fall Sensoren – zu verlagern, die laut ihm sicherer und einfacher zu entwickeln sind. Außerdem ist ihre Angriffsfläche sehr klein, da sie keinen gemeinsamen Speicher mit dem Rest des Systems haben. Zudem können sie von Dritten überprüft werden, um die Zuverlässigkeit sicherzustellen.

Anwendungen und Trends bei TinyML

In verschiedenen Branchen besteht eine große Nachfrage nach TinyML. In der Industrie können Maschinen mit ML-Sensoren beispielsweise lernen, Geräusche oder Vibrationen zu erkennen, die auf Probleme hinweisen, und Warnmeldungen senden. Dadurch können Bewertung vorgenommen werden, bevor sie ihren Betrieb einstellen. TinyML kann aber auch für eine verfeinerte Verfolgung von Gegenständen und Waren in Produktionslinien eingesetzt werden. Darüber hinaus können im Gesundheitswesen Wearables mit TinyML beispielsweise Herzfrequenz- und Temperaturdaten lokal oder von Insulinpumpen verarbeiten, um geeignete Maßnahmen vorzuschlagen – und all das ohne Internetzugang.

Aufgrund von Merkmalen wie niedriger Latenz, effektiver Bandbreitennutzung, Datenschutz und Sicherheit sowie Kostenreduzierung eröffnet die Weiterentwicklung von TinyML allerdings auch neue Perspektiven im Bereich des Internets der Dinge (IoT). Denn dank dieser Eigenschaften können IoT-Geräte auch ohne ständigen Zugang zu Cloud-Diensten zuverlässig funktionieren. Insbesondere an Orten mit unzureichenden Konnektivitätsressourcen kann TinyML KI-Analysen lokal durchführen und so erhebliche Vorteile für IoT-Dienste gewährleisten.

Laut ABI Research demokratisieren TinyML-Anbieter TinyML-Lösungen in rasantem Tempo, wobei der TinyML-Software-as-a-Service (SaaS)-Markt bis 2022 voraussichtlich 220 Millionen Dollar übersteigen und ab 2025 zu einer relevanten Komponente werden wird. Außerdem hat das Segment der TinyML-SaaS und der damit verbundenen professionellen Dienstleistungen das Potenzial, bis 2030 ein Milliardenmarkt zu werden. Denn ein weiteres Indiz für die Verbreitung von TinyML-Lösungen in letzter Zeit ist das Wachstum der TinyML Foundation, in der die meisten der führenden Anbieter in diesem Bereich zusammengeschlossen sind.

Sensorsysteme in Umgebungen und Audioverarbeitung bleiben die häufigsten Anwendungsfälle von TinyML, wobei laut ABI Research bis 2022 fast 50 % des Marktes auf Sound-Architekturen entfallen werden. „Alle sensorischen Daten in Umgebungen werden sich wahrscheinlich auf ein ML-Modell stützen“, betont David Lobina, Forschungsanalyst für künstliche Intelligenz und maschinelles Lernen bei ABI Research. Darüber hinaus werden die größten Zuwächse demnächst bei den Geräten für den persönlichen Gebrauch und den Arbeitsbereich zu verzeichnen sein.

Allerdings gibt es auch in diesem Bereich Fallstricke, für die es nach Ansicht von ABI Research gut erkennbare Lösungen gibt. „Die physikalischen Beschränkungen von TinyML-Geräten sind echt. Diese Geräte eignen sich für kleine und kompakte ML-Modelle, die für bestimmte Anwendungsfälle Innovationen auf Softwareebene erfordern. Die Softwareanbieter werden auf dem TinyML-Markt am aktivsten sein“, erklärt Lobina.