Trend nr. 8: Tiny ML vil revolutionere AI og IoT

Tim Frank Andersen,
stifter af Liveshopper

Klumme fra Tim Frank Andersen: To af de hotteste teknologiområder er ved at fusionere: Machine learning og IoT (Internet of Things). Det vil skabe en eksplosion i brugen ved at bringe intelligente, billigere, mindre energiforbrugende og mere sikre løsninger til markedet.

Området for machine learning-anvendelsen eksploderer allerede. Nye modeller, nye algoritmer og nye applikationer dukker op hver dag. IoT har ligeledes udviklet sig hurtigt over de seneste par år. Det anslås, at der pt. er 250 mia. mikrocontrollere indlejret i enheder verden over. Fx afhænger styringen af alle de elementer, du måtte have i dit smarte hjem, af controllere, der kan aktiveres fra fjernbetjeninger eller mobile apps. Desuden finder du mikrocontrollere i alt fra kontormaskiner, biler, droner, medicinsk udstyr til husholdningsapparater. McKinsey-forskere forudser, at IoT vil have en potentiel økonomisk effekt på 5,5–12,6 billioner dollars i 2030.

Alle disse sensorer har én ting tilfælles: De genererer masser af data på det sted, hvor de er placeret, og disse data bruges i machine learning-applikationer. Dvs. data skal sendes frem og tilbage, hvilket øger reaktionstiden – ikke så smart, hvis det er en sensor, som skal beslutte, om den skal stoppe din bil eller ej!

Men hvad nu hvis vi kunne formindske de involverede deep learning-løsninger, så de kan indlejres i minimale hardware kongurationer, og på den måde forene kunstig intelligens og intelligente enheder? Det er præcis, hvad Tiny ML handler om. Tiny Machine Learning (TinyML) er en ny disciplin, der sker i krydsfeltet mellem machine learning og indlejrede systemer, der giver dig mulighed for at køre machine learning-modeller på laveffekt-mikrocontrollere, som udfører analyse af sensordata på selve enheden med et ekstremt lavt strømforbrug.

Udviklingspotentialet er kæmpestort for TinyML
Jeg ved godt, at det lyder lidt langhåret, men at flytte intelligensen og databehandlingen ud i slutpunktet er en meget stor ting og med et væld af muligheder. Lad mig nævne et par eksempler:

Always-on lyddetektering ville blive meget bedre og kunne integreres i ting som elevatorer, dørlåse og i selvbetjeningsløsninger ved at registrere om en stemmekommando er blevet hørt (tredje sal, tak).

Skovbrande er et voksende problem, men radiostyrede fly kan vise sig at være en løsning, idet de flyver autonomt, mens de kan spore og rapportere om skovbrande ved hjælp af et almindeligt kamera ombord, et satelitmodem og TinyML, der laver billedbehandling i realtid uden datatransmission. 

Rækkeviddeangst er et andet voksende problem, nu hvor salget af elbiler er i voldsom stigning. TinyML leverer meget mere pålidelige forudsigelser af batteriforbrug ved at bruge en lang række data, der er indsamlet under kørslen. Kombineret med smarte ML algoritmer, der også baserer sig på en række faktorer såsom distance, hastighed, temperaturer inde og ude, AC og vejrforhold, vil det give meget præcise data for rækkevidde.

Nedbør kan forudsiges ved at kombinere deep learning og forskellige miljøparametre. Med TinyML kan dette bruges på enheder, der er offline og som skal beslutte, om de skal udføre en handling baseret på, om det kommer til at regne eller ej. For landbrugssektoren vil sådanne løsninger kunne få en enorm betydning.

TinyML på hastig fremmarch
Apple købte for nylig TinyML-startupp’en Xnor.ai. De bruger allerede indbyggede chip algoritmer i deres smartphones, bl.a. når de håndterer de milliarder af beregninger, der sker, hver gang du tager et billede.

Neutons model

Computerchip-producenten ARM er gået sammen med Neuton – en cloud-baseret platform, som tillader udvikling af højtydende machine learning-modeller, der er 1000 gange mindre end dem, vi kender i dag, ved hjælp af Tensorflow eller andre AI-frameworks.

Der er endda kommet et TinyML-netværk, startet af folk fra Google og Qualcomm. De arrangerer meetups rundt om i verden – også i København.

TinyML giver bedre datasikkerhed, lavere strømforbrug og standardisering 
En stor fordel ved TinyML er øget databeskyttelse og sikkerhed, da data (lyd og billeder) behandles lokalt og aldrig forlader enheden. Dette medfører også det ekstremt lave strømforbrug.

IoT-udstyr er i dag typisk specialbygget til et bestemt formål, hvilket gør løsningerne ret dyre. Men da ML-algoritmen er softwarebaseret, kan den samme hardwareenhed nemt omprogrammeres og ændres for at tilpasse sig til en ny brugssituation. Det muliggør masseproduktion af standardenheder, der senere kan konfigureres – og rekonfigureres – til et væld af forskellige applikationer. 

Hvis udviklingen indenfor TinyML fortsætter som jeg tror, kan det meget vel være det IoT-gennembrud, vi har ventet på. Nogle kalder det endda for IoT teknologiens Iphone moment.

En ting er sikkert: Verden er ved at blive smartere og hurtigere.

Jeg forudser, at 2022 bliver året hvor edge-baseret TinyML og IoT konvergerer.

Se de første 7 trends her:

Trend nr. 7: Brain Computer Interfaces

Trend nr. 6: Vi er alle Cyborgs

Trend nr. 5: Den store madrevolution

Trend nr. 4: Sig hej til dine nye virtuelle ansatte

Trend nr. 3: Holoportation giver nyt liv til oplevelsesøkonomi

Trend nr. 2: Metaverse – velkommen til den nye digitale verden

Trend nr. 1: Generation Alpha: Den mest socialt isolerede generation til dato

Klummen er et udtryk for skribentens egen holdning