Det verkliga värdet med edge-AI uppstår först när hela AI-arbetet kan göras direkt i enheten, skriver Stefan Månsby, vd för Stream Analyze.
En gaffeltruck på ett lager vet redan det mesta om sig själv, ända ner till den där halvsekunden av tvekan i hydrauliken som inte fanns förra veckan. Ändå skickar den all sin data till ett datacenter hundratals kilometer bort för att få reda på det den redan har ombord.
Vi har slutat tycka att det är konstigt. Samla in, skicka, bearbeta, skicka tillbaka – vi har gjort så länge att det inte längre ser ut som ett val. Men det håller på att ändras, och det är dags att se över var och hur AI faktiskt används ute vid edge. 
Det mesta som kallas edge-AI körs inte vid edge
Merparten av det som i dag kallas edge-AI körs i praktiken inte där maskinen finns, alltså i gruvan, på lastbilen eller i fabriken. En modell tränas i molnet, fryses och skickas ut till en enhet där den får utföra en enda smal uppgift. Allt annat, som träning, anpassning och uppföljning, sker fortfarande centralt. Det som nu händer är att hela kedjan flyttar in i enheten. Du kan bygga modellen, anpassa den, ställa frågor till den och köra den på plats, på realtidsdata, medan maskinen är i drift – utan att datan först ska till molnet, vidare till verksamheten och tillbaka igen.
Det har varit förvånansvärt tyst om det här. AI-samtalet handlar mest om copiloter, chattbottar och agenter, alltså mjukvara som arbetar med annan mjukvara. IoT-samtalet handlar om sensorer och uppkoppling. Det intressanta händer där de två möts: riktig AI inuti de fysiska tillgångar som ett företag redan har. Jag brukar formulera det som en fråga – vad händer när brödrosten får en egen inbyggd AI? För mig är det nästa stora steg för edge.
Varför har det dröjt?
I många år krävde riktig intelligens i enheten mer beräkningskraft och minne än enheterna hade. AI hamnade därför centralt, och vi vande oss vid att kalla omvägen för arkitektur.
Det som har förändrats är odramatiskt men avgörande. Hela kedjan kan nu köras på helt vanlig hårdvara, både på kraftfulla edge-servrar och på mikrokontroller med några kilobyte minne – av den typ som redan sitter i utrustning som varit i drift i åratal. Tröskeln som en gång gjorde molnet till det självklara valet är betydligt lägre i dag, och i många fall borta.
Vad det betyder i praktiken
En maskin som i realtid kan anpassa sig efter sitt eget slitage, sin egen rutt och sin egen fabrik fattar bättre beslut än en maskin som kör en modell tränad på hela flottans genomsnitt för ett halvår sedan. Det påverkar också marginalerna för företag som i dag skickar ut tekniker för att hämta data, uppdatera och laga enheter på plats, eftersom mycket av det jobbet försvinner.
Sedan har vi tillgängligheten, som betyder mer än man kan tro. När intelligensen sitter i enheten fungerar den även där molnet inte når fram, till exempel i ett fordon mellan två täckningsområden eller på en avlägsen plats med dålig uppkoppling (och ännu sämre budget). Molnets kostnader gör dessutom att många potentiellt värdefulla användningsfall aldrig blir av. När AI kan köras direkt i en brödrost blir de plötsligt ekonomiskt rimliga.
Det fungerar redan
I en av Bolidens gruvor, på omkring 1600 meters djup där uppkopplingen är för dålig för att skicka någonting alls, körs en modell direkt på en hjullastare från Volvo. Den förutser växellådshaverier tio till tolv timmar innan de inträffar. Modellen är byggd, driftsatt och uppdaterad på maskinen, i samarbete med Högskolan i Halmstad, RISE och AI Sweden. Förvarningen räcker för att köra ut lastaren för egen maskin, i stället för att skicka ner en tekniker till en maskin som redan har stannat.
På Autolivs produktionslinjer tog det tidigare månader att flytta en kvalitetskontroll från en fabrik till en annan. Nu körs den som en samlad flotta i Frankrike, Mexiko och USA.
Tillsammans med HMS Networks körs anomalidetektering i realtid, som fångar den sortens intrång som gömmer sig i industriell nätverkstrafik. Allt ryms på sju megabyte i en enhet med 128 megabyte minne, utan server och utan att data behöver lämna enheten.
Vart vi är på väg
I tio år har “att göra AI” betytt att bygga ännu en sak i molnet. Nästa fas märks mindre men blir större. Intelligensen flyttar ut i den fysiska verksamhet som företagen redan driver: maskinerna, sensorerna och utrustningen som hela tiden har genererat data och skickat iväg den för att någon annan ska tolka den.
Omvägen via molnet var rimlig så länge intelligensen inte kunde finnas någon annanstans. Nu kan den det. För den som driver maskiner ute i fält är det värt att gå igenom vilka beslut som i dag väntar på en tur och retur till molnet, och hur många av dem maskinen lika gärna kunde fatta själv.
