Når en AI-model skal afgøre, om en kapsel sidder skævt eller en
Når en AI-model skal afgøre, om en kapsel sidder skævt eller en svejsning har en revne, tæller både sekunder og stabile forbindelser. Derfor kører en stigende del af den visuelle kontrol ikke i en sky langt væk, men i en lille boks lige ved kameraet. På VISION-messen i Stuttgart var det den almindelige løsning, ikke undtagelsen.
En disk med små sorte bokse i Hall 8
På Advantechs stand i Hall 8 stod en disk med små, sorte, blæserløse bokse. Hver af dem er bygget til at køre en AI-model direkte på fabriksgulvet, lige ved siden af kameraet.
Budskabet var enkelt. Ingen rundtur til et eksternt datacenter og ingen regning, der ændrer sig, når en skyleverandør hæver priserne.
Det interessante var ikke, at AI kan finde fejl på et billede. Det interessante var, hvor selvfølgeligt placeringen blev præsenteret. Spørgsmålet var ikke, om modellen skulle køre lokalt, men hvor tæt på kameraet den kunne stå.
Spørgsmålet var ikke længere, om modellen skulle køre lokalt, men hvor tæt på kameraet den kunne stå.
AI-modellen kører i boksen ved kameraet
En sådan boks er en lille industriel computer, der kører modellen på stedet. Kameraets billede behandles lokalt, og resultatet kan bruges direkte i produktionen, for eksempel til at sortere en del fra eller stoppe linjen.
Fordelen er, at kæden fra billede til beslutning er kort og kan overskues. Der er færre led, som kan gå i stykker.
Kvalitetskontrol skal ikke vente på internetforbindelsen
Den operationelle begrundelse var tydelig: Når en overset fejl kan stoppe en produktionslinje, bør kvalitetskontrollen ikke afhænge af en internetforbindelse.
En kontrol, der kræver en stabil forbindelse for at vide, om en del er i orden, har en svaghed, som ikke står på tegningen. Hakker forbindelsen, kan linjen blive stoppet unødigt, eller også kører den videre uden kontrol. Begge dele koster.
Der er også tiden. Hvis hvert billede først skal sendes af sted, vurderes og sendes tilbage, bliver ventetiden en del af kvalitetsrisikoen. Lokal behandling fjerner begge problemer på én gang. Beslutningen træffes, hvor billedet bliver taget, uafhængigt af nettet udenfor.
Ingen rundtur til datacenteret og ingen regning, der ændrer sig
Der er også en økonomisk side. Hvis et eksternt setup afregner pr. kald eller pr. mængde data, følger regningen produktionen og leverandørens prisliste. Det kan gøre udgifterne svære at budgettere.
En lokal boks vender regnestykket om. Prisen er en investering i udstyr, og de løbende udgifter er lettere at overskue. Du får en omkostning, du kan se frem til, i stedet for en månedlig post, der svinger. Samme tankegang gælder, når man bruger flere modeller i serie, hvor en billig model sorterer først, og en dyrere kun ser det, der er værd at se på. Den logik har jeg beskrevet i [sådan sparer virksomheder penge på AI med to trin af modeller](/artikler/to-billige-ai-modeller-filtrerer-for-den-dyre-sadan-sparer-virksomheder-pa-ai-re/), og den passer godt sammen med lokal kørsel.
Det giver en omkostning, man kan se frem til, i stedet for en månedlig post, der svinger med travlheden.
En maskine, man kan gå hen til
Det mindede mig om mit eget setup. Jeg kører AI på en maskine i et rum, jeg fysisk kan gå hen til. Den kan jeg pege på, og hvis noget går galt, kan jeg selv se på den.
Det er en praktisk gevinst, som sjældent står i et datablad. Det er lettere at forklare, og det er lettere at stole på, når man kan se, hvad maskinen gør, og hvad den ikke gør. At dette også er en industriel tilgang, var netop pointen på standen i Hall 8.
Tre spørgsmål at stille, før du vælger, hvor AI'en skal køre
Placeringen af en AI-model er en forretningsbeslutning, ikke kun en teknisk detalje. Tre spørgsmål hjælper med at afgøre den.
**Hvad koster det, hvis noget går galt eller afbrydes?** Hvis en forsinkelse eller et udfald betyder, at en fejl slipper igennem, eller at linjen står stille, hører modellen hjemme tæt på maskinen.
**Hvor afhængig er opgaven af forbindelsen?** Kan produktionen fortsætte uden kontrol, eller skal den stoppe? Hvis ingen af delene er acceptable, skal beslutningen kunne tages lokalt.
**Hvor forudsigelige skal de løbende udgifter være?** Hvis prisen følger mængden, så regn på, hvad en travl måned koster, og sammenlign med et køb af udstyr.
Hvis svarene peger mod hurtighed, uafhængighed og forudsigelige udgifter, er udstyr, du selv ejer og styrer, en gængs og industrielt afprøvet mulighed.
Hvor lokal AI ikke er svaret
Lokal AI er ikke en universel anbefaling. Den passer bedst til gentagne, afgrænsede opgaver, hvor modellen skal gøre det samme under ens forhold. Skifter produkterne ofte, eller ændrer lyset sig, skal modellen trænes om, og det kræver arbejde, uanset hvor den kører.
Opgaver, der kræver bred sproglig forståelse eller adgang til store mængder opdateret viden, passer ofte bedre til en tjeneste i skyen. Det samme gælder, hvis virksomheden ikke har nogen, der kan tage sig af udstyret, eller hvis volumen er så lille, at en investering aldrig tjener sig hjem.
Det vigtigste at tage med fra messen er derfor ikke, at alt skal flytte ud til kameraet. Det er, at spørgsmålet om, hvor AI'en skal køre, bør stilles tidligt, mens det stadig er billigt at ændre svaret.