Automatik der cacher en forkert

Et automatiseret system kan arbejde upåklageligt i måneder og så

Et automatiseret system kan arbejde upåklageligt i måneder og så stoppe fuldstændigt uden nogen åbenlys fejlmelding. Det sker typisk ikke, fordi koden er dårlig, men fordi systemet husker noget forkert om verden omkring det og aldrig stiller spørgsmålstegn ved den antagelse. Det er præcis det, der skete hos en virksomhed, der fra den ene time til den næste gik fra at behandle omkring 1500 opgaver dagligt til nul.

Alt arbejde stoppede fra 1500 opgaver om dagen til nul

Der var ingen gradvis opbremsning. Sagsbehandlingen kørte som normalt, og et øjeblik senere lå den helt stille. Ingen fejlbeskeder dukkede op i de almindelige logfiler, ingen alarmer blinkede rødt, og medarbejderne, der fulgte processen, kunne ikke se nogen åbenlys årsag. Det eneste, de kunne konstatere, var at opgavekøen voksede, mens det styrende system forblev tavst.

Den slags stilhed er ofte det mest foruroligende tegn. Et system, der fejler højlydt, er nemt at rette. Et system, der stopper uden at protestere, har som regel mistet kontakten med den virkelighed, det skal reagere på. I dette tilfælde lå problemet ikke i selve arbejdsopgaverne eller i forretningslogikken, men i en lille, ubemærket detalje om, hvordan systemet holdt styr på en ekstern ressource.

Sådan opstod fejlen - et system genstartede tomt, men ingen fortalte det til det styrende system

Årsagen var en klassisk arkitekturfælde. Et underliggende system, som det styrende system var afhængigt af, genstartede på et tidspunkt og kom op igen i en tom tilstand. Det er i sig selv ikke unormalt. Problemet opstod, fordi det styrende system aldrig fik besked om genstarten. I stedet havde det tidligere gemt en antagelse om, hvordan ressourcen så ud, og den antagelse blev aldrig opdateret.

Når et system cacher en tilstand for at spare tid og beregningskraft, er det normalt en fornuftig optimering. Problemet opstår, når cachen bliver den eneste kilde til sandhed, og systemet aldrig sammenligner den gemte antagelse med den faktiske tilstand. Her var der ingen mekanisme, der fangede forskellen mellem det, systemet troede, og det, der faktisk var sandt efter genstarten. Resultatet var, at hver eneste ny opgave blev afvist eller sat i kø ud fra en forudsætning, der ikke længere eksisterede.

Hvorfor hver gentagelse bekræftede den forkerte antagelse i stedet for at rette den

Det, der gjorde fejlen særligt sej at opdage, var systemets egen logik for fejlhåndtering. Når en opgave stødte på den forkerte antagelse, reagerede systemet, som det var designet til: det prøvede igen. Men fordi den underliggende årsag ikke blev rettet mellem forsøgene, endte hvert nyt forsøg med samme resultat. I stedet for at eskalere problemet eller flagge en uoverensstemmelse, blev fejlen bare gentaget igen og igen, uden at nogen alarm nogensinde gik af.

Det er en vigtig pointe for enhver, der bygger automatiserede processer. Et genforsøg er kun en god løsning, hvis den faktiske fejlkilde kan ændre sig mellem forsøgene. Hvis fejlen stammer fra en statisk, forkert antagelse i selve systemet, vil et utal af genforsøg aldrig løse noget. De vil blot forlænge tiden, det tager at opdage, at noget er fundamentalt galt. I praksis fungerede retry-logikken her som en slags støjdæmper, der skjulte problemet i stedet for at afsløre det.

Et genforsøg er kun en god løsning, hvis den faktiske fejlkilde kan ændre sig mellem forsøgene.

Løsningen - tjek den faktiske tilstand hver gang, aldrig en gemt aflæsning

Den endelige løsning var konceptuelt enkel, men krævede en ændring i selve designfilosofien. I stedet for at stole på en gemt antagelse om ressourcens tilstand, blev systemet ændret til at forespørge den faktiske, aktuelle tilstand, hver gang det havde brug for den. Det betyder en lille ekstra omkostning i form af en ekstra forespørgsel, men den omkostning er forsvindende lille sammenlignet med risikoen for, at hele driften går i stå uden varsel.

Dette er et velkendt princip i solidt systemdesign: cache for ydeevne, men aldrig for beslutninger, der afgør, om arbejdet kan fortsætte eller ej. Når en antagelse er kritisk for, om noget lykkes eller fejler, skal den valideres direkte op mod virkeligheden i det øjeblik, beslutningen træffes. En cachet værdi kan være nyttig som et hurtigt gæt, men den må aldrig være den eneste kilde, systemet handler ud fra, når konsekvenserne af at tage fejl er total driftsstop.

Hvad dette betyder for dit eget automatiserede setup

De fleste virksomheder, der arbejder med AI-værktøjer og automatisering, bygger i dag kæder af systemer, der er afhængige af hinanden: et system kalder et andet, som igen henter data fra et tredje. Hver af disse forbindelser er et sted, hvor en forkert antagelse kan gemme sig og ligge uopdaget, indtil den ene dag udløser noget uventet.

Som selvstændig AI-konsulent for små og mellemstore virksomheder ser jeg ofte, at den slags sårbarheder bliver overset, fordi de ikke viser sig i den almindelige test af systemet. De dukker kun op, når en ekstern afhængighed ændrer sig uventet, og det er præcis derfor, de er så farlige. Mit mål er at gøre AI brugbar for virksomheder uden et teknisk udgangspunkt, og en vigtig del af det arbejde handler om at stille de ubehagelige spørgsmål, før systemet selv stiller dem på den hårde måde: Hvad sker der, hvis denne forbindelse forsvinder et øjeblik? Husker vi noget, vi burde tjekke i stedet?

01 / 01

Et øjeblik…

Henter spørgsmål…

1 / 4

Vælg ydelse

Henter ydelser…