[object Object]
Når systemet virker, men ingen forstår det
Teknisk gjeld oppstår når raske eller kortsiktige valg gjør et system dyrere å endre senere. Koden kan fungere, men strukturen, testene eller dokumentasjonen er ikke gode nok til at videreutviklingen går trygt og effektivt.
AI introduserer en beslektet utfordring: kognitiv gjeld. Den oppstår når virksomheten produserer mer enn menneskene som har ansvaret klarer å forstå, kontrollere og forklare.
Systemet kan være teknisk ryddig og likevel ha høy kognitiv gjeld. Koden følger etablerte mønstre, dokumentasjonen ser komplett ut og løsningene passerer testene. Problemet viser seg først når ingen kan svare sikkert på hvorfor løsningen er bygget slik, hvilke antakelser den bygger på eller hva som skjer hvis en viktig del endres.
AI gjør produksjon billigere enn forståelse
Med AI kan en utvikler produsere kode, tester, dokumentasjon og konfigurasjon raskere. Det samme gjelder innholdsmodeller, analyser og beslutningsgrunnlag. Produksjonskapasiteten øker, men tiden til å forstå helheten øker ikke automatisk.
Da kan organisasjonen få:
- mer kode enn teamet rekker å gjennomgå ordentlig
- flere abstraksjoner enn problemet krever
- dokumentasjon som beskriver løsningen uten å forklare valgene
- tester som bekrefter implementasjonen, men ikke behovet
- avhengigheter og integrasjoner ingen har vurdert konsekvensene av
- beslutninger som videreføres fordi de ser gjennomarbeidet ut
AI kan også gjenta en misforståelse konsekvent. Resultatet blir ryddig og omfattende, men bygget på feil premiss.
Kognitiv gjeld vokser gjennom små godkjenninger
Teknisk gjeld er ofte synlig som duplisert kode, gamle avhengigheter eller manglende tester. Kognitiv gjeld er vanskeligere å måle. Den bygges opp hver gang noen godkjenner noe de bare delvis forstår, fordi resultatet ser rimelig ut og neste oppgave venter.
Etter hvert blir endringer risikable. Teamet tør ikke fjerne en komponent fordi ingen vet hvem som bruker den. En regel beholdes fordi ingen kjenner bakgrunnen. En AI-integrasjon fortsetter å bruke en datakilde ingen lenger har ansvar for.
Slik reduserer du kognitiv gjeld
Begrens mengden som endres samtidig
Små, avgrensede leveranser er enklere å forstå og kontrollere. AI bør ikke brukes til å produsere store mengder kode eller innhold bare fordi det er mulig.
Krev forklarbare valg
Dokumenter hvorfor en løsning ble valgt, hvilke alternativer som ble vurdert og hvilke forutsetninger som gjelder. En teknisk beskrivelse alene er ikke nok.
La ansvarlige mennesker eie resultatet
Den som godkjenner en endring må kunne forklare den og håndtere konsekvensene. AI kan bidra i arbeidet, men kan ikke eie arkitekturen, datamodellen eller risikoen.
Fjern det som ikke trengs
Mer generert materiale gir ikke nødvendigvis mer verdi. Slett unødvendige abstraksjoner, dokumenter og regler før de blir en del av systemets antatte sannhet.
Bevar sammenhengen mellom behov og løsning
Krav, beslutninger, kode, tester og dokumentasjon bør peke tilbake på det faktiske problemet. Da blir det lettere å oppdage når en teknisk riktig løsning ikke lenger løser riktig behov.
Seniorkompetanse blir en motvekt
AI reduserer tiden det tar å lage et forslag. Det øker verdien av erfaringen som kan vurdere hva som bør bygges, hva som bør fjernes og hvilke konsekvenser som ikke er synlige i første versjon.
Målet er ikke at mennesker skal forstå hver detalj uten hjelp. Målet er at virksomheten skal eie nok kunnskap til å ta ansvarlige beslutninger om systemet. Ellers kan lavere produksjonskostnad i dag bli høyere endringskostnad i morgen.