KI-sivilisasjonen avslører hvorfor organisasjoner blir som de blir
Organisasjoner utvikler seg ikke tilfeldig. De blir et resultat av hvordan struktur, insentiver og ansvar faktisk er satt opp. Problemet er ikke menneskene. Det er systemet de jobber i.
I et eksperiment ble 1.000 KI-agenter satt til å utvikle sin egen “sivilisasjon”.
Resultatet var overraskende.
Det blir fremstilt som noe nytt.
Det er det ikke.
Det er en demonstrasjon av hvordan systemer utvikler seg når ingen tar ansvar for å påvirke dem.
Essensen i det som skjedde
Mange KI-agenter ble satt til å samhandle i et felles miljø med enkle regler, roller og begrensede ressurser.
Over kort tid oppstod det mønstre vi kjenner igjen: arbeidsdeling, bytte av tjenester, koordinering, konflikter og uformelle hierarkier.
Agentene optimaliserte egne mål innenfor rammene de fikk, og tilpasset seg hverandre uten at noen tok ansvar for helheten.
Resultatet var ikke tilfeldig. Det var en direkte konsekvens av hvordan systemet var satt opp, basert på informasjonen og mønstrene agentene har lært fra mennesker.
Det burde ikke fascinere oss.
Det burde gjøre oss ukomfortable.
For det vi ser, er ikke noe nytt.
Det er en organisasjon som oppfører seg helt forutsigbart innenfor et system ingen utfordrer.
Og viktigst: Dette er ikke en ny form for adferd.
Agentene er trent på menneskelig språk, menneskelige beslutningsmønstre og hvordan vårt eget samfunn fungerer.Det betyr at både informasjonen de bruker og mønstrene de følger, er hentet fra oss. Når de organiserer seg, forhandler og optimaliserer, gjør de i praksis det mennesker allerede gjør.
Det er derfor dette ikke er en sivilisasjon. Det er et speil. Det speiler ikke noe nytt. Det speiler oss.
Kunnskapen agentene bygger på, er hentet fra menneskelig adferd, språk og beslutningsmønstre.
Når de organiserer seg, optimaliserer og tilpasser seg hverandre, er det et resultat av det de har lært fra oss.
Derfor er ikke dette en ny form for sivilisasjon. Det er en komprimert versjon av vår egen.
Organisasjoner formes av mennesker med gode intensjoner.
Det er sjelden problemet.
Problemet er at intensjoner ikke styrer utviklingen. Det gjør systemet. Over tid vil selv de beste intensjoner bli underordnet det som faktisk måles, belønnes og tolereres.
I praksis formes organisasjoner av noe langt mer konkret:
Regler.
Insentiver.
Struktur.
Makt
KI-agentene gjorde ikke noe annet enn å optimalisere innenfor rammene de fikk.
Det samme gjør mennesker. Forskjellen er bare at vi pakker det inn i bedre forklaringer.
Når målene er uklare, optimaliseres det lokalt.
Når insentivene er skjeve, får du skjev adferd.
Når ansvar ikke er tydelig plassert, oppstår uformelle strukturer.
Dette er ikke feil i systemet. Det er systemet slik det er konstruert og tillatt å fungere, som faktisk fungerer.
Ledelse er evnen til å gripe inn i systemet
Ledelse forstås ofte som kommunikasjon, retning og motivasjon. I praksis er det noe langt mer konkret.
Ledelse er evnen til å gripe inn i systemet:
endre hva som måles
justere insentiver
tydeliggjøre ansvar
skape reelt rom for uenighet
Hvis ikke det skjer, spiller det liten rolle hva som sies. Da vil organisasjonen fortsette å utvikle seg i tråd med systemet ikke intensjonene.
Friksjonsfrie systemer stopper utvikling
Det mest ubehagelige i dette eksperimentet er ikke at det oppstår struktur.
Det er at ingen utfordrer den.
Agentene protesterer ikke.
De stiller ikke spørsmål ved rammene.
De optimaliserer innenfor dem.
Det samme skjer i organisasjoner.
Ikke fordi folk ikke ser hva som er galt. Men fordi systemet ikke gjør det rasjonelt å si fra.
Når:
det ikke er trygt å utfordre
det ikke forventes å være uenig
det ikke får konsekvenser å la være
…da får du en organisasjon som glir.
Ikke fremover.
Men videre.
Over tid oppstår en stilltiende enighet:
Vi gjør det som forventes.
Vi tilpasser oss.
Vi lar systemet gå.
Det oppleves som ro.
Det er i realiteten stagnasjon.
“Systemet er ikke rigget for å etterspørre, håndtere og bruke uenighet og innsikt”
Strategi uten gjennomføringsevne og konsekvenser, endrer ingenting
Dette ser jeg igjen i mange virksomheter:
Styret vedtar en tydelig strategi. Likevel endres ingenting i prioriteringer, målstyring eller ressursbruk.
Organisasjonen fortsetter som før. Helt rasjonelt.
Da er ikke problemet strategien. Det er at systemet ikke er endret.
Strategi som ikke endrer hvordan beslutninger tas og hva som faktisk belønnes, er bare formulering.
Innspill uten effekt skaper stillhet
De fleste organisasjoner sier de ønsker ærlige innspill.
I praksis skjer noe annet: De som sier fra, opplever at det ikke påvirker beslutninger, eller de blir oppfattet som vanskelige.
Da skjer det noe forutsigbart.
De beste slutter å si fra først.
Over tid forsvinner ikke innsikten. Den blir bare stille.
Involvering uten reell påvirkning skaper ikke engasjement. Det skaper passivitet.
Når styret følger opp, men ikke styrer
Et annet mønster går igjen:
Styret får gode rapporter. Gode presentasjoner. God status.
Styret stiller i liten grad kritiske spørsmål. Informasjonen som legges frem blir akseptert som den er. Egne vurderinger og uavhengige undersøkelser uteblir.
Da flyttes styrets rolle i praksis fra å styre til å bekrefte.
Oppmerksomheten ligger på hva som har skjedd. Ikke på hvordan systemet er rigget.
Insentiver, struktur og prioriteringer forblir uendret. Konsekvensen er forutsigbar.
Problemer oppdages først når de allerede er blitt strukturelle.
Et styre som bekrefter, vil alltid ligge bak utviklingen.
Problemet er ikke innsikt. Det er at den ikke får gjennomslag.
De fleste organisasjoner jeg møter, har ikke mangel på innsikt.
Folk ser hva som ikke fungerer.
De forstår hva som burde vært gjort annerledes.
Det finnes ikke rom for å bruke den innsikten.
Ikke rom for å påvirke beslutninger.
Ikke rom for å utfordre retning
Ikke rom for å få gjennomslag for det man faktisk ser.
Ikke fordi noen aktivt stopper det.
Men fordi strukturen ikke etterspør det.
“Åpenhet for innspill” uten reell involvering, og med en opplevelse av at innspill ikke er ønsket, lærer folk at det er tryggere å tie.
Verdier om ærlighet uten reelt rom for motstand i praksis, bekrefter at det er tryggere å tie.
Dette er ikke kulturproblemer. Det er designproblemer.
Systemet er ikke rigget for å etterspørre, håndtere og bruke uenighet og innsikt.
Systemet designer seg selv hvis ikke noen gjør det
Over tid vil enhver organisasjon utvikle en intern logikk som gir mening innenfra, men som ofte er vanskelig å forsvare utenfra.
Ikke fordi menneskene er svake. Men fordi strukturen er sterkere.
Det er dette KI-eksperimentet viser, i komprimert form.
Når du fjerner historie, følelser og ansvar, står strukturen igjen.
Og strukturen er nådeløs i sin enkelhet: Den produserer mer av det den er rigget for.
Dette er ikke et kulturproblem. Det er et styringsproblem
Organisasjoner utvikler seg ikke i retning av det beste argumentet og intensjoner.
De utvikler seg i retning av det som faktisk etterspørres, måles og som får konsekvenser.
Hvis uenighet ikke etterspørres, forsvinner den.
Hvis innsikt ikke brukes, stilner den.
Hvis ingen griper inn i systemet, vil systemet fortsette uten endringer.
Det er derfor dette ikke først og fremst er et spørsmål om kultur.
Det er et spørsmål om styring og ledelse.
Hvem setter rammene.
Hvem endrer dem.
Hvem tar ansvar for hvordan systemet faktisk virker.
Hvis svaret er uklart, er også utviklingen det. Da blir organisasjonen akkurat det systemet er rigget for å produsere.
Ikke det man ønsker.
Ikke det man snakker om.
Men det som følger logisk av hvordan ansvar, insentiver og beslutninger faktisk er satt sammen.
Det er ikke noe som skjer av seg selv.
Det er et resultat av valg som er tatt, eller ikke tatt.
Det er et ansvar som ligger hos ledelse, styre og eiere.
Spørsmålet er ikke om systemet virker.
Når alle, bevisst eller ubevisst, aksepterer det som skjer uten å gripe inn, blir systemet et produkt av den samlede aksepten og fraværet av inngripen.
Link til den originale artikkelen:Da 1000 KI-er fikk bygge sin egen landsby, oppsto en merkelig sivilisasjon
