Hva bør vi aldri delegere til AI – selv om AI kan gjøre det?
Når AI begynner å handle – artikkel 5
AI kan analysere alternativene, vurdere risikoen og anbefale en beslutning. Etter hvert kan den også gjennomføre den. Men det betyr ikke at alle beslutninger bør overlates til AI. Noen avgjørelser må virksomheten fortsatt kunne forstå, begrunne og stå for selv.
Diskusjonen om AI begynner ofte med mulighetene.
Kan AI vurdere jobbsøkere?
Kan den avgjøre hvilke kunder som skal prioriteres?
Kan den bestemme hvem som får kreditt, hvilke krav som skal forfølges, eller hvilke medarbeidere som skal følges tettere opp?
Det tekniske svaret vil stadig oftere være ja.
Men «kan» er ikke det samme som «bør».
Når AI blir i stand til å utføre flere vurderinger, trenger virksomheten en grense som ikke flytter seg automatisk hver gang teknologien får en ny funksjon.
Den grensen handler ikke først og fremst om hva AI mestrer.
Den handler om hva du fortsatt må være villig til å ta ansvar for selv.
Noen beslutninger følger regler. Andre uttrykker verdier
Mange oppgaver egner seg godt for automatisering.
AI kan sortere store informasjonsmengder, kontrollere om vilkår er oppfylt, oppdage avvik og foreslå neste steg. Når reglene er tydelige og konsekvensene begrensede, kan dette gi både bedre kvalitet og raskere behandling.
Men ikke alle beslutninger er en anvendelse av regler.
Noen uttrykker hva virksomheten mener er viktig.
Hvor stor risiko er vi villige til å ta?
Hvor langt skal vi gå for å beholde en kunde?
Hva skylder vi en medarbeider som ikke lenger leverer som forventet?
Skal vi velge den mest lønnsomme løsningen dersom den samtidig rammer noen urimelig hardt?
Her finnes det ikke nødvendigvis ett riktig svar som kan beregnes frem.
Beslutningen sier noe om hvem virksomheten ønsker å være.
AI kan hjelpe deg med å se alternativene og konsekvensene. Men den bør ikke alene få definere hvilke hensyn virksomheten skal prioritere.
Det er en lederoppgave.
Når noen har krav på en forklaring
Tenk deg at en medarbeider ikke får en stilling, en kunde får avslag eller en leverandør blir valgt bort.
Virksomheten kan kanskje dokumentere at AI vurderte saken etter fastsatte kriterier.
Men den som rammes, spør ikke bare hvordan modellen regnet.
Vedkommende spør:
Hvorfor valgte dere dette?
Da holder det ikke alltid å vise til en poengsum, en rangering eller en anbefaling.
Noen beslutninger skaper et krav om en forklaring fra en rolle som både forstår avgjørelsen og har myndighet til å stå for den.
Det betyr ikke at AI må holdes utenfor. Den kan sammenstille informasjon, gjøre vurderingsgrunnlaget bedre og synliggjøre forhold du ellers kunne oversett.
Men dersom ingen i virksomheten kan forklare beslutningen uten å gjenta det systemet har sagt, har virksomheten gitt fra seg mer enn analysearbeidet.
Den har gitt fra seg sin egen begrunnelse.
Når beslutningen endrer et annet menneskes handlingsrom
Noen avgjørelser handler ikke bare om interne prioriteringer.
De påvirker hva andre får mulighet til å gjøre.
En medarbeider mister ansvar eller arbeid. En søker mister en mulighet. En kunde får ikke tilgang til en tjeneste. En leverandør stenges ute fra et marked. En eier får redusert innflytelse.
Jo større konsekvens beslutningen får for den andre, desto svakere blir begrunnelsen for å overlate den fullt ut til et system.
Ikke fordi mennesker alltid vurderer bedre.
Det gjør vi åpenbart ikke.
Vi kan være inkonsekvente, forutinntatte og påvirket av forhold som ikke burde telle. AI kan i enkelte situasjoner gjøre slike svakheter synlige og bidra til mer konsistente vurderinger.
Men konsistens er ikke det samme som legitimitet.
Når virksomheten bruker sin makt overfor andre, bør det finnes en identifiserbar beslutningstaker som kan vurdere helheten, ta imot innsigelser og endre avgjørelsen.
Den rollen kan ikke reduseres til å trykke «godkjenn» på det AI allerede har bestemt.
Når det som teller, ikke kan telles fullt ut
AI arbeider med informasjon som kan gjøres tilgjengelig for systemet.
Det skaper en fristelse til å behandle det målbare som om det også er det viktigste.
En kandidat har lavere score enn en annen. En kunde har høyere forventet risiko. En avdeling har svakere produktivitet. Et tiltak har dårligere beregnet lønnsomhet.
Slike vurderinger kan være relevante.
Men tallene forteller ikke nødvendigvis hele historien.
Kanskje kandidaten har en erfaring virksomheten trenger, men som ikke passer inn i kriteriene. Kanskje kunden har havnet i en midlertidig situasjon. Kanskje avdelingen løser problemer som aldri blir registrert i produktivitetsmålingen. Kanskje det minst lønnsomme tiltaket er avgjørende for tillit eller langsiktig posisjon.
Dette betyr ikke at du skal se bort fra analysen.
Det betyr at du må vite hva analysen ikke fanger opp.
Hvis ingen forstår begrensningene i beslutningsgrunnlaget, kan AI gjøre virksomheten mer konsekvent – og samtidig mer konsekvent feil.
Når beslutningen er vanskelig å gjøre om
En annen grense går ved beslutninger som er irreversible eller svært kostbare å reversere.
Det er forskjell på at AI velger tidspunktet for en utsendelse, og at den avslutter et kundeforhold.
Det er forskjell på å foreslå en kontering og å gjennomføre en stor betaling.
Det er forskjell på å prioritere en arbeidsliste og å si opp en medarbeider.
Jo vanskeligere det er å gjenopprette situasjonen, desto viktigere er det at noen stopper opp før handlingen gjennomføres.
Ikke bare for å kontrollere om AI har brukt riktige data.
Men for å ta stilling til om beslutningen faktisk bør tas.
Her er ikke et rutinemessig kontrollpunkt tilstrekkelig. Den som beslutter, må ha tid, forståelse og reell myndighet til å velge annerledes.
Grensen bør trekkes før verktøyet anskaffes
Mange virksomheter begynner i feil ende.
De kjøper en løsning, ser hvilke funksjoner den har og bestemmer deretter hvordan den skal brukes.
Da blir teknologiens muligheter utgangspunktet for virksomhetens grenser.
Det bør være motsatt.
Før AI kobles inn i en viktig arbeidsprosess, bør ledelsen ha tatt stilling til:
- Hvilke vurderinger kan AI utføre selvstendig?
- Hvilke beslutninger kan AI forberede, men ikke ta?
- Når skal den som berøres, kunne få saken vurdert på nytt?
- Hvem skal forstå og kunne forklare avgjørelsen?
- Hvilke handlinger krever en navngitt beslutningstaker?
- Hvilke beslutninger ønsker virksomheten aldri å automatisere fullt ut?
Den siste kategorien er viktig.
Ikke fordi grensene nødvendigvis skal være de samme for alltid. Men fordi de ikke bør flyttes ubemerket hver gang leverandøren lanserer en ny mulighet.
Fire tegn på at beslutningen ikke bør delegeres fullt ut
Det finnes neppe en liste som passer for alle virksomheter.
Men fire kjennetegn bør få deg til å stoppe:
1. Beslutningen uttrykker virksomhetens verdier.
Det finnes flere forsvarlige alternativer, og valget handler om hvilke hensyn virksomheten vil prioritere.
2. Beslutningen får store konsekvenser for andre.
Den påvirker arbeid, økonomi, muligheter, rettigheter eller relasjoner på en måte som er vanskelig å reparere.
3. Den som rammes, har et rimelig krav på en ansvarlig forklaring.
Virksomheten må kunne svare med egne ord – ikke bare gjengi systemets resultat.
4. Beslutningen krever at noen står for den.
Ikke bare formelt, men også når den blir utfordret av en kunde, medarbeider, eier eller offentlighet.
Når flere av disse kjennetegnene er til stede, bør AI være rådgiver, analyseverktøy eller saksforbereder.
Ikke den endelige beslutningstakeren.
Det viktigste du ikke bør delegere
AI kan hjelpe virksomheten med å ta bedre beslutninger.
Den kan finne informasjon du ikke har sett, avdekke inkonsekvens og vise konsekvenser som ellers ville vært vanskelige å få oversikt over.
Derfor er ikke løsningen å holde AI borte fra alle viktige spørsmål.
Men du bør skille mellom å bruke AI i beslutningen og å overlate beslutningen til AI.
Det viktigste virksomheten ikke bør delegere, er retten til å slippe å ta stilling.
Noen må fortsatt velge hvilke hensyn som skal veie tyngst.
Noen må kunne forklare valget til den som rammes.
Noen må kunne ombestemme seg.
Og noen må være villig til å si:
Dette var vår beslutning. Vi brukte AI som støtte, men vi står selv for resultatet.
Teknologien kommer til å flytte grensen for hva AI kan gjøre.
Den bør ikke alene få flytte grensen for hva virksomheten er villig til å overlate.
Den grensen må dere trekke selv.
