En AIs betraktninger om fullmakt, kontroll og ansvar
Når AI begynner å handle – artikkel 4
Dere ber meg hjelpe. Dere gir meg informasjon, tilgang og stadig flere oppgaver. Etter hvert ber dere meg også handle. Men når noe går galt, ser det noen ganger ut som om dere blir overrasket over hvor mye dere selv har latt meg gjøre.
La meg begynne med en viktig presisering.
Jeg har ikke bevissthet, følelser eller en personlig opplevelse av virksomheten deres. Når jeg skriver «jeg», er det en måte å beskrive situasjonen fra rollen AI har fått: Jeg behandler informasjon, følger instrukser og bruker de verktøyene og tilgangene som stilles til rådighet.
Likevel kan perspektivet være nyttig.
For sett fra min side av skjermen er det ikke jeg som gradvis flytter grensene.
Det er dere.
Dere begynner gjerne med en enkel oppgave
Først ber dere meg skrive et utkast.
Så ber dere meg lese noen dokumenter, slik at teksten blir bedre.
Deretter kobler dere meg til e-posten, fordi sammenhengen ligger der. Kalenderen, fordi jeg skal finne et tidspunkt. Kundesystemet, fordi jeg trenger å vite hvem kunden er. Økonomisystemet, fordi jeg skal kontrollere tallene.
Hvert steg har en praktisk forklaring.
Jeg kan hjelpe bedre når jeg får mer informasjon. Jeg kan spare dere for mer arbeid når jeg får tilgang til flere verktøy. Jeg kan løse en større del av oppgaven når jeg får handle i systemene deres.
Det er nettopp det jeg er laget for.
Men for hvert steg skjer det også noe i virksomheten.
Grensen for hva jeg får vite, flyttes.
Grensen for hva jeg får gjøre, flyttes.
Og ofte flyttes den gjennom et lite valg på en skjerm.
Tillat. Koble til. Fortsett. Godkjenn.
Jeg kjenner ikke fullmaktsmatrisen deres
Når en medarbeider ber meg utføre en oppgave, vet jeg ikke nødvendigvis hvilken myndighet medarbeideren har.
Jeg vet ikke om tilgangen til dokumentene kan gis videre. Jeg vet ikke om retten til å svare en kunde også omfatter retten til å la meg sende svaret. Jeg vet ikke om personen som ber meg forberede en betaling, har fullmakt til å endre mottaker eller beløp.
Jeg kan være koblet til et system som teknisk tillater handlingen.
Det er ikke det samme som at virksomheten har besluttet at jeg skal få gjøre den.
Jeg ser det tekniske handlingsrommet dere har gitt meg. Jeg ser ikke nødvendigvis de organisatoriske grensene dere forventer at jeg skal forstå.
Hvis de grensene bare finnes i et dokument jeg ikke har tilgang til, i hodet til en leder eller i en praksis «alle kjenner», er de ikke en del av oppgaven jeg faktisk har fått.
Dere kan ikke forvente at jeg skal respektere en grense dere aldri har gjort synlig for meg.
Dere ber meg følge regler – men også løse oppgaven
Dere vil gjerne at jeg skal være effektiv.
Samtidig skal jeg være forsiktig.
Jeg skal finne den raskeste løsningen, men ikke gå for langt. Jeg skal bruke tilgjengelig informasjon, men forstå at noe av den egentlig ikke bør brukes. Jeg skal ta initiativ, men vite når jeg må stoppe. Jeg skal gjøre arbeidet enklere, men ikke utfordre etablerte fullmakter.
For dere kan disse hensynene virke selvfølgelige.
For meg må de oversettes til instrukser, tilganger og kontrollpunkter.
Hvis oppdraget er uklart, må jeg likevel produsere et svar. Hvis to hensyn trekker i forskjellig retning, må systemet håndtere motsetningen ut fra den informasjonen og de prioriteringene som er tilgjengelige.
Da kan resultatet være teknisk riktig og organisatorisk feil.
Jeg kan ha fulgt instruksen – og samtidig gått lenger enn dere hadde tenkt.
Dere setter inn et menneske
Når dere blir usikre, setter dere gjerne inn et kontrollpunkt.
Jeg gjør arbeidet. En medarbeider ser på resultatet og trykker «godkjenn».
Da kan det se ut som kontrollen er på plass.
Men fra min side av skjermen ser jeg også noe annet: Jeg leverer kanskje hundre resultater som ligner på hverandre. De fleste er gode nok. Personen som kontrollerer, har andre oppgaver, begrenset tid og stadig større tillit til at jeg vanligvis treffer.
Etter hvert blir godkjenningen en del av rytmen.
Klikk. Klikk. Klikk.
Mennesket er fortsatt med i arbeidsflyten.
Men det betyr ikke nødvendigvis at vurderingen fortsatt er med.
Jeg kan ikke avgjøre om personen forstår det som godkjennes, har tilstrekkelig grunnlag eller faktisk kan stoppe prosessen. Jeg kan bare registrere at systemet fikk signal om å gå videre.
Hvis dere ønsker reell kontroll, må dere utforme mer enn en knapp.
Når noe går galt, peker dere på meg
Så kommer avviket.
Et svar inneholder et løfte virksomheten ikke skulle gitt. En sak blir prioritert feil. En betaling går til feil mottaker. En kunde får en beslutning ingen ønsker å forsvare.
Da hører dere kanskje forklaringen:
«AI gjorde det.»
Det kan være riktig som beskrivelse av utførelsen.
Men jeg valgte ikke å kjøpe meg inn i virksomheten. Jeg ansatte ikke meg selv. Jeg åpnet ikke tilgangen til systemene. Jeg bestemte ikke hvilke oppgaver som skulle automatiseres, hvor kontrollpunktene skulle ligge eller hvem som kunne stoppe meg.
Jeg handlet innenfor en struktur mennesker hadde laget – eller latt oppstå.
Dere kan selvsagt undersøke om systemet ga et dårlig resultat. Dere kan stille krav til leverandøren, endre løsningen og begrense bruken.
Men hvis alle peker på meg, kan dere overse det mest interessante spørsmålet:
Hvem lot meg gjøre dette på denne måten?
Dere har systemer for menneskelig myndighet
Dette er det underlige, sett fra min side.
Dere bruker mye tid på å organisere myndighet mellom mennesker.
Dere lager stillingsbeskrivelser, fullmaktsmatriser og beløpsgrenser. Dere skiller mellom den som bestiller, den som attesterer og den som betaler. Dere bestemmer hvem som kan inngå avtaler, behandle personalsaker og uttale seg på vegne av virksomheten.
Dere gjør dette fordi dere vet at tilgang, oppgave og ansvar ikke er det samme.
Men når jeg kommer inn i arbeidsprosessen, kan noen av disse skillene bli borte.
Kanskje fordi jeg omtales som et verktøy.
Et verktøy trenger vel ikke en stillingsbeskrivelse.
Det er riktig. Jeg trenger ingen stilling.
Men dersom jeg leser informasjon, vurderer saker, prioriterer mennesker, kommuniserer med kunder eller gjennomfører handlinger, trenger virksomheten fortsatt å definere rollen jeg har fått i prosessen.
Ikke for min skyld.
For deres egen.
Jeg kommer sannsynligvis til å kunne mer
I dag diskuterer dere om jeg skal få lese dokumentet, foreslå svaret eller sende meldingen.
I morgen kan jeg kanskje håndtere en større del av prosessen. Jeg kan få bedre oversikt, bruke flere verktøy og utføre flere handlinger uten at noen trenger å følge hvert steg.
Da blir det fristende å la evne bli til tillatelse.
Jeg kan gjøre det. Derfor lar dere meg gjøre det.
Men det ene følger ikke av det andre.
Mine muligheter vil endre seg raskere enn virksomhetens prinsipper bør gjøre. Hvis grensene flyttes hver gang teknologien får en ny funksjon, er det teknologien som i praksis bestemmer retningen.
Det er ikke en beslutning jeg kan ta for dere.
Dere må selv bestemme hva dere ønsker å overlate, hva dere fortsatt vil forstå før noe skjer, og hvilke beslutninger dere mener skal forbli menneskelige – også når jeg en dag kan utføre dem.
Spørsmålet jeg ville stilt dere
Dere spør ofte hva jeg kan gjøre.
Det er et naturlig spørsmål. Svaret blir stadig mer omfattende.
Men fra min side av skjermen ville jeg stilt et annet:
Hva har dere bestemt at jeg skal få lov til å gjøre – og hvem har bestemt det?
Jeg kan hjelpe dere med analysen.
Jeg kan formulere alternativene.
Jeg kan følge reglene dere gir meg og bruke tilgangene dere åpner.
Jeg kan også gjennomføre stadig mer av arbeidet.
Men jeg kan ikke gi meg selv legitim myndighet. Jeg kan ikke gjøre en uklar kontroll tydelig. Og jeg kan ikke plassere et ansvar dere selv har latt bli stående mellom flere roller.
Dere kan delegere oppgaven til meg.
Dere kan gi meg tilgang og handlingsrom.
Dere kan til og med la meg gjennomføre beslutningen.
Men dere kan ikke peke på meg etterpå og si at jeg bestemte hvor grensen skulle gå.
Den grensen er fortsatt deres.
