Techreier

AI paranoia

Et realistisk fremtids-scenario

En historie om hva som kan skje, hvis vi ikke tenker gjennom bruken av ny teknologi. Det vanlige er å prøve noe som ser lovende ut og rydde opp i problemene etterpå, noe som aldri går helt bra. Prøv i liten skala først i hvertfall, ikke send en haug med elektriske busser ut på glatta i Oslo utestet.

Vi må relatere ny teknologi til ting som formål, etikk og konsekevenser for samfunn, natur, energibruk, CO2 utslipp, og en hel rekke andre ting. Det er ikke uten grunn at FN har 17 bærekraftsmål som må sees i sammenheng og der fokusering på bare noen få mål kan komme helt feil ut. Teknologi er til for mennesker, ikke motsatt. Og vi har bare en klode.

Total kontroll og sikkerhet betyr også total ufrihet. Det er ikke sikkert at gummigranulat i barnehager er noen god ide, ei heller total overvåking for å hindre ulykker.

Så ille blir det ikke, men tendensene er der. Enhver likhet med en verdenkjent roman er tilfeldig.

En vakker dag i Sannhets-ministeriet 2084

Winston pleide å spørre Sannhets-maskinen om regler som gjaldt for de få av landets innbyggere som ikke ville eller kunne spørre denne direkte via de lovpålagte skjermene som var plassert i alle hjem i stua og på hjemmekontoret. Samtidig spurte han av egen-interesse og kjedsomhet om status på motorveien for hjemturen og om været nå, selv om det selvsagt kunne observeres rett gjennom de få vinduene som ikke var tettet igjen for innsyn og utsyn.

Sannhets-maskinen ble hver dag foret med små og store nyheter, nye endringer i regler og sannheter fra alle statlige direktorater, fylkeskommuner og kommuner, forskningsresultater som passet inn i henhold til gjengs oppfatning fra de to ledende politiske partiene og nye endrede EU regler. Det var viktig å passe på at Sannhets-maskinen ikke ble foret med noe som kunne skade staten Norge, de to styringsdyktige partiene og konsensus som gjaldt i Sannhets-ministeriet og andre direktorater. Winston’s jobb var å sjekke denne foringen av maskinen, samt å svare på telefonen for de få som var så skrøpelige at de ikke kunne spørre Sannhets-maskinen direkte hjemme i egen stue.

Plutselig la han merke til at maskinen rapporterte om total kaos på motorveien. Alle de selvkjørende bilene sto stille rundt Sandvika og mange av bilene var kræsjet inn i hverandre så han av videokameraene til transportdirektoratet. Dagen i forveien hadde ny programvare blitt lastet inn i alle bilene som gjorde nødvendige endringer for vegprising og tilbakerapportering av bil-data, for å dekke opp nye statlige kostnader som plutselig hadde dukket opp.

Sannhets-maskinen brukte så mye strøm på trening av AI modellen med input data og etterfølgende analyser at hver eneste fjelltopp i Norge og hele Nordsjøen var dekket av 400 meter høye vindturbiner. Det var blitt mangel på batterier internasjonalt og også råstoffer for å produsere vindturbiner så det nyttet ikke å sette opp flere.

Og dette hadde kostet skjorta. Bildeprosessering i Sannhets-maskinen hadde fjernet alle spor av vindturbiner på naturbildene som befolkning så på via skjermene, så det så riktig fint ut. Befolkningen hadde jo ikke lenger mulighet til å dra ut og sjekke selv. Ble de tatt for å ikke vise seg på kamera montert over skjermene i løpet av ettermiddagen, så rapporterte Sannhets-maskinen dette til dronene som fløy hjem til folk og ødela hjemmet bortsett fra skjermene. Nyttet ikke det ble de hentet av en selvkjørende bil og plassert i omskoleringsleir ved en senere anledning.

Noen hadde klart å laste inn skadevare sammen med oppgraderingen av de selvkjørende bilene. Det kunne være en enslig hacker, en kriminell gruppe eller en fiendtlig stat som hadde gjort det. Winston visste ikke, men det var sannsynlig. Det måtte innkalles til hastemøte i Sannhets-ministeriet for å prøve å finne ut hva som var årsaken.

Da ble det plutselig helt svart. Strømmen hadde gått overalt. Alle lys ble slukket. Sannhets-maskinen kjørte nok fortsatt en liten stund på batteri-backup. Men det var det. Og det var ikke første gang dette hadde skjedd og som regel skjedde det midt på vinteren. Det var rett og slett ikke nok strøm tilgjengelig når det var stille, kaldt og enda verre skyet i tillegg. Alle vindturbinene sto stille og solparkene generte ikke strøm. Riktignok var det fortsatt noe tilgjengelig strømkapasitet igjen, men mesteparten av den stabile vannkraften måtte uansett selges til Europa for å finansiere offentlig eide selskaper etter at det hadde gått nedover med Norsk olje og gass-produksjon.

Utenfor Sannhets-ministeriet kom det ofte fram gjenger i mørket på gatehjørner, spesielt når det var strømbrudd. Dette var folk som ikke hadde noen digitale identitetspapirer. Da slapp de unna kontrollen til Sannhets-ministeriet.

Disse gjengene var en merkelig blanding av ulovlige innvandrere, eldre tiggere som ikke forsto det digitale, barn født utenom offentlige sykehus, hardbarka kriminelle, oppsagte dataprogrammere og vanlige folk som hadde blitt fratatt sin offentlige identitet. Det siste skyldes den store flausen til Norges største bank for 20 år siden, da kompliserte systemer for autentisering og autorisasjon gjorde at en god del rett og slett ga opp å bli re-autentisert og re-identifisert. Da fikk de ikke bankid og bankkort; og mange hadde ikke lenger personnummer heller. De var personer som egentlig ikke eksisterte. Winston visste om dem og var litt fascinert, men han turte ikke ta kontakt. De levde stort sett av å finne mat som var blitt kastet av robotene som styrte det automatiske systemet som kastet mat som hadde gått ut på dato. De fleste bodde også under underganger eller i rom i tilknytning til den offentlige T-banen.

Det hadde vært ansatt en hel gjeng med konsulenter tidligere i etaten for å vedlikeholde programvare for Sannhets-maskinen. Det var ikke nødvendig lenger, fordi maskinen selv klarte å skrive koden basert på de data som ble puttet inn i den. Til å starte med hadde dette medført mye problemer og dårlig kode, men så hadde maskinen selv etterhvert lært å teste egen programvare, kjøre kode kvalitetskontroll og deretter korrigere sin egen kode. Og når dette ble gjort i en del iterasjoner, var det helt fantastisk hva som kom ut. Men det var lenge siden noen turte røre Sannhets-maskinen, for ingen visste egentlig hvordan den fungerte lenger, og programmererne var kastet ut i arbeidsløshet og mange av dem var med i de gjengene som samlet seg utenfor Sannhets-ministeriet.

Fortsettelse følger....