Hem » Arkeion deltog i rundabordsamtal om AI

Arkeion deltog i rundabordsamtal om AI

Den 19 januari deltog representanter från Arkeion i rundabordssamtal hos Kulturdepartementet om AI-utvecklingens påverkan. Efter samtalet har Arkeion lämnat över ett inlägg.

Tekniken innebär stora möjligheter men förutsätter att offentlig sektor säkrar styrning och full kontroll över hela kedjan vid användning av AI. De viktigaste prioriteringarna:

Full spårbarhet till källan – så att källkritik blir möjlig gentemot (externt) AI genererade sammanställningar.

Det kommer att krävas omfattande resurser till att bevara både äldre och den elektroniska information som nu skapas inom offentliga myndigheter.
Kontroll över hur AI tränas att arbeta – så att detta sker med fast förankring i alla relevanta författningar och regelverk både nationellt och internationellt, inklusive etiska regler etc.
Säkra oberoende för människan – så att även när tekniken är helt integrerad med vår vardag så ska det vara möjligt att arbeta utan tillgång till AI. Detta bör inbegripa scenarios och planering för tillgång till källor vid kris och krig, framför allt vad som ska ske när elförsörjningen försvinner?

Tillgång till samhällsviktig information över lång tid är en demokratifråga

– Ge offentlig sektor bra förutsättningar att använda AI på rätt sätt och lyft professionen inom informationsförvaltningen.

Föreningen Arkeion önskar att utifrån vår profession med tonvikt på informationsförvaltning i offentlig sektor ge följande sammanfattning:

Tillgång till autentisk information är grunden för demokratin.

Huvudbudskapet från oss är att vi i samhället behöver ha fortlöpande tillgång i autentisk och samhällsviktig information och över lång tid. Detta är en förutsättning för civilsamhället och en fungerande demokrati där myndigheterna både är självständiga och kan granskas.

Civilsamhället/ offentlig sektor måste ha kontroll över hela kedjan.

Vi ser stora möjligheter med AI tekniken, men att det samtidigt förutsätter att samhället har kontroll över hela kedjan för att motverka riskerna med tekniken.

Detta vill vi utveckla på följande sätt:

1. Full spårbarhet till källan ger möjligheten att bedriva källkritik mot, exempelvis AI-genererade sammanställningar från externt part.

Offentlig sektor sitter på mycket stora mängder information som är användbar på ett helt nytt sätt i och med AI-teknikens möjligheter till snabb analys och sammanställningar av stora volymer.

Men detta förutsätter då att denna information omhändertas inte bara med traditionella metoder för att bevara analoga handlingar, utan framför allt att samhället nu kan sätta det elektroniska bevarandet i ett helt nytt sammanhang där den praktiska nyttan blir mycket tydlig.

Detta innebär potentiellt även stora möjligheter att gå tillbaka till tidigare beslut och utredningar långt bak i tiden av myndigheterna själva eller av exempelvis media och forskningen. Det förutsätter dock att offentlig sektor nu påbörjar omhändertagande av nära nog ett halvt sekel elektronisk information, så att man tillsammans med digitiseringen av prioriterat analogt material skapas då praktiska och tekniska möjligheterna att utnyttja AI för analys.

Effektmålet är möjligheten att begära att AI-genererade sammanställningar som genom en ”prompt” ger tydliga källhänvisningar (jfr noter) så att det går att granska utifrån vilka uppgifter en viss samanställning har gjorts. Kravet på möjlighet till källkritik måste respekteras och upprätthållas.

2. Kontroll och styrning av hur AI tränas att arbeta

Civilsamhället och framför allt offentliga myndigheter måste ha kontroll över hur AI tränas att arbeta. Exempelvis att automatisera beslutsfattande sker på en korrekt grund utifrån rätt information, det vill säga byggt på svenska och

internationella författningar och regelverk, exempelvis EU:s AI Act, och som tillämpas enligt praxis och på ett etiskt sätt, vid varje tillfälle i tiden i och med att utvecklingen inom även detta område kommer att behöva följa den tekniska utvecklingen.

Inom det tekniska området vill vi utifrån de gånga halvseklet, varna för att förlita sig på att kommersiella företag och s.k. ”Tech-jättar” kan förväntas lösa alla problem genom kravställning vid upphandlingar. Framför allt är det orealistiskt att förvänta sig att dessa ska utöva tillräcklig självreglering (självkontroll) under pågående teknisk ”kapprustning”.

3. Att kunna återsöka och arbeta med information oberoende av tekniken?

Det blir något av en paradox att i ett öppet demokratiskt samhälle så bör offentlig sektor utöva en rimlig och författningsbaserad kontroll över vilken information som sprids, med en grund i utlämnande enligt Tryckfrihetsförordningen och Offentlighets- och sekretesslagen, liksom återanvändande av offentlig information enligt PSI direktivet och lagen, som ett par närliggande användningsfall.

Givet den pågående debatten (och exempelvis Max Tegmarks varningar i sitt sommarprogram 2023 som en väl spridd referens) kan riskerna med att AI kan användas destruktivt både genom bristande styrning och kontroll inte underskattas. Vi befinner oss i en situation där AI snart är en integrerad del i hur individen arbetar både professionellt och hur man utför privata åtaganden som samhällsmedborgare. Om källorna till sammanställningar skapade av en allt effektivare AI-teknik inte kan anges och därmed inte efterforskas får det konsekvenser som inte skall underskattas.

Det leder sammantaget till arkivbranschens varning och betonande av att både tjänstemän och enskilda medborgare, forskning och media med flera behöver kunna arbeta utan tillgång till både tekniska system och elektricitet vid tekniska fel, kriser och inte minst krigstillstånd.

En s.k. ”ransom ware”-attack inom en stor kommun i södra Sverige som upptäcktes i god tid ledde till att man kunde stänga av tillgången till valda system och skriva ut information på papper för att kunna försäkra sig om grundläggande samhällsservice innan arbetet med att rensa system och IT-infrastruktur kunde påbörjas. Ansvariga och sakkunniga inom informationshantering och säkerhet visste alltså vilka åtgärder det behövde vi ta i en extrem situation där tillgången till IT-systemen skulle falla bort under en viss period.1

4. Svårigheterna med att omhänderta information vid åldrande teknik och behöver relateras till de alltför små resurser som anslås för detta

Under mer än 40 år har offentlig sektor lagt stora resurser på digitalisering, samtidigt fokus på och insatser för att säkerställa att denna information ska kunna bevaras har uteblivit. Teknik och tekniska format föråldras jämförelsevis snabbt och kunskapen om hur informationen ska kunna tolkas och tas ut ur äldre system riskerar att försvinna med de människor som skapat den.

Paradoxalt nog har det samtidigt funnits en stark tilltro till att kommersiella aktörer ska lösa alla tekniska problem utifrån marknadskonkurrens. Inom området elektroniskt bevarande har det visat sig stämma dåligt. Exempel är s.k. proprietära filformat och svårigheten att få tillgång till datamodeller och systemdokumentation samt avgiftsbeläggning av tjänster.

Samhället befinner sig nu i en riskabel situation där det finns stora mängder äldre elektronisk information att säkerställa, samtidigt som volymerna ständigt ökar. Man bör kalkylera med att AI bidrar till ytterligare ökning.

Arkivarier kan bidra med kunskap, teknik och metoder (jfr praxis) för att omhänderta och bevara elektronisk information. – men det som arkivföreningarna ständigt återkommer till är bristen på resurser och prioritering. Detta gör vi utifrån vår professionella bedömning, som arkivarier på främst offentliga myndigheter inom staten, kommuner och regioner.

Förvaltningspolitiken på detta område behöver vara så stabil och långsiktig att den inte påverkas av maktskiften i riksdagen och olika regeringars agendor över en eller ett par mandatperioder.

5. Arkiv är bevis & samhällets minne

– det långsiktiga perspektivet “Arkiv är bevis” som journalisten Anders R. Olsson2 sammanfattat saken, och elektronisk information måste förvaltas aktivt.

Arkeions föregångare FAI har genom att två inlagor till arkivutredningen3 sökt att understryka att arkiv (allmän handling) inte uppstår av sig själv och framför allt inte överförs till arkivinstitutioner utan betydande insatser.

Givet omständigheterna som beskrivs ovan i 4, så är det alltså betydligt svårare att efterleva huvudregeln i Arkivlagen senast efter mitten av 1990 talet, då redan datoriseringen nått mycket långt.

I slottsbranden 1697 förstördes stora delar av Sveriges handlingar. Dagens situation är på väg mot en liknande massförstörelse av elektronisk information vilket inte uppmärksammas av andra än närmast berörda tekniker och arkivarier inom myndigheterna.

Samtidigt som det knappast kommer att råda brist på resurser inom AI- utveckling, riskerar vi att inte kunna tillämpa den på information som är äldre än cirka ett par årtionden? Vi ser risken att Sverige blir ett av de första och tydligaste exemplen på ett samhälle som förlorat ”närminnet”.

6. Att ta kontrollen genom tydlig reglering så att vi vågar använda AI

För att kunna agera självständigt i förhållande till framför allt externt genererade AI sammanställningar, inte bara från okända källor utan även från nyhetstjänster och multinationella ”Tech-jättar”, behöver civilsamhället behålla kontrollen över vad som är autentisk och samhällsviktig information d.v.s. fakta.

Detta är helt i linje med det ökade uppdrag som Riksarkivet har fått kring Samhällsviktig information respektive användandet av AI4.

Utred och ge offentlig sektor de rätta förutsättningarna att våga använda AI,
för exempelvis inregistrering (diarieföring), sekretessprövning och utlämnande av regelmässigt efterfrågade handlingar och uppgifter samt oproblematisk öppen allmän handling, liksom återanvändning (PSI) och klargör gränserna för samsökning mellan databaser och register inklusive sammanställnings- möjligheter. Vid vård av färdigställd och äldre elektronisk information bör AI- tekniken starkt kunna bidra till att automatisera det elektroniska bevarandet?

– Och vad händer om det senare begär ut all information som finns tillgänglig på myndigheterna, medan de själva inte har resurser att bearbeta den? Är risken att civilsamhället redan då ”ligger efter” med att sammanställa offentliga uppgifter?

7. Summering

Utvecklingen av artificiell intelligens ökar kraven på ”ordning och reda” inom offentliga organisationer för att dessa ska kunna få full utväxling på möjligheten med AI, givet den omfattande mängden av elektronisk information som myndigheterna förvaltar.

Arkivarier kan vi tillsammans med främst jurister och tekniker (utvecklare) säkerställer ”ordning och reda” vid utformandet av och förvaltning av IT-system. Vi är både demokratins ”fotfolk” och kan agera ”man in the middle” vid träningen av AI.

God offentlighetsstruktur i tekniska system och goda exportmöjligheter är en förutsättning för att kunna tillämpa AI på denna information och därmed kunna få full utväxling på möjligheterna.

Offentlighetsprincipen och tillgången till även information i äldre IT system måste kunna upprätthållas. Kunnande, metod och teknik finns för detta.

Dels behöver ca 40 år av elektronisk information omhändertas, dels behöver man ställa krav på både befintliga och nya IT-system, bl.a. kring möjligheterna till export enligt s.k. gemensamma specifikationer (drivs numer på EU-nivå).

Spårbarhet till källan (autentisk information)

Att säkerställa den totala kedjan och bevisföring – så att myndigheter, institutioner och andra offentliga organisationer (arkivbildare) har kontroll, dvs. kan avgöra vad som är autentiska uppgifter.

Exempel: Med AI går det att generera otaliga varianter av vad en politiker sagt eller vad en myndighet skrivit, inte bara i nuet eller några år bakåt, utan över lång tid. Då behöver man kunna bevisa vad som är korrekt med hjälp av exempelvis https://smdb.kb.se/

Kontroll över hur AI tränas att arbeta utifrån författningar, regelverk och etik.

Säkra oberoende – autonomi i förhållande till AI och teknik

Säkra möjligheten till att arbeta oberoende och självständigt i förhållande till AI och möjligheten att arbeta så långt som möjligt oberoende av det elektroniska systemet och därmed elektricitet i krissituationer.

Sammanfattningsvis vill vi betona att om statliga, kommunala och förvaltningar inom regionerna ska kunna få full utväxling på den information som man förvaltar, och som det finns stora möjligheter att bearbeta och sammanställa med artificiell intelligens, så kommer det att krävas resurser för inte enbart för att tillgängliggöra dessa utan även för att bevara informationen. – När kommer de?

Möjligheterna är enorma om vi kan förse AI med det källmaterial som potentiellt sett skulle kunna göras tillgängligt?

På uppdrag av Arkeions styrelse
Mattias Hammarlund & Andreas Segerberg