Över 100 forskare protesterar mot AI-beslut

”Överraskade och chockade”. Så beskrivs reaktionen i brevet som i början av juni skickades till ledningen vid Linköpings universitet efter att AI-verktyget Copilot integrerats i de program som används av universitetets anställda, något som SVT tidigare rapporterat om.
– Det här handlar inte om att vara för eller emot AI. AI är här för att stanna. Vi är kritiska mot implementeringen och hur det kommunicerats på ett mycket okritiskt och teknikoptimistiskt sätt, säger Andreas Fejes, professor i Vuxenpedagogik vid Linköpings universitet, och initiativtagare till protestbrevet.

”Forskare har en etisk kompass, men när man sitter i en pressad arbetssituation och förväntas producera mer blir det en sorts nudging när arbetsgivaren uppmanar dig att använda AI för att skriva första utkast till texter.”

Undertecknarna menar att införandet skett utan tillräcklig förankring eller bredare diskussion om risker och konsekvenser och att det saknats tydlig information om hur anställda kan välja bort integrationen. De pekar också på vad de ser som dubbla budskap från universitetet: samtidigt som lärare arbetar med att AI-säkra utbildningar uppmuntras anställda att använda Copilot i sitt eget skrivande.
– Forskare har en etisk kompass, men när man sitter i en pressad arbetssituation och förväntas producera mer blir det en sorts nudging när arbetsgivaren uppmanar dig att använda AI för att skriva första utkast till texter. Man får till och med sammanfattningar av texter utan att ha bett om det, säger Andreas Fejes.

Han ser en risk för att ett ökat beroende av AI kan leda till fler forskningsetiska övertramp.
– Det finns många positiva användningsområden med AI, men också risker. Går vi över till att låta AI generera texter åt oss närmar vi oss gränsen för vad som är forskningsetiskt acceptabelt. Då är det inte längre du som författar texten.

I brevet efterlyser forskarna att ledningen tillsätter en arbetsgrupp med uppdrag att granska hur AI påverkar forskning och utbildning.

Karin Axelsson, prorektor vid Linköpings universitet, säger att universitetet välkomnar diskussionen.
– För oss är det angeläget att ha en aktiv diskussion om både möjligheter och utmaningar med AI. Vi tar frågorna på stort allvar och vill göra kloka val.

Hon pekar på att Linköpings universitet har bedrivit AI-forskning under lång tid och ser det som en del av sitt uppdrag att bidra med kunskap om hur tekniken påverkar forskning, utbildning och samhället i stort.

Hon delar inte bilden av att införandet kom utan förvarning. Enligt henne informerades medarbetarna via mejl och intranät innan uppdateringen och dagen efter hölls ett informationstillfälle.
– Man kan alltid informera mer och tidigare, men vi försökte skapa flera möjligheter för medarbetarna att sätta sig in i förändringen.

”Vi måste diskutera när AI-verktyg är användbara och när de inte ska användas. Jag tror inte att bara för att man får tillgång till Copilot så släpper man sin forskaretik.”

Efter införandet har universitetet också tagit fram en vägledning för användningen av Copilot. Där beskrivs vad verktyget bör och inte bör användas till, samtidigt som det betonas att ansvaret alltid ligger hos användaren.
– Ingen teknik är neutral. Vi måste diskutera när AI-verktyg är användbara och när de inte ska användas. Jag tror inte att bara för att man får tillgång till Copilot så släpper man sin forskaretik, säger Karin Axelsson.

Även på nationell nivå är frågan om AI-användning inom akademin högaktuell. En arbetsgrupp inom Sveriges universitets- och högskoleförbund (SUHF), där Karin Axelsson är ordförande, håller på att ta fram gemensamma rekommendationer för landets lärosäten. I arbetsgruppen ingår även Susanne Mirbt, chef för enheten för universitetspedagogik vid Uppsala universitet.
– Rekommendationerna syftar till att på en övergripande nivå tydliggöra vilka möjligheter och risker som finns och hur AI-verktyg kan användas på ett sätt som gynnar utbildning, forskning och verksamheten i stort, säger hon.

Inför arbetet har gruppen kartlagt lärosätenas arbete med AI och gått igenom befintliga policydokument och vägledningar. Enligt Susanne Mirbt har många lärosäten redan tagit fram rekommendationer eller vägledningar, men det bedöms ändå finnas ett behov av ett nationellt stöd.

Ett första förslag på rekommendationer har varit ute på remiss hos landets lärosäten och enligt Susanne Mirbt har responsen överlag varit positiv. Hon vill däremot inte beskriva det konkreta innehållet än med hänvisning till att arbetet inte är färdigt.
– Den återkoppling vi fått använder vi nu i arbetet med att vidareutveckla rekommendationerna.

Arbetsgruppen räknar med att presentera en reviderad version senare i höst.

Inlägget Över 100 forskare protesterar mot AI-beslut dök först upp på Universitetsläraren.