Krøniker fra en frustrert KI-akademiker
Jeg leste med interesse debatten mellom Klas Pettersen og flere andre om KI-generert forskning og forskningens mål. Her vil jeg imidlertid løfte frem et langt mer konkret og presserende problem.
Jeg forsker på og underviser i informatikk og kunstig intelligens. Det burde være et av de mest spennende stedene å befinne seg akkurat nå.
Ofte er det mest frustrerende.
For noen dager siden hørte jeg Boris Cherny, skaperen av Claude Code, beskrive hvordan arbeidet til ingeniører i Anthropic har endret seg. Programmereren sitter ikke nødvendigvis lenger og skriver kode linje for linje. Ingeniøren setter i gang agenter, fordeler oppgaver, følger med på resultatene og korrigerer kursen. Agentene kan igjen opprette subagenter, som kan opprette nye subagenter — opptil fem nivåer. Anthropic beskriver selv arbeidsflyter som orkestrerer titalls eller hundrevis av agenter.
Det høres kanskje ut som science fiction. Problemet er at dette er arbeidslivet vi utdanner informatikkstudentene våre til.
Og vi lærer dem fortsatt i stor grad å arbeide som om dette ikke har skjedd.
Misforstå meg rett: Studentene må lære algoritmer, datastrukturer, programmering, matematikk og systemforståelse. Kanskje blir denne grunnkompetansen enda viktigere når maskiner produserer stadig mer av koden.
Men de må også lære noe som knapt eksisterte som profesjonell ferdighet for to år siden: Hvordan bryter man et komplekst problem ned slik at en flokk KI-agenter kan arbeide med det? Hvordan gir man dem kontekst? Hvordan organiserer man parallelle arbeidsprosesser? Hvordan evaluerer man resultatene? Hvordan oppdager man at 40 agenter effektivt løper i feil retning?
Kort sagt: Hvordan leder man kunstige medarbeidere?
Dette burde vi eksperimentere med i undervisningen nå, ikke etter neste studieprogramrevisjon.
Problemet er enda større i forskningen.
OpenAI publiserte nylig noen oppsiktsvekkende tall om hvordan deres egne forskere arbeider. Medianforskeren brukte i august KI-agenter tilsvarende mer enn 600 dollar per dag målt i API-priser (90-persentilen brukte mer enn 7 000 dollar per dag). Samlet brukte forskningsorganisasjonen 3,1 «agentarbeidsdager» for hver menneskelige arbeidsdag. Antallet eksperimenter per aktiv forsker nådde samtidig sitt høyeste nivå siden målingene startet.
Dette er naturligvis en ekstrem sammenligning. Et norsk universitet skal ikke være OpenAI.
Men vi konkurrerer om kunnskap, publikasjoner, forskertalenter og gjennombrudd i det samme internasjonale landskapet.
Da oppstår et ubehagelig spørsmål: Hvordan skal en norsk KI-forsker konkurrere når forskeren på den andre siden har tilgang til de beste modellene, massiv regnekraft og en liten digital hær som arbeider parallelt?
Hos oss er den institusjonelt trygge virkeligheten langt smalere. Vi har godkjente løsninger som GPT-UiO og Copilot. Det er nyttige verktøy. Men hvis forskningsspørsmålet mitt handler om hva som skjer med OpenClaw, Hermes, de nyeste kinesiske modellene eller morgendagens agentsystemer, hjelper det lite at gårsdagens verktøy er godkjent.
En KI-forsker må kunne studere KI med de mest avanserte verktøyene som er tilgjengelige. Det ville være som å be en biolog undersøke celler og virus med et forstørrelsesglass, samtidig som de mest avanserte mikroskopene var forbeholdt industrien.
Jeg fikk nylig tilgang til GPT-6 Astra på eget initiativ og for egen regning, og bestemte meg for å gjøre et lite eksperiment.
Jeg brukte 27 minutter.
Resultatet ble en interaktiv 3D-atlas over Gamlebyen i Fredrikstad.
Poenget er ikke at løsningen er perfekt. Poenget er hvor absurd mye én person nå kan produsere på svært kort tid når man får tilgang til de fremste verktøyene.
Det endrer hva vi bør undervise i. Det endrer hvilke forskningsspørsmål som er realistiske. Og det endrer produktiviteten til den enkelte forsker.
Get Stefano Nichele’s stories in your inbox
Join Medium for free to get updates from this writer.
Likevel er min praktiske strategi for å holde meg faglig oppdatert ofte denne: Vent til arbeidsdagen er over. Gå hjem. Start private servere. Installer modeller og verktøy som jeg ikke har tilgang til gjennom universitetet. Eksperimenter på kveldstid.
Det er en ganske merkelig modell for kompetanseutvikling i et fag universitetene samtidig forteller samfunnet at Norge må satse på.
Jeg forstår innvendingene. Personvern. Informasjonssikkerhet. Forskningsetikk. Opphavsrett. Akademisk integritet. Avhengighet av amerikanske og kinesiske teknologiselskaper. Klimaavtrykk.
Alt dette er reelle problemer.
Jakub Pachocki, OpenAIs forskningssjef, beskriver selv dagens KI som en form for intelligens vi ennå ikke fullt ut forstår. Han argumenterer ikke for bekymringsløs akselerasjon, men for sterkere overvåkning, alignment og muligheten til å bremse utviklingen når risikoen blir for stor.
Men det finnes en merkelig konklusjon som av og til trekkes i akademia: Fordi teknologien er usikker, bør forskerne holde avstand til den.
Jeg mener det motsatte.
Jo mer avansert, uoversiktlig og samfunnsendrende teknologien blir, desto viktigere er det at uavhengige universitetsforskere faktisk får tilgang til den.
Hvis bare OpenAI, Anthropic, Google og noen få andre selskaper har råd og tillatelse til å eksperimentere ved forskningsfronten, får vi et paradoks: Universitetene skal være samfunnets uavhengige kritikere av KI, men får ikke verktøyene som trengs for å forstå det de skal kritisere.
Debatten mellom blant andre Klas Pettersen, Inga Strümke, Kristian Gundersen og Jill Walker Rettberg om forskning, forståelse og KI berører nettopp et viktig spørsmål: Hva slags menneskelig forståelse skal forskningen produsere i møte med stadig kraftigere maskiner?
Jeg mener vi må legge til et mer prosaisk spørsmål:
Hvordan skal vi forstå disse systemene dersom vi ikke får arbeide med dem?
Jeg har nylig hørt mine universitetsledere understreke at vi bare skal bruke godkjente verktøy, og at bruk av språkmodeller i arbeidet med forskningssøknader ikke støttes.
Hver enkelt regel kan sikkert forsvares.
Men summen av dem skaper en kultur.
Den kulturen lærer forskeren at det tryggeste er å vente.
Og akkurat nå er venting også et valg med konsekvenser.
Vi trenger selvfølgelig grenser. Jeg ønsker ikke et universitet der ansatte laster sensitive forskningsdata inn i tilfeldige kinesiske modeller. Men alternativet til forbud er ikke anarki. Alternativet er infrastruktur.
Gi forskere sandkasser der nye modeller kan testes. Gi KI-miljøene budsjetter til frontier-modeller. Opprett raske godkjenningsløp for eksperimentelle verktøy, både for forskningsprosjekter og utvikling av nye kurs. Tilby lokal regnekraft for åpne modeller. La fagmiljøene teste agentsystemer før de bestemmer hvordan studentene skal undervises i dem, og gi dem ressurser til å utvikle nye emner i takt med den teknologiske utviklingen. Og lær forskerne sikker bruk fremfor å gjøre privat eksperimentering til den enkleste veien til faglig oppdatering.
For tempoet utenfor universitetet er vanskelig å fatte. OpenAI sier nå at målet om en automatisert «research intern» — et system som kan utføre veldefinerte forskningsoppgaver som ville tatt en dyktig forsker flere dager — er nådd. Neste mål er en automatisert KI-forsker.
Vi trenger ikke tro på alle Silicon Valleys spådommer for å forstå hva dette betyr.
Vi kan ikke utdanne studentene for arbeidslivet i 2023, forske med verktøy fra 2024 og samtidig håpe å være internasjonalt ledende i 2027.
Jeg vil gjerne være en ansvarlig KI-forsker.
Men jeg vil også gjerne få lov til å være en KI-forsker.
Merknad om KI-bruk: Teksten og argumentasjonen i dette innlegget er mine egne. Jeg brukte GPT-6 Astra som sparringpartner til å bearbeide og stramme inn et lengre førsteutkast. Jeg vurderte selv alle forslagene og står fullt og helt ansvarlig for den publiserte teksten.
