När AI börjar bygga nästa AI

Det som länge varit en tankeövning om AI har börjat bli en praktisk fråga inne i de företag som bygger de mest avancerade modellerna: hur mycket av arbetet med nästa generation AI utförs redan av AI-system?

Anthropic har nu försökt sätta siffror på saken. Företaget uppger att Claude i augusti 2026 “ledde” 26 procent av det AI-forsknings - och utvecklingsarbete som ingick i dess interna mätning. Mer än 90 procent av det uppmätta arbetet låg på en nivå där AI åtminstone samarbetar med människor. Samtidigt fanns ingen uppmätt del av arbetet på nivån full autonomi.

Siffrorna säger något viktigt om förändringen i AI-labben. Men de säger inte att Claude på egen hand bygger nästa Claude, och de är inte en extern certifiering av hur långt automatiseringen har gått. Det är just där den mer intressanta frågan börjar: när AI gör allt mer av forskningsarbetet, vem mäter utvecklingen – och kan kontrollen växa lika snabbt?

En förändring inne i AI-labben

I sin genomgång av hur AI-utveckling kan mätas redovisar Anthropic en prototyp till ett “R&D Automation Index”. Tanken är att kartlägga olika arbetsuppgifter i företagets modellutveckling, bedöma hur automatiserade de är och sedan väga ihop dem.

Det är en annan fråga än vad en språkmodell klarar i ett enskilt test. Här handlar det om det löpande arbetet bakom en ny modell: kod, infrastruktur, experiment, utvärderingar och annat som krävs för att bygga, träna och förbättra AI.

Anthropic uppger att Claude “leads” 26 procent av detta uppmätta arbete. Företaget säger också att andelen arbete på eller över nivån “AI collaborates” är över 90 procent. Diagrammet i rapporten anger att andelen där Claude leder arbetet var under en procent i februari 2026.

Det är en kraftig förändring på kort tid. Men det avgörande ordet är inte “26 procent”, utan “leads”. För att förstå vad måttet faktiskt säger måste man först förstå skalan bakom.

Vad betyder egentligen att AI “leder”?

Anthropic använder en automationsskala som har utvecklats av Epoch AI. Skalan går från AL0, ingen AI-inblandning, till AL5, där AI utför arbetet helt autonomt utan en människa i loopen.

AL3 betyder att AI samarbetar med människan. Systemet kan göra stora delar av ett arbete, men under nära mänsklig styrning. AL4, nivån Anthropic beskriver som “leads”, innebär enligt företagets exempel att en människa kan ge ett övergripande uppdrag och sedan låta AI-systemet driva arbetet vidare, hantera problem och dokumentera resultat. Människan ska fortfarande granska och fatta viktiga beslut, exempelvis om en förändring ska sättas i drift.

AL5 är något annat. Då skulle systemet självt upptäcka ett problem, avgränsa uppgiften, genomföra och testa lösningen och sätta den i produktion utan att en människa behöver delta. Anthropic säger uttryckligen att ingen del av det uppmätta AI-R&D-arbetet ligger där.

Skillnaden är central. Att AI kan ta ett omfattande uppdrag från en människa och utföra mycket av vägen är inte samma sak som att AI väljer vilka forskningsproblem som är värda att lösa, sätter sina egna mål eller självständigt utvecklar en efterträdare. I en separat text om recursive self-improvement skriver Anthropic också att företaget inte är där i dag och att utvecklingen inte är oundviklig.

30 000 agenter samtidigt

Automatiseringen syns inte bara i indexet. Anthropic uppger att omkring 30 000 agenter samtidigt utförde forsknings- och ingenjörsarbete på företagets mest använda interna agentplattform i augusti. Formuleringen är viktig: siffran gäller just den plattformen, inte automatiskt all AI-användning inom Anthropic.

För att övervaka denna verksamhet beskriver företaget två typer av monitorer. Onlinemonitorer kontrollerar åtgärder innan de genomförs och kan blockera eller styra om sådant som anses farligt. Offlinemonitorer läser aktiviteter i efterhand, bland annat för att leta efter mönster som kan tyda på problem över tid.

Anthropic uppger att 100 procent av de här agenternas åtgärder passerar onlinemonitorn före utförande och att 100 procent tas in av offlinemonitorn efteråt. Det betyder täckning av flödet. Det betyder inte att systemet upptäcker allt som borde upptäckas.

Under augusti analyserades enligt Anthropic över en miljard beslut från forsknings- och ingenjörsagenter. 0,002 procent – ungefär ett av 47 000 beslut – blockerades av onlinemonitorn. Offlinemonitorn flaggar omkring 100 000 transcripts per vecka; de högst prioriterade, cirka 50 i veckan, går vidare till mänsklig granskning.

Det går att läsa siffrorna på flera sätt. De kan betyda att agenterna sällan försöker göra något farligt. De kan betyda att begränsningar och monitorer fungerar väl. Men de kan också spegla vilka rättigheter agenterna har, vilka miljöer de arbetar i och vad monitorerna faktiskt kan se. Utan ett mått på hur många problem som missas – recall och falska negativa – är en låg blockeringsfrekvens inte i sig ett säkerhetsbetyg.

Vem mäter utvecklingen?

Anthropic är ovanligt öppet med att mätningen är intern. Företaget byggde sin uppgiftskarta från bland annat Slack och intern dokumentation. För varje vecka i juli 2026 samplades 20 procent av personalen i de delar av organisationen som ingår i modellutvecklingskedjan. Resultatet blev ungefär 15 000 detaljerade uppgifter i en trädstruktur med 542 noder.

Anthropic fryser samtidigt uppgiftskorgen för att kunna jämföra automationsnivån över tid. Ett stigande index visar därför hur arbetet i juli-baslinjen automatiseras, men fångar inte automatiskt nya typer av arbete när människor flyttar vidare till andra uppgifter. Företaget uppger att en jämförelse med en äldre januaribaslinje inte visade någon ökning av nya uppgiftstyper fram till juli, men säger också att korgen behöver byggas om och versionshanteras över tid.

Claude användes sedan både för att organisera uppgifterna och för att undersöka hur arbetet gjordes. En separat Claude-modell bedömde automationsnivån. Anthropic lät också ansvariga medarbetare göra egna, blinda bedömningar. Företaget uppger att modell och människa var exakt överens i 59 procent av fallen, medan två mänskliga bedömningar var exakt överens i 35 procent. Inom ett steg på skalan låg modell och människa i 97 procent av fallen.

Det är en redovisad metodkontroll, men den ersätter inte extern granskning. Anthropic pekar självt på risken: när samma modellfamilj används både i verksamheten och i delar av bedömningen kan domaren dela vissa fel med det som bedöms.

Epoch AI:s roll behöver också hållas isär. Organisationen har utvecklat skalan och en bredare taxonomi över AI-R&D. Den har inte oberoende fastställt att Claude gör 26 procent av Anthropics forskning. För att siffror ska kunna jämföras mellan labb behövs både en gemensam metod och någon form av kontroll utifrån.

När kontrollen också måste skala

Det är lätt att fastna i frågan om hur många uppgifter AI kan ta över. Men när allt fler agenter kan arbeta parallellt blir frågan om granskning minst lika konkret. Hur snabbt kan en människa förstå en flaggning? Hur fångar man ett riskmönster som är osynligt i ett enskilt beslut, men uppstår i samspelet mellan många agenter?

Microsoft Research har pekat på ett närliggande problem: ett agentsystem kan nå ett till synes korrekt slutresultat trots att det under vägen har brutit mot behörighetsgränser eller läckt information. I deras studie växte riskytan i multiagentmiljöer, och säkerheten berodde i hög grad på själva systemet som fördelar verktyg, resurser och meddelanden mellan agenter.

Det bevisar inte något om Anthropics monitorer. Men det förklarar varför en kontrollmodell som enbart räknar stoppade åtgärder är för smal. När verksamheten skalar behövs frågor om vad monitorerna ser, hur de testas mot kringgående beteenden och när en människa faktiskt hinner ingripa.

Extern granskning – vad METR faktiskt såg

En sådan kontroll har redan prövats i begränsad form. I mars skrev forskningsorganisationen METR att en av dess medarbetare under tre veckor hade red-teamat en del av Anthropics interna system för agentmonitorering och säkerhet. METR uppger att arbetet gav betydande åtkomst till relevanta interna system och information.

Övningen hittade flera nya sårbarheter, varav vissa senare rättades, enligt METR. Organisationen säger samtidigt att inga av fynden allvarligt undergrävde de centrala påståendena i Anthropics dåvarande sabotageriskrapport.

Detta är värdefullt av två skäl: externa granskare kan hitta konkreta svagheter, och en red team-övning kan ge mer än en intern dashboard. Men rapporten är historisk och avgränsad. Den beskriver inte en certifiering av Anthropics övervakningssystem i september 2026.

Embedded evaluators – oberoende på vems villkor?

Anthropic vill gå längre än enstaka red team-övningar. Den 18 september meddelade företaget ett samarbete med Accenture, lett av dess specialistverksamhet Faculty, om så kallad embedded evaluation. Enligt Anthropics beskrivning ska arbetet omfatta utvärdering och red teaming av modeller, alignmentbedömningar och test av skyddsåtgärder.

Tanken är att externa utvärderare ska få åtkomst jämförbar med en anställds. Då skulle de kunna följa modeller under träning, se beslut om utveckling och driftsättning och tala direkt med medarbetare. Det är potentiellt en större insyn än en granskare får när en modell redan är färdig.

Men “embedded” är inte automatiskt samma sak som oberoende. Anthropic skriver att standarder för åtkomst, rapportering och finansiering ännu saknas. Företaget kommer att finansiera Accentures utvärderingsarbete direkt, medan dialog förs med METR och andra ideella utvärderare om försök med egen finansiering. Separat uppger Anthropic och Accenture att de vardera räknar med att investera minst en miljard dollar i att bygga kapacitet på området under fem år.

Det gör frågorna journalistiskt viktiga: vem väljer granskaren, vilken åtkomst garanteras, vad får publiceras och vem avgör när en invändning ska bli offentlig? Modellen kan bli ett steg mot bättre insyn. Den kan också visa hur svårt det är att bygga en kontrollfunktion som är både nära verksamheten och fri från dess intressen.

OpenAI går åt samma håll – men med andra mått

Anthropic är inte ensamt om att beskriva en vardag där forskare allt oftare arbetar genom agenter. I en rapport från 6 september skriver OpenAI att forskningsorganisationen i mitten av augusti använde 3,1 agentarbetsdagar för varje mänsklig arbetsdag, räknat mot en standarddag på åtta timmar. Det är ett mått på agenternas sammanlagda körtid, inte på motsvarande mänsklig produktivitet.

OpenAI säger att man nått sitt mål om en “automated research intern”: ett system som under mänsklig ledning kan utföra tydligt avgränsade forskningsuppgifter som kan ta en skicklig forskare några dagar. Företaget beskriver också ett mål om en mer automatiserad AI-forskare till mars 2028.

Men OpenAI betonar att människor fortfarande sätter forskningsprioriteringar, väljer vilka idéer och resultat som ska följas och fattar beslut om att skala, pausa eller använda systemen. I företagets interna data krävde över hälften av de lyckade uppgifterna som uppskattades ta människor fyra till åtta timmar minst ett mänskligt ingripande.

OpenAI:s 3,1-siffra kan inte jämföras procentuellt med Anthropics 26 procent. De mäter olika saker med olika metod. Tillsammans visar de däremot en gemensam riktning: AI blir ett större arbetslager i forskning, medan mänsklig styrning ännu är en synlig del av processen.

Andra labb, och den saknade jämförelsen

Utanför de två företagen är den offentliga bilden mer splittrad. Meta har exempelvis publicerat forskning om AIRA₂, ett system för AI research agents som på vissa benchmarkuppgifter når eller överträffar mänskliga resultat. Men Meta-studien är ett benchmarkresultat, inte en redovisning av hur stor del av Metas interna AI-R&D som utförs av AI.

I NextNets research fram till den 23 september 2026 har vi inte identifierat motsvarande offentlig intern statistik för Google DeepMind, xAI, Nvidia, Mistral eller Hugging Face som gör en seriös jämförelse möjlig. Det är i sig en del av berättelsen. Om automatisering ska bli ett mått på hur snabbt AI-fältet rör sig, räcker det inte att varje bolag beskriver sin egen verksamhet med egna siffror.

Bromsa eller accelerera?

Debatten om hur utvecklingen ska styras har därför hårdnat. I essän “We Must Pace the Frontier” argumenterar Anthropics vd Dario Amodei för att kapacitetsutvecklingen bör få mer tid för säkerhetsarbete och extern verifiering. Han skiljer detta från ett totalt stopp för modellträning och tekniska framsteg.

OpenAI har i sin tur argumenterat för gemensamma sätt att mäta utvecklingen mot mer automatiserad AI-forskning, för att bevara mänsklig kontroll och för att kunna bromsa eller stoppa när skydden inte räcker. I sin policytext säger företaget samtidigt att fullt autonom recursive self-improvement inte sker i dag.

Men bromsning är inte samma sak som extern kontroll. I en Reuters-rapport den 18 september invände Mistral att pacing- och regelmodeller kan gynna redan dominerande amerikanska aktörer. Hugging Face-chefen Clément Delangue motsatte sig pacing men uttryckte stöd för embedded evaluators, medan AI-professorn Kristian Kersting pekade på risk för regulatory capture. Reuters beskriver samtidigt hur den bredare europeiska debatten kopplas till digital suveränitet och behovet av egen AI-kapacitet.

Den invändningen undanröjer inte behovet av granskning. Men den gör frågan bredare än om företagen ska sakta ned. Det går att efterfråga öppnare mått, starkare externa utvärderingar och bättre incidentrapportering utan att därmed acceptera att några få bolag själva definierar utvecklingstempot för resten av fältet.

När AI börjar bygga nästa AI

Det mest påtagliga i Anthropics och OpenAI:s redovisningar är inte ett bevis på att människan har lämnat forskningsloopen. Det är hur mycket av loopen som redan har blivit möjlig att parallellisera: felsökning, kod, experiment, teknisk support och delar av utvärderingsarbetet.

Det kan göra utvecklingen snabbare och ge mer kapacitet också till säkerhetsarbete. Men samma skala gör det svårare att nöja sig med företagens egna beskrivningar av hur kontrollen fungerar. När tusentals agenter kan utföra stora mängder arbete samtidigt blir kvaliteten på monitorerna, testningen och den mänskliga överblicken en lika viktig fråga som agenternas kapacitet.

Fullt autonom recursive self-improvement är inte visad som nutida verklighet. Framtidsscenarier om en intelligence explosion är just scenarier, inte etablerade fakta. Men utvecklingen som nu syns inne i labben är verklig nog: AI får en växande roll i att bygga nästa generation AI.

Den svåra frågan är därför inte bara hur mycket forskning AI kan göra. Det är vem som kan verifiera påståendena, vad systemen missar och om ansvar och insyn kan skala lika snabbt som själva utvecklingsarbetet.

💬 Vad tycker du?

Om AI gör en allt större del av arbetet med att utveckla nästa AI – hur mycket av kontrollen bör då ligga utanför företagen själva?

Dela gärna dina tankar i kommentarerna.

📚 Relaterade artiklar