18 June 2024 | Blog
Författare: Zexian Li, Orange Cyberdefense China
Obs: Den här artikeln bygger på offentliga uttalanden från OpenAI och Hugging Face fram till den 28 juli 2026, samt medieintervjuer med berörda personer.
OpenAI har ännu inte publicerat sin slutliga tekniska rapport. Vissa uppgifter om incidentens tidslinje och avvikande beteenden bygger på medierapporter som hänvisar till personer med insyn i händelsen. Artikeln strävar efter att tydligt skilja mellan officiellt bekräftade fakta, uppgifter från medierapportering och författarens egen analys.
Artikeln är omfattande och innehåller en djupgående genomgång. Det kan därför ta en stund att läsa den i sin helhet.
Från kodgenerering till AI-agenter: förändringen sker även utanför själva modellen.
Om man bara tittar på modellnamn och resultat i olika benchmarktester är det lätt att förenkla utvecklingen under de senaste åren till en enda berättelse: ”modellerna har blivit smartare”.
Men ur ett ingenjörsperspektiv är det framför allt hela det exekveringssystem som omger modellen som har förändrat hur AI fungerar i praktiken.
Steg 1: En förfrågan, ett svar
Det tidiga arbetsflödet för AI-assisterad programmering såg vanligtvis ut så här:
Modellen kan inte se den faktiska utvecklingsmiljön direkt och vet inte heller vad som händer när koden har körts.
Om programmet genererar ett fel måste användaren kopiera felmeddelandet och klistra in det i modellen. Varje ändring är beroende av att kontexten överförs manuellt.
I det här läget fungerar modellen enbart som en kodgenerator i utvecklingsprocessen.
Steg 2: Modellen flyttar in i utvecklingsmiljön
Därefter började AI integreras i utvecklingsmiljöer (IDE:er), terminaler och kodarkiv.
Modellen genererade inte längre bara kod, utan började delta i hela utvecklingscykeln. Efter att ha skrivit kod kunde den kompilera den direkt. Om kompileringen misslyckades kunde den läsa felmeddelandet. Om testerna inte gick igenom kunde den söka efter relevanta implementationer och fortsätta iterera.
Därmed blev förmågan att generera kod inte längre den enda avgörande faktorn.
Samma modell kan prestera på helt olika sätt i praktiken beroende på om den enbart får generera text eller också får tillgång till ett kodarkiv, en terminal, ett testramverk, en webbläsare och en driftsättningsmiljö.
Steg 3: AI-agenter får tillgång till verktyg och kan arbeta kontinuerligt.
Grundmodellen för interaktionen i en vanlig chattbot är:
Indata → resonemang → utdata
Ett agentsystem fungerar snarare så här:
OpenClaw är ett typiskt exempel på den här typen av system.
Här behöver vi skilja mellan flera begrepp som har blivit allt vanligare under de senaste åren.
- Prompt avgör hur modellen tolkar den aktuella instruktionen
- Kontext avgör vilken information modellen har tillgång till
- Harness avgör vilka åtgärder modellen tillåts utföra
- Loop avgör om dessa åtgärder kan fortsätta över tid
En AI-agent är ett system som består av modellen, kontexten, verktygen, behörigheterna, exekveringsmiljön och återkopplingsloopen i samverkan.
Det förklarar också varför samma grundmodell kan uppvisa helt olika förmågor inom systemutveckling och medföra helt olika säkerhetsrisker beroende på vilket agentramverk den används i.
Läs mer:
Read more
22 November 2023 | Blog
NIS2: Boosting OT Security in a New Regulatory Landscape
23 April 2024 | Blog
Hacking a factory: A safe way to testing ICS/OT environments
24/7 incident hotline