När den generativa AI-tekniken utvecklas i ständigt högre takt ökar pressen på utvecklare att integrera AI i nya produkter, och samtidigt leverera dem snabbare än någonsin. Detta riskerar att skapa en teknisk skuld, ett störningsmoment som bromsar framtida innovation. Genom att ta sig an nya projekt på ett genomtänkt sätt och vara medvetna om var den tekniska skulden uppstår kan utvecklarna minimera riskerna och öka takten i lanseringen av nya AI-produkter.
Man kan säga att de finns tre primära delar som kan leda till en teknisk skuld: tiden det tar att slutföra ett projekt, mängden resurser som krävs i form av utvecklare och projektets omfattning. På grund av de höga krav som ställs behöver många projekt ofta kompromissa med minst en av dessa delar, antingen genom att förlänga leveranstiden, kompromissa med kvaliteten eller skära ner på funktioner. Den tekniska skulden uppstår därför ofta när man offrar projektets kvalitet för att påskynda lanseringen.
Vad gör generativ AI till ett specialfall?
Generativ AI medför särskilda utmaningar på grund av dess snabba utveckling. Ständigt lanseras nya verktyg och språkmodeller. Samtidigt saknar många organisationer definierade processer för att utveckla och testa generativ AI. Trots detta är de angelägna om att ligga steget före konkurrenterna genom att vara först med att leverera nya, unika AI-funktioner.
Detta leder ofta till att generativa AI-projekt blir särskilt sårbara för teknisk skuld – vilket inte behöver vara något negativt. En teknisk skuld behöver inte alltid vara dålig. Så länge den tekniska skulden uppkommer avsiktligt med en genomarbetad plan för att ‘betala av’ skulden – innan den blir ett hinder för framtida utveckling. Nyckeln ligger i att lära känna skillnaden mellan ‘acceptabla’ och ‘oacceptabla’ skulder.
Att exempelvis kompromissa med kvaliteten på modeller och data på ett sätt som påverkar modellens träffsäkerhet är sällan en bra idé. En AI-modell som tränats på bristfälliga data kan inte bara hallucinera, det vill säga, att den med självsäkerhet når inkorrekta slutsatser, utan kan i värsta fall bidra med opassande eller kränkande svar. Detta skadar inte bara tilliten till AI-modellen i fråga, utan kan dessutom ha negativa konsekvenser för företagets rykte, och i värsta fall leda till stämningar. Därför vill man undvika en teknisk skuld som utsätter din organisation för en sådan risk.
Rätt val minimerar den tekniska skulden
Målet blir alltså att minimera den tekniska skulden utan att det tar en evighet för projekten att lanseras. De allra bästa generativa AI-drivna applikationerna kombinerar en AI-modell med interna företagsdata, vilket innebär att sättet som utvecklare hämtar och levererar data till applikationerna är ett viktigt fokusområde.
De data som används i AI-modellerna måste vara korrekta och av hög kvalitet för att ge bra resultat, samtidigt är det viktigt att den delas med fokus på säkerhet och integritet. Applikationerna behöver också övervakas för att säkerställa att pipelines och modeller fungerar optimalt. Man måste i realtid ha överblick över flödet för att effektivt kunna identifiera och åtgärda eventuella problem som kan uppstå.
Nyckeln till att minimera den tekniska skulden är att undvika att skapa dessa funktioner ad-hoc, varje gång en ny applikation ska utvecklas. Om man skapar en för anpassad anslutning för att exportera data från en databas till en stor språkmodell kommer den sannolikt att generera en teknisk skuld som måste hanteras i framtiden.
Ett övergripande synsätt på anslutning och styrning
Istället bör man välja en plattform som har inbyggda funktioner för kontroll och hantering av data. En molnplattform bör också påtvinga vissa typer av kontroller, bland annat för att säkerställa att appar smidigt kan integreras med den större IT-miljön och anslutas till system för övervakning, åtkomstkontroll och andra behov.
Det är också viktigt att välja en plattform där de generativa AI-applikationerna kan sättas i produktion bredvid data, så att existerande roller och behörigheter kan återanvändas utan att utvecklarna behöver hantera det i applikationen. Att välja en plattform med inbyggda funktioner i form av observabilitet, datakvalitet, säkerhet och kontroll innebär att dessa tjänster finns tillgängliga utan att man själva behöver bygga dem. Att dra nytta av tillgängliga tjänster minskar behovet för anpassade lösningar, vilket i sin tur minimerar den tekniska skulden.
Konsekvent utveckling minimerar den tekniska skulden
Att bygga AI-applikationer på ett konsekvent sätt minimerar den tekniska skulden och påskyndar i sin tur framtida framsteg. Har man till exempel utvecklat ett testkoncept som senare ska kunna skalas upp, görs detta mycket snabbare genom att arbeta i en miljö som redan har kopplingar till den verksamhetskritiska data och där kontroll- och säkerhetsbehoven redan är uppfyllda.
Vi har redan digitala assistenter, så kallade copilots, som kan skriva kod och det är inte svårt att föreställa sig en framtid då AI kommer kunna granska den kod du skriver, identifiera områden med teknisk skuld och föreslå sätt att optimera den. Men det är i framtiden. I nuläget gäller det att alla utvecklare bygger applikationer på ett sätt som minimerar skulden och inte skapar hinder för framtida innovation. Därför blir det ytterst viktigt att man har möjligheten att utveckla i en miljö som tillämpar bästa praxis för att hämta och leverera data på ett säkert och reglerat sätt.
Mats Stellwall, Principal Architect AI/ML på Snowflake
