Enligt ett tidigt EU-förslag kan företag som utvecklar generativa AI-verktyg, såsom ChatGPT, komma att tvingas avslöja upphovsrättsligt skyddat material som använts för att utveckla deras system. Detta kan bana väg för världens första omfattande lagstiftning kring tekniken.
Europeiska kommissionen påbörjade utformningen av AI-lagen för nästan två år sedan för att reglera framväxande artificiell intelligens. Intresset och investeringarna i tekniken ökade kraftigt efter lanseringen av OpenAI:s AI-drivna chatbot ChatGPT.
Ledamöter i Europaparlamentet har gått med på att driva utkastet vidare till nästa steg, trilogin, där EU-lagstiftare och medlemsstater kommer att diskutera och fastställa de slutgiltiga detaljerna i lagförslaget. Enligt förslaget kommer AI-verktyg att klassificeras utifrån deras upplevda risknivå: från minimal till begränsad, hög och oacceptabel. Oroande områden kan inkludera biometrisk övervakning, spridning av desinformation eller diskriminerande språk.
Krav på transparens för att avslöja upphovsrättsligt skyddat material
Även om högriskverktyg inte kommer att förbjudas, kommer användare av sådana verktyg att behöva vara mycket transparenta i sina verksamheter. Företag som utvecklar generativa AI-verktyg, som ChatGPT eller bildgeneratorn Midjourney, kommer även att behöva avslöja eventuellt upphovsrättsligt skyddat material som används för att utveckla deras system.
Detta krav lades till relativt sent i processen och enligt en källa som är bekant med diskussionerna föreslog vissa kommittémedlemmar först att förbjuda användning av upphovsrättsskyddat material för att träna generativa AI-modeller helt och hållet. Detta förslag övergavs dock till förmån för ett krav på ökad transparens.
Svenja Hahn, ledamot i Europaparlamentet, uttalade att parlamentet hittade en solid kompromiss som skulle reglera AI på ett proportionerligt sätt, skydda medborgarnas rättigheter samt främja innovation och stärka ekonomin.
Fred Havemeyer, analytiker på Macquarie, beskrev EU:s förslag som ”taktfullt” snarare än en ”förbjud först och ställ frågor senare” strategi som vissa föreslagit. ”EU har varit i framkant när det gäller att reglera AI-teknologi,” sade han till nyhetsbyrån Reuters.
Tävlingen för att ta generativa AI-produkter till marknaden har väckt oro hos vissa observatörer, med Elon Musk, ägare av Twitter, som stöder ett förslag om att stoppa utvecklingen av sådana system i sex månader. Kort efter att ha undertecknat brevet rapporterade Financial Times att Musk planerade att starta sitt eget företag för att konkurrera med OpenAI.
Microsoft-stödda OpenAI väckte både fascination och oro världen över när de presenterade ChatGPT förra året. Chatboten blev snabbt den snabbast växande konsumentapplikationen i historien och nådde 100 miljoner aktiva användare per månad på bara några veckor.
Det återstår att se hur EU:s lagstiftning kommer att påverka den fortsatta utvecklingen och användningen av generativa AI-verktyg. Förslaget om att införa regler kring upphovsrättsskyddat material kan dock bidra till en ökad transparens och ansvarsskyldighet för företag som utvecklar och använder dessa tekniker. Detta kan i sin tur leda till ett mer ansvarsfullt och etiskt användande av AI-teknologi inom EU.
