U potezu koji će odjeknuti tehnološkim sektorom diljem svijeta, Europska unija se priprema aktivirati prvi set pravila iz svog revolucionarnog Akta o umjetnoj inteligenciji (AI Act) već u kolovozu ove godine. Ovaj prvi val regulacije usmjeren je na najmoćnije i najutjecajnije modele opće namjene (GPAI), poput onih koji pokreću ChatGPT i Gemini, postavljajući presedan za globalno upravljanje tehnologijom koja se razvija brzinom bez premca. Dok Europska komisija i njezin novouspostavljeni Ured za umjetnu inteligenciju finaliziraju ključni Kodeks dobre prakse, svijet sa strepnjom i znatiželjom promatra hoće li europski pristup – balansiranje inovacije i sigurnosti – postati globalni standard ili kočnica napretka.
Put do ovog trenutka bio je maraton, a ne sprint. Prvi nacrt Akta o umjetnoj inteligenciji predstavljen je još 2021. godine i bio je primarno usmjeren na specifične, “visokorizične” primjene umjetne inteligencije, poput onih u medicinskim uređajima, kritičnoj infrastrukturi ili sustavima za zapošljavanje. No, krajem 2022. godine, pojava ChatGPT-a i eksplozija generativne umjetne inteligencije iz temelja su promijenili igru. Regulatori u Bruxellesu shvatili su da se ne mogu fokusirati samo na krajnje primjene, već da moraju regulirati i same temeljne modele – goleme, svestrane sustave koji mogu generirati tekst, slike i kod, a čije su mogućnosti i potencijalni rizici daleko širi i nepredvidljiviji.
Pristup temeljen na riziku
To je dovelo do grozničavih pregovora i restrukturiranja zakona kako bi se u njega uključila potpuno nova kategorija: modeli opće namjene (GPAI). Rezultat je jedinstven, slojevit pristup koji čini srž europske regulatorne filozofije. Akt o umjetnoj inteligenciji ne tretira svu umjetnu inteligenciju jednako. Umjesto toga, primjenjuje “pristup temeljen na riziku”, koji dijeli AI sustave u četiri kategorije:
1. Neprihvatljiv rizik: Sustavi koji se smatraju prijetnjom temeljnim pravima i vrijednostima EU-a bit će u potpunosti zabranjeni. To uključuje, primjerice, sustave za “društveno bodovanje” (social scoring) koje provode države i tehnike manipulacije ljudskim ponašanjem.
2. Visok rizik: Sustavi koji mogu negativno utjecati na sigurnost ili temeljna prava. U ovu kategoriju spadaju AI sustavi u proizvodima koji podliježu sigurnosnoj certifikaciji, kao i sustavi u osam specifičnih područja, uključujući upravljanje kritičnom infrastrukturom, obrazovanje, zapošljavanje, provedbu zakona i demokratske procese.
3. Ograničen rizik: Za ove sustave vrijede obveze transparentnosti. Korisnici moraju biti svjesni da su u interakciji s umjetnom inteligencijom. To uključuje chatbotove i sustave koji generiraju “deepfake” sadržaj.
4. Minimalan rizik: Velika većina AI sustava, poput filtera za neželjenu poštu ili AI u videoigrama, spada u ovu kategoriju i za njih ne postoje nove obveze.
Dva sloja pravila za generativni AI
Pravila koja stupaju na snagu u kolovozu tiču se upravo onih modela koji su u središtu današnje AI revolucije – temeljnih, generativnih modela. Zakonodavci su za njih osmislili poseban, dvoslojni sustav obveza.
Prvi sloj odnosi se na sve modele opće namjene. Njihovi razvijači morat će ispuniti niz zahtjeva za transparentnost, uključujući izradu detaljne tehničke dokumentacije i pružanje “dovoljno detaljnog sažetka” sadržaja koji je korišten za treniranje modela.
Drugi, znatno stroži sloj pravila, odnosi se na GPAI modele sa “sustavnim rizikom”. To su najnapredniji modeli čiji bi kvarovi mogli imati ozbiljne posljedice. Za njih su obveze znatno ozbiljnije: rigorozna procjena rizika, prijavljivanje incidenata, osiguravanje kibernetičke sigurnosti i praćenje energetske potrošnje.
Ured za AI i Kodeks dobre prakse
Da bi se ova pravila mogla provesti u praksi, ključan je Kodeks dobre prakse. Njegovu izradu koordinira novooformljeni Ured za umjetnu inteligenciju (AI Office), centralno tijelo unutar Europske komisije koje će nadzirati provedbu Akta. Ovaj kodeks će prevesti zakonske obveze u konkretne, tehničke standarde i metodologije, a njegova finalizacija tijekom ljeta dat će tvrtkama konkretne upute.
Dok se približava kolovoz, pred Europskom unijom stoji povijesni izazov. Ona prva pokušava uspostaviti pravni okvir za jednu od najtransformativnijih tehnologija u povijesti čovječanstva. Uspije li u svom naumu da uravnoteži poticanje inovacija sa zaštitom svojih temeljnih vrijednosti, mogla bi iscrtati put kojim će krenuti i ostatak svijeta. Prvi koraci u ovom digitalnom Rubikonu bit će napravljeni za manje od dva mjeseca, a njihove će se posljedice osjećati desetljećima.
