Smernice o obveznostih ponudnikov umetne inteligence za splošne namene

Umetnointeligenčni modeli za splošne namene imajo pomembno vlogo pri inovacijah na področju umetne inteligence, saj se lahko uporabljajo za različne naloge in vključijo v številne umetnointeligenčne sisteme nižje v prodajni verigi. To nalaga posebne odgovornosti njihovim ponudnikom. Zlasti morajo dati na voljo informacije ponudnikom umetnointeligenčnih sistemov, ki nameravajo model vključiti v svoje umetnointeligenčne sisteme, da bi lahko ti ponudniki nižje v prodajni verigi razumeli zmogljivosti in omejitve modela ter izpolnili svoje obveznosti na podlagi akta o umetni inteligenci.

Ker se ti modeli običajno učijo na velikih količinah podatkov, ki lahko vključujejo avtorsko zaščitene vsebine, akt o umetni inteligenci od ponudnikov zahteva, da vzpostavijo politike avtorskih pravic in objavijo povzetke vsebine, ki se uporablja za učenje njihovih modelov umetne inteligence za splošne namene.

Nazadnje, umetnointeligenčni modeli za splošne namene lahko pomenijo sistemska tveganja, ki lahko znatno vplivajo na trg Unije. Za ponudnike takih modelov veljajo dodatne obveznosti, namenjene ocenjevanju in zmanjševanju teh sistemskih tveganj. Te obveznosti vključujejo izvajanje ocen modelov, poročanje o incidentih in zagotavljanje ustrezne zaščite na področju kibernetske varnosti.

V teh smernicah je pojasnjeno, kako Komisija razlaga ključne pojme iz akta o umetni inteligenci, zlasti v zvezi z obveznostmi ponudnikov umetnointeligenčnih modelov za splošne namene, ki se začnejo uporabljati 2. avgusta 2025. Pri tem smernice ponudnikom zagotavljajo pravno varnost. Akterjem v vrednostni verigi umetne inteligence pomagajo ugotoviti, ali se njihov model šteje za model umetne inteligence za splošne namene, ali so ponudniki, ki ga dajejo na trg, ali izpolnjujejo pogoje za izjeme in kaj lahko pričakujejo v zvezi z izvrševanjem obveznosti iz akta o umetni inteligenci s strani Komisije.

Te smernice se uporabljajo samo za akt o umetni inteligenci in ne za drugo zakonodajo Unije.

Ponudniki umetnointeligenčnih modelov za splošne namene morajo:

• pripravi in vzdržuje tehnično dokumentacijo o modelu, vključno s podrobnostmi o razvojnem postopku, ki se na zahtevo predloži uradu za umetno inteligenco. Pristojni nacionalni organi lahko od urada za umetno inteligenco zahtevajo tudi, da v njihovem imenu zahteva informacije, kadar so te informacije potrebne za njihove nadzorne naloge;
• zagotavljanje informacij in dokumentacije ponudnikom umetnointeligenčnih sistemov nižje v prodajni verigi, da bi jim pomagali razumeti zmogljivosti in omejitve modela ter izpolnjevati njihove obveznosti;
• izvaja politiko za skladnost z avtorskim pravom Unije in sorodnimi pravicami z uporabo najsodobnejših tehnologij za prepoznavanje in spoštovanje pridržkov v zvezi s pravicami;
• objavi dovolj podroben povzetek vsebine, uporabljene za usposabljanje o modelu;
• če imajo sedež zunaj EU, imenujejo pooblaščenega zastopnika v Uniji, preden dajo svoj model na trg.

Ponudniki umetnointeligenčnih modelov za splošne namene, ki so bili izdani na podlagi brezplačne in odprtokodne licence, so lahko pod določenimi pogoji izvzeti iz prvih obveznosti.

Vendar se ponudniki umetnointeligenčnih modelov za splošne namene s sistemskim tveganjem, vključno z odprtokodnimi modeli, soočajo z dodatnimi obveznostmi. Ti ponudniki morajo na primer obvestiti Komisijo o razvoju modela s sistemskim tveganjem in sprejeti ukrepe za zagotovitev varnosti in zaščite modela.

Ponudniki lahko skladnost dokažejo s kodeksom ravnanja, ki je ocenjen kot ustrezen, ali z drugimi ustreznimi sredstvi.

Smernice pomagajo opredeliti, ali se model šteje za umetnointeligenčni model za splošne namene, če računalniški viri, ki se uporabljajo za njegovo učenje (računalnik za usposabljanje), presegajo 1023 FLOP in lahko ustvarijo jezik (besedilo ali zvok), besedilo v sliko ali besedilo v videoposnetek. Ta računski prag ustreza tistemu, kar se običajno uporablja za učenje modelov z milijardo parametrov na velikih naborih podatkov. Poleg tega izbrani načini omogočajo prilagodljivo ustvarjanje vsebin, ki omogočajo širok nabor različnih nalog. Vendar to ni absolutno pravilo – modeli, ki izpolnjujejo to merilo, se lahko izjemoma ne štejejo za umetnointeligenčne modele za splošne namene, če niso dovolj posplošeni, medtem ko so lahko modeli pod tem pragom še vedno umetnointeligenčni modeli za splošne namene, če so precej posplošeni in lahko kompetentno opravljajo širok nabor nalog.

Podjetja, ki se ukvarjajo z umetno inteligenco, morajo izpolnjevati obveznosti za ponudnike umetnointeligenčnih modelov za splošne namene, če so ponudniki, ki dajejo tak model na trg Unije.

1. Umetnointeligenčni model za splošne namene: Na podlagi okvirnega merila iz smernic se modeli, naučeni s količino izračuna, ki presega 1023 FLOP in lahko ustvari jezik, besedilo v sliko ali besedilo v video, štejejo za umetnointeligenčne modele za splošne namene, čeprav lahko obstajajo izjeme.
2. Biti „ponudnik“: „Ponudnik“ je subjekt, ki razvija ali ima razvit umetnointeligenčni model za splošne namene in ga daje na trg pod svojim imenom ali blagovno znamko. To vključuje družbe s sedežem zunaj EU, ki dajejo modele na trg Unije.
3. „dajanje na trg“: To pomeni prvo razpoložljivost na trgu Unije prek vmesnikov za aplikacijsko programiranje, prenosov, storitev v oblaku, integracije v aplikacije ali na druge načine. To velja tudi, kadar so modeli integrirani v umetnointeligenčne sisteme ali se uporabljajo za notranje postopke, ki so bistveni za zagotavljanje proizvoda ali storitve tretjim osebam ali vplivajo na pravice fizičnih oseb v Uniji.

Smernice vsebujejo primere za identifikacijo ponudnika v različnih scenarijih, vključno s sodelovalnim razvojem in dogovori s tretjimi osebami, ter pojasnjujejo, katera dejanja pomenijo dajanje na trg.

Akt o umetni inteligenci uravnoveša inovacije in regulacijo, saj priznava, da vsake spremembe ali izpopolnitve umetnointeligenčnega modela za splošne namene ne bi smeli obravnavati, kot da ustvarja nov model. Zato za akterje, ki spreminjajo ali izpopolnjujejo model, ne veljajo samodejno vse obveznosti ponudnikov umetnointeligenčnih modelov za splošne namene.  Smernice pojasnjujejo, da ti akterji postanejo ponudniki le v izjemnih okoliščinah, zlasti kadar se pri spremembi ali natančnem prilagajanju uporabi več kot tretjina izračuna usposabljanja prvotnega modela.

Ta visok prag pomeni, da za večino prilagoditev, prilagoditev in manjših sprememb za razvijalce ne bodo veljale obveznosti za ponudnike.

Komisija v podporo inovacijam dodatno omejuje obveznosti za bistvene spremembe na dokumentiranje same spremembe – izvedene spremembe in novi uporabljeni podatki o usposabljanju – namesto da bi zahtevala popolno dokumentacijo celotnega modela.

Ta pristop zagotavlja, da lahko velika večina razvijalcev uvaja inovacije na podlagi obstoječih modelov brez pretiranega regulativnega bremena.

Te smernice niso pravno zavezujoče. Verodostojno razlago akta o umetni inteligenci lahko poda le Sodišče Evropske unije. Kljub temu te smernice določajo, kako Komisija razlaga in uporablja akt o umetni inteligenci, na katerem bo utemeljila svoje izvršilne ukrepe. To ponudnikom pomaga izpolnjevati njihove obveznosti in podpira učinkovito izvajanje akta o umetni inteligenci. Kljub temu bo vedno potrebna ocena vsakega primera posebej, da se upoštevajo posebnosti vsakega posameznega primera.

Umetnointeligenčni model za splošne namene je razvrščen kot model s sistemskim tveganjem, če izpolnjuje enega od dveh pogojev.

• Pogoj izračuna praga: Model ima zmogljivosti, ki se ujemajo ali presegajo zmogljivosti najnaprednejših modelov. Akt o umetni inteligenci to predvideva za modele, ki se učijo s skupno količino računalniških virov, ki presega 1025 operacij s plavajočo vejico (v nadaljnjem besedilu: računalniški prag), da imajo take zmogljivosti. Ta prag kaže, da bi model lahko znatno vplival na trg Unije zaradi svojega dosega ali morebitnih negativnih učinkov na javno zdravje, varnost, zaščito, temeljne pravice ali družbo. Komisija mora ta prag po potrebi prilagoditi tehnološkemu razvoju.
• Pogoj za določitev: Komisija lahko model imenuje za umetnointeligenčni model za splošne namene s sistemskim tveganjem na lastno pobudo ali na podlagi kvalificiranega opozorila znanstvenega odbora, če so zmogljivosti ali učinek modela enakovredni zmogljivostim ali učinkom najnaprednejših modelov. Ta rezervacija upošteva modele, ki lahko predstavljajo sistemska tveganja, tudi če ne dosegajo računskega praga.

Ko model izpolnjuje katerega koli od teh pogojev, mora njegov ponudnik izpolnjevati dodatne obveznosti, vključno z ocenjevanjem in zmanjševanjem sistemskih tveganj.

Kadar umetnointeligenčni model za splošne namene dosega računski prag ali postane znano, da bo ta prag dosežen, mora ponudnik o tem nemudoma obvestiti Komisijo, najpozneje pa v dveh tednih.

Ponudnik lahko v tem obvestilu predloži argumente, s katerimi dokaže, da model kljub doseganju praga nima zmogljivosti, ki se ujemajo z zmogljivostmi najnaprednejših modelov ali jih presegajo, ali da ne predstavlja sistemskih tveganj iz drugih razlogov. Zato se ne bi smel razvrstiti kot umetnointeligenčni model za splošne namene s sistemskim tveganjem. 

Ponudniki lahko izrecno trdijo, da njihov model ne predstavlja sistemskih tveganj, ker nima zmogljivosti z velikim učinkom - tistih, ki se ujemajo z zmogljivostmi najnaprednejših modelov ali jih presegajo, in sistemskih tveganj, povezanih s takimi zmogljivostmi z velikim učinkom.

Komisija bo ocenila argumente, ki jih bo predložil ponudnik, in se odločila, ali jih bo sprejela ali zavrnila.  

Če Komisija sprejme argumente, model ne bo več razvrščen kot umetnointeligenčni model za splošne namene s sistemskim tveganjem, za njegovega ponudnika pa od trenutka, ko bo obveščen o odločitvi o sprejetju, ne bodo veljale s tem povezane obveznosti.

Če Komisija argumente zavrne, bo model potrjen kot umetnointeligenčni model za splošne namene s sistemskim tveganjem, za ponudnika pa bodo veljale obveznosti za take modele od trenutka, ko model doseže računsko mejno vrednost.

Za vse ponudnike umetnointeligenčnih modelov za splošne namene ne veljajo enake zahteve, saj obstajajo izjeme za ponudnike modelov, ki se izdajajo na podlagi brezplačnih in odprtokodnih licenc. Natančneje, ponudniki takih modelov so lahko izvzeti iz zahteve, da:

• hrani tehnično dokumentacijo za organe;
• zagotavljanje dokumentacije ponudnikom umetnointeligenčnih sistemov nižje v prodajni verigi;
• imenuje predstavnika EU (za ponudnike iz tretjih držav).

Te izjeme se uporabljajo le, če model:

• je izdan na podlagi resnično brezplačne in odprtokodne licence, ki omogoča dostop, uporabo, spreminjanje in distribucijo brez monetizacije;
• ima javno dostopne parametre, vključno z utežmi, arhitekturo in informacijami o uporabi;
• ni razvrščen kot umetnointeligenčni model za splošne namene s sistemskim tveganjem,saj morajo ponudniki teh modelov izpolnjevati vse obveznosti, ne glede na to, ali je model odprtokodni. 

Izjeme priznavajo, da odprtokodni modeli podpirajo raziskave in inovacije, hkrati pa zaradi svoje odprte narave zagotavljajo preglednost. Vendar morajo ponudniki odprtokodnih modelov še vedno izpolnjevati obveznost politike avtorskih pravic in objaviti povzetek učnih podatkov. 

Poleg standardnih obveznosti morajo ponudniki vseh umetnointeligenčnih modelov za splošne namene in ponudniki umetnointeligenčnih modelov za splošne namene s sistemskim tveganjem:

• Vrednotenje modela: ocenjevanje modelov z uporabo standardiziranih protokolov in najsodobnejših orodij, vključno z izvajanjem in dokumentiranjem kontradiktornega testiranja za opredelitev in zmanjšanje sistemskih tveganj;
• Ocena tveganja: Oceniti in ublažiti morebitna sistemska tveganja na ravni Unije, vključno z njihovimi viri, ki lahko izhajajo iz razvoja, dajanja na trg ali uporabe teh modelov.
• Poročanje o incidentih: Spremljanje, dokumentiranje in sporočanje ustreznih informacij o resnih incidentih in morebitnih popravnih ukrepih uradu za umetno inteligenco in po potrebi nacionalnim organom brez nepotrebnega odlašanja.
• Zaščitni ukrepi za kibernetsko varnost: Zagotoviti ustrezno kibernetsko varnost modela in njegove fizične infrastrukture, da se preprečijo kraja, zloraba ali razširjene posledice nepravilnega delovanja.

Ponudniki lahko skladnost dokažejo s spoštovanjem kodeksa ravnanja umetne inteligence za splošne namene ali s prikazom drugih ustreznih načinov skladnosti. Če ponudniki izberejo slednje, morajo predložiti argumente, zakaj so taka sredstva ustrezna, ki jih bo ocenila Komisija.

Smernice dopolnjujejo kodeks ravnanja, saj pojasnjujejo ključne pojme iz akta o umetni inteligenci, vključno s tem, kako se lahko kodeks uporablja za dokazovanje skladnosti. Čeprav smernice zagotavljajo razlagalni okvir za razumevanje obveznosti ponudnikov umetnointeligenčnih modelov za splošne namene, kodeks ponuja posebne ukrepe, ki jih lahko ponudniki izvajajo, da dokažejo, da izpolnjujejo te obveznosti.

Komisija je te smernice pripravila z vključujočim postopkom posvetovanja, da bi zagotovila, da odražajo praktične izkušnje in različne vidike. Od 22. aprila do 22. maja 2025 je potekalo javno posvetovanje z več deležniki, v katerem so bili povabljeni ponudniki umetnointeligenčnih modelov za splošne namene, ponudniki nižje v prodajni verigi, civilna družba, akademski krogi, strokovnjaki, javni organi in drugi deležniki. Smernice so vključevale tudi povratne informacije držav članic prek Evropskega odbora za umetno inteligenco in črpale iz strokovnega znanja skupine strokovnjakov Skupnega raziskovalnega središča Komisije. 

Ponudniki umetnointeligenčnih modelov za splošne namene morajo izpolnjevati dve glavni obveznosti glede dokumentacije v skladu z aktom o umetni inteligenci:

• Tehnična dokumentacija za organe: Ponudniki morajo pripraviti in hraniti celovito tehnično dokumentacijo za organe. To vključuje informacije o arhitekturi modela, procesu usposabljanja, usposabljanju, testiranju in potrjevanju podatkov, računalniških virih in porabi energije. Ta dokumentacija mora biti na zahtevo na voljo Uradu za umetno inteligenco, ki lahko deluje tudi v imenu pristojnih nacionalnih organov.
• Dokumentacija za ponudnike nižje v prodajni verigi: Ponudniki morajo tudi ustvariti in hraniti ločeno dokumentacijo – tisti, ki nameravajo zadevni model UI za splošne namene vključiti v umetnointeligenčne sisteme (v nadaljnjem besedilu: ponudniki nižje v prodajni verigi). Ta dokumentacija bi morala vključevati splošne informacije o predvidenih nalogah modela, zahtevah za tehnično integracijo, vhodno-izhodnih specifikacijah in učnih podatkih. Proaktivno mora biti na voljo ponudnikom nižje v prodajni verigi, da bodo lahko razumeli zmogljivosti in omejitve modela ter izpolnjevali svoje obveznosti iz akta o umetni inteligenci. 

Oba sklopa dokumentacije je treba posodabljati v celotnem življenjskem ciklu modela. Umetnointeligenčni modeli za splošne namene, izdani na podlagi brezplačne in odprtokodne licence, so lahko izvzeti iz teh zahtev glede dokumentacije, če izpolnjujejo nekatere pogoje glede dodatnih informacij, ki jih je treba dati na voljo. Vendar se ta izjema ne uporablja za umetnointeligenčne modele za splošne namene s sistemskim tveganjem.

Ponudniki umetnointeligenčnih modelov za splošne namene morajo izpolnjevati dve glavni obveznosti glede javne preglednosti in avtorskih pravic v skladu z aktom o umetni inteligenci:

• Politika avtorskih pravic: Ponudniki morajo vzpostaviti politiko, ki je skladna z avtorskim pravom Unije in sorodnimi pravicami. To vključuje opredelitev in spoštovanje pridržkov v zvezi s pravicami v skladu z avtorskim pravom Unije.
• Javni povzetek vsebine usposabljanja: Ponudniki morajo javno objaviti dovolj podroben povzetek vsebine, uporabljene za usposabljanje njihovih modelov.

Te obveznosti veljajo za vse ponudnike umetnointeligenčnih modelov za splošne namene, vključno s ponudniki odprtokodnih modelov. Splošni kodeks ravnanja na področju umetne inteligence vsebuje podrobne smernice o tem, kako lahko ponudniki izpolnijo obveznost glede skladnosti z avtorskimi pravicami.

Komisija za zahtevo po javnem povzetku pripravlja predlogo in priložene smernice, ki jih bodo morali ponudniki uporabiti za predstavitev javnega povzetka.

Akt o umetni inteligenci zagotavlja, da imajo razvijalci nižje v prodajni verigi zadostne informacije, in sicer z obveznimi zahtevami glede dokumentacije za ponudnike umetnointeligenčnih modelov za splošne namene. Ponudniki morajo ustvariti in dejavno zagotavljati dokumentacijo, zasnovano posebej za ponudnike umetnointeligenčnih sistemov nižje v prodajni verigi, ki vključuje:

• predvidene naloge modela in politike sprejemljive uporabe;
• tehnične specifikacije, vključno z arhitekturo, parametri, načini vnosa/iznosa in obliko;
• zahteve glede vključevanja, kot so navodila za uporabo, infrastrukturne potrebe in potrebna orodja;
• informacije o vrsti, izvoru in metodologijah za usposabljanje, testiranje in potrjevanje podatkov.

Akt z obvezno izmenjavo informacij vzpostavlja okvir preglednosti, ki podpira odgovorne inovacije v celotni vrednostni verigi umetne inteligence.

Obveznosti iz akta o umetni inteligenci za ponudnike umetnointeligenčnih modelov za splošne namenese začnejo uporabljati 2. avgusta 2025. Od tega datuma morajo ponudniki, ki dajejo te modele na trg, izpolnjevati svoje obveznosti iz akta o umetni inteligenci in Urad za umetno inteligenco nemudoma obvestiti o modelih s sistemskim tveganjem, ki bodo dani na trg EU. 

Urad za umetno inteligenco bo v prvem letu od 2. avgusta 2025 ponudil tesno sodelovanje, zlasti s ponudniki, ki spoštujejo kodeks ravnanja, da se zagotovi takojšnje dajanje modelov na trg EU. Če ponudniki, ki spoštujejo kodeks, ne bodo takoj v celoti izpolnili vseh zavez, urad za umetno inteligenco ne bo štel, da so kršili svoje zaveze v skladu s kodeksom. Namesto tega bo urad za umetno inteligenco menil, da delujejo v dobri veri, in bo pripravljen sodelovati, da se zagotovi popolna skladnost. Vendar bo Komisija od 2. avgusta 2026 naprej izvrševala popolno skladnost z vsemi obveznostmi ponudnikov umetnointeligenčnih modelov za splošne namene, tudi z globami.

Ponudniki umetnointeligenčnih modelov za splošne namene, danih na trg pred 2. avgustom 2025, morajo obveznosti iz akta o umetni inteligenci izpolniti do 2. avgusta 2027.