Autor u članku donosi pregled novije poredbene sudske i zakonodavne prakse s područja autorskog prava, umjetne inteligencije i zaštite osobnih podataka.
Sažetak
U posljednjih nekoliko godina široj javnosti dostupno je sve više alata umjetne inteligencije koji temeljem osnovnog unosa korisnika generiraju odnosno proizvode vizualne i audio uratke. Takvi alati uvelike ovise o bazama podataka strojnog učenja putem kojih algoritmi provode uče generirati slikovne, zvučne i video uratke, i iz kojih preuzimaju brojne predloške odnosno autorska djela za njihovo generiranje. U pravilu je riječ o korištenju nepreglednog broja zaštićenih podataka odnosno autorskih djela bez dopuštenja autora, vlasnika ili portala na kojima su takvi podaci objavljeni. Trenutačno se u Sjedinjenim Američkih Državama vodi više interesantnih predmeta koji će potencijalno osvijetliti kontekst zaštite autorskog prava i prava na pošteno korištenje u kontekstu generativnih alata umjetne inteligencije. U tome očekivanju, u predmetnom broju daje se osvrt na značajnu presudu američkog Vrhovnog suda iz tekuće godine kojom se razradilo pojmovno razlikovanje izvedenih i tzv. transformativnih djela koji su proizašli korištenjem autorskog djela bez dopuštenja autora uz pozivanje na doktrinu poštenog korištenja.
S obzirom na kompleksnost obrade podataka u poslovnom sektoru, nerijetko je slučaj da čitav niz institucija koje posluju sa privatnim i pravnim osobama uslugu obrade podataka o svojim postojećim i potencijalnim klijentima prebacuju na treće osobe. Klasičan primjer takvog odnosa jest suradnja banaka i kreditnih agencija koje izrađuju profile kreditne sposobnosti pojedinaca i poslovnih subjekata, temeljem čega banke u pravilu donose odluke o izdavanju kredita. Sud Europske unije donio je značajnu presudu u vezi prava subjekata obrade podataka da, u slučajevima kada je riječ o profiliranju i automatiziranju odluka, mehanizme zaštite osobnih podataka sukladno GDPR Uredbi primjenjuju i prema takvim trećim osobama. U nastavku teksta iznose se detalji u vezi spora te se upozorava na širi značaj odluke, poglavito u vezi primjene iste na automatizirano odlučivanje i profiliranje ispitanika primjenom alata umjetne inteligencije.
Bliži se trenutak okončanja zakonodavnog procesa donošenja Uredbe o umjetnoj inteligenciji. Europski parlament i Vijeće dogovorili su sporne točke, pri čemu se najviše javno dostupnog narativa posvetilo problematici biometrijske identifikacije u realnom vremenu. Parlament je po tom pitanju učinio određene ustupke, dok je Vijeće s druge strane odobrilo brojne relevantne prijedloge izmjena i dopuna koje je Parlament iznio, a koje se u dobroj mjeri odnose na tehnološke novitete koji su postali dostupni javnosti tek nakon što je izašao prvi nacrt Uredbe. Očekuje se kako će zakonodavni postupak biti okončan u 2024. godini, a puna primjena Uredbe vjerojatno će biti odgođena do 2026. godine. U nastavku teksta daje se kratki pregled najbitnijih dijelova dogovora Parlamenta i Vijeća.
Načelo poštenog korištenja i autorsko pravo
Vrhovni sud Sjedinjenih Američkih Država nedavno je donio presudu u predmetu Andy Warhol Foundation v. Goldsmith te usvojio važna stajališta u vezi problematike poštenog korištenja tuđeg autorskog djela. Predmet spora jest pitanje je li američki kreator Andy Warhol povrijedio autorsko pravo (copyright infringment) autorice fotografije glazbenika Prince Rogers Nelson-a (poznatiji kao Princ), odnosno je li riječ o poštenom korištenju (fair use) autorskog dijela na način da se izvorno djelo pretvori u novo, transformirano djelo (transformative use). Sud je zaključio kako je u predmetnom sporu riječ o kršenju autorskog prava.
Načelo poštenog korištenja zahtjeva da se prethodno svakom utvrđenju korištenja nekog djela pri izradi novog, transformiranog djela bez dopuštenja autora izvornog djela, zadovolje različiti elementi (ovisno o konkretnom slučaju), pri čemu se posebno ističu: svrha i karakter korištenja djela, priroda samog djela zaštićenog autorskim pravom, razina odnosno stupanja korištenja izvornog djela pri izradi novog djela, komercijalna iskoristivost novog djela u odnosu na izvorno djelo te efekt stavljanja novog djela na tržište. U nedostatku jasne distinkcije između izvornih djela i novih transformiranih djela, moguće je zamisliti pravno shvaćanje po kojem svako korištenje izvornog djela u izradi novog djela predstavlja transformirano djelo i pošteno korištenje izvornika, a što bi u praksi onemogućilo autora izvornog djela da izradom izvedenih djela (derivative works) ostvaruje određenu svrhu (komercijalnu ili drugu). Drugim riječima, preširoko pojmovno shvaćanje transformativane prirode novih djela kosi se s pravom autora da koristi izvedena djela isključivo u svoju korist, odnosno djeluje suprotno načelu zaštite autorskog prava.
U vezi predmetnog spora potrebno je za naglasiti kako je izvorna fotografija napravljena je 1981. godine i objavljena u časopisu pri čemu je potrebno za naglasiti kako je autorica fotografije zadržala autorsko pravo nad fotografijom. Nekoliko godina kasnije, drugi časopis zatražio je od autorice fotografije pravo na korištenje iste kao predložak za izradu ilustracije glazbenika (ilustrator je bio Warhol). Dogovoreno je da će se fotografija moći upotrijebiti isključivo jednom (jedna slika preko cijele stranice, jedna slika u manjem kvadratu) za potrebe jednog članka u časopisu te je autorica fotografije dobila naknadu (license fee). Bez znanja autorice fotografije, Warhol je izradio dodatnih 15 drugih ilustracija glazbenika koristeći isti predložak (izvorna fotografija glazbenika). Navedene ilustracije danas imaju visoku novčanu vrijednost, a autorsko pravo nad ilustracijama preneseno je na Zakladu Andy Warhol-a za vizualne umjetnosti.
Godine 2016. treći časopis kontaktirao je Zakladu i zatražio pravo korištenja prvotno napravljene ilustracije, no na kraju je uz naknadu dobio dopuštenje za korištenje jedne od 15 naknadno napravljenih ilustracija. Navedeni časopis nije od autorice izvorne fotografije zatražio dopuštenje za korištenje niti joj ponudio naknadu za korištenje. U međuvremenu su drugi časopisi kontaktirali autoricu i dobili dopuštenje za korištenje fotografija glazbenika uz naknadu. Nakon što je primijetila objavu fotografije u trećem časopisu za što nije traženo njezino dopuštenje uz naknadu, autorica izvorne fotografije upozorila je Zakladu kako je objavom fotografije povrijeđeno njezino autorsko pravo. Zaklada je odgovorila pokretanjem postupka za deklaratorno utvrđenje izostanka povrede autorskog prava temeljem načela poštenog korištenja izvornog djela. U prvostupanjskom postupku usvojeno je stajalište Zaklade da svaka ilustracija predstavlja novo, transformirano djelo koje u odnosu na izvorno djelo donosi nove odlike, novu svrhu postojanja odnosno drugačiji karakter (sukladno praksi Vrhovnog suda iz 1984. godine iz predmeta Campbell v. Acuff-Rose Music). Zaklada je pojasnila kako izvorna fotografija predstavlja glazbenika na samom početku njegove karijere, i kako ju obilježava neizvjesnost uspjeha u karijeri. Za razliku od toga, Warholove ilustracije prikazuju prepoznatog i priznatog glazbenika koji isijava sasvim drugačiju energiju. Drugostupanjski sud zaključio je suprotno i nije prepoznao nikakve posebne odlike distinkcije Warholovih ilustracija u odnosu na izvornu fotografiju.
Vrhovni sud zaključio je kako Warholova ilustracija koja je objavljena u trećem časopisu bez znanja i dopuštenja autorice izvorne fotografije ne predstavlja novo djelo, što je pretpostavka za priznavanje načela poštenog korištenja. Vodeći se načelima uspostavljenim u predmetu Campbell, Vrhovni sud je utvrdio kako transformativna narav jednog djela u odnosu na drugo ovisi o čitavom nizu faktora, jedan od kojih je i komercijalna uporaba oba djela. Sud je poistovjetio komercijalnu aplikaciju izvornog djela i ilustracije objavljene u trećem časopisu s obzirom na to da su oba djela korištena u svrhu objave u časopisu uz naknadu. Temeljem takve usporedbe, Sud je zaključio kako objava u trećem časopisu ne predstavlja pošteno korištenje ilustracije bez dopuštenja autorice izvorne fotografije. Vrhovni sud se nije očitovao o drugim Warholovim ilustracijama.
Razvidno je kako, sukladno praski američkog Vrhovnog suda, pojmovno razlikovanje izvedenih djela i transformiranih, novih djela ne počiva na subjektivnom dojmu korisnika, publike ili trećih osoba. Novo transformirano djelo kojim se ne krši autorskog pravo izvornog autora treba ukazivati na valjane razloge poštenog korištenja izvornog djela. Američka literatura i praksa kao primjere prihvaća satiru ili parodiju, nekomercijalno korištenje, novu funkcionalnost proizvoda (relevantno, primjerice, u IT sektoru). Također je interesantno za primijetiti kako se Vrhovni sud uopće nije bavio pitanjem je li sporna ilustracija kao takva transformativno ili izvedeno djelo, već se isključio usmjerio na kontekst njezinog korištenja. Naveden pristup proizašao je iz same prakse gdje se zahtjevi u vezi povrede autorskog prava učestalo javljaju tek kada se određeno djelo počne komercijalno koristiti. U pravilu sudovi preispituju prirodu korištenja takvog djela te u tom smislu procjenjuju njegovo pošteno korištenje. Takav (uži) pristup procjene poštenog korištenja izuzetno je koristan kada je riječ o generativnim alatima umjetne inteligencije, o čemu će biti više riječi u jednom od idućih brojeva ove kolumne.
Ključne riječi: američka sudska praksa autorskog prava, povreda autorskog prava, izvedeno djelo, transformativno djelo, pošteno korištenje autorskog djela bez dopuštenja autora
Automatizirano odlučivanje i zaštita osobnih podataka
U predmetu C-634/21 (Schufa), Sud Europske unije (Sud EU-a) razmatrao je problematiku obrade osobnih podataka koja uključuje automatizirano donošenje odluka koje se odnose na subjekte obrade. Temeljeno pitanje odnosilo se na primjenu čl. 22. Opće uredbe o zaštiti podataka (GDPR Uredba) kada je riječ o uslugama profiliranja (profiling) i automatiziranih odluka (automated decision-making) koji čine sastavni dio obrade osobnih podataka, a koje pruža treća stranka. Navedena odredba GDRP Uredbe uređuje problematiku automatizirane obrade osobnih podataka i profiliranje subjekata obrade te uvodi niz ograničenja u vezi dopustivosti i ograničenosti takve obrade podataka (u pravilo samo iznimno dopušteno, uz niz ograda i preduvjeta koji moraju biti ispunjeni).
U predmetnom sporu riječ je osobi kojoj je odbijen zahtjev za izdavanjem kredita temeljem niskog bodovnog praga (credit score) koji je izračunala njemačka kompanija (Schufa Holding AG) specijalizirana za izračun kreditne sposobnosti potrošača (consumer credit ratings). Nakon primitka odbijenice osoba se obratila navedenoj kompaniji, zatražila dostavu svojih osobnih podataka koji su korišteni u obradi, informacije u vezi procesa obrade podataka i automatizirano donošenja odluka (sukladno čl. 15. GDRP Uredbe) te zasebno zatražila brisanje dijela osobnih podataka za koje je ustvrdila kako su pogrešni. Kompanija je, uz obrazloženje zaštite poslovnih procesa i tajni, odbila iznijeti detalje o metodama izračuna kreditnog rejtinga te je navedenoj osobi podastrla uopćene podatke o njezinom rejtingu i opće informacije o metodama izračuna. Kompanija je ustvrdila kako je ostale podatke obvezna slati isključivo svojim ugovornim partnerima koji dalje odlučuju kako koristiti i s kim dijeliti te podatke. Ujedno, kompanija Schufa je istaknula kako ona u biti ne donosi nikakve odluke u vezi ispitanika i odobravanja odnosno odbijanja izdavanja kredita, već isključivo svojim partnerima predaje informacije u vezi navedene odluke koje partneri samostalno donos. Jedan od partnera, banka, temeljem podataka dobivenih od Schufa kompanije, donijela je odluku o odbijanju predmetnog zahtjeva za izdavanjem kredita. Njemački sud zatražio je prethodno mišljenje od Suda EU-a po pitanju mogućnosti subjekata obrade da GDPR zaštitne mehanizme koriste i prema trećim osobama čije postupanje u bitnome utječe na njihova prava.
Sud je utvrdio kako u konkretnom slučaju odnosa banaka i kreditnih agencija, kreditne agencije nosi presudnu ulogu (determining role) u procjeni kreditne sposobni pojedinaca, a što se izravno reflektira kroz daljnje postupanje banaka prema svojim (potencijalnim) klijentima. Sud je, naime, zaključio kako negativna procjena kreditne sposobnosti subjekta gotovo uvijek dovodi do odluke banke da se odbije zahtjev za izdavanjem kredita. Sud EU-a je posebno naglasio kako takvu logiku treba primijeniti na sve slične okolnosti i odnose. Slijedom navedenoga, Sud je utvrdio kako profiliranje i automatizirano odlučivanje koje provodi kreditna agencija samo po sebi predstavlja čin koji ostavlja određene pravne posljedice nad subjektima obrade podataka, odnosno proizvodi pravne učinke nad istima. Stoga se na takvu obradu podataka primjenjuje čl. 22. GDPR Uredbe, čime je posljedično i odlučeno kako sve kreditne agencije moraju svoje poslovanje uskladiti sa odredbama Uredbe. Obzirom na navedeno, za očekivati je da će u daljnjem postupku navedena osoba biti ovlaštena od kreditne agencije ponoviti zahtjev za potpunim uvidom u mehanizme odlučivanja i brisanjem podataka za koje se pokaže da su netočni, a koji se koriste za izradu profila kreditne sposobnosti te osobe. Interesantno je za primijetiti kako se u presudi naglašava potreba osiguravanja transparentnosti i pristupačnosti informacija o procesima obrade podataka koji nadilaze isključivu usmjerenost na sam proces konačnog odlučivanja. Svaka automatizirana obrada podataka mora biti popraćena pojašnjenjima kako se provodi sam proces obrade podataka i svaki ispitanik mora na zahtjev dobiti uvid u navedene procese i njihova pojašnjenja. Navedeno je od velikog značaja za obradu podataka koja se provodi posredstvom alata umjetne inteligencije (poglavito ako je riječ o algoritmima pogonjenim strojnim učenjem), a što predstavlja važnu sponu između postojeće GDPR Uredbe i nadolazeće Uredbe o umjetnoj inteligenciji, o kojoj se piše u nastavku teksta. Spojeni predmeti C-26/22 i C-64/22 (združeno sa predmetnim sporom) dodatno potvrđuju prethodno navedeno obzirom da se Sud jasno očitovao i po pitanju ispitanika da od institucija poput kreditnih agencija traže uvid i brisanje osobnih podataka (sukladno pravilima za javne registre insolventnosti) sukladno GDPR Uredbi. Konačno, potrebno je za naglasiti kako je navedena odluka bitna za čitav niz poslovnih subjekata koji koriste slične usluge (telekom operateri, distributeri energije, i sl.) i koji moraju voditi računa o poslovnoj sprezi dva odvojena procesa obrade podataka koji sa strane ispitanika predstavljaju združeni postupak odlučivanja.
Ključne riječi: C-634/21, automatizirano odlučivanje o subjektima obrade, profiliranje subjekata, zaštita osobnih podataka, kreditne agencije
Novosti u vezi Nacrt Uredbe o umjetnoj inteligenciji
Nakon niza sastanaka na razini Europskog parlamenta i Vijeća, postignut je sporazum oko niza prethodno spornih i neujednačenih pogleda u vezi regulacije korištenja sustava umjetne inteligencije unutar Europske unije (EU). Temeljne postavke, o čemu je detaljno pisano u prethodnom broju ove kolumne (Europski pristup regulaciji tzv. umjetne inteligencije, br. 10./2023.), ostale su načelno nepromijenjene te se u tom smislu u ovom tekstu neće ni ponavljati njihov sadržaj.
Stavka oko koje se vodilo najviše rasprave odnosi se na popis zabranjenih aktivnosti odnosno zabranjenih načina upotrebe alata i sustava umjetne inteligencije. Sukladno postignutom dogovoru, primarno se zabranjuju sustavi biometrijske kategorizacije (ne i biometrijske identifikacije!) koji koriste osjetljive podatke (poput vjerskih stavova, seksualnog opredjeljenja, moralnih vrijednosti, i sl.). Samim time je otklonjena velika potencijalna zapreka u istraživanju i razvoju tehnologije koja koristi sustave biometrijske identifikacije (u realnom vremenu), s obzirom na to da je prvotno zauzet tvrdi stav Parlamenta bio usmjeren na kompletnu zabranu korištenja takve tehnologije. Sada se upotreba takve tehnologije u civilne svrhe ograničava samo po pitanju onih osobnih podataka koji se kategoriziraju kao izrazito osjetljivi i koje je potrebno dodatno zaštititi na način da se spriječi njihova zloupotreba. Sukladno navedenome, također se zabranjuje neovlašteno preuzimanje neograničenog broja prikaza lica sa mreže ili sustava nadzornih kamera u svrhu izrade biometrijskih baza podataka. To je konkretan odgovor na kompanije poput Clearview AI (o čemu je bilo riječi u prethodnim brojevima ove kolumne) koje protuzakonito prisvajaju prikaze lica, obrađuju biometrijske podatke bez pristanka ispitanika, te isto prodaju kao uslugu. Ostale zabrane u bitnome ponavljaju postavke koji su viđene u prethodnim verzijama nacrta odnosno predloženim izmjenama i dopunama. Zabranjuje se korištenje algoritama za prepoznavanje emocionalnog stanja ispitanika na radnom mjestu ili unutar edukativne institucije. Nadalje, zabranjuje se korištenje sustava društvenog kreditiranja obzirom na ponašanje ispitanika i osobne karakteristike ispitanika te se zabranjuju one aktivnosti sustava umjetne inteligencije koje iskorištavaju određene slabosti ispitanika, bez obzira je li riječ o fizičkim karakteristikama, ekonomskoj situaciji, dobi, i sl.). Navedene zabrane relativno je lako implementirati obzirom da je načelno moguće prepoznati i otkloniti takve radnje. No zabrana korištenja sustava umjetne inteligencije kako bi se manipuliralo ljudskih ponašanjem i karakteristika daleko je kompleksnije pitanje i u ovom trenutku predstavlja više načelo nego konkretnu mjeru. Naime, u ovome se trenutku navedena stavka primarno odnosi na problematiku poput diseminacije lažnih ili probranih vijesti kojima se nastoji manipulirati javni narativ cijelog društva ili određene skupine i koju je jako teško prepoznati, izolirati i ukloniti iz javnog prostora. U vezi s korištenjem biometrijske identifikacije u realnom vremenu od strane tijela za provedbu zakona, dogovoreno rješenje u svojoj biti odgovara prvotno zamišljenom tekstu Nacrta koji je izdala Komisija (ograničeno korištenje, prethodno dopuštenje nadležnog tijela, naknadno odobrenje pod strogo određenim uvjetima). S obzirom na to da se u medijima u proteklom razdoblju najviše isticalo upravo problematika biometrijske identifikacije u realnom vremenu kao najznačajnija točku prijepora između Parlamenta i Vijeća te kako konačan dogovor u biti vraća postavke na početnu poziciju, može se zaključiti kako prave točke prijepora treba tražiti u drugim stavkama koji su sad izmijenjene.
Jedna od takvih stavki jest svakako problematika temeljenih modela koji u vrijeme pisanja prvog Nacrta nisu ni bili dostupni u javnom prostoru (u onoj mjeri kao što je to danas slučaj). Sustavi umjetne inteligencije za opću upotrebu sada podliježu zahtjevima transparentnosti rada (tehničke karakteristike, strojno učenje i sl.). Oni sustavi umjetne inteligencije za opću upotrebu koji će uživati veću stopu upotrebe biti će podložni širem spektru obveza koji u određenoj mjeri odgovaraju višoj razini kategorizacije ustava umjetne inteligencije (obveza uvođenja sustava uklanjanja rizika, obveza redovitog testiranja na napade, redovitog izvještavanja Komisiji o ozbiljnih incidentima i sl.). Dodatna novost očituje se o obvezi korisnika visoko-rizičnih sustava umjetne inteligencije na provođenje obveznog postupka prethodne procjene rizika na temeljna ljudska prava, pri čemu se naglašava šire polje primjene ove obveze (posebno se ističu sektori osiguranja i bankarstva). Dogovorena i potvrđena novost također se očituje kroz priznavanje tzv. regulatornih izdvojenih okvira (regulatory sandbox) unutar koji je moguće testirati sustave bez uvida javnosti i izvan normalnih normativnih okvira, odnosno mogućnosti testiranja u javnog dostupnom prostoru uz određena ograničenja po pitanju primjene punih normativnih okvira.
U nedostatku daljnjih prijepora, očekuje se kako će Uredba biti donesena 2024. godine, s odgodom primjene većeg dijela odredbi do 2026. godine.
Ključne riječi: Nacrt Uredbe o umjetnoj inteligenciji, dogovor Parlamenta i Vijeća, biometrijska identifikacija u realnom vremenu, zabranjeni sustavi umjetne inteligencije
izv. prof. dr. sc. Mihael Mudrić, Pravni fakultet Sveučilišta u Zagrebu
