U Brazilu se još uvijek gradi regulacija umjetne inteligencije
Brazil se suočava sa složenim scenarijem regulacije umjetne inteligencije 2024. godine. Za razliku od Europske unije koja je odobrila Zakon o umjetnoj inteligenciji u 2023. zemlja još uvijek raspravlja o čvrstim pravnim okvirima za upravljanje tehnologijom.
Opći zakon o zaštiti podataka (LGPD), na snazi od 2020. godine, nudi početnu osnovu, ali se posebno ne bavi jedinstvenim rizicima umjetne inteligencije. Prijedlog zakona 2338/2023, koji nastoji regulirati umjetnu inteligenciju, ostaje u tijeku u Nacionalnom kongresu. Ovaj jaz ostavlja tvrtke i programere u sivoj zoni, gdje etičke odluke često prevladavaju nad formaliziranim zakonskim obvezama.
Stručnjaci upozoravaju da kašnjenje u odobravanju brazilskog regulatornog okvira stavlja zemlju u nepovoljniji konkurentski položaj u odnosu na tehnološke sile koje već imaju jasne smjernice.
Privatnost podataka i pristanak korisnika
Jedan od najvećih etičkih izazova uključuje korištenje osobnih podataka u obuci AI modela.Tvrtke prikupljaju ogromne količine informacija za hranjenje algoritama, često bez izričitog pristanka korisnika.
LGPD zahtijeva prethodnu suglasnost za prikupljanje i obradu podataka, ali primjena u kontekstu umjetne inteligencije nije tako objektivna Društvene mreže, zdravstvene aplikacije i platforme za e-trgovinu koriste podatke za obuku sustava za preporuku i predviđanje ponašanja.Mnogi korisnici nisu svjesni ove sekundarne upotrebe svojih informacija.
Još jedna kritična točka: biometrijske podatke i podatke o lokaciji može obraditi AI za stvaranje invazivnih profila. U 2024. rastu slučajevi curenja podataka koji hrane neovlaštene modele umjetne inteligencije, stvarajući značajne kazne prema LGPD-u.
Autorska prava i intelektualno vlasništvo
Generativna umjetna inteligencija donijela je neviđene dileme. Alati poput ChatGPT-a i DALL-E-a obučeni su s milijardama tekstova i slika s interneta, uključujući djela zaštićena autorskim pravima. U Brazilu se nekoliko kreatora i izdavača pita postoji li kršenje autorskih prava u ovom procesu.
U 2024. u tužbama u drugim zemljama već se raspravlja o tome predstavlja li reprodukcija zaštićenog sadržaja za obuku umjetne inteligencije pravednu upotrebu ili kršenje prava.Brazil još uvijek nema konsolidiranu sudsku praksu o ovoj temi.Nepostojanje jasnih smjernica šteti umjetnicima, piscima i fotografima koji bez naknade vide svoje strojeve za hranjenje radova.
Pitanje također utječe na vlasništvo nad djelima generiranim AI-jem. Ako je model obučen sa zaštićenim djelima, tko posjeduje prava izlaska? Korisnik koji je dao upit? Tvrtka koja je razvila AI?
Algoritamska pristranost i diskriminacija
Algoritmi umjetne inteligencije odražavaju pristranosti prisutne u podacima koji se koriste za njihovu obuku. U Brazilu to predstavlja ozbiljan rizik u kritičnim sektorima kao što su odobravanje kredita, ugovaranje i pravosuđe.
Studije pokazuju da sustavi umjetne inteligencije za procjenu kandidata mogu diskriminirati žene i crnce. Banka koja koristi umjetnu inteligenciju za analizu kreditnog rizika može sustavno uskratiti financiranje manjinskim skupinama, održavajući povijesne nejednakosti.
U 2024. organizacije počinju provoditi revizije pristranosti na modelima umjetne inteligencije, ali ne postoji formalna zakonska obveza. Nedostatak algoritamske transparentnosti pogoršava problem: tvrtke ne otkrivaju kako njihovi sustavi donose odluke, onemogućujući osobama na meti diskriminacije da dokažu štetu.
Transparentnost i objašnjivost AI
Ljudi imaju pravo razumjeti zašto je AI donio odluku o njima.Blagovijest kredita, neodobravanje razgovora za posao ili zaključavanje računa zahtijevaju jasna i opravdana objašnjenja.GDPR predviđa pravo na objašnjenje automatiziranih odluka, ali tvrtke se i dalje susreću s tehničkim i komercijalnim poteškoćama u njihovoj provedbi.
Praktični izazov je stvaran: duboke neuronske mreže rade poput crnih kutija.Čak ni programeri ne mogu u potpunosti objasniti zašto je model došao do određenog zaključka.Kako se pridržavati zakonske obveze kada tehnologija ne dopušta potpunu transparentnost?
Generativni modeli poput GPT-a predstavljaju još jedan problem: halucinacije, odnosno samouvjerene, ali potpuno lažne odgovore. U kritičnim scenarijima poput medicine i prava, ovaj etički nedostatak je neprihvatljiv, ali mu nedostaje jasna regulacija odgovornosti kada umjetna inteligencija čini ozbiljne pogreške.
Građanska i kaznena odgovornost
Kada AI uzrokuje štetu, tko je odgovoran? Programer? Tvrtka koja ga je postavila? Korisnik koji je dao ulazne podatke? U 2024. brazilski zakon još uvijek nema jasne odgovore.
Ako chatbot korisničke podrške pruža netočne medicinske podatke koji nekome štete, može postojati građanska odgovornost, Međutim, utvrđivanje krivnje među više aktera je složeno Nedostatak specifičnih pravnih okvira stvara pravnu nesigurnost za tvrtke i otežava žrtvama dobivanje naknade.
Kazneno pitanje je još nebuloznije Može li se procesuirati AI zbog kršenja privatnosti ili počinjenja prijevare? Trenutačni odgovor je da AI ne podliježe zakonu. Ali tko kazneno odgovara 'PROgramer, voditelj projekta, odbor? Brazilski kazneni zakon još nije prilagodio kategorije zločina ovom tehnološkom scenariju.
Preporuke za tržište u 2024
Dok čeka snažnu saveznu regulativu, Brazil može usvojiti dobre prakse. Tvrtke bi trebale: provoditi neovisne revizije pristranosti na modelima umjetne inteligencije; u potpunosti dokumentirati skupove podataka i procese obuke; dobiti izričit pristanak za korištenje podataka umjetne inteligencije; implementirati mehanizme objašnjivosti; interno uspostaviti jasne politike odgovornosti.
Regulatorna tijela kao što je ANPD (National Data Protection Authority) već provode točne inspekcije u okviru LGPD-a. Odgovorno upravljanje u umjetnoj inteligenciji nije samo etika ILI je također strategija za ublažavanje pravnih rizika u još uvijek loše reguliranom okruženju.
