Regulácia AI je v Brazílii stále vo výstavbe
Brazília čelí zložitému scenáru regulácie umelej inteligencie v roku 2024. Na rozdiel od Európskej únie, ktorá schválila Zákon AI v roku 2023 krajina stále diskutuje o pevných právnych rámcoch na riadenie technológie.
Všeobecný zákon o ochrane údajov (LGPD), ktorý je v platnosti od roku 2020, ponúka počiatočný základ, ale konkrétne nerieši jedinečné riziká AI. Návrh zákona 2338/2023, ktorý sa snaží regulovať AI, v Národnom kongrese stále prebieha. Táto medzera ponecháva spoločnosti a vývojárov v šedej zóne, kde etické rozhodnutia často prevažujú nad formalizovanými právnymi záväzkami.
Odborníci varujú, že oneskorenie pri schvaľovaní brazílskeho regulačného rámca stavia krajinu do konkurenčnej nevýhody voči technologickým mocnostiam, ktoré už majú jasné usmernenia.
Ochrana osobných údajov a súhlas používateľa
Jednou z najväčších etických výziev je používanie osobných údajov pri školení modelov AI. Spoločnosti zhromažďujú obrovské množstvo informácií na napájanie algoritmov, často bez výslovného súhlasu používateľov.
LGPD vyžaduje predchádzajúci súhlas na zber a spracovanie údajov, ale aplikácia v kontexte AI nie je taká objektívna. Sociálne siete, zdravotnícke aplikácie a platformy elektronického obchodu používajú údaje na školenie systémov odporúčaní a predpovedí správania. Mnohí používatelia si vôbec neuvedomujú toto sekundárne použitie svojich informácií.
Ďalší kritický bod: biometrické a lokalizačné údaje môže AI spracovať na vytvorenie invazívnych profilov. V roku 2024 rastú prípady úniku údajov, ktoré živia nepovolené modely AI, čo generuje značné pokuty podľa LGPD.
Autorské práva a duševné vlastníctvo
Generatívna AI priniesla bezprecedentné dilemy. Nástroje ako ChatGPT a DALL-E boli vyškolené s miliardami textov a obrázkov z internetu, vrátane diel chránených autorskými právami. V Brazílii sa niekoľko tvorcov a vydavateľov pýta, či v tomto procese dochádza k porušovaniu autorských práv.
V roku 2024 sa už v súdnych sporoch v iných krajinách diskutuje o tom, či reprodukcia chráneného obsahu na školenie AI predstavuje čestné použitie alebo porušenie. Brazília stále nemá konsolidovanú judikatúru na túto tému. Absencia jasných usmernení poškodzuje umelcov, spisovateľov a fotografov, ktorí vidia, že ich diela kŕmia stroje bez náhrady.
Otázka sa týka aj vlastníctva diel vytvorených AI. Ak bol model vyškolený s chránenými dielami, kto vlastní práva na výstup? Používateľ, ktorý poskytol výzvu? Spoločnosť, ktorá vyvinula AI?
Algoritmická zaujatosť a diskriminácia
Algoritmy AI odrážajú predsudky prítomné v údajoch používaných na ich školenie. V Brazílii to predstavuje vážne riziko v kritických sektoroch, ako je poskytovanie úverov, uzatváranie zmlúv a spravodlivosť.
Štúdie ukazujú, že systémy AI na hodnotenie kandidátov môžu diskriminovať ženy a černochov. Banka, ktorá používa AI na analýzu úverového rizika, môže systematicky odopierať financovanie menšinovým skupinám, čím sa udržiavajú historické nerovnosti.
V roku 2024 organizácie začínajú implementovať audity zaujatosti na modeloch AI, ale neexistuje žiadna formálna právna povinnosť. Nedostatok algoritmickej transparentnosti problém zhoršuje: spoločnosti nezverejňujú, ako sa ich systémy rozhodujú, čo znemožňuje ľuďom, na ktorých sa zameriava diskriminácia, dokázať ujmu.
Transparentnosť a vysvetliteľnosť AI
Ľudia majú právo pochopiť, prečo sa o nich AI rozhodla. Odmietnutie úveru, nesúhlas s pracovným pohovorom alebo zablokovanie účtu si vyžadujú jasné a odôvodnené vysvetlenia. GDPR poskytuje právo na vysvetlenie automatizovaných rozhodnutí, ale spoločnosti sa stále stretávajú s technickými a obchodnými ťažkosťami pri jeho implementácii.
Praktická výzva je skutočná: hlboké neurónové siete fungujú ako čierne skrinky, Ani vývojári nedokážu úplne vysvetliť, prečo model dospel ku konkrétnemu záveruAko splniť zákonnú povinnosť, keď technológia neumožňuje úplnú transparentnosť?
Generatívne modely ako GPT predstavujú ďalší problém: halucinácie, to znamená sebavedomé, ale úplne falošné reakcie. V kritických scenároch, ako je medicína a právo, je táto etická chyba neprijateľná, ale chýba jej jasná regulácia zodpovednosti, keď AI robí vážne chyby.
Občianskoprávna a trestnoprávna zodpovednosť
Keď AI spôsobí škodu, kto je zodpovedný? vývojár? Spoločnosť, ktorá ho nasadila? Používateľ, ktorý poskytol vstupné údaje? V roku 2024 brazílske zákony stále nemajú jasné odpovede.
Ak chatbot zákazníckej podpory poskytne nesprávne lekárske informácie, ktoré niekomu škodia, môže existovať občianskoprávna zodpovednosť., Určenie viny medzi viacerými aktérmi je však zložité. Nedostatok špecifických právnych rámcov vytvára právnu neistotu pre spoločnosti a sťažuje obetiam získať odškodnenie.
Trestná otázka je ešte hmlistejšia. Dá sa stíhať AI za porušenie súkromia alebo spáchanie podvodu? Aktuálna odpoveď je, že žiadna AI nepodlieha zákonu. Ale kto trestne odpovedá „PROGRAMÁTOR, projektový manažér, predstavenstvo? Brazílske trestné právo ešte neprispôsobilo kategórie kriminality tomuto technologickému scenáru.
Odporúčania pre trh v roku 2024
Kým čaká na silnú federálnu reguláciu, Brazília môže prijať osvedčené postupy. Spoločnosti by mali: vykonávať nezávislé audity zaujatosti modelov AI; plne zdokumentovať súbory údajov a školiace procesy; získať výslovný súhlas na používanie údajov AI; implementovať mechanizmy vysvetliteľnosti; interne stanoviť jasné zásady zodpovednosti.
Regulačné orgány ako ANPD (Národný úrad na ochranu údajov) už vykonávajú presné kontroly v rámci LGPD. Zodpovedné riadenie v AI nie je len etika ALEBO je tiež stratégiou na zmiernenie právnych rizík v stále nedostatočne regulovanom prostredí.
