Ang regulasyon ng AI ay ginagawa pa rin sa Brazil
Nahaharap ang Brazil sa isang kumplikadong senaryo ng regulasyon ng artificial intelligence sa 2024. Hindi tulad ng European Union, na nag-apruba sa Batas ng AI sa 2023, pinagtatalunan pa rin ng bansa ang matatag na legal na balangkas upang pamahalaan ang teknolohiya.
Ang General Data Protection Law (LGPD), na may bisa mula noong 2020, ay nag-aalok ng paunang batayan, ngunit hindi partikular na tinutugunan ang mga natatanging panganib ng AI. Ang Bill 2338/2023, na naglalayong i-regulate ang AI, ay nananatiling isinasagawa sa Pambansang Kongreso. Ang agwat na ito ay nag-iiwan sa mga kumpanya at developer sa isang kulay abong sona, kung saan ang mga etikal na desisyon ay madalas na nananaig sa mga pormal na legal na obligasyon.
Nagbabala ang mga eksperto na ang pagkaantala sa pag-apruba ng isang balangkas ng regulasyon ng Brazil ay naglalagay sa bansa sa isang mapagkumpitensyang kawalan laban sa mga teknolohikal na kapangyarihan na mayroon nang malinaw na mga alituntunin.
Pagkapribado ng data at pahintulot ng user
Ang isa sa mga pinakamalaking hamon sa etika ay kinabibilangan ng paggamit ng personal na data sa pagsasanay ng mga modelo ng AI. Nangongolekta ang mga kumpanya ng napakalaking dami ng impormasyon para mag-feed ng mga algorithm, kadalasan nang walang tahasang pahintulot mula sa mga user.
Ang LGPD ay nangangailangan ng paunang pahintulot para sa pangongolekta at pagproseso ng data, ngunit ang aplikasyon sa mga konteksto ng AI ay hindi kasing layunin. Ang mga social network, mga application sa kalusugan at mga platform ng e-commerce ay gumagamit ng data upang sanayin ang mga sistema ng rekomendasyon at paghula ng pag-uugali. Maraming mga user ang ganap na walang kamalayan sa pangalawang paggamit na ito ng kanilang impormasyon.
Isa pang kritikal na punto: ang biometric at data ng lokasyon ay maaaring iproseso ng AI upang lumikha ng mga invasive na profile. Noong 2024, lumalaki ang mga kaso ng pagtagas ng data na nagpapakain sa mga hindi awtorisadong modelo ng AI, na nagdudulot ng malalaking multa sa ilalim ng LGPD.
Copyright at intelektwal na ari-arian
Generative AI ay nagdala unprecedented dilemmas.Tools tulad ng ChatGPT at DALL-E ay sinanay na may bilyun-bilyong mga teksto at mga imahe mula sa internet, kabilang ang mga naka-copyright na gawa.Sa Brazil, maraming mga tagalikha at mga publisher ang nagtatanong kung mayroong paglabag sa copyright sa prosesong ito.
Noong 2024, tinatalakay na ng mga demanda sa ibang mga bansa kung ang pagpaparami ng protektadong nilalaman para sa pagsasanay sa AI ay bumubuo ng patas na paggamit o paglabag. Wala pa ring pinagsama-samang jurisprudence ang Brazil sa paksang ito. Ang kawalan ng malinaw na mga alituntunin ay nakakapinsala sa mga artist, manunulat at photographer na nakikita ang kanilang mga gawa na nagpapakain ng mga makina nang walang kabayaran.
Ang tanong ay nakakaapekto rin sa pagmamay-ari ng mga gawang binuo ng AI. Kung ang isang modelo ay sinanay sa mga protektadong gawa, sino ang nagmamay-ari ng mga karapatan sa paglabas? Ang user na nagbigay ng prompt? Ang kumpanyang bumuo ng AI?
Algorithmic bias at diskriminasyon
Sinasalamin ng mga algorithm ng AI ang mga bias na nasa data na ginamit upang sanayin ang mga ito. Sa Brazil, nagdudulot ito ng malubhang panganib sa mga kritikal na sektor tulad ng pagbibigay ng kredito, pagkontrata at hustisya.
Ipinapakita ng mga pag-aaral na ang mga AI system para sa pagsusuri ng mga kandidato ay maaaring magdiskrimina laban sa mga kababaihan at mga itim. Ang isang bangko na gumagamit ng AI para sa pagsusuri sa panganib sa kredito ay maaaring sistematikong tanggihan ang pagpopondo sa mga grupong minorya, na nagpapatuloy sa mga hindi pagkakapantay-pantay sa kasaysayan.
Sa 2024, ang mga organisasyon ay nagsimulang magpatupad ng mga pag-audit ng bias sa mga modelo ng AI, ngunit walang pormal na legal na obligasyon. Ang kakulangan ng algorithmic transparency ay nagpapalala sa problema: hindi ibinubunyag ng mga kumpanya kung paano gumagawa ng mga desisyon ang kanilang mga system, na ginagawang imposible para sa mga taong tina-target ng diskriminasyon na patunayan ang pinsala.
Transparency at explainability ng AI
Ang mga tao ay may karapatang maunawaan kung bakit ang isang AI ay gumawa ng desisyon tungkol sa kanila. Ang pagtanggi sa kredito, hindi pag-apruba sa pakikipanayam sa trabaho o pag-lock ng account ay nangangailangan ng malinaw at makatwirang mga paliwanag. Ang GDPR ay nagbibigay ng karapatan sa pagpapaliwanag ng mga awtomatikong desisyon, ngunit ang mga kumpanya ay nakakaranas pa rin ng teknikal at komersyal na mga paghihirap sa pagpapatupad nito.
Ang praktikal na hamon ay totoo: malalim neural network gumagana tulad ng itim na kahon.Hindi kahit na mga developer ay maaaring ganap na ipaliwanag kung bakit ang modelo ay dumating sa isang tiyak na konklusyon.Paano upang sumunod sa legal na obligasyon kapag ang teknolohiya ay hindi pinapayagan ang buong transparency?
Ang mga generative na modelo tulad ng GPT ay nagpapakita ng isa pang problema: mga guni-guni, iyon ay, tiwala ngunit ganap na maling mga tugon. Sa mga kritikal na sitwasyon tulad ng medisina at batas, ang etikal na kapintasan na ito ay hindi katanggap-tanggap, ngunit wala itong malinaw na regulasyon ng pananagutan kapag ang AI ay gumagawa ng malubhang pagkakamali.
Pananagutan ng sibil at kriminal
Kapag ang isang AI ay nagdudulot ng pinsala, sino ang may pananagutan? Ang developer? Ang kumpanyang nag-deploy nito? Ang user na nagbigay ng input data? Noong 2024, wala pa ring malinaw na sagot ang batas ng Brazil.
Kung ang isang chatbot na sumusuporta sa customer ay nagbibigay ng maling impormasyong medikal na nakakapinsala sa isang tao, maaaring mayroong sibil na pananagutan. Gayunpaman, ang pagtukoy ng sisihin sa maraming aktor ay kumplikado. Ang kakulangan ng mga partikular na legal na balangkas ay lumilikha ng legal na kawalan ng katiyakan para sa mga kumpanya at nagpapahirap sa mga biktima na makakuha ng kabayaran.
Ang kriminal na tanong ay mas malabo. Maaari bang usigin ng isang tao ang isang AI dahil sa paglabag sa privacy o paggawa ng pandaraya? Ang kasalukuyang sagot ay walang AI ay hindi napapailalim sa batas. Ngunit sino ang kriminal na tumugon sa 'PROgrammer, project manager, board? Ang batas kriminal ng Brazil ay hindi pa iniangkop ang mga kategorya ng krimen sa teknolohikal na sitwasyong ito.
Mga rekomendasyon para sa merkado sa 2024
Habang naghihintay ng matatag na pederal na regulasyon, ang Brazil ay maaaring magpatibay ng mabubuting kasanayan. Dapat: magsagawa ng mga independiyenteng pag-audit ng bias sa mga modelo ng AI; ganap na idokumento ang mga dataset at proseso ng pagsasanay; kumuha ng tahasang pahintulot para sa paggamit ng data ng AI; ipatupad ang mga mekanismo ng pagpapaliwanag; magtatag ng malinaw na mga patakaran sa pananagutan sa loob.
Ang mga regulatory body gaya ng ANPD (National Data Protection Authority) ay gumagawa na ng mga punctual na inspeksyon sa ilalim ng LGPD. Ang responsableng pamamahala sa AI ay hindi lamang etika O isa ring diskarte para sa pagpapagaan ng mga legal na panganib sa isang hindi pa rin maayos na kinokontrol na kapaligiran.
