AI-regulering er fortsatt under bygging i Brasil

Brasil står overfor et komplekst scenario med regulering av kunstig intelligens i 2024. I motsetning til EU, som godkjente AI Law i 2023 diskuterer landet fortsatt solide juridiske rammer for å styre teknologien.

Den generelle databeskyttelsesloven (LGPD), som har vært i kraft siden 2020, gir et første grunnlag, men tar ikke spesifikt opp de unike risikoene ved AI. Lovforslag 2338/2023, som søker å regulere AI, er fortsatt i gang i nasjonalkongressen. Dette gapet etterlater selskaper og utviklere i en gråsone, der etiske beslutninger ofte går foran formaliserte juridiske forpliktelser.

Eksperter advarer om at forsinkelsen med å godkjenne et brasiliansk regelverk setter landet i en konkurranseulempe mot teknologiske krefter som allerede har klare retningslinjer.

Personvern og brukersamtykke

En av de største etiske utfordringene innebærer bruk av personopplysninger i opplæring av AI-modeller Bedrifter samler inn enorme mengder informasjon for å mate algoritmer, ofte uten eksplisitt samtykke fra brukerne.

LGPD krever forhåndssamtykke for datainnsamling og behandling, men applikasjon i AI-sammenheng er ikke like objektiv Sosiale nettverk, helseapplikasjoner og e-handelsplattformer bruker data til å trene anbefalings - og atferdsprediksjonssystemer Mange brukere er helt uvitende om denne sekundære bruken av informasjonen deres.

Et annet kritisk punkt: biometriske data og stedsdata kan behandles av AI for å lage invasive profiler. I 2024 vokser datalekkasjesaker som mater uautoriserte AI-modeller, og genererer betydelige bøter under LGPD.

Opphavsrett og åndsverk

Generativ AI har brakt enestående dilemmaer. Verktøy som ChatGPT og DALL-E har blitt trent med milliarder av tekster og bilder fra internett, inkludert opphavsrettsbeskyttede verk. I Brasil stiller flere skapere og utgivere spørsmålstegn ved om det er brudd på opphavsretten i denne prosessen.

I 2024 diskuterer søksmål i andre land allerede om reproduksjon av beskyttet innhold for AI-opplæring utgjør rimelig bruk eller krenkelse Brasil har fortsatt ikke konsolidert rettsvitenskap om dette emnet. Fraværet av klare retningslinjer skader kunstnere, forfattere og fotografer som ser verkene sine mate maskiner uten kompensasjon.

Spørsmålet påvirker også eierskapet til AI-genererte verk. Hvis en modell ble opplært med beskyttede verk, hvem eier utgangsrettighetene? Brukeren som ga forespørselen? Selskapet som utviklet AI?

Algoritmisk skjevhet og diskriminering

AI-algoritmer gjenspeiler skjevhetene som finnes i dataene som brukes til å trene dem. I Brasil utgjør dette en alvorlig risiko i kritiske sektorer som kredittgivning, kontrakter og rettferdighet.

Studier viser at AI-systemer for å evaluere kandidater kan diskriminere kvinner og svarte. En bank som bruker AI til kredittrisikoanalyse kan systematisk nekte finansiering til minoritetsgrupper, og opprettholde historiske ulikheter.

I 2024 begynner organisasjoner å implementere skjevhetsrevisjoner på AI-modeller, men det er ingen formell juridisk forpliktelse. Mangelen på algoritmisk åpenhet forverrer problemet: selskaper avslører ikke hvordan systemene deres tar beslutninger, noe som gjør det umulig for personer som er målrettet av diskriminering å bevise skade.

Åpenhet og forklarbarhet av AI

Folk har rett til å forstå hvorfor en AI har tatt en beslutning om dem. Et kredittnektelse, avvisning av jobbintervju eller kontolockout krever klare og berettigede forklaringer. GDPR gir rett til forklaring av automatiserte beslutninger, men selskaper møter fortsatt tekniske og kommersielle vanskeligheter med å implementere det.

Den praktiske utfordringen er reell: dype nevrale nettverk fungerer som svarte bokser. Ikke engang utviklere kan forklare fullt ut hvorfor modellen kom til en spesifikk konklusjon. Hvordan overholde juridisk forpliktelse når teknologien ikke tillater full åpenhet?

Generative modeller som GPT presenterer et annet problem: hallusinasjoner, det vil si selvsikre, men fullstendig falske svar. I kritiske scenarier som medisin og juss er denne etiske feilen uakseptabel, men den mangler klar regulering av ansvar når AI gjør alvorlige feil.

Sivilt og strafferettslig ansvar

Når en AI forårsaker skade, hvem er ansvarlig? Utvikleren? Selskapet som distribuerte det? Brukeren som ga inndata? I 2024 har brasiliansk lov fortsatt ikke klare svar.

Hvis en kundestøtte chatbot gir feil medisinsk informasjon som skader noen, kan det være sivilt ansvar Det er imidlertid komplekst å avgjøre skyld blant flere aktører Mangelen på spesifikke juridiske rammer skaper rettsusikkerhet for bedrifter og gjør det vanskelig for ofre å få erstatning.

Straffespørsmålet er enda mer tåkete. Kan man straffeforfølge en AI for brudd på personvernet eller begå svindel? Det nåværende svaret er at ingen AI ikke er underlagt lov. Men hvem svarer kriminelt 'PROGRAMMERer, prosjektleder, styre? Brasiliansk straffelov har ennå ikke tilpasset kriminalitetskategorier til dette teknologiske scenariet.

Anbefalinger for markedet i 2024

Mens de venter på robust føderal regulering, kan Brasil ta i bruk god praksis. Selskaper bør: gjennomføre uavhengige skjevhetsrevisjoner på AI-modeller; fullstendig dokumentere datasett og opplæringsprosesser; innhente eksplisitt samtykke for bruk av AI-data; implementere forklarbarhetsmekanismer; etablere klare retningslinjer for ansvarlighet internt.

Reguleringsorganer som ANPD (National Data Protection Authority) foretar allerede punktlige inspeksjoner under LGPD. Ansvarlig styring innen AI er ikke bare etikk ELLER er også en strategi for å redusere juridiske risikoer i et fortsatt dårlig regulert miljø.