AI-regulering is nog in aanbouw in Brazilië

Brazilië wordt in 2024 geconfronteerd met een complex scenario van regulering van kunstmatige intelligentie. In tegenstelling tot de Europese Unie, die de AI Law anno 2023 debatteert het land nog steeds over solide wettelijke kaders om de technologie te besturen.

De sinds 2020 geldende Algemene Wet Gegevensbescherming (LGPD) biedt een eerste basis, maar gaat niet specifiek in op de unieke risico's van AI Wetsvoorstel 2338/2023, dat AI wil reguleren, blijft in het Nationaal Congres in uitvoering Deze kloof laat bedrijven en ontwikkelaars in een grijze zone, waar ethische beslissingen vaak prevaleren boven geformaliseerde wettelijke verplichtingen.

Deskundigen waarschuwen dat de vertraging bij de goedkeuring van een Braziliaans regelgevingskader het land een concurrentienadeel oplevert ten opzichte van technologische machten die al duidelijke richtlijnen hebben.

Gegevensprivacy en toestemming van de gebruiker

Een van de grootste ethische uitdagingen is het gebruik van persoonlijke gegevens in het trainen van AI-modellen Bedrijven verzamelen enorme hoeveelheden informatie om algoritmen te voeden, vaak zonder uitdrukkelijke toestemming van gebruikers.

LGPD vereist voorafgaande toestemming voor het verzamelen en verwerken van gegevens, maar toepassing in AI-contexten is niet zo objectief Sociale netwerken, gezondheidstoepassingen en e-commerceplatforms gebruiken gegevens om aanbevelings- en gedragsvoorspellingssystemen te trainen Veel gebruikers zijn zich totaal niet bewust van dit secundaire gebruik van hun informatie.

Een ander kritiek punt: biometrische en locatiegegevens kunnen door AI worden verwerkt om invasieve profielen te creëren In 2024 groeien het aantal gevallen van datalekken die ongeautoriseerde AI-modellen voeden, wat aanzienlijke boetes oplevert onder de LGPD.

Auteursrecht & intellectueel eigendom

Generatieve AI heeft ongekende dilemma's met zich meegebracht. Hulpmiddelen als ChatGPT en DALL-E zijn getraind met miljarden teksten en afbeeldingen van internet, waaronder auteursrechtelijk beschermde werken. In Brazilië vragen verschillende makers en uitgevers zich af of er sprake is van inbreuk op het auteursrecht in dit proces.

In 2024 wordt in rechtszaken in andere landen al besproken of de reproductie van beschermde content voor AI-trainingen een redelijk gebruik of inbreuk vormt Brazilië beschikt nog steeds niet over geconsolideerde jurisprudentie over dit onderwerp Het ontbreken van duidelijke richtlijnen schaadt kunstenaars, schrijvers en fotografen die hun werken zonder compensatie invoermachines zien.

De vraag heeft ook betrekking op het eigendom van door AI gegenereerde werken. Als een model is getraind met beschermde werken, wie is dan eigenaar van de exitrechten?De gebruiker die de prompt heeft geleverd?Het bedrijf dat de AI heeft ontwikkeld?

Algoritmische vooroordelen en discriminatie

AI-algoritmen weerspiegelen de vooroordelen die aanwezig zijn in de gegevens die worden gebruikt om ze te trainen. In Brazilië vormt dit een ernstig risico in kritieke sectoren zoals kredietverlening, contracten en justitie.

Studies tonen aan dat AI-systemen voor het evalueren van kandidaten vrouwen en zwarten kunnen discrimineren. Een bank die AI gebruikt voor kredietrisicoanalyse kan systematisch financiering weigeren aan minderheidsgroepen, waardoor historische ongelijkheden in stand worden gehouden.

In 2024 beginnen organisaties met het implementeren van bias-audits op AI-modellen, maar er is geen formele wettelijke verplichting. Het gebrek aan algoritmische transparantie verergert het probleem: bedrijven maken niet bekend hoe hun systemen beslissingen nemen, waardoor het voor mensen die het doelwit zijn van discriminatie onmogelijk wordt om schade te bewijzen.

Transparantie en verklaarbaarheid van AI

Mensen hebben het recht te begrijpen waarom een AI een beslissing over hen heeft genomen Een kredietweigering, afkeuring van sollicitatiegesprekken of account lockout vereisen duidelijke en gerechtvaardigde uitleg De AVG voorziet in het recht op uitleg van geautomatiseerde beslissingen, maar bedrijven ondervinden nog steeds technische en commerciële moeilijkheden bij de uitvoering ervan.

De praktische uitdaging is reëel: diepe neurale netwerken werken als zwarte dozen. Zelfs ontwikkelaars kunnen niet volledig uitleggen waarom het model tot een specifieke conclusie kwam. Hoe kunnen we voldoen aan de wettelijke verplichtingen als de technologie geen volledige transparantie toestaat?

Generatieve modellen zoals GPT bieden nog een ander probleem: hallucinaties, dat wil zeggen zelfverzekerde maar volledig valse reacties. In kritische scenario's als de geneeskunde en de wet is deze ethische fout onaanvaardbaar, maar ontbreekt het aan een duidelijke regulering van de aansprakelijkheid wanneer AI ernstige fouten maakt.

Burgerlijke en strafrechtelijke aansprakelijkheid

Wanneer een AI schade veroorzaakt, wie is verantwoordelijk? de ontwikkelaar? het bedrijf dat het heeft ingezet? de gebruiker die invoergegevens heeft verstrekt? anno 2024 heeft de Braziliaanse wet nog steeds geen duidelijke antwoorden.

Als een customer support chatbot onjuiste medische informatie verstrekt die iemand schaadt, kan er sprake zijn van burgerlijke aansprakelijkheid Het vaststellen van schuld bij meerdere actoren is echter complex Het ontbreken van specifieke wettelijke kaders zorgt voor rechtsonzekerheid voor bedrijven en maakt het voor slachtoffers moeilijk om schadevergoeding te krijgen.

De criminele vraag is nog vager Kan men een AI vervolgen voor het schenden van privacy of het plegen van fraude? het huidige antwoord is geen AI is niet onderworpen aan de wet Maar wie reageert crimineel 'programmeur, projectmanager, bestuur? het Braziliaanse strafrecht heeft de misdaadcategorieën nog niet aangepast aan dit technologische scenario.

Aanbevelingen voor de markt in 2024

In afwachting van robuuste federale regelgeving kan Brazilië goede praktijken toepassen Bedrijven moeten: onafhankelijke bias-audits uitvoeren op AI-modellen; datasets en trainingsprocessen volledig documenteren; expliciete toestemming verkrijgen voor het gebruik van AI-gegevens; uitlegbaarheidsmechanismen implementeren; intern een duidelijk verantwoordingsbeleid vaststellen.

Regelgevende instanties zoals ANPD (National Data Protection Authority) voeren al stipte inspecties uit in het kader van de LGPD. Verantwoord bestuur op het gebied van AI is niet alleen ethiek OF is ook een strategie om juridische risico's te beperken in een nog steeds slecht gereguleerde omgeving.