Բրազիլիայում դեռեւս կառուցվում է արհեստական ինտելեկտի կարգավորումը
Բրազիլիան բախվում է արհեստական ինտելեկտի կարգավորման բարդ սցենարի 2024 թվականին։ Ի տարբերություն Եվրամիության, որը հաստատել է AI օրենք 2023 թվականին երկիրը դեռեւս քննարկում է տեխնոլոգիան կառավարելու ամուր իրավական շրջանակները:
Տվյալների պաշտպանության ընդհանուր օրենքը (LGPD), որն ուժի մեջ է 2020 թվականից, առաջարկում է նախնական հիմք, բայց հատուկ չի անդրադառնում AI-ի եզակի ռիսկերին: 2338/2023 օրինագիծը, որը ձգտում է կարգավորել AI-ն, շարունակում է ընթացքի մեջ մնալ Ազգային Կոնգրեսում: Այս բացը ընկերություններին եւ մշակողներին թողնում է գորշ գոտում, որտեղ էթիկական որոշումները հաճախ գերակայում են պաշտոնական իրավական պարտավորությունների նկատմամբ:
Փորձագետները զգուշացնում են, որ Բրազիլիայի կարգավորող շրջանակի հաստատման ձգձգումը երկիրը մրցակցային անբարենպաստ վիճակում է դնում տեխնոլոգիական տերությունների դեմ, որոնք արդեն ունեն հստակ ուղեցույցներ:
Տվյալների գաղտնիություն եւ օգտագործողի համաձայնություն
Ամենամեծ էթիկական մարտահրավերներից մեկը ներառում է անձնական տվյալների օգտագործումը AI մոդելների վերապատրաստման ժամանակ: Ընկերությունները հավաքում են հսկայական քանակությամբ տեղեկատվություն ալգորիթմներ կերակրելու համար, հաճախ առանց օգտատերերի հստակ համաձայնության:
LGPD-ն պահանջում է նախնական համաձայնություն տվյալների հավաքագրման եւ մշակման համար, սակայն AI համատեքստում կիրառումը այնքան էլ օբյեկտիվ չէ: Սոցիալական ցանցերը, առողջապահական հավելվածները եւ էլեկտրոնային առեւտրի հարթակները օգտագործում են տվյալներ՝ ուսուցանելու առաջարկությունների եւ վարքագծի կանխատեսման համակարգեր: Շատ օգտատերեր լիովին տեղյակ չեն իրենց տեղեկատվության այս երկրորդական օգտագործման մասին:
Մեկ այլ կարեւոր կետ: կենսաչափական եւ տեղորոշման տվյալները կարող են մշակվել AI-ի կողմից՝ ինվազիվ պրոֆիլներ ստեղծելու համար: 2024 թվականին աճում են տվյալների արտահոսքի դեպքերը, որոնք կերակրում են չարտոնված AI մոդելներին՝ առաջացնելով զգալի տուգանքներ LGPD-ի ներքո:
Հեղինակային իրավունք եւ մտավոր սեփականություն
Generative AI-ն աննախադեպ երկընտրանքներ է բերել: Գործիքները, ինչպիսիք են ChatGPT-ն եւ DALL-E-ն, վերապատրաստվել են ինտերնետի միլիարդավոր տեքստերի եւ պատկերների հետ, ներառյալ հեղինակային իրավունքով պաշտպանված ստեղծագործությունները: Բրազիլիայում մի քանի ստեղծողներ եւ հրատարակիչներ հարցնում են, թե արդյոք այս գործընթացում հեղինակային իրավունքի խախտում կա:
2024 թվականին այլ երկրներում դատական հայցերն արդեն քննարկում են՝ արդյոք AI ուսուցման համար պաշտպանված բովանդակության վերարտադրումը արդար օգտագործում է, թե խախտում։ Բրազիլիան դեռեւս չունի համախմբված իրավագիտություն այս թեմայի վերաբերյալ: Հստակ ուղեցույցների բացակայությունը վնասում է արվեստագետներին, գրողներին եւ լուսանկարիչներին, ովքեր տեսնում են, որ իրենց աշխատանքները կերակրում են մեքենաներին առանց փոխհատուցման:
Հարցը ազդում է նաեւ արհեստական ինտելեկտի կողմից ստեղծված աշխատանքների սեփականության վրա: Եթե մոդելը վերապատրաստվել է պաշտպանված աշխատանքներով, ո՞ւմ են պատկանում ելքի իրավունքները: Օգտագործողը, ով տրամադրել է հուշումը: Ընկերությունը, որը մշակել է AI-ն:
Ալգորիթմական կողմնակալություն եւ խտրականություն
AI ալգորիթմներն արտացոլում են դրանց վերապատրաստման համար օգտագործվող տվյալների մեջ առկա կողմնակալությունները: Բրազիլիայում դա լուրջ վտանգ է ներկայացնում այնպիսի կարեւոր ոլորտներում, ինչպիսիք են վարկերի տրամադրումը, պայմանագրերը եւ արդարադատությունը:
Ուսումնասիրությունները ցույց են տալիս, որ թեկնածուների գնահատման AI համակարգերը կարող են խտրականություն դրսեւորել կանանց եւ սեւամորթների նկատմամբ: Բանկը, որն օգտագործում է AI-ն վարկային ռիսկերի վերլուծության համար, կարող է համակարգված կերպով մերժել փոքրամասնությունների խմբերին ֆինանսավորումը' հավերժացնելով պատմական անհավասարությունները:
2024 թվականին կազմակերպությունները սկսում են AI մոդելների վերաբերյալ կողմնակալ աուդիտներ իրականացնել, սակայն պաշտոնական իրավական պարտավորություն չկա: Ալգորիթմական թափանցիկության բացակայությունը խորացնում է խնդիրը: ընկերությունները չեն բացահայտում, թե ինչպես են իրենց համակարգերը որոշումներ կայացնում՝ անհնարին դարձնելով խտրականության թիրախ դարձած մարդկանց վնասն ապացուցելը:
AI-ի թափանցիկությունն ու բացատրելիությունը
Մարդիկ իրավունք ունեն հասկանալու՝ թե ինչու է AI- ն որոշում կայացրել իրենց մասին: Վարկային մերժումը, աշխատանքային հարցազրույցի մերժումը կամ հաշվի արգելափակումը պահանջում են հստակ եւ հիմնավորված բացատրություններ: GDPR-ը նախատեսում է ավտոմատացված որոշումների բացատրության իրավունք, սակայն ընկերությունները դեռեւս բախվում են տեխնիկական եւ առեւտրային դժվարությունների դրա իրականացման հարցում:
Գործնական մարտահրավերն իրական է խորը նեյրոնային ցանցերն աշխատում են սեւ արկղերի պես: Նույնիսկ մշակողները չեն կարող լիովին բացատրել, թե ինչու է մոդելը եկել կոնկրետ եզրակացության: Ինչպե՞ս կատարել իրավական պարտավորությունը, երբ տեխնոլոգիան թույլ չի տալիս լիարժեք թափանցիկություն:
GPT-ի նման գեներատիվ մոդելները ներկայացնում են մեկ այլ խնդիր՝ հալյուցինացիաներ, այսինքն՝ վստահ, բայց բոլորովին կեղծ պատասխաններ: Կրիտիկական սցենարներում, ինչպիսիք են բժշկությունը եւ օրենքը, այս էթիկական թերությունն անընդունելի է, բայց այն չունի պատասխանատվության հստակ կարգավորում, երբ AI-ն լուրջ սխալներ է թույլ տալիս:
Քաղաքացիական եւ քրեական պատասխանատվություն
Երբ արհեստական ինտելեկտը վնաս է պատճառում, ո՞վ է պատասխանատու: Այն տեղակայած ընկերությունը: Օգտատերը, ով տրամադրել է մուտքային տվյալներ: 2024 թվականին Բրազիլիայի օրենսդրությունը դեռեւս հստակ պատասխաններ չունի։:
Եթե հաճախորդի աջակցության չաթբոտը տրամադրում է սխալ բժշկական տեղեկատվություն, որը վնասում է ինչ-որ մեկին, կարող է լինել քաղաքացիական պատասխանատվություն: Այնուամենայնիվ, բազմաթիվ դերակատարների միջեւ մեղքը որոշելը բարդ է: Հատուկ իրավական շրջանակների բացակայությունը իրավական անորոշություն է ստեղծում ընկերությունների համար եւ դժվարացնում է զոհերի համար փոխհատուցում ստանալը:
Քրեական հարցն էլ ավելի մշուշոտ է: Կարո՞ղ է քրեական պատասխանատվության ենթարկել արհեստական ինտելեկտին գաղտնիությունը խախտելու կամ խարդախություն կատարելու համար: Ներկայիս պատասխանն այն է, որ AI-ն օրենքի ենթակա չէ: Բայց ո՞վ է քրեական պատասխան տալիս "Ծրագրավորող, ծրագրի ղեկավար, խորհուրդ: Բրազիլիայի քրեական օրենսդրությունը դեռեւս չի հարմարեցրել հանցագործության կատեգորիաները այս տեխնոլոգիական սցենարին:
Առաջարկություններ շուկայի համար 2024 թ
Սպասելով ամուր դաշնային կարգավորմանը՝ Բրազիլիան կարող է լավ պրակտիկա ընդունել: Ընկերությունները պետք է: ամբողջությամբ փաստաթղթավորել տվյալների հավաքածուները եւ վերապատրաստման գործընթացները: ստանալ հստակ համաձայնություն AI տվյալների օգտագործման համար: իրականացնել բացատրելիության մեխանիզմներ; ներքին կարգով սահմանել հաշվետվողականության հստակ քաղաքականություն:
Կարգավորող մարմինները, ինչպիսիք են ANPD-ն (Տվյալների պաշտպանության ազգային մարմինը), արդեն կատարում են ճշտապահ ստուգումներ LGPD-ի ներքո: AI-ում պատասխանատու կառավարումը ոչ միայն էթիկա է, այլեւ դեռեւս վատ կարգավորվող միջավայրում իրավական ռիսկերը մեղմելու ռազմավարություն:
