Cabaran etika dan undang-undang utama AI di Brazil pada tahun 2024

Peraturan AI masih dalam pembinaan di Brazil

Brazil menghadapi senario kompleks peraturan kecerdasan buatan pada tahun 2024. Tidak seperti Kesatuan Eropah, yang meluluskan Undang-undang AI pada tahun 2023, negara masih membahaskan rangka kerja undang-undang yang kukuh untuk mentadbir teknologi.

Undang-undang Perlindungan Data Am (LGPD), yang berkuat kuasa sejak 2020, menawarkan asas awal, tetapi tidak menangani secara khusus risiko unik AI. Rang Undang-undang 2338/2023, yang bertujuan untuk mengawal selia AI, masih dalam proses dalam Kongres Nasional. Jurang ini menyebabkan syarikat dan pembangun berada dalam zon kelabu, di mana keputusan etika sering mengatasi kewajipan undang-undang rasmi.

Pakar memberi amaran bahawa kelewatan dalam meluluskan rangka kerja kawal selia Brazil meletakkan negara itu pada kelemahan kompetitif terhadap kuasa teknologi yang sudah mempunyai garis panduan yang jelas.

Privasi data dan persetujuan pengguna

Salah satu cabaran etika terbesar melibatkan penggunaan data peribadi dalam melatih model AI. Syarikat mengumpul sejumlah besar maklumat untuk memberi makan algoritma, selalunya tanpa kebenaran yang jelas daripada pengguna.

LGPD memerlukan persetujuan awal untuk pengumpulan dan pemprosesan data, tetapi aplikasi dalam konteks AI tidak begitu objektif. Rangkaian sosial, aplikasi kesihatan dan platform e-dagang menggunakan data untuk melatih sistem pengesyoran dan ramalan tingkah laku. Ramai pengguna langsung tidak menyedari penggunaan kedua maklumat mereka ini.

Satu lagi perkara kritikal: data biometrik dan lokasi boleh diproses oleh AI untuk mencipta profil invasif. Pada tahun 2024, kes kebocoran data yang memberi makan kepada model AI yang tidak dibenarkan berkembang, menghasilkan denda yang ketara di bawah LGPD.

Hak cipta & harta intelek

Ai Generatif telah membawa dilema yang tidak pernah berlaku sebelum ini. Alat seperti ChatGPT dan DALL-E telah dilatih dengan berbilion teks dan imej daripada internet, termasuk karya berhak cipta. Di Brazil, beberapa pencipta dan penerbit mempersoalkan sama ada terdapat pelanggaran hak cipta dalam proses ini.

Pada tahun 2024, tindakan undang-undang di negara lain telah membincangkan sama ada pengeluaran semula kandungan yang dilindungi untuk latihan AI merupakan penggunaan adil atau pelanggaran. Brazil masih tidak mempunyai perundangan yang disatukan mengenai topik ini. Ketiadaan garis panduan yang jelas membahayakan artis, penulis dan jurugambar yang melihat karya mereka memberi makan mesin tanpa pampasan.

Persoalannya juga mempengaruhi pemilikan karya yang dijana AI. Jika model dilatih dengan karya yang dilindungi, siapa yang memiliki hak keluar?Pengguna yang memberikan gesaan?Syarikat yang membangunkan AI?

Kecondongan algoritma dan diskriminasi

Algoritma AI mencerminkan berat sebelah yang terdapat dalam data yang digunakan untuk melatih mereka. Di Brazil, ini menimbulkan risiko serius dalam sektor kritikal seperti pemberian kredit, kontrak dan keadilan.

Kajian menunjukkan bahawa sistem AI untuk menilai calon boleh mendiskriminasi wanita dan kulit hitam. Sebuah bank yang menggunakan AI untuk analisis risiko kredit secara sistematik boleh menafikan pembiayaan kepada kumpulan minoriti, mengekalkan ketidaksamaan sejarah.

Pada tahun 2024, organisasi mula melaksanakan audit berat sebelah pada model AI, tetapi tiada kewajipan undang-undang formal. Kekurangan ketelusan algoritma memburukkan lagi masalah: syarikat tidak mendedahkan cara sistem mereka membuat keputusan, menjadikannya mustahil bagi orang yang disasarkan oleh diskriminasi untuk membuktikan bahaya.

Ketelusan dan kebolehjelasan AI

Orang ramai mempunyai hak untuk memahami mengapa AI telah membuat keputusan tentang mereka. Penafian kredit, penolakan temu duga kerja atau penguncian akaun memerlukan penjelasan yang jelas dan wajar. GDPR memperuntukkan hak untuk penjelasan keputusan automatik, tetapi syarikat masih menghadapi kesukaran teknikal dan komersial dalam melaksanakannya.

Cabaran praktikal adalah nyata: rangkaian saraf dalam berfungsi seperti kotak hitam. Malah pembangun tidak dapat menjelaskan sepenuhnya mengapa model itu membuat kesimpulan khusus. Bagaimana untuk mematuhi kewajipan undang-undang apabila teknologi tidak membenarkan ketelusan penuh?

Model generatif seperti GPT menimbulkan masalah lain: halusinasi, iaitu, respons yang yakin tetapi benar-benar palsu. Dalam senario kritikal seperti perubatan dan undang-undang, kecacatan etika ini tidak boleh diterima, tetapi ia tidak mempunyai peraturan liabiliti yang jelas apabila AI membuat kesilapan yang serius.

Liabiliti sivil dan jenayah

Apabila AI menyebabkan kerosakan, siapa yang bertanggungjawab? Pembangun? Syarikat yang menggunakannya? Pengguna yang memberikan data input?Pada tahun 2024, undang-undang Brazil masih tidak mempunyai jawapan yang jelas.

Jika chatbot sokongan pelanggan memberikan maklumat perubatan yang salah yang membahayakan seseorang, mungkin terdapat liabiliti sivil. Walau bagaimanapun, menentukan kesalahan di kalangan berbilang aktor adalah rumit. Kekurangan rangka kerja undang-undang khusus mewujudkan ketidakpastian undang-undang bagi syarikat dan menyukarkan mangsa untuk mendapatkan pampasan.

Soalan jenayah lebih samar-samar. Bolehkah seseorang mendakwa AI kerana melanggar privasi atau melakukan penipuan? Jawapan semasa ialah tiada AI tidak tertakluk kepada undang-undang. Tetapi siapa yang bertindak balas secara jenayah 'Programmer, pengurus projek, lembaga? Undang-undang jenayah Brazil masih belum menyesuaikan kategori jenayah dengan senario teknologi ini.

Pengesyoran untuk pasaran pada tahun 2024

Sementara menunggu peraturan persekutuan yang mantap, Brazil boleh mengamalkan amalan yang baik. Syarikat hendaklah: menjalankan audit berat sebelah bebas pada model AI; mendokumenkan set data dan proses latihan sepenuhnya; mendapatkan persetujuan yang jelas untuk penggunaan data AI; melaksanakan mekanisme kebolehjelasan; mewujudkan dasar akauntabiliti yang jelas secara dalaman.

Badan kawal selia seperti ANPD (Pihak Berkuasa Perlindungan Data Kebangsaan) telah pun membuat pemeriksaan menepati masa di bawah LGPD. Tadbir urus yang bertanggungjawab dalam AI bukan sahaja etika ATAU juga merupakan strategi untuk mengurangkan risiko undang-undang dalam persekitaran yang masih kurang dikawal.