Peraturan AI masih dalam tahap pembangunan di Brasil
Brasil menghadapi skenario kompleks regulasi kecerdasan buatan pada tahun 2024. Berbeda dengan Uni Eropa yang menyetujui Hukum AI pada tahun 2023, negara ini masih memperdebatkan kerangka hukum yang kuat untuk mengatur teknologi.
Undang-Undang Perlindungan Data Umum (LGPD), yang berlaku sejak 2020, menawarkan dasar awal, tetapi tidak secara khusus membahas risiko unik AI. RUU 2338/2023, yang berupaya mengatur AI, masih dalam proses di Kongres Nasional. Kesenjangan ini membuat perusahaan dan pengembang berada di zona abu-abu, di mana keputusan etis sering kali menang atas kewajiban hukum yang diformalkan.
Para ahli memperingatkan bahwa keterlambatan dalam menyetujui kerangka peraturan Brasil menempatkan negara tersebut pada posisi yang tidak menguntungkan dalam persaingan melawan kekuatan teknologi yang telah memiliki pedoman yang jelas.
Privasi data dan persetujuan pengguna
Salah satu tantangan etika terbesar melibatkan penggunaan data pribadi dalam melatih model AI. Perusahaan mengumpulkan sejumlah besar informasi untuk memberi makan algoritma, seringkali tanpa persetujuan eksplisit dari pengguna.
LGPD memerlukan persetujuan sebelumnya untuk pengumpulan dan pemrosesan data, tetapi aplikasi dalam konteks AI tidak begitu objektif. Jejaring sosial, aplikasi kesehatan, dan platform e-commerce menggunakan data untuk melatih sistem rekomendasi dan prediksi perilaku. Banyak pengguna sama sekali tidak menyadari penggunaan sekunder informasi mereka ini.
Titik kritis lainnya: data biometrik dan lokasi dapat diproses oleh AI untuk membuat profil invasif. Pada tahun 2024, kasus kebocoran data yang memberi makan model AI yang tidak sah tumbuh, menghasilkan denda yang signifikan di bawah LGPD.
Hak cipta & kekayaan intelektual
AI generatif telah membawa dilema yang belum pernah terjadi sebelumnya.Alat seperti ChatGPT dan DALL-E telah dilatih dengan miliaran teks dan gambar dari internet, termasuk karya berhak cipta.Di Brasil, beberapa pencipta dan penerbit mempertanyakan apakah ada pelanggaran hak cipta dalam proses ini.
Pada tahun 2024, tuntutan hukum di negara lain sudah membahas apakah reproduksi konten yang dilindungi untuk pelatihan AI merupakan penggunaan wajar atau pelanggaran. Brasil masih belum memiliki yurisprudensi yang terkonsolidasi mengenai topik ini. Tidak adanya pedoman yang jelas merugikan seniman, penulis, dan fotografer yang melihat karya mereka memberi makan mesin tanpa kompensasi.
Pertanyaan itu juga mempengaruhi kepemilikan karya yang dihasilkan AI. Jika model dilatih dengan karya yang dilindungi, siapa yang memiliki hak keluar?Pengguna yang memberikan prompt?Perusahaan yang mengembangkan AI?
Bias dan diskriminasi algoritmik
Algoritma AI mencerminkan bias yang ada dalam data yang digunakan untuk melatih mereka. Di Brasil, ini menimbulkan risiko serius di sektor-sektor penting seperti pemberian kredit, kontrak, dan keadilan.
Studi menunjukkan bahwa sistem AI untuk mengevaluasi kandidat dapat mendiskriminasi perempuan dan orang kulit hitam. Bank yang menggunakan AI untuk analisis risiko kredit dapat secara sistematis menolak pendanaan untuk kelompok minoritas, sehingga melanggengkan kesenjangan historis.
Pada tahun 2024, organisasi mulai menerapkan audit bias pada model AI, tetapi tidak ada kewajiban hukum formal. Kurangnya transparansi algoritmik memperburuk masalah: perusahaan tidak mengungkapkan bagaimana sistem mereka membuat keputusan, sehingga tidak mungkin bagi orang yang menjadi sasaran diskriminasi untuk membuktikan kerugian.
Transparansi dan penjelasan AI
Orang-orang memiliki hak untuk memahami mengapa AI telah membuat keputusan tentang mereka. Penolakan kredit, ketidaksetujuan wawancara kerja atau penguncian akun memerlukan penjelasan yang jelas dan dapat dibenarkan. GDPR memberikan hak untuk penjelasan keputusan otomatis, tetapi perusahaan masih menghadapi kesulitan teknis dan komersial dalam menerapkannya.
Tantangan praktisnya nyata: jaringan saraf dalam bekerja seperti kotak hitam.Bahkan pengembang tidak dapat sepenuhnya menjelaskan mengapa model sampai pada kesimpulan tertentu.Bagaimana mematuhi kewajiban hukum ketika teknologi tidak memungkinkan transparansi penuh?
Model generatif seperti GPT menyajikan masalah lain: halusinasi, yaitu, percaya diri tetapi benar-benar responses.In kritis skenario seperti obat dan hukum, cacat etika ini tidak dapat diterima, tetapi tidak memiliki peraturan yang jelas dari kewajiban ketika AI membuat kesalahan serius.
Tanggung jawab perdata dan pidana
Ketika AI menyebabkan kerusakan, siapa yang bertanggung jawab? Pengembang? Perusahaan yang menyebarkannya? Pengguna yang memberikan data masukan?Pada tahun 2024, hukum Brasil masih belum memiliki jawaban yang jelas.
Jika chatbot dukungan pelanggan memberikan informasi medis yang salah yang membahayakan seseorang, mungkin ada tanggung jawab perdata. Namun, menentukan kesalahan di antara banyak aktor adalah kompleks. Kurangnya kerangka hukum khusus menciptakan ketidakpastian hukum bagi perusahaan dan menyulitkan korban untuk mendapatkan kompensasi.
Pertanyaan kriminal bahkan lebih samar-samar. Bisakah seseorang menuntut AI karena melanggar privasi atau melakukan penipuan? Jawaban saat ini adalah tidak ada AI yang tidak tunduk pada hukum. Tetapi siapa yang secara kriminal menanggapi 'Programmer, manajer proyek, dewan? Hukum pidana Brasil belum menyesuaikan kategori kejahatan dengan skenario teknologi ini.
Rekomendasi untuk pasar pada tahun 2024
Sambil menunggu peraturan federal yang kuat, Brasil dapat mengadopsi praktik yang baik. Perusahaan harus: melakukan audit bias independen pada model AI; sepenuhnya mendokumentasikan kumpulan data dan proses pelatihan; mendapatkan persetujuan eksplisit untuk penggunaan data AI; menerapkan mekanisme penjelasan; menetapkan kebijakan akuntabilitas yang jelas secara internal.
Badan pengatur seperti ANPD (National Data Protection Authority) sudah melakukan inspeksi tepat waktu di bawah LGPD. Tata kelola yang bertanggung jawab dalam AI tidak hanya etika ATAU juga merupakan strategi untuk memitigasi risiko hukum dalam lingkungan yang masih diatur dengan buruk.
