Brezilya'da yapay zeka düzenlemesi hâlâ yapım aşamasındadır
Brezilya, 2024'te karmaşık bir yapay zeka düzenlemesi senaryosuyla karşı karşıya. Onaylayan Avrupa Birliği'nin aksine AI Yasası 2023'te ülke hâlâ teknolojiyi yönetecek sağlam yasal çerçeveleri tartışıyor.
2020'den bu yana yürürlükte olan Genel Veri Koruma Yasası (LGPD), bir başlangıç temeli sunuyor ancak yapay zekanın benzersiz risklerini özel olarak ele almıyor. Yapay zekayı düzenlemeyi amaçlayan 2338/2023 sayılı yasa tasarısı Ulusal Kongre'de devam ediyor. Bu boşluk, şirketleri ve geliştiricileri, etik kararların genellikle resmileştirilmiş yasal yükümlülüklere üstün geldiği gri bir bölgede bırakıyor.
Uzmanlar, Brezilya düzenleyici çerçevesinin onaylanmasındaki gecikmenin, ülkeyi halihazırda açık yönergelere sahip olan teknolojik güçlere karşı rekabet açısından dezavantajlı duruma soktuğu konusunda uyarıyor.
Veri gizliliği ve kullanıcı onayı
En büyük etik zorluklardan biri, kişisel verilerin eğitim AI modellerinde kullanılmasını içerir.Şirketler, algoritmaları beslemek için, genellikle kullanıcıların açık izni olmadan, büyük miktarda bilgi toplar.
LGPD veri toplama ve işleme için önceden onay gerektirir, ancak AI bağlamlarında uygulama o kadar objektif değildir Sosyal ağlar, sağlık uygulamaları ve e-ticaret platformları, öneri ve davranış tahmin sistemlerini eğitmek için verileri kullanır Birçok kullanıcı, bilgilerinin bu ikincil kullanımından tamamen habersizdir.
Bir başka kritik nokta: biyometrik ve konum verileri, istilacı profiller oluşturmak için AI tarafından işlenebilir.2024'te, yetkisiz AI modellerini besleyen veri sızıntısı vakaları büyüyor ve LGPD altında önemli para cezaları oluşturuyor.
Telif hakkı ve fikri mülkiyet
Üretken AI benzeri görülmemiş ikilemler getirdi.ChatGPT ve DALL-E gibi araçlar, telif hakkıyla korunan çalışmalar da dahil olmak üzere internetten milyarlarca metin ve resimle eğitildi.Brezilya'da birçok yaratıcı ve yayıncı, bu süreçte telif hakkı ihlali olup olmadığını sorguluyor.
2024'te, diğer ülkelerdeki davalar, AI eğitimi için korunan içeriğin çoğaltılmasının adil kullanım veya ihlal teşkil edip etmediğini zaten tartışıyor.Brezilya'da hala bu konuyla ilgili birleştirilmiş içtihat yok.Açık yönergelerin bulunmaması, eserlerini tazminatsız olarak makine beslediğini gören sanatçılara, yazarlara ve fotoğrafçılara zarar veriyor.
Soru aynı zamanda AI tarafından üretilen eserlerin sahipliğini de etkiler. Bir model korumalı eserlerle eğitilmişse, çıkış haklarının sahibi kimdir? istemi sağlayan kullanıcı? AI'yi geliştiren şirket?
Algoritmik önyargı ve ayrımcılık
AI algoritmaları, onları eğitmek için kullanılan verilerde mevcut olan önyargıları yansıtır.Brezilya'da bu, kredi verme, sözleşme yapma ve adalet gibi kritik sektörlerde ciddi bir risk oluşturmaktadır.
Araştırmalar, adayları değerlendirmeye yönelik yapay zeka sistemlerinin kadınlara ve siyahlara karşı ayrımcılık yapabileceğini gösteriyor. Kredi riski analizi için yapay zekayı kullanan bir banka, azınlık gruplarına sağlanan finansmanı sistematik olarak reddedebilir ve bu da tarihsel eşitsizlikleri sürdürebilir.
2024 yılında kuruluşlar yapay zeka modelleri üzerinde önyargı denetimleri uygulamaya başlıyor ancak resmi bir yasal zorunluluk yok. Algoritmik şeffaflığın olmayışı sorunu daha da kötüleştiriyor: Şirketler sistemlerinin nasıl karar verdiğini açıklamıyor, bu da ayrımcılığın hedef aldığı kişilerin zararlarını kanıtlamasını imkansız hale getiriyor.
Yapay zekanın şeffaflığı ve açıklanabilirliği
İnsanlar bir AI'nın kendileri hakkında neden bir karar verdiğini anlama hakkına sahiptir.Kredi reddi, iş görüşmesinin onaylanmaması veya hesap kilitleme açık ve haklı açıklamalar gerektirir.GDPR, otomatik kararların açıklanması hakkını sağlar, ancak şirketler bunu uygulamada hala teknik ve ticari zorluklarla karşılaşmaktadır.
Pratik zorluk gerçektir: derin sinir ağları kara kutular gibi çalışır. Geliştiriciler bile modelin neden belirli bir sonuca vardığını tam olarak açıklayamaz.Teknoloji tam şeffaflığa izin vermediğinde yasal yükümlülüğe nasıl uyulur?
GPT gibi üretken modeller başka bir sorun ortaya koyuyor: halüsinasyonlar, yani kendinden emin ama tamamen yanlış yanıtlar.Tıp ve hukuk gibi kritik senaryolarda bu etik kusur kabul edilemez, ancak yapay zeka ciddi hatalar yaptığında sorumluluğun net bir şekilde düzenlenmesinden yoksundur.
Hukuki ve cezai sorumluluk
Bir yapay zeka hasara neden olduğunda sorumlu kim? Geliştirici mi? Bunu dağıtan şirket mi? Giriş verilerini sağlayan kullanıcı mı? 2024'te Brezilya yasalarının hâlâ net yanıtları yok.
Bir müşteri destek chatbot birine zarar yanlış tıbbi bilgi sağlarsa, hukuki sorumluluk olabilir.ancak, birden fazla aktör arasında suçu belirlemek karmaşıktır.belirli yasal çerçevelerin eksikliği şirketler için yasal belirsizlik yaratır ve mağdurların tazminat almasını zorlaştırır.
Suç sorusu daha da belirsizdir. Bir yapay zekayı mahremiyeti ihlal ettiği veya dolandırıcılık yaptığı için dava edebilir mi? Mevcut cevap hiçbir yapay zekanın yasaya tabi olmadığıdır. Ancak kim cezai olarak 'PROgramcı, proje yöneticisi, kurul?' yanıtını verdi. Brezilya ceza hukuku henüz suç kategorilerini bu teknolojik senaryoya uyarlamadı.
2024 yılında pazara yönelik öneriler
Sağlam federal düzenlemeyi beklerken Brezilya iyi uygulamaları benimseyebilir. Şirketler şunları yapmalıdır: yapay zeka modelleri üzerinde bağımsız önyargı denetimleri yapmalı; veri kümelerini ve eğitim süreçlerini tam olarak belgeleyin; yapay zeka verilerinin kullanımı için açık onay alın; açıklanabilirlik mekanizmalarını uygulayın; dahili olarak açık hesap verebilirlik politikaları oluşturun.
ANPD (Ulusal Veri Koruma Otoritesi) gibi düzenleyici kurumlar halihazırda LGPD kapsamında zamanında denetimler yapmaktadır. Yapay zekada sorumlu yönetişim yalnızca etik VEYA değil, aynı zamanda hala kötü düzenlenmiş bir ortamda yasal riskleri azaltmaya yönelik bir stratejidir.
