لا يزال تنظيم الذكاء الاصطناعي قيد الإنشاء في البرازيل
وتواجه البرازيل سيناريو معقدا لتنظيم الذكاء الاصطناعي في عام 2024. على عكس الاتحاد الأوروبي الذي وافق على قانون الذكاء الاصطناعي وفي عام 2023، لا تزال البلاد تناقش الأطر القانونية القوية التي تحكم التكنولوجيا.
يقدم القانون العام لحماية البيانات (LGPD)، المعمول به منذ عام 2020، أساسًا أوليًا، لكنه لا يعالج على وجه التحديد المخاطر الفريدة للذكاء الاصطناعي. ولا يزال مشروع القانون رقم 2338/2023، الذي يسعى إلى تنظيم الذكاء الاصطناعي، قيد التنفيذ في الكونغرس الوطني. وتترك هذه الفجوة الشركات والمطورين في منطقة رمادية، حيث غالبا ما تسود القرارات الأخلاقية على الالتزامات القانونية الرسمية.
ويحذر الخبراء من أن التأخير في الموافقة على الإطار التنظيمي البرازيلي يضع البلاد في وضع تنافسي غير مؤاتٍ أمام القوى التكنولوجية التي لديها بالفعل مبادئ توجيهية واضحة.
خصوصية البيانات وموافقة المستخدم
أحد أكبر التحديات الأخلاقية ينطوي على استخدام البيانات الشخصية في تدريب نماذج الذكاء الاصطناعي. تقوم الشركات بجمع كميات هائلة من المعلومات لتغذية الخوارزميات، غالبًا دون موافقة صريحة من المستخدمين.
يتطلب LGPD موافقة مسبقة لجمع البيانات ومعالجتها، ولكن التطبيق في سياقات الذكاء الاصطناعي ليس موضوعيًا. تستخدم الشبكات الاجتماعية والتطبيقات الصحية ومنصات التجارة الإلكترونية البيانات لتدريب أنظمة التوصية والتنبؤ بالسلوك. العديد من المستخدمين لا يدركون تمامًا هذا الاستخدام الثانوي لمعلوماتهم.
نقطة حاسمة أخرى: يمكن للذكاء الاصطناعي معالجة البيانات البيومترية وبيانات الموقع لإنشاء ملفات تعريف غازية. في عام 2024، تنمو حالات تسرب البيانات التي تغذي نماذج الذكاء الاصطناعي غير المصرح بها، مما يولد غرامات كبيرة بموجب LGPD.
حقوق النشر والملكية الفكرية
لقد جلب الذكاء الاصطناعي التوليدي معضلات غير مسبوقة. وقد تم تدريب أدوات مثل ChatGPT وDALL-E باستخدام مليارات النصوص والصور من الإنترنت، بما في ذلك الأعمال المحمية بحقوق الطبع والنشر. وفي البرازيل، يتساءل العديد من المبدعين والناشرين عما إذا كان هناك انتهاك لحقوق الطبع والنشر في هذه العملية.
في عام 2024، تناقش الدعاوى القضائية في بلدان أخرى بالفعل ما إذا كان إعادة إنتاج المحتوى المحمي للتدريب على الذكاء الاصطناعي يشكل استخدامًا عادلاً أم انتهاكًا. ولا تزال البرازيل لا تملك فقهًا قضائيًا موحدًا حول هذا الموضوع. إن غياب المبادئ التوجيهية الواضحة يضر بالفنانين والكتاب والمصورين الذين يرون أعمالهم وهي تغذي الآلات دون تعويض.
ويؤثر السؤال أيضًا على ملكية الأعمال المولدة بالذكاء الاصطناعي. إذا تم تدريب النموذج على الأعمال المحمية، فمن يملك حقوق الخروج؟المستخدم الذي قدم المطالبة؟ الشركة التي طورت الذكاء الاصطناعي؟
التحيز الخوارزمي والتمييز
تعكس خوارزميات الذكاء الاصطناعي التحيزات الموجودة في البيانات المستخدمة لتدريبهم. وفي البرازيل، يشكل هذا خطراً جسيماً في القطاعات الحيوية مثل منح الائتمان والتعاقد والعدالة.
تشير الدراسات إلى أن أنظمة الذكاء الاصطناعي لتقييم المرشحين يمكن أن تميز ضد النساء والسود. ويمكن للبنك الذي يستخدم الذكاء الاصطناعي لتحليل مخاطر الائتمان أن يرفض التمويل بشكل منهجي لمجموعات الأقليات، مما يؤدي إلى إدامة عدم المساواة التاريخية.
في عام 2024، تبدأ المنظمات في تنفيذ عمليات تدقيق التحيز على نماذج الذكاء الاصطناعي، ولكن لا يوجد التزام قانوني رسمي. ويؤدي الافتقار إلى الشفافية الخوارزمية إلى تفاقم المشكلة: فالشركات لا تكشف عن كيفية اتخاذ أنظمتها للقرارات، مما يجعل من المستحيل على الأشخاص المستهدفين بالتمييز إثبات الضرر.
الشفافية وقابلية شرح الذكاء الاصطناعي
يحق للأشخاص فهم سبب اتخاذ الذكاء الاصطناعي قرارًا بشأنهم. يتطلب رفض الائتمان أو عدم الموافقة على مقابلة العمل أو إغلاق الحساب تفسيرات واضحة ومبررة. وينص القانون العام لحماية البيانات على الحق في تفسير القرارات الآلية، لكن الشركات لا تزال تواجه صعوبات فنية وتجارية في تنفيذها.
التحدي العملي حقيقي: تعمل الشبكات العصبية العميقة مثل الصناديق السوداء. ولا يستطيع حتى المطورون أن يشرحوا بشكل كامل سبب توصل النموذج إلى نتيجة محددة. كيف نلتزم بالالتزام القانوني عندما لا تسمح التكنولوجيا بالشفافية الكاملة؟
وتمثل النماذج التوليدية مثل GPT مشكلة أخرى: الهلوسة، أي الاستجابات الواثقة ولكن الكاذبة تماما. وفي السيناريوهات الحرجة مثل الطب والقانون، فإن هذا الخلل الأخلاقي غير مقبول، ولكنه يفتقر إلى تنظيم واضح للمسؤولية عندما يرتكب الذكاء الاصطناعي أخطاء جسيمة.
المسؤولية المدنية والجنائية
عندما يتسبب الذكاء الاصطناعي في حدوث ضرر، من المسؤول؟ المطور؟ الشركة التي نشرتها؟ المستخدم الذي قدم بيانات الإدخال؟ في عام 2024، لا يزال القانون البرازيلي ليس لديه إجابات واضحة.
إذا كان برنامج الدردشة الآلي لدعم العملاء يوفر معلومات طبية غير صحيحة تضر بشخص ما، فقد تكون هناك مسؤولية مدنية. ومع ذلك، فإن تحديد اللوم بين جهات فاعلة متعددة أمر معقد. إن الافتقار إلى أطر قانونية محددة يخلق حالة من عدم اليقين القانوني للشركات ويجعل من الصعب على الضحايا الحصول على تعويض.
والسؤال الجنائي أكثر غموضا. هل يمكن للمرء مقاضاة الذكاء الاصطناعي لانتهاكه الخصوصية أو ارتكاب الاحتيال؟ الجواب الحالي هو أن الذكاء الاصطناعي لا يخضع للقانون. ولكن من الذي يرد جنائياً "مبرمج، مدير مشروع، مجلس إدارة؟" القانون الجنائي البرازيلي لم يقم بعد بتكييف فئات الجريمة مع هذا السيناريو التكنولوجي.
توصيات للسوق في عام 2024
وفي انتظار التنظيم الفيدرالي القوي، تستطيع البرازيل أن تتبنى الممارسات الجيدة. ينبغي للشركات: إجراء عمليات تدقيق مستقلة للتحيز على نماذج الذكاء الاصطناعي؛ توثيق مجموعات البيانات وعمليات التدريب بشكل كامل؛ الحصول على موافقة صريحة لاستخدام بيانات الذكاء الاصطناعي؛ تنفيذ آليات التوضيح؛ وضع سياسات مساءلة واضحة داخليا.
تقوم الهيئات التنظيمية مثل ANPD (الهيئة الوطنية لحماية البيانات) بالفعل بإجراء عمليات تفتيش دقيقة بموجب LGPD. إن الحوكمة المسؤولة في الذكاء الاصطناعي ليست مجرد أخلاقيات أو هي أيضًا استراتيجية للتخفيف من المخاطر القانونية في بيئة لا تزال سيئة التنظيم.
