2024 年巴西人工智能的道德和法律挑战

AI监管仍在巴西建设中

2024年巴西面临人工智能监管的复杂场景,与欧盟不同的是,欧盟批准了 AI 法律 2023年,该国仍在讨论管理该技术的坚实法律框架。

2020年起生效的《通用数据保护法》(LGPD)提供了初步基础,但并未具体解决AI的独特风险。寻求监管AI的第2338/2023号法案仍在全国代表大会上进行。这一差距使公司和开发商处于灰色地带,道德决策往往优先于正式的法律义务。

专家警告说,巴西监管框架的延迟批准使该国相对于已经有明确指导方针的技术强国处于竞争劣势。

AI模型训练中使用个人数据是最大的伦理挑战之一,公司收集海量信息来提供算法,通常没有得到用户的明确同意。

LGPD需要事先同意才能进行数据收集和处理,但在AI环境中的应用并不那么客观,社交网络、健康应用和电子商务平台使用数据来训练推荐和行为预测系统,许多用户完全不知道他们的信息被这种二次使用。

另一个关键点:生物识别和位置数据可以由人工智能处理以创建侵入性配置文件。2024 年,为未经授权的人工智能模型提供数据泄露案例不断增加,在 LGPD 下产生重大罚款。

Generative AI 带来了前所未有的困境。ChatGPT 和 DALL-E 等工具已经接受了来自互联网的数十亿文本和图像的培训,其中包括受版权保护的作品。在巴西,一些创作者和出版商质疑这一过程中是否存在版权侵权。

2024年,其他国家的诉讼已经讨论为AI培训复制受保护的内容是否构成合理使用或侵权,巴西仍然没有关于这一主题的巩固判例,缺乏明确的指导方针损害了艺术家、作家和摄影师,他们看到自己的作品无偿喂食机器。

AI生成作品的所有权问题也影响,如果一个模型被保护作品训练,谁拥有退出权,提供提示的用户,开发AI的公司?

AI算法反映了用于训练它们的数据中存在的偏差,在巴西,这在信贷授予、承包和司法等关键领域构成了严重风险。

研究表明,评估候选人的人工智能系统可能会歧视女性和黑人。使用人工智能进行信用风险分析的银行可能会系统性地拒绝向少数群体提供资金,从而使历史不平等长期存在。

2024年,组织开始对AI模型实施偏差审计,但没有正式的法律义务,算法透明度的缺乏加剧了问题:公司不披露其系统如何做出决策,使得受歧视目标的人无法证明受到伤害。

人有权理解为什么一个AI对他们做出了决定,拒绝信用、面试不赞成或账户停摆需要明确合理的解释,GDPR规定了自动化决策的解释权,但企业在实施过程中仍然遇到技术和商业困难。

实际挑战是真实的: deep neural network 像黑盒子一样工作,连开发者都无法完全解释为什么模型会得出具体结论,当技术不允许完全透明时,如何遵守法律义务?

GPT这样的生成模型提出了另一个问题:幻觉,即自信但完全错误的反应。在医学和法律等关键场景中,这种伦理缺陷是不可接受的,但当AI犯严重错误时,它缺乏明确的责任监管。

AI造成损害时,谁负责开发商部署的公司提供输入数据的用户 2024年,巴西法律仍然没有明确的答案。

客支持聊天机器人提供不正确的医疗信息,伤害某人,可能存在民事责任,但多方行为者之间确定责任是复杂的,缺乏具体的法律框架给企业带来了法律上的不确定性,受害者难以获得赔偿。

刑事问题更加模糊,能否以侵犯隐私或欺诈罪起诉人工智能,目前的答案是,人工智能不受法律约束。但谁对‘程序员、项目经理、董事会?巴西刑法尚未使犯罪类别适应这种技术场景。

在等待强有力的联邦监管的同时,巴西可以采取良好做法。公司应:对人工智能模型进行独立的偏见审计;完整记录数据集和培训流程;获得人工智能数据使用的明确同意;实施可解释性机制;在内部制定明确的问责政策。

ANPD(国家数据保护局)等监管机构已经在LGPD下进行了准时检查,AI中的负责任治理不仅是道德或,也是在监管仍然不力的环境中减轻法律风险的策略。