欧盟提议的规则将成为迄今为止国际上制定监管人工智能技术最严苛的规则之一,其中包括面部识别、自动汽车驾驶以及驱动在线广告、自动招聘和信用评分的算法。拟议的规则将围绕面向未来但具有争议的人工智能技术制定全球性法规和规范。
欧洲数字版权非营利组织Access Now公司欧洲政策分析师Daniel Leufer 说,“这将向全球传达一个非常重要的信息,即在建立在民主、法治、基本权利基础上的社会中,不允许应用某些人工智能技术。”
他指出,欧盟拟议的规则是含糊不清的,但这是检查潜在有害技术使用的重要一步。该规则很可能受到国际方面的密切关注,该规则适用于在欧盟销售产品或服务的任何一家公司。
其他倡导者表示,欧盟保护公民免受许多滥用人工智能的规则存在太多漏洞。总部位于布鲁塞尔的欧洲数字版权组织(EDRi)政策和竞选官员Ella Jakubowska说:“有一些规则是积极的。而某些条款将允许政府部门和组织继续以怀疑的方式使用人工智能技术。”
例如,拟议的法规建议禁止使用人工智能的“高风险”应用程序,其中包括执法部门使用人工智能进行面部识别,但只有当该技术用于在公共场所实时查寻人员时才可以使用。该规则还将为警方在调查可能判处至少三年徒刑的犯罪时可能出现的例外情况提供建议。
Jakubowska指出,人工智能仍用于学校、企业或购物中心,并用于一系列警方调查中。她说:“在基本数字版权方面,还有很多地方远远不够。我们希望他们采取更大胆的立场。”
由于人工智能的最新发展,面部识别技术已变得更加有效,这引起了极大的争议。它通过Clearview AI等商业工具在一些国家的执法部门中得到广泛应用;美国一些城市已经禁止警方使用这项技术来回应公众的抗议。
欧盟拟议的人工智能规则还将禁止由政府机构为一般目的进行基于人工智能的社会评分,以及禁止使用人工智能针对“特定群体”进行监控,这种方式可能对他们造成心理或身体上的伤害。此外,还可能会限制使用人工智能进行信用评分、招聘或某种形式的监控广告,例如,人工智能算法可能将赌博网站的广告推荐给人们。
欧盟拟议的人工智能法规要求使用高风险人工智能应用程序的组织向监管机构提供风险评估报告,以证明其安全性。那些不遵守规定的组织,可能会被处以其全球销售额6%的罚款。
拟议的规则要求组织在尝试使用人工智能来检测用户情绪,或者根据生物特征(例如性别、年龄、种族、政治取向)进行分类时必须告知用户。
数字版权分析师Leufer表示,欧盟拟议的这些规则可能会阻碍行业组织在某些领域的投资,从而影响人工智能行业在欧盟和其他国家和地区的发展步伐。
今年1月制定的这份条例草案的内容日前被曝光。其最终版本包含了一些显著的更改,例如删除了禁止使用高风险的人工智能系统的条款。