经过多年的专家咨询、一些泄露的草案以及激进组织的大量请愿和公开信，欧盟终于公布了其关于人工智能的新规则——这是世界上首次尝试缓和人们对该技术可能导致的恐惧。 一个奥威尔式的未来，其中自动化系统将对我们生活中最敏感的方面做出决定。
欧盟委员会发布了一个新的法律框架，该框架将适用于公共和私营部门，适用于在集团内部署或影响欧盟公民的任何人工智能系统，无论该技术是进口的还是在成员国内部开发的。
该框架的核心是一个由四个级别组成的风险等级，最高的是委员会所说的“不可接受的风险”：那些侵犯基本权利的人工智能的使用，将被禁止。
例如，它们包括操纵人类行为以使用户以可能对他们造成伤害的方式行事的自动化系统，以及允许政府对其公民进行社会评分的系统。
但所有人的目光都集中在有争议的面部识别问题上，由于该技术有可能实现大规模监控，该问题在过去几年引起了很多争论。 委员会提议禁止面部识别，更广泛地禁止执法机构在公共场所实时使用生物特征识别系统。
这有一些例外：在个案的基础上，执法机构仍然能够通过实时面部识别等技术进行监视以寻找犯罪受害者（例如失踪儿童），以防止 恐怖袭击，或侦查刑事犯罪的肇事者。
因此，这些规则没有达到许多活动家团体一直在推动的全面禁止使用面部识别进行大规模监视的规定，并且已经开始批评一项被认为过于狭窄且存在太多漏洞的提案 .
欧洲数字版权网络 EDRi 发推文说：“这项提议还不足以禁止生物识别大规模监控。”
例如，执法机构未使用或未实时执行的生物特征识别系统将从“不可接受的风险”下滑至“高风险”——委员会描述的第二类人工智能，以及 将根据特定要求获得授权。
高风险系统还包括情绪识别系统，以及确定获得教育、就业或基本私人和公共服务（如信用评分）的 AI 模型。 在边境用于管理移民、司法或干扰关键基础设施的算法同样属于高风险系统。
要允许这些模型进入欧盟市场，必须满足严格的标准，从进行充分的风险评估到确保算法在高质量数据集上进行训练，通过提供高水平的透明度、安全性和人工监督 . 所有高风险系统都必须在新的欧盟数据库中注册。
至关重要的是，高风险人工智能系统的供应商必须确保该技术经过评估，以证明该工具符合可信赖人工智能的法律要求。 但这种评估，除了面部识别技术等特定情况外，不必由第三方进行。
EDRi 的政策和活动官员 Ella Jakubowska 告诉 ZDNet：“实际上，这将允许 AI 开发人员标记他们自己的作业。” “当然，开发它的人会被激励说他们正在开发的东西确实符合要求。
“如果它被外包给那些通过在尽可能多的地方拥有人工智能而获利的实体，那么称之为监管真的是一种延伸。这非常令人担忧。”
世界第一
尽管存在缺陷，但 Jakubowska 指出，欧盟委员会承认应禁止人工智能的某些用途，这是在缺乏监管的领域迈出的积极一步，这有时导致该行业被描述为“狂野西部”。
迄今为止，企业主要依靠自我制定的行为准则来推动他们的 AI 计划——也就是说，当他们没有因员工激进主义表达对有害算法开发的担忧而被追究责任时。
证据表明，现有的方法，或者更确切地说，现有的方法缺乏，存在一些缺点。 从跟踪中国穆斯林维吾尔少数民族的生物识别技术，到基于种族不公平地针对公民的警务算法：人工智能系统在几乎没有监督的情况下做出高风险决策的例子比比皆是，但往往会给受影响的人带来巨大的改变生活的后果 .
多年来，要求制定明确规则以控制该技术的呼声成倍增加，特别侧重于限制可以自动识别敏感特征（如性别、性取向、种族和民族、健康状况或残疾）的人工智能模型。
这就是面部识别成为人们关注的焦点的原因——在这种情况下，委员会提议的禁令可能会受到许多激进组织的欢迎。 然而，对于 Jakubowska 来说，规则需要更进一步，列出更广泛的 AI 禁止使用清单。
“在某种程度上，民间社会正在被倾听，”她说。 “但规则绝对还不够远。例如，我们希望看到预测性警务、在边境使用人工智能进行移民，以及自动识别人们受保护的特征，这些特征也被禁止——以及 反对所有形式的生物识别大规模监视的立场要强得多，而不仅仅是提案中涵盖的有限示例。”
但是，虽然 Jakubowska 的立场将得到许多数字版权组织的认同，但这绝不是行业内所有人的立场。
实际上，一些人认为是为了防止人工智能造成社会破坏的尝试也可以被视为在最好的情况下设置障碍——创新企业被激励在欧盟开发人工智能系统，这可能 从改善医疗保健预测到更好地应对气候变化，极大地造福于社会。
无需再为人工智能辩护：众所周知，该技术对经济和社会增长做出了重大贡献。 据分析师称，在销售和营销方面，人工智能可以在全球范围内产生高达 2.6 万亿美元的收入； 而世界银行的报告显示，数据公司的营业利润率比传统公司高出 20%。
这不仅仅是关于收入。 人工智能可以帮助地方议会提供更高效的公共服务，协助医生识别疾病，告诉农民如何优化作物产量，并通过无人驾驶汽车等实现未来的智能城市。
为了实现这一切以及更多的事情，企业必须创新，而企业家需要一个温馨的环境来启动他们的初创公司。 这就是为什么美国，例如，采取宽松的监管方式，采取“做什么就做什么”的立场，促进不妨碍新想法的宽松规则。
很容易争辩说欧盟委员会正在做完全相反的事情。 由于人工智能仍然是一项年轻且发展迅速的技术，任何过早地规范某些用例的尝试都可能会阻止许多创新项目获得机会。
例如，规则禁止操纵用户以可能对他们造成伤害的方式行事的算法； 但是，构成危害和不构成危害的细微差别尚未确定，尽管它们可以决定一个系统是否应该被允许进入欧盟市场。
对于纽卡斯尔大学计算机学院教授尼克·霍利曼 (Nick Holliman) 来说，欧盟新规则的含糊不清反映出人们对一种具有多种不同形态的技术缺乏了解。 Holliman 告诉 ZDNet：“不监管 AI 系统存在危害风险，尤其是在高风险领域，但该领域的性质使得法规正在起草到一个移动的目标上。”
霍利曼说，在实践中，该法规似乎行不通，或者旨在通过判例法进行详细定义——而且不得不担心这种类型的管理费用的想法很可能会让许多企业望而却步。
霍利曼说：“这似乎将推动欧盟人工智能系统的发展向与英国、美国和中国截然不同的风险规避方向发展。” “虽然其他地区将具有灵活性，但他们必须考虑到欧盟对可能在欧盟使用的任何产品的规定。”
人工智能竞赛
在人工智能方面处于领先地位时，欧盟并没有获胜。 事实上，它正在落后：该集团甚至很少被提及参与了人工智能竞赛，而人工智能竞赛更常被表现为美国和中国之间的竞争。
欧盟倾向于接受新技术的监管，此前曾被指出是该集团存在缺陷的原因。 世界银行最近的一份报告显示，欧盟在 2019 年发起了 38% 的数据合规调查，而北美只有 12%。 对于一些经济学家来说，这种“不利于商业”的环境是许多公司选择其他地点发展的原因。
“欧盟在技术生态系统方面存在更广泛的问题：它非常官僚主义，很难获得资金，这是一种自上而下的心态，”世界银行贸易和竞争力首席经济学家沃尔夫冈冯格勒告诉 ZDNet。 “挑战在于，这些新规则可能被视为对商业不友好——我不是在为谷歌说话，而是为在欧盟运营的小型初创公司说话。”
在其新的 AI 法规中，委员会规定了合规的预期成本。 提供高风险系统的成本可能高达 7,000 欧元（8,400 美元），另外还有 7,500 欧元（9,000 美元）用于验证成本。
也许更重要的是，惩罚是令人望而却步的。 将被禁系统商业化可能导致高达 3000 万欧元（3600 万美元）或营业额 6% 的罚款； 未能遵守与高风险系统相关的要求可能会造成 2000 万欧元（2400 万美元）或营业额的 4% 的损失； 提供有关模型的错误信息可能会导致 1000 万欧元（1200 万美元）的罚款，或营业额的 2%。
对于 Fengler 来说，教训很明确：有才华的 AI 工程师和企业家将因合规的潜在成本而望而却步，这只会增加扼杀创新的现有心态。 没有人才，欧洲将难以与美国和中国竞争。
“我们不想要老大哥社会，这显然存在危险，”冯勒说。 “防止恐惧是件好事，但如果那是你的主要驱动力，那么我们将永远无法取得任何进展。你认为你可以精确地计划这个，但你不能。我们不知道一些人工智能实验将如何进行 结束，有很多例子表明人工智能将使世界变得更美好。”
不惜一切代价竞争
然而，对于像 EDRi 的 Jakubowska 这样的数字版权专家来说，人工智能系统已经超越了引起恐惧的程度，并且已经证明了需要解决的有形危害。
她说，EDRi 并没有呼吁禁止所有形式的人工智能，而是承诺限制已被证明会影响基本权利的用例。 她认为，就像刀子应该被允许，但使用刀子作为武器应该是非法的一样，人工智能的有问题的使用也应该被禁止。
更重要的是，欧盟不应寻求与其他国家竞争开发可能威胁基本权利的人工智能系统。
Jakubowska 说：“我们不应该不惜一切代价进行竞争。我们不想为 AI 极其有害的应用而竞争。” “而且我们不应该将无限的创新视为与基本权利处于同一水平。当然，我们应该尽我们所能确保欧洲企业能够蓬勃发展，但需要注意的是，这必须在 基本权利保护。”
这当然是欧盟委员会采用的说法，它指出需要保持以人为本，同时不要不必要地限制企业。 然而，在努力实现这种微妙的、几乎不可能的平衡的过程中，欧盟似乎不可避免地无法满足光谱的任何一端。
对于纽卡斯尔大学法学、创新和社会学教授莉莲·爱德华兹 (Lilian Edwards) 而言，考虑到欧盟作为世界监管机构的长期定位，欧盟委员会的新规定不足为奇。 更重要的是，像所有法律一样，它们将不断受到争论和蔑视。
“作为一名学者，我会说：你期望什么？” 她告诉 ZDNet。 “细节决定成败。这就是法律的本质，人们会为措辞争论多年。”
该战略是否会取得成果完全是另一个问题。 欧洲议会和成员国现在需要按照普通立法程序采纳委员会关于人工智能的提案，之后这些法规将直接适用于整个欧盟。
