呼吁制止使用人工智能以及在某些情况下完全禁止该技术的呼声越来越高。 现在，联合国人权事务负责人米歇尔·巴切莱特 (Michelle Bachelet) 加入了专家们的行列，敦促各国政府采取更强有力的行动来控制算法，在一份新报告中建议暂停销售和使用人工智能以应对高风险 用例。
巴切莱特还主张禁止一些违反国际人权法的人工智能应用，例如基于歧视性标准对个人进行社会评分。
联合国专员表示，由于尚未制定保障措施来确保负责任地使用该技术，各国政府应作为紧急事项控制人工智能。 否则，可能会损害人权的算法将在没有监督的情况下继续部署，从而对公民造成更多伤害。
算法已经存在于大多数人生活的方方面面，巴切莱特强调说，并指出各种系统目前正在参与改变生活的决策，例如谁获得公共服务、谁获得工作，或者用户可以在线查看和分享什么。
巴切莱特说：“我们不能继续追赶人工智能——允许它在有限或没有边界或监督的情况下使用，并在事后处理几乎不可避免的人权后果。”
这位联合国专员的评论来自她的办公室进行的一份报告，该报告旨在调查人工智能如何影响隐私、健康、教育、行动自由或言论自由等人权。
虽然人工智能在很大程度上被认为是可以帮助社会和经济克服巨大挑战的“正义力量”，但该报告还强调了人工智能对某些人权的“不可否认且稳步增长”的影响。
例如，算法可能会严重侵犯用户的隐私。 AI 系统被输入大量数据，包括个人数据，这促使组织收集、存储和处理有关其用户或客户的敏感信息，有时是以秘密的方式。 这些系统反过来可以用来预测人们的个人生活，从他们居住的社区到他们的睡眠模式。
报告称，有几个部门特别关注这些人工智能系统的使用。 它们包括执法，其中算法可能会影响逮捕罪犯的决定，以及公共服务，其中 AI 模型可以帮助确定福利权利，一直到是否应标记家庭以接受儿童保育服务。
在工作场所，报告指出了使用算法来监控和管理员工的风险。 在网上，人工智能系统可用于支持内容管理决策，这有助于决定每个用户所接触的内容类型。
对于其中许多应用程序，风险是双重的。 人工智能系统本身不仅会与隐私权等基本人权相抵触； 但在某些情况下，当算法存在偏差时，该技术也会做出歧视性的决定。
例如，用于通知 AI 系统的数据可能对某些群体有偏见，或者可能只是错误的、过时的或不相关的，这反过来会导致算法做出不公平的决定。 例如，这就是去年用于预测英国学生成绩的算法最终为生活在较富裕地区的学生分配更高分数的原因。
有足够多的例子表明 AI 模型会做出有害的——有时甚至是完全错误的——决定，这令人担忧。 “与人工智能驱动的决策相关的歧视风险——可以改变、定义或损害人类生活的决策——太真实了。这就是为什么需要对人工智能系统的影响进行系统评估和监测，以识别和减轻人类 权利风险，”巴切莱特说。
联合国报告特别提请注意各国出于监视目的使用算法，尤其是面部识别等生物识别技术，用于实时和远距离识别人员，并有可能进行无限制跟踪 个人。
报告称，应该暂停在公共场所使用生物识别技术，直到证明算法的准确性没有问题，并且该系统不会产生歧视性影响。
因此，根据联合国专员的说法，政府有责任实施正确的法律，以保持人工智能工具的开发，从而使监视和其他侵犯人权的行为得到控制。
例如，今年早些时候，欧盟委员会公布了人工智能规则草案，其中根据不同的风险等级对人工智能应用进行了分类。 在金字塔的顶端是带有“不可接受的风险”的用例，它们侵犯了基本权利，应该被禁止。
欧盟委员会表示，在公共场所使用面部识别应该被禁止，因为它侵犯了这些权利。 然而，该裁决有各种例外情况，倡导团体谴责这些例外情况存在太多漏洞。
