英国科学、创新和技术大臣周三发布并提交给英国议会的一份关于监管人工智能的 91 页白皮书基于这样一种观念,即人工智能主要由其不确定性和不可预测性来定义。
“为了有效地监管人工智能,并支持我们提出的框架的清晰度,我们需要对‘人工智能’的含义达成共识,”白皮书指出。
另外:技术领导者签署请愿书以阻止 AI 繁荣
“人工智能没有得到广泛共识的一般定义,”而且,“这就是为什么我们通过参考产生定制监管响应需求的两个特征来定义人工智能。”
该定义只关注人工智能的一个角落,迄今为止最成功的机器学习或神经网络。 它着眼于机器学习中的两个特征,即不清楚程序为何如此运行,以及程序可能会产生意想不到的输出。
白皮书指出:
人工智能的“适应性”使得解释系统结果的意图或逻辑变得困难:
人工智能系统经过“训练”——一次或持续——并通过推断数据中的模式和联系来运行,而这些模式和联系通常不易被人类识别。
通过这样的训练,人工智能系统通常会发展出执行人类程序员无法直接设想的新形式推理的能力。
AI 的“自主性”使得分配结果责任变得困难:
一些人工智能系统可以在没有人类明确意图或持续控制的情况下做出决定。
白皮书提出,由于不确定性,监管机构不应监管技术本身,而是有选择地监管技术使用的结果。
“我们的框架是针对具体情况的,”它说。 “我们不会为整个行业或技术分配规则或风险级别。
“相反,我们将根据人工智能在特定应用中可能产生的结果进行监管。
另外:GPT-4:提供非法建议和显示“危险的紧急行为”的新能力
意图是不同的用途有不同的后果和不同的严重性,报告明确指出:
例如,将人工智能在关键基础设施中的所有应用都归类为高风险是不相称或有效的。 人工智能在关键基础设施中的某些用途,例如机器表面划痕的识别,风险相对较低。 同样,用于对在线服装零售商的客户服务请求进行分类的人工智能聊天机器人不应像作为医疗诊断过程的一部分使用的类似应用程序一样受到监管。
这份名为“人工智能监管的支持创新方法”的白皮书竭力向业界保证,它不会抑制该技术的发展。 该文件始终强调,需要通过不严厉监管来保持英国的商业竞争力,同时努力提高公众对人工智能的信任。
“行业警告我们,监管不连贯可能会导致不成比例的小企业退出市场,从而扼杀创新和竞争,”是该报告提到的众多担忧之一。
另外:什么是 ChatGPT,它为什么重要? 这是你需要知道的
大臣米歇尔·唐兰 (Michelle Donlan) 在序言中宣称“这份白皮书将确保我们让英国走上正轨,成为世界上构建、测试和使用人工智能技术的最佳地点。” 报告指出,调查显示英国“在人工智能研究和开发方面位居世界第三”,这是一个需要保留的重要排名,Donlan 表示。
Donlan 写道:“未来的人工智能国家是我们的工作方式得到人工智能的补充而不是被它打乱的国家。”他不仅提到了人工智能辅助诊断等医学突破的前景,还提到了人工智能 可以自动执行琐碎的工作场所任务。
另外:OpenAI 的 GPT-4 论文打破了 AI 披露程序技术细节的做法
该文件建议至少在最初阶段采取宽松的监管措施。 应鼓励监管机构在其专业领域内进行尝试,看看哪些可行,而不是被 AI 的“法定”规则所累。
“这些原则将在非法定的基础上发布,并由现有监管机构实施,”它说。 “这种方法利用监管机构的特定领域专业知识,根据使用人工智能的特定环境定制原则的实施。”
报告称,稍后,“在议会时间允许的情况下,我们预计将对监管机构引入法定职责,要求他们适当考虑这些原则”,尽管如果监管机构是 成功地运用了自己的判断力。
白皮书参考了其他调查。 一个直接的前身是数字、文化、媒体和体育大臣去年 7 月发布的政策文件,题为“建立一种支持创新的人工智能监管方法”。
政府首席科学顾问帕特里克·瓦兰斯爵士本月发布的一篇题为“促进技术审查创新监管”的配套文件提出了国务卿白皮书中的几项建议。
此外:AI 先驱 Bengio 表示,ChatGPT 的成功可能会促使 AI 的保密性发生破坏性转变
其中最主要的是对商业友好的“沙箱”的提议。 这将是一个孵化人工智能技术的设施,由监管机构监督,公司可以在这里以更宽松的规则尝试新的人工智能项目,以允许进行更多的实验。
该文件强调,随着其他国家推进监管提案,英国迫切需要不被抛在后面。 它指出,“政府干预的时间很短,可以提供一个明确的、有利于创新的监管环境,以使英国成为世界上建立基础人工智能公司的最佳地点之一”。
另外:如何(以及为什么)订阅 ChatGPT Plus
人工智能使用引起的许多担忧,包括训练所谓的大型语言模型引起的碳足迹伦理问题,都没有被报告提及。
例如,本周由智库未来生命研究所发表的一封公开信呼吁暂停开发大型语言模型,警告说没有对危险采取适当的谨慎措施,该公开信由包括科学家和科技行业成员在内的 1,300 多人签名 例如“机器用宣传和谎言充斥我们的信息渠道”。
英国报纸没有提出这样全面的建议,它说这些建议不在英国监管范围之内:
拟议的监管框架并不寻求解决可能与人工智能的开发或使用相关的所有更广泛的社会和全球挑战。 这包括与数据访问、计算能力和可持续性相关的问题,以及内容制作者和人工智能开发者权利的平衡。 这些都是需要考虑的重要问题——尤其是在英国有能力保持其作为人工智能全球领导者地位的背景下——但它们不在我们为人工智能监管制定新的总体框架的提案范围之内。