如今，人工智能 (AI) 涵盖了一组智能但有限的软件工具。 但在未来，随着人工智能变得越来越复杂和无处不在，我们可能会被迫重新思考我们如何对待人工智能——甚至它们如何对待我们——的对错。
目前，人工智能本质上是狭义的，执行图像识别、欺诈检测和客户服务等任务。 但是，随着人工智能的发展，它们将变得越来越自主。 在某些时候，他们可能会做错事。 当 AI 犯错时，谁才是真正的过错者，这个问题注定会给企业带来麻烦，同时也会让律师兴奋不已，因为他们正在努力找出谁可以而且应该对由此造成的任何伤害负责。
今天，在大多数由 AI 引起的问题中，错误所在很明显。 如果你买了一个 AI 并开箱即用，它做了一些糟糕的事情，那可能是制造商的错。 如果你建立了一个 AI 并训练它做一些可怕的事情，它可能就是你的了。 但它不会总是那么明确。
当这些系统获得记忆并发展代理时，复杂性就开始了——它们开始做制造商或用户从未计划或希望他们做的事情。
“这就是我们在责任上存在差距的地方。在未来 10 年内，将会有一些有趣的案例落在中间地带，目前尚不清楚谁应该为世界上所犯下的真正伤害负责，”克里斯托弗波茨说， 斯坦福大学斯坦福以人为本人工智能研究所的教员。
防止 AI 以未经制造商认可的方式开发的一种选择是，以这样一种方式构建它们，即 AI 做出的任何决定都必须可以向人类解释。 这里的风险在于，通过让 AI 完全可以向人们解释，我们可能会错失大量的好处。
“我们的问题在于我们不了解这些模型将要做什么——没有人能够对它们进行完全的分析控制，”Potts 说。 “当然，人们正在研究可解释性和类似的东西，试图反省和审视模型内部，并弄清楚为什么他们会按照他们的方式行事或做出某些决定。但我预测我们进行这种反省的能力将永远存在 被我们创造更强大的模型的能力所超越，这些模型可以做更令人印象深刻的事情。所以总会有这种差距。”
我们可能不得不承认，我们并不总能理解为什么 AI 会做他们所做的事情，并在这种不确定性中生活——毕竟，我们对其他人也是如此。
随着时间的推移，人工智能可能会变得如此复杂，以至于无论我们是否理解它们，它们都会被认为对自己的行为负有法律和道义上的责任。 在法律上，非人类实体已经有可能通过所谓的公司人格被法律认定为不法行为：企业与人一样享有合法权利和责任。 有朝一日可能同样适用于 AI。
这意味着，在未来，如果我们能发现人工智能有罪，我们甚至可能不得不考虑如果他们不了解自己行为的对错，是否应该为他们的罪行受到惩罚，这通常是犯罪的门槛 人的责任。
van der Putten 说：“在我们甚至开始考虑在某个遥远的未来授予 AI 权利之前，我们应该解决一个或多个问题，并抓住我们今天拥有的 AI 机会。”
具有人类智能的人工智能是一个遥远的前景，但这并不意味着我们可以在它到来之前搁置道德问题。 道德地位不一定取决于智力水平。 这意味着在 AI 达到与我们相同的智商水平之前很久，它们的权利可能就值得更多考虑。
“更多的道德地位是可以分级的。可能是人工智能要到很远的地方才能获得人格。但人工智能可能很快就会获得各种地位。所以，例如，他们可能很快就会有意识，或者他们可能会开始 能够很快感受到疼痛。因此，对于这些步骤中的每一步，我们都需要确保我们不会根据人工智能的道德地位来虐待它们，”人工智能中心主任 S. Matthew Liao 说。 纽约大学哲学系生物伦理学和附属教授。
而在遥远的未来，当人工智能获得超越我们的能力时，它们可能拥有我们从未想过的利益和权利。 例如，学者尼克·博斯特罗姆 (Nick Bostrom) 和埃利泽·尤德科夫斯基 (Eliezer Yudkowsky) 提出了这样一个问题，即与人类时间体验不同的人工智能是否有权控制其对时间的主观体验（这对那些提供人工智能运行硬件的人有影响——如果一个 超频的机器会减慢其感知超出可接受的范围，AI 可能有权使用不同的硬件）。
随着 AI 道德地位的提高，我们可能还需要处理另一个道德问题。 如果人工智能比我们拥有更高水平的智力和感知力，这是否最终意味着它们应该比我们拥有更高的道德地位——如果我们必须在拯救人工智能和拯救人类之间做出选择，我们是否必须选择人工智能？
是和不是。 反对这种等同的一个论点是，我们不会赋予更聪明的人或道德水平更高的人更高的道德地位——我们只是假设每个成年人都具有相同的道德地位，因此应该拥有相同的权利并受到对待 一样。 如果发生洪水而你只能救一个人，那么在选择救谁之前，你可能会考虑智力以外的其他因素。 这意味着即使 AI 的智力超过我们，也不一定意味着它们的新水平会赋予它们比我们更高的道德地位——有一种观点认为，由于我们都清除了相同的智力标准，我们都应该得到 同样的考虑。
反对意见是，随着人工智能发展出远远超出人类的新能力，并且可能超出人类想象的极限，这些能力可能会如此先进，以至于值得赋予人工智能更高的道德地位。
很多哲学家实际上担心的问题是，人工智能最终是否会比人类拥有更高的道德地位，甚至比人格更高，廖说。 “答案是，尽管我认为他们有可能拥有更高的道德地位，但这并不是因为他们拥有更高的智慧、更高的情感或更高的道德，而是因为他们将拥有不同的属性。我不 不知道这些属性是什么……但它们可能是非常特别的东西，因此我们应该将它们视为真正值得更多保护的道德主体，”他说。
