关于自治软件

这篇文章是对 Lane Rettig 的文章 Autonocrats and Anthropocrats 的评论，将其中心主题与社会科学中的两个基本概念——法治和社会结构联系起来。它解释了运行“自治”软件的节点去中心化网络最能说明问题的类比是社会本身。数字记录和区块链网络可以与任何其他机构相提并论，它们的影响超出了其创建者、管理者和用户的控制范围。因此，区块链网络不仅是计算机科学家和软件工程师的重要研究领域，也是社会和政治理论家的重要研究领域，他们的专业知识可以有效地应用于这些新兴系统的设计和治理。

法治

法治是现代文明的基础，并已引导人类在整个社会秩序的各种表达中接受理性-法律权威。今天，类似的原则正在推动创建“绝对中立”的软件系统。Lane Rettig 写道：

算法不在乎种族、信仰、出身、性别、身高、外貌、财富、名声或任何其他会偏见人类判断的因素……你不能胁迫、威胁或与算法讨价还价。也许更重要的是，它们永远不会感到疲倦、饥饿或沮丧，并且不太可能在一天中的早些时候或午休后 проявляют поблажки。在这方面……人们很想把算法想象成完美的法官（也许还有陪审团和刽子手）。

正如我之前建议的那样，软件介导的交易和自动记录代表了官僚组织的演变。依靠人类根据预定义的规则处理信息始终是一种不完美的手段——一个有待通过密码学、机制设计和数字自动化解决的问题。

一方面，这种有争议的愿景承诺了前所未有的效率和公平。然而，用马克斯·韦伯 [1] 的话——它也相当于构建一个非人格化的、超理性控制的“硅笼”，对于人类如何与日益缺乏面对面主观判断和监督的法律和行政秩序相关联，有一些有问题的含义。正如 Rettig 强调的那样：

自主算法往往会使透明性、责任性和可审计性变得困难。我们可以让算法记录做出的每一个决定、采取的每一个行动等等，但在许多情况下，算法可能很难或不可能“解释”这种决定背后的理由：答案可能具有很高的复杂性，因此无法简化为算法本身的所有代码及其所有输入数据（由于各种原因，这些数据可能不会公开）。因此，在许多情况下，我们可能实际上不知道为什么算法做出了它所做的决定。 [……]

我不知道你怎么想，但我往往不信任不透明、不负责任和不可审计的系统。毕竟，我还有什么保证一个系统正在做它的创建者所说的事情，它打算做的事情？

弗兰茨·卡夫卡[2] [3] 对传统官僚主义背景下的类似担忧进行了着名的讽刺。我们现在是否正在进入一个更多相同的世界，还是一个在好的方面和更有争议的方面都根本不同的世界？时间会证明。但我们肯定正在进入一个技术复杂性日益增长的世界，引发了人们对在此过程中可能失去的东西（例如，韦伯强调了伴随现代性的“祛魅”）以及它可能如何影响知识和权力的社会分配的熟悉担忧。沿着这些思路，Rettig 写道：

算法必然会将我们周围世界的美妙、复杂、多维性简化为冷酷、坚硬、僵化的 1 和 0。在这样做时，模拟世界中许多美好的事物都会丢失。 [……] 如果你让我选择，我宁愿面对人类陪审团并由人类法官——任何人类法官——判刑，而不是由可以想象的最公平、最有效、最强大的数字法院判刑。 [……]

毫无疑问，未来会有很多自主系统的例子，除了系统的创建者之外，没有人完全理解这些系统。这有可能创造一个微小的、享有特权的精英阶层，他们理解甚至可能利用这些系统来谋取私利。出于这个原因，绝对有必要使自主系统尽可能简单，尽可能基于常见的设计模式，并且其完整的规范、代码库和文档可供公众审查。

当然，许多人可能真的更喜欢“可以想象的最公平、最有效、最强大的数字法院”，而不是一个容易腐败的人类陪审团，这并非不可思议。但这并不能否定采用这种技术所涉及的风险。重要的是要记住，即使是最自主的软件仍然嵌入在社会中，容易出现人为错误，并且不可避免地成为政治利益和竞争的对象。虽然成功的机构建立在难以改变的稳定基础上是事实，但我们应该谨慎地推广或大规模采用过于教条或僵化的系统。维护法治（或代码）不应排除随着人类理解和环境的变化而更改特定法律（或代码）的需要或可能性。

社会结构

一个相关的问题是自主软件应在多大程度上包括“终止开关”或其他选项，供某些机构单方面影响系统的运行方式。Rettig 写道：

所有软件都有错误。 [……] 即使是一个假设的、没有错误的软件，仍然需要为了维护、优化和持续开发而进行升级。更重要的是，这个升级过程必须从外部启动。因此，每个基于软件的系统都必须具有某种机制来修复或升级系统——实际上，是一个紧急“停止”按钮或一个逃生舱口，允许系统在发生故障或需要升级时至少暂时关闭。 [……]

但如果情况是这样，那么根据定义，会存在某些人或一组人对系统拥有“上帝模式”控制权——他们从系统外部采取行动，可以对系统行使单方面权威。这样的系统还能真正被称为自主吗？（换句话说：如果某个外星人有权按下按钮并“暂停”或“重启”或单方面改变美国的治理，那么美国仍然是一个主权国家吗？）

自主权和主权——就像去中心化一样——最好被认为是一个频谱，不同的系统表现出不同程度的自主权和主权。真正的自主软件是否真正可取仍然是一个悬而未决的问题。但即使没有完全的“自主权”，所有技术系统——包括那些受集中控制的系统——都有形成“自身生命”的趋势，其影响超出了其创建者、管理者和用户的直接控制。世界上存在大量的涌现复杂性，并且技术在其中的作用无法精确预测，这实际上意味着技术已经是一个部分自主的因素，驱动着人类行为和社会发展。

这里一个有用的类比是社会结构的概念——从人类互动中出现的模式化的社会或象征关系。一旦制度化，社会结构可以比整整几代人更长寿，并影响甚至决定不可避免地出生在一个他们没有参与创造的预先构建的社会中的个人的行为。社会结构的概念可能非常抽象，特别是如果以这种包罗万象的方式定义。但其基本思想是，社会的特征在于或多或少稳定和持久的结构关系，这些关系不能随意重新排列，并且会影响个体和群体在社会中的感知和行为方式。

现代社会学的创始人已经强调了社会结构的相对“自主性”。例如，埃米尔·涂尔干提出了超越个体并对他们施加控制的社会事实；卡尔·马克思强调了经济和权力结构在影响人们的看法和社会文化特征方面的作用；格奥尔格·齐美尔观察到个人意志和自我实现受到客观文化的支配；甚至韦伯——尽管他有主观主义倾向——也认为个人行为的意义不能简化为行为者的主观意图。随后——无论是否明确说明——结构与能动性 [4] 之间的关系仍然是整个社会科学的中心主题。

为什么这在自主软件的背景下是相关的？因为文化和社会结构可以被认为是人类文明的“自主软件”。制度（语言、家庭、政府、工业、媒体等）或社会分工等涌现现象都是由具体的人创造的。但是通过被铭刻到文化对象、法律、习惯性实践和组织中，这些社会结构高度分散且随时间推移而持续存在，因此它们获得了超越任何特定个体集合的存在。在某些情况下——就像分布式网络和自主软件一样——它们变得能够抵抗集中控制或影响，从而导致相当大的惯性和根深蒂固。

社会正变得更加数字化、更加全球化、更加自动化。强大的机器网络和软件系统将在构建人际关系方面发挥决定性作用。即使我们理解这些系统并按其生活的旅程才刚刚开始，现在权衡今天的设计决策中的意识形态偏见也为时不晚，这些偏见不可避免地融入了我们共同的技术未来。

参考文献

[1] Weber, M. (1946). Politics as a Vocation. In H.H. Gerth and C. Wright Mills (eds.), From Max Weber: Essays in Sociology (pp. 77‐128). New York: Oxford University Press. Available here. (Originally published in German in 1919.)

[2] Kafka, F. (1937). The Trial. New York: Alfred A. Knopf. (Originally published in German in 1925.)

[3] Kafka, F. (1998). The Castle. New York: Schocken Books. (Originally published in German in 1926.)

[4] Sewell, W. H. (1992). A Theory of Structure: Duality, Agency, and Transformation. American Journal of Sociology, Vol. 98, No. 1, pp. 1–29. Available here.

作者的 工作 由 Placeholder 资助，Placeholder 是一家投资于开放区块链网络和 Web3 服务的风险投资公司。

相关著作

Middlemachines（2022 年 1 月）

加密货币如何塑造数字革命（2021 年 10 月）

伟大的自动机（2020 年 12 月）

关于去中心化网络治理的十个论点（2020 年 9 月）

区块链网络是卓越的官僚机构（2019 年 5 月）

• 原文链接： mariolaul.medium.com/on-...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～