关于理念驱动型理念

关于由思想驱动的思想

关于由思想驱动的思想

很久以前，在疫情前的世纪，我记得经济学家张安东尼·李向我描述了他对“由思想驱动的思想”和“由数据驱动的思想”的区分。一个由思想驱动的思想，是指你从一些高层次的哲学框架出发——例如市场是理性的、权力集中是危险的、饱经时间考验的传统是明智的——并从该框架加上一些逻辑推理中推导出一个更具体的洞见。一个由数据驱动的思想，其纯粹形式是，指你从没有先入之见开始，对数据进行一些分析，并认可你得到的任何结论的过程。这意味着：由数据驱动的思想显然是更好的一种想法，应该拥有和推广。

上个月，来自 Conjecture 的 Gabriel 通过辩称我不应该从“意识形态”出发，并试图使其与其他人类目标更加兼容，而是应该有效地成为一个实用主义者，并中立地寻求任何能最好地满足整个人类价值集合的策略，从而批评了我对 d/acc 的方法。

这些都是常见的观点。那么，在个人的思考中，那些可以另称为意识形态、原则、建立在思想之上的思想、结晶化的目标或一致的指导思想，它们的恰当角色是什么？另一方面，这些思维方式又是如何失败的？这篇文章将试图描述我对这个话题的看法。我将提出的论点如下：

1. 世界太复杂了，无法“通过务实的推理”来做出每一个决定。为了有效，你需要采取并重复利用中间步骤。
2. 意识形态不仅仅是关于个人认知，它是一种社会结构。一个社群需要一些东西来团结起来，如果那不是一个思想或故事，那么通常最终会变成一个人或一小群人——这可能会带来更糟糕的副作用。
3. 鼓励不同的人拥有不同的、更狭隘的目标的另一个价值是实现和组织专业化。
4. 实践中的意识形态是手段和目的的复杂混合体。我们的理论需要考虑到这一点。
5. 意识形态有其缺点，并且它以多种方式干扰着良好的思考。这是一个实际的大问题。
6. 良好的个人和社会决策需要“思想驱动”和“务实”模式之间的平衡。我提出了一些具体的解决方案，说明这种平衡具体是什么样的。

在复杂背景下的良好决策总是具有“结构”

想象一下，你正试图提高你下棋的水平。在国际象棋中，有一个常见的经验法则：一个后价值九个兵，车价值五个兵，象或马价值三个兵。因此，用一个车加一个兵换一个象和一个马是可以接受的交易，但用一个车换一个马则不行。

这个洞见有很多含义。如果你正试图在国际象棋中想出好的战术，一个可以寻找的地方是找到使用你的马“叉”住对方两个更强的棋子的方法：两个车，或者一个车和一个后，等等。你的对手被迫接受你的马吃掉两个强棋子中的一个，以换取能够在之后立即吃掉马（一个较弱的棋子）。

在这里，“后 = 9 个兵，车 = 5 个兵，马 = 象 = 3 个兵” 充当了进一步下游思想的 生成器：这是一个你可以开始使用的洞见，它比完全随机搜索更有可能产生有效的战术。我们可以将该声明视为一种“意识形态”。由于国际象棋棋盘上的棋子被称为 物质，让我们滥用一个 已经被滥用的术语，并将这种意识形态称为“物质主义”。

人们可以想象有人不同意物质主义，无论是部分还是完全不同意。通常，牺牲物质是为了阵地目标，例如暴露对方的国王或占据棋盘的中心，是可以接受的。物质的价值也可能取决于具体情况。在残局中，我发现单个马比单个象更有价值，而两个象比两个马更有价值。如果你的对手只剩下一个象，那么如果兵在与该象颜色相反的格子上，则兵可能更有价值。一个专注于利用这些情况的国际象棋战术方法的人可能会称自己为“阵地主义者”。

阵地主义者和物质主义者可能会在实际问题上存在分歧，例如在这种情况下是否用两个兵换一个象：

一个理想的棋手或许能够结合物质主义和阵地主义的观点，根据具体情况的需求在它们之间进行权衡。这就像 黑格尔辩证法。然而，实际上这样做需要对何时关注物质主义论点以及何时关注阵地主义论点有一些具体的想法，而这些想法本身可以被视为一种新的意识形态。

原则在社会协调中具有价值

在现代世界中，有效的行动必须是集体行动：由成百上千万人同时采取的，都朝着相同目标前进的行动。其中一些可以通过金钱（或肉体胁迫）来实现，但这受到限制；我们所做的大部分事情都依赖于内在和社会动机才能真正有效。

在我的 关于多元性的帖子 中，我描述了社群在这方面有三个主要选择：

围绕一项任务进行协调是强大的：如果你能说服很多人去月球真的很有价值，那么一旦他们开始工作，你就会有很多人投入大量努力、创造力和精力去月球。以太坊的 合并（在 2022 年从工作量证明切换到权益证明）对社区中的许多人来说就是这样。但是一项任务是一次性的，你不希望在任务完成后建立起来的所有社会资本都消失。原则和领导者都很强大，因为它们是任务的 生成器：它们可以不断地指出新的有价值的任务来执行，因为旧的任务已经完成。

围绕领导者进行协调存在众所周知的风险：领导者是脆弱的。历史上有很多关于领导者发疯的故事，或者优先事项和价值观以较温和但仍然具有高度重要性的方式漂移的故事。这不仅适用于领导者是个人，也适用于领导者是一个群体。

围绕原则进行协调——特别是，那些非 结果主义 的原则——可以更加稳健。作为一种协调技术，（精心挑选的）原则的一个关键特性是我所说的“银河大脑抵抗力”。结果主义的一个弱点是，它很容易受到领导者提出巧妙论点的攻击，即他们选择的几乎任何东西实际上都可能由于复杂的 4D 国际象棋式的二阶原因而对结果产生最佳影响。原则可以有效地起到阻止作用，它会说“无论你的论点多么巧妙，我们都有一些容易理解的障碍来阻止我们做一些事情”。从这个意义上说，意识形态的一个主要弱点——即意识形态是愚蠢的——实际上可能是一种优势。

另一种重要的协调形式是内部协调，或者通常所说的“动机”。我经常发现，你可以将关于人与人之间协调的见解，应用于在一个人头脑中具有不同视角和目标的不同“子代理”。在这里，类比是：拥有一个你内部一致的明确原则或目标，既可以让你更有动力去做你的工作，也可以防止你偏离轨道并为做错事辩护。

结晶化的目标作为专业化

如果不同的人在一个组织的不同的子单元中，而这些子单元具有特定的任务，那么不同的人拥有不同的目标可能是有用的。一家公司有营销部门，也有软件开发部门，还有更多的部门。你实际上不希望营销部门非常开放，并不断思考任何可以使公司更成功的方法。你希望它专注于营销。这似乎再次偏离了纯粹的结果主义，但是严格的劳动分工使公司能够以可靠的方式完成任务。我认为人类文明的总体项目也具有类似的特性：你希望不同的人内化并专注于不同的文明子目标。

这种情况的一个微妙且被低估的原因是，它实现了测量。如果一个代理的目标是“做所有有用的事情”，那么很难判断它执行得好还是不好（无论是从代理自身的自我改进角度来看，还是从外部来看，为了问责制）。但是，如果一个代理心中有一个更狭隘的目标，那么你就可以判断它做得如何以及如何改进。这带来的好处可能很大——可能有时候大到足以超过具有不同子目标的不同代理之间存在一些协调失败的缺点。

意识形态是手段和目的的混合体

到目前为止，在这篇文章中，我主要将意识形态视为手段：它们是关于哪些行动最能实现一些普遍认同的目标的一系列主张。在 Gabriel 的帖子 中，意识形态主要关于目的：首先应该关注哪些目标。实际上，意识形态始终是两者复杂而混乱的混合体。但如果意识形态是关于目的的，我该如何在我在上面提出的论点中考虑到这一点？

在这里，我将通过作弊来回答这个问题：我认为，我们结晶化到足以形成意识形态或写在纸上的任何目标实际上都是一种手段。

要理解为什么，请考虑一个真正重视自由的人的例子。起初，他们可能会说他们重视自由，因为它能够实现更高效的经济和更强大的社会。但是，假设你进来并向他们展示了一种无需太多自由也能实现非常高效的经济和强大社会的方法。也许，你可以拥有一台先进的计算机来控制经济并告诉每个人在哪里工作，而稳健性则来自每月运行一次的某种民主投票机制，该机制可以调整计算机的输入或将其完全更换。这位自由主义者看到了你对这个社会的愿景，他们感到非常不安，并且他们只是知道，如果将其付诸实践，他们会立即开始策划反抗它。

这里发生了什么？我认为“结晶化的价值观”本身就是策略或预测，其中 真正的 最终目标（他们所针对的“胜利条件”）是我们每个人大脑内部高度难以理解和复杂的条件和偏好的集合。当这位自由主义者听到关于这个高效而强大，但不自由的社会的提议时，他们意识到，实际上，效率和稳健性类似于国际象棋中的物质：赢得比赛的重要组成部分，但不是唯一的部分。

意识形态可能具有重大缺点

气候变化鹰派经常会说，他们支持 去增长 风格的政策，因为它们是避免地球过热的唯一方法。但是，如果你提出使用 太阳能（或者更糟的是，太阳地球工程）作为一种避免地球过热的方式，而无需干预物质丰富或资本主义，他们似乎总是过于热情地提出为什么这样的计划行不通或者会产生太多的“意外后果”。

加密货币爱好者经常会说，他们希望改善全球金融的可访问性，创建值得信赖的财产权，并使用区块链解决各种社会问题。但是，如果你向他们展示一种无需任何区块链就能解决相同问题的方法，他们似乎总是过于热情地提出为什么你的计划会失败的原因，也许是因为它“太中心化”或者它“没有足够的激励措施”。

这两个例子有点像我上面给出的自由主义者的例子，但它们不太像那个例子。将自由本身视为一种目的（只要这不是你唯一的价值观）是合理的。自由是人类经过数百万年的进化而深刻扎根于人类的目标。以同样的方式重视废除资本主义或大规模采用区块链是不合理的。

我认为这基本上是我们所需要警惕的失败模式：将某些东西提升为一个本身就是目的的东西，而实际上它不是，最终会极大地损害潜在的目标。

我如何调和这两种观点

在上面的章节中，我确定了你可以称之为“意识形态”、“原则”或“由思想驱动的思想”的两种积极用例：

1. 以思想为动力的思考和行动作为“部门”。就像一家公司设有专门的营销部门一样，社会设立一个专门用于保护环境的部门是有意义的，同样，棋手拥有一个专门用于回答诸如“哪种方法可以帮助我吃掉对手的棋子并保护自己的安全？”等问题的思考过程也是有意义的。
2. 原则作为协调工具。与其围绕领导者或精英团结起来，不如围绕一个想法团结起来可能更稳健，更不容易失败或被俘获。

通常，社会运动会同时具有上述两种特性。在外部，他们努力捍卫一项原则，从而降低了社会过度依赖精英的几率。在内部，他们变得非常擅长深入探索特定的主题，然后为改善世界产生有价值的想法和策略。自由主义经济学家捍卫社会中的自由，他们还发明了预测市场，改进了拥堵收费方案，以及许多其他有价值的想法。环保主义者通过政治倡导来保护我们的社会免受对环境造成不可逆转的损害，而且他们还发明了诸如清洁能源和合成肉等技术。

与此同时，我看到了这种方法的两种失败模式。首先，存在工具性目标过度结晶并被追求到极端程度的风险，从而颠覆了最初的潜在目标。其次，存在围绕无界目标进行协调下滑到围绕精英阶层进行协调的风险，这些精英阶层负责解释这些目标。这就是 Balaji Srinivasan 所说的“民主是民主党人的统治”的意思，或者有效利他主义的批评者在批评该运动从广泛关注识别和鼓励高效慈善机构转变为通过向其自己的社会群体中的人们定向提供资助来解决人工智能安全问题的更狭隘的方法时经常指出的。

我提出了两个妥协方案，试图在这两者的好处和缺点之间取得平衡：

• 由数据驱动的选择由思想驱动的思想。拥有一组产生假设的知识主题，但然后进行由数据驱动的分析来选择你强调哪些主题，而忽略其他主题。Bryan Caplan 经常在这方面做得很好。他具有强烈的自由主义意识形态，但与此同时，他重视经验的严谨性，两者结合导致他所倡导的主要事业（例如更加开放的移民、更少的学校教育、放松住房管制）背后都有强有力的论据，虽然他的自由主义意识形态也促使他相信许多我完全不同意的事情，但他很少最终专注于宣传那些他无法用大量数据来支持的想法。你仍然可以不同意 Bryan 更极端的观点，但在我看来，他比我认识的任何其他处于他这种极端水平的人都更合理，所以我认为他的方法肯定做对了一些事情。
• 原则，而非意识形态。这两个术语之间的微妙区别在于，原则往往是限制性的，而意识形态往往是总体性的。也就是说，原则给你一些要做或不要做的事情，但到此为止，而你可以通过意识形态走多远是没有限制的。这只是一个近似的划分，但在我看来，这是一个非常有意义的划分。将原则的社会协调功能集中在“不偏离轨道”上，可以使运动（或个人）在正常情况下受益于更务实的思考，同时仍然相当稳健。

世界和我们（个人和集体）的思想都既复杂又具有很多内部结构，这意味着“推理所有价值的总和，并做最能满足它们的数据驱动的事情”的直接解决方案通常最终会以各种方式在实践中崩溃。与此同时，过度倾向于其中的某些结构通常也会崩溃，有时甚至以更糟糕的方式崩溃。像这样的平衡最有可能在最大限度地减少双方的缺点的情况下，获得更多的好处。

• 原文链接： vitalik.eth.limo/general...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～