特别感谢 Liraz Siri、Janine Leger 和 Balvi 志愿者的反馈和评论
大约一年前，我写了一篇关于技术乐观主义的文章，描述了我对技术的热情以及它带来的巨大好处，以及我对一些具体问题的谨慎，这些担忧主要集中在超级智能 AI 上，以及如果技术以错误的方式构建，它可能会带来厄运或不可逆转的人类无能为力的风险。我这篇文章的核心思想之一是 ：去中心化、民主化、差异化防御加速. 加速技术发展，但要区别对待，重点关注提高我们防御能力的技术，而不是提高我们造成伤害的能力，以及分散权力的技术，而不是将权力集中在代表所有人决定真假善恶的单一精英手中。防御就像民主的瑞士 和历史上准无政府主义的Zomia，而不是像中世纪封建主义的领主和城堡。
在那之后的一年里，我的理念和想法已经成熟了很多。我在80,000 Hours上谈到了这些想法，看到了很多反响，大部分是积极的，也有批评性的。这项工作本身正在继续，并取得成果：我们看到可验证开源疫苗的进展，人们越来越认识到健康室内空气的价值，Community Notes 继续闪耀，预测市场作为信息工具的突破之年，政府 ID和社交媒体中的 ZK-SNARK （以及通过 账户抽象保护以太坊钱包），开源成像工具在医学和 BCI 中的应用，等等。秋天，我们举办了第一个重要的 d/acc 活动：“d/acc 发现日”（d/aDDy）在 Devcon，一整天都有来自 d/acc 所有支柱（生物、物理、网络、信息防御以及神经技术）的演讲者。多年来一直致力于这些技术的人们越来越了解彼此的工作，而外界人士也越来越意识到更大的故事：激发以太坊和加密货币的相同价值观可以应用于更广阔的世界。

目录
1.d/acc 是什么，不是什么
2.第三维度：生存与发展
3.难题：人工智能安全、紧迫的时间线和监管
4.加密货币在 d/acc 中的作用
5.d/acc 和公共物品融资
6.未来

d/acc 是什么，不是什么
现在是 2042 年。你在媒体上看到有关你所在城市可能出现新流行病的报道。你已经习惯了这种情况：人们对每种动物疾病突变都兴奋不已，但大多数都无济于事。之前两次实际的潜在流行病都是通过废水监测和社交媒体的开源分析很早就发现的，并完全阻止了它们的传播。但这一次，预测市场显示至少 10,000 例病例的可能性为 60%，所以你更担心。
病毒的序列昨天被确定下来。口袋空气检测仪的软件更新已经可用，可以检测出新病毒（从一次呼吸，或在室内空气中暴露 15 分钟）。使用全球任何现代医疗机构都可以找到的设备生产疫苗的开源说明和代码应该在几周内可用。大多数人还没有采取任何行动，主要依靠广泛采用空气过滤和通风来保护自己。你有免疫疾病，所以你更谨慎：你的开源本地运行的个人助理人工智能，它处理导航、餐厅和活动推荐等任务，还考虑了实时空气测试仪和二氧化碳数据，只推荐最安全的场所。数据由数千名参与者和设备提供，使用ZK-SNARK 和差异隐私来最大限度地降低数据泄露或滥用于任何其他目的的风险（如果你想为这些数据集贡献数据，还有其他个人助理人工智能可以验证这些加密小工具确实有效的正式证明）。
两个月后，疫情消失了：似乎有 60% 的人遵循了基本的规程，即如果空气检测仪发出哔哔声并显示存在病毒，就戴上口罩，如果他们的个人检测呈阳性，就呆在家里，这足以将传播率（由于被动的重型空气过滤，已经大大降低）推至 1 以下。模拟显示，二十年前这种疾病可能比 Covid 严重五倍，但今天却不是什么问题。

Devcon 上 d/acc 活动最积极的收获之一是 d/acc 这个伞状结构成功地将来自不同领域的人们聚集在一起，并让他们真正对彼此的工作感兴趣。
创造“多样性”的活动很容易，但让具有不同背景和兴趣的人真正相互联系却很难。我仍然记得在中学和高中被迫观看长歌剧的记忆，我个人觉得它们很无聊。我知道我“应该”欣赏它们，因为如果我不欣赏，那么我就会成为一个没有文化的计算机科学懒汉，但我并没有在更真实的层面上与内容产生联系。d/acc day 根本没有这种感觉：感觉人们实际上喜欢学习不同领域的不同类型的工作。
如果我们想要创造一个比统治、减速和毁灭更光明的替代方案，我们需要这种广泛的联盟建设。d/acc 似乎确实取得了成功，仅此一点就足以说明这个想法的价值。
d/acc 的核心思想很简单：去中心化和民主化的差异化防御加速。建立将进攻/防御平衡转向防御的技术，并且不依赖于将更多权力移交给中央集权机构。这两者之间存在着内在联系：任何一种去中心化、民主或自由的政治结构在防御容易时都会蓬勃发展，而在防御困难时会遭受最大的挑战——在这些情况下，更有可能的结果是一段人人反对所有人的战争时期，最终实现强者统治的平衡。

d/acc 的核心原则涵盖许多领域：

理解同时努力实现分散化、防御性和加速意识的重要性的一种方法是将其与放弃这三者时所获得的哲学进行对比。
去中心化加速，但不关心“差异化防御”部分。基本上，成为一个e/acc，但要去中心化。有很多人采取这种方法，有些人将自己标记为 d/acc，但将他们的重点描述为“进攻”，但也有很多人以更温和的方式对“去中心化人工智能”和类似主题感到兴奋，但在我看来，他们对“防御”方面关注不够。
在我看来，这种方法可能会避免你所担心的特定部落的全球人类独裁风险，但它无法解决潜在的结构性问题：在有利于进攻的环境中，存在持续的灾难风险，或者有人将自己定位为保护者并永久确立自己的地位。在人工智能的具体情况下，它也无法很好地解决人类整体与人工智能相比被剥夺权力的风险。
差异化防御加速，但不在乎“去中心化和民主化”。为了安全而拥抱中心化控制对一小部分人来说具有永久的吸引力，读者无疑已经熟悉了许多例子，以及它们的缺点。最近，一些人担心极端的中心化控制是未来技术走向极端的唯一解决方案：看看 这个假设场景，“每个人都被装上‘自由标签’——这是今天熟悉的更有限的可穿戴监控设备的延续，比如在几个国家用作监狱替代品的脚踝标签……加密的视频和音频被持续上传并实时由机器解释”。然而，中心化控制是一个范围。一个通常被忽视但仍然有害的较温和的中心化控制版本是对生物技术领域公众监督的抵制（例如食品、 疫苗），以及允许这种抵制不受挑战的闭源规范。
当然，这种方法的风险在于中心本身往往是风险的来源。我们在新冠疫情中看到了这一点，由多个世界主要政府资助的功能获得性研究可能是此次疫情的源头，中心化的认识论导致世卫组织多年来一直不承认新冠病毒是通过空气传播的，强制性的社交隔离和疫苗 接种要求导致了可能持续数十年的政治反弹。任何与人工智能或其他高风险技术有关的风险都可能出现类似的情况。去中心化的方法可以更好地应对来自中心本身的风险。
分散防御，但不关心加速——基本上，试图减缓技术进步或经济衰退。
这一战略的挑战是双重的。首先，总体而言，技术和经济增长对人类大有裨益， 任何延迟都会带来难以估量的代价。其次，在非极权主义的世界里，不进步是不稳定的：谁“作弊”最多，找到看似合理的进步方式，谁就会领先。减速主义战略在某些情况下可以在一定程度上发挥作用：欧洲食品比美国食品更健康就是一个例子，迄今为止核不扩散的成功是另一个例子。但它们不可能永远有效。
通过 d/acc，我们希望：
在世界大部分地区逐渐部落化的时代，我们要坚持原则，而不是随便建设什么——相反，我们要建设一些具体的事物，让世界变得更安全、更美好。
承认指数级的技术进步意味着 世界将变得非常奇怪，人类在宇宙中的“足迹”只会增加。我们必须提高保护脆弱的动物、植物和人类免受伤害的能力，但唯一的出路是向前迈进。
开发能够保障我们安全的技术，而不是假设“好人（或好的人工智能）掌权”。我们通过开发工具来实现这一点，这些工具在用于建设和保护时自然比用于破坏时更有效。

思考 d/acc 的另一种方式是回顾2000 年代后期欧洲 海盗党运动的一个框架：赋权。

我们的目标是建立一个保留人类自主权的世界，既要实现 消极自由，避免主动干预我们塑造自己命运的能力（无论是来自其他作为私人公民的人，还是来自政府，还是来自超级智能机器人），又要实现积极自由，确保我们拥有知识和资源。这呼应了几个世纪以来的古典自由主义传统，其中还包括斯图尔特·布兰德 (Stewart Brand) 对“获取工具”的关注，约翰·斯图尔特·密尔 (John Stuart Mill)对教育和自由作为人类进步关键组成部分的强调——也许，人们可以补充一点，巴克敏斯特·富勒 (Buckminster Fuller) 希望看到全球解决进程具有参与性和广泛分布性。考虑到 21 世纪的技术格局，我们可以将 d/acc 视为实现这些相同目标的一种方式。

第三维度：生存与发展
在我去年的文章中，d/acc 特别关注了防御技术：物理防御、生物防御、网络防御和信息防御。然而，去中心化防御不足以让世界变得更美好：你还需要一个前瞻性的积极愿景，看看人类可以利用其新发现的去中心化和安全性来实现什么。
去年的帖子确实包含了积极的看法，表现在两个地方：
针对超级智能所面临的挑战，我提出了一条不剥夺权力就能拥有超级智能的途径（这对我来说远非原创）：今天，要将人工智能打造为工具，而不是高度自主的代理
明天将利用虚拟现实、肌电 和脑机接口等工具在人工智能和人类之间建立越来越紧密的反馈
随着时间的推移，最终的结果是超级智能成为机器和我们紧密结合的组合。
在谈论信息防御时，我也顺便提到，除了试图帮助社区在攻击者面前保持凝聚力、进行高质量讨论的防御性社交技术之外，还有一些进步的社交技术可以帮助社区更容易地做出高质量的判断：pol.is就是一个例子，预测 市场是另一个例子。
但这两点与 d/acc 的论点似乎脱节：“这里有一些在基础层创建一个更加民主和有利于防御的世界的想法，顺便说一下，这里有一些关于我们如何实现超级智能的不相关的想法”。

然而，我认为实际上，上面所说的“防御性”和“进步性”d/acc 技术之间存在一些非常重要的联系。让我们扩展去年帖子中的 d/acc 图表，在图表中添加此轴（同样，让我们将其重新标记为“生存与繁荣”），看看会出现什么结果：

3.难题：人工智能安全、紧迫的时间线和监管
我发现，对我去年文章最有说服力的反对意见是来自人工智能安全社区的批评。该论点是：“当然，如果我们有半个世纪的时间才能获得强大的人工智能，我们可以集中精力打造所有这些好东西。但实际上，我们很可能还有三年的时间才能实现 AGI，再过三年才能实现超级智能。因此，如果我们不想让世界被毁灭或陷入不可逆转的陷阱，我们就不能 只加速好事的发生，还必须减缓坏事的发生，这意味着要通过强有力的法规，这可能会让有权势的人感到不安。”在我去年的文章中，我确实没有呼吁任何具体的策略来“减缓坏事的发生”，只是含糊地呼吁不要建立有风险的超级智能形式。所以在这里，值得直接回答这个问题：如果我们生活在最不方便的世界，人工智能风险很高，时间表可能还需要五年时间，我会支持什么法规？

首先，对新法规持谨慎态度
去年，加州提出的最主要的人工智能监管法案是 SB-1047 法案。SB-1047 要求最强大的模型（那些花费超过 1 亿美元进行训练，或微调超过 1000 万美元的模型）的开发者在发布之前采取一些安全测试措施。此外，它还规定，如果人工智能模型的开发者不够谨慎，他们要承担责任。许多批评者认为该法案是“对开源的威胁”；我不同意，因为成本门槛意味着它只影响最强大的模型：即使是 LLama3 也可能低于门槛。然而，回头看，我认为该法案有一个更大的问题：像 大多数法规一样，它与当今的情况过度拟合。在新技术面前，对训练成本的关注已经显得脆弱：最近最先进的 Deepseek v3 模型的训练成本仅为600 万美元，而在像o1这样的新模型中，成本正在从训练转向更普遍的推理。
其次，最有可能真正对人工智能超级智能毁灭场景负责的参与者实际上是军队。正如我们在过去半个世纪（及以后）的生物安全领域所看到的那样，军队愿意做可怕的事情，而且他们很容易犯错。人工智能军事应用正在迅速发展（见乌克兰、 加沙）。政府通过的任何安全法规默认都会豁免本国军队以及与军方密切合作的公司。
尽管如此，这些论点并不是我们放弃和不采取任何行动的理由。相反，我们可以将其作为指导，并尝试制定出最少引发这些担忧的规则。