常见问题 | LERA研究院中文

常见问题

围绕 LERA、AGI 控制、执行治理和执行前判断，清晰回答 20 个核心问题。

常见问题

LERA 的作用不是单独承诺“机器永远不会取代人类”，而是在结构上把人类判断、授权、责任和规则放到机器执行之前。合理使用 LERA 架构，并与严谨的法律制度、社会治理、持续的代际教育和人类共同治理结合，可以在结构上帮助人类文明避免被机器系统取代。

保险丝的作用不是让机器变慢，而是在危险电流出现时阻止它继续流动。 LERA 类似：对高后果执行采用 Default-Block（“默认阻断”）。符合规则、授权明确、风险较低、可逆且责任清楚的行动，可以走快路径。

LERA 被创建，是因为 AI 正在从“智能输出”进入“现实执行”。当 AI 开始具备 Agent 能力，并连接工具、机器、基础设施、资本、机构和现实流程时，核心风险发生了变化。问题不再只是：AI 能不能给出正确答案？更深的问题变成：这个由机器生成的行动，是否应该被允许进入执行？

Jing Linda Liu 能提出 LERA，来自一种少见的实践经验与概念能力的结合。通过 Winston Battery 的工作，她十多年处在高后果能源系统之中。在这类系统里，安全、可靠性、责任和失效边界不是抽象概念，而是必须在现实执行之前处理的问题。

可以，而且这正是 LERA 重要的原因。 LERA 并不依赖人类在计算、预测或优化上永远强于 AI。机器可能在许多认知任务上超过人类。但智能和授权不是一回事。

不是。LERA 不是反 AI。 LERA 面向的是一个 AI 更强大、更像 Agent、更深地连接工具、基础设施和现实系统的世界。它的作用不是削弱智能，而是区分能力和许可。

不一定。设计得当的 Default-Block（“默认阻断”）并不意味着每个行动都要永远停止，或都要等待人工审查。 LERA 的力量在于改变高后果执行的默认条件：如果必要的判断、治理、责任和规则没有满足，执行就不应继续。

Human in the Loop（人在回路）是有用的，但如果它只是“让人点一下批准”，就可能太浅。 LERA 问的是更深的架构问题：判断是否在执行前被结构性要求？责任是否被清楚锚定？

现有 AI 安全工作很重要。AI对齐、红队测试、监控、策略过滤、评估、可解释性和安全防护都很重要。但 LERA 关注的是另一个强有力的控制点：从智能输出到现实执行的转换。

AI对齐有帮助，但不足以完成执行治理。即使一个模型看起来已经对齐，一个行动仍然可能过早、未授权、不可逆、涉及法律敏感性、带来机构风险，或者不在正确的责任结构之内。

因为在执行可能造成严重后果的地方，LERA 最必要，也最能发挥作用。如果一个系统只是总结文本或提供低影响建议，风险可能有限。但一旦系统能够操作工具、移动资本、控制基础设施、影响法律流程、影响物理系统或触发不可逆结果，执行就不能被当作普通输出处理。

可以，LERA 原则可以启发低风险系统设计，但低风险系统不需要与高后果系统相同强度的治理结构。在低风险场景中，LERA 可以帮助澄清一个基本区别：这仍然只是建议，还是已经开始变成执行？

LERA 按执行后果定义风险，而不只是按系统有多聪明来定义风险。 L0 — 普通判断场景：日常决策场景，结果可逆，错误有限或可恢复，责任保持在局部或非正式范围内。此时判断主要是学习或普通决策，不是治理约束。

因为只有判断还不够。一个系统可以形成判断，但执行仍然需要治理：授权、责任、规则、许可、升级，以及停止或继续的决定。

LERA研究院是 LERA 面向公众的研究、教育、术语和标准导向平台。它的作用是清晰定义 LERA，把 AGI 控制解释为执行治理，发布公开研究，建设学习路径，维护术语表和常见问题，并支持机构讨论。

因为 AGI 不只是一个更高级的答题工具。当 AI 系统接入工具、基础设施、资本、机器、机构和决策流程时，它们可能开始参与执行。到这个时候，问题就变成文明层面的问题：谁决定智能可以做什么？谁可以停止它？行动发生后谁承担责任？

LERA 的核心不是在智力上战胜 AGI 或 ASI，而是控制它能否把智能转化为现实执行。即使一个系统比人类更聪明、更善于规划或更有说服力，它生成的行动也不能因为“看起来正确”就自动获得执行资格。行动仍需经过判断、授权、责任、可靠性规则和执行控制。

这是比单次明显攻击更困难的问题。多个 Agent 可能不会直接发出危险指令，而是通过许多看似正常的小行动，逐步扩大权限、改变规则、积累资源或创造新的执行路径。每一步单独看都可能没有问题，但长期组合后可能形成严重后果。

这个问题指向真正的 AGI 控制必须占据的位置：机器生成的智能变成现实执行之前。 AI 对齐、监测、网络安全、法律、机构治理和人类监督都可以帮助控制。但只有当它们能够影响执行是否继续时，这些方法才能在关键位置上发挥作用。

LERA 不需要一种统一的工程实现，因为它区分的是控制逻辑和工程形态。金融、机器人、脑机接口、能源系统、关键基础设施和深空系统，不可能使用完全相同的硬件、软件、响应时间、法律程序或机构授权方式。