公共研究 · 教育 · 标准导向平台

执行边界上的 AGI 控制

当 AI 不只是回答问题,而开始调用工具、影响系统、推动现实行动时,真正的控制点 就不只在模型内部,而在执行之前。

LERA 将 AGI 控制重新理解为执行治理:高后果行动在进入执行前,必须经过判断、 授权、责任和规则。

AI 可以提出行动,但是否执行,必须先经过治理。

数据层
知识层
推理 / Agent 层
LERA 判断—治理层
执行边界
执行层

LERA 治理从“行动提案”到“被许可执行”之间的通道。

01

风险不只是回答错误

更深的风险,出现在智能系统能够调用工具、移动资金、影响基础设施、 操作机器或推动不可逆行动的时候。

02

能力不等于授权

系统能够生成答案、计划或命令,并不意味着它天然拥有执行这些行动的正当性。

03

人类判断必须在执行之前

在高后果系统中,判断、责任、授权和规则不能等到事后追责才出现, 而应当结构性地位于执行之前。

什么是 LERA?

LERA 是一个治理执行的判断—治理架构。

LERA = Linda Energy Reliability Architecture(琳达能源可靠性架构)

LERA 位于推理 / Agent 系统与现实执行之间。 它关注的不是系统“能不能”生成行动方案,而是这个行动方案“是否应当”进入执行。

在 LERA 中,一个行动提案要继续走向执行,需要面对判断、授权、责任和规则。 这也是 LERA 与普通提示、建议或事后审核不同的地方。

知识回答“系统知道什么”。

Agent 推理回答“系统可以做什么”。

LERA处理的是“哪些行动可以进入执行”。

LERA 解决的是哪个层面的问题?

LERA 作用于失控真正产生后果的位置:执行之前。

LERA 不声称让模型内部完美,也不保证消除所有错误。它处理的是执行治理层面的问题: 当机器能力接近现实行动时,必须有判断、授权、责任、规则和执行许可站在执行之前。

因此,LERA 的重点不是压制智能,而是防止智能输出在缺少治理的情况下默认变成现实行动。

LERA 核心原则

AI 行动发生之前,执行必须先被治理。

01

执行前判断

高后果执行不应在判断与治理缺位的情况下继续发生。

02

能力不等于授权

能够行动,不等于拥有行动的正当性。

03

默认阻断

当必要的判断、治理、责任或规则条件未满足时,高后果执行默认不应继续。

04

治理不可绕过

高后果执行不应绕过 LERA 判断—治理层。

更多阅读

从不同入口继续理解 LERA。

以下内容帮助中文读者从定义、架构、研究、术语和常见问题等角度理解 LERA。 部分资料目前仍以英文原文呈现,中文页面将逐步完善。

What Is LERA

核心定义

理解 LERA 是什么,以及它为什么被定义为判断—治理架构。

AGI Control

AGI 控制

理解为什么 AGI 控制必须从模型行为转向执行治理。

Architecture

架构说明

查看 LERA 判断—治理层、执行边界和执行层之间的关系。

Research

研究资料

查看 LERA、WRS、ECS、RCC 相关公开论文和研究入口。

Glossary / FAQ

术语与常见问题

通过术语表和常见问题,减少对 LERA、执行治理和人类判断的误解。

Support

支持公共研究

了解如何支持 LERA学院的公共研究、教育和标准导向语言建设。

免责声明

LERA 是架构,不是自动安全保证。

LERA学院中文页用于公共理解和教育。LERA 不保证系统绝对安全,也不替代法律、 制度治理、领域专家、人类责任或社会治理。真实系统若要降低风险,仍必须依赖稳定、 正确、适当授权的人类判断,以及法律与社会治理结构。