风险不只是回答错误
更深的风险,出现在智能系统能够调用工具、移动资金、影响基础设施、 操作机器或推动不可逆行动的时候。
LERA学院AGI 控制 · 执行治理
公共研究 · 教育 · 标准导向平台
当 AI 不只是回答问题,而开始调用工具、影响系统、推动现实行动时,真正的控制点 就不只在模型内部,而在执行之前。
LERA 将 AGI 控制重新理解为执行治理:高后果行动在进入执行前,必须经过判断、 授权、责任和规则。
AI 可以提出行动,但是否执行,必须先经过治理。
LERA 治理从“行动提案”到“被许可执行”之间的通道。
更深的风险,出现在智能系统能够调用工具、移动资金、影响基础设施、 操作机器或推动不可逆行动的时候。
系统能够生成答案、计划或命令,并不意味着它天然拥有执行这些行动的正当性。
在高后果系统中,判断、责任、授权和规则不能等到事后追责才出现, 而应当结构性地位于执行之前。
LERA = Linda Energy Reliability Architecture(琳达能源可靠性架构)
LERA 位于推理 / Agent 系统与现实执行之间。 它关注的不是系统“能不能”生成行动方案,而是这个行动方案“是否应当”进入执行。
在 LERA 中,一个行动提案要继续走向执行,需要面对判断、授权、责任和规则。 这也是 LERA 与普通提示、建议或事后审核不同的地方。
知识回答“系统知道什么”。
Agent 推理回答“系统可以做什么”。
LERA处理的是“哪些行动可以进入执行”。
LERA 不声称让模型内部完美,也不保证消除所有错误。它处理的是执行治理层面的问题: 当机器能力接近现实行动时,必须有判断、授权、责任、规则和执行许可站在执行之前。
因此,LERA 的重点不是压制智能,而是防止智能输出在缺少治理的情况下默认变成现实行动。
高后果执行不应在判断与治理缺位的情况下继续发生。
能够行动,不等于拥有行动的正当性。
当必要的判断、治理、责任或规则条件未满足时,高后果执行默认不应继续。
高后果执行不应绕过 LERA 判断—治理层。
以下内容帮助中文读者从定义、架构、研究、术语和常见问题等角度理解 LERA。 部分资料目前仍以英文原文呈现,中文页面将逐步完善。
理解 LERA 是什么,以及它为什么被定义为判断—治理架构。
理解为什么 AGI 控制必须从模型行为转向执行治理。
查看 LERA 判断—治理层、执行边界和执行层之间的关系。
查看 LERA、WRS、ECS、RCC 相关公开论文和研究入口。
通过术语表和常见问题,减少对 LERA、执行治理和人类判断的误解。
了解如何支持 LERA学院的公共研究、教育和标准导向语言建设。
LERA学院中文页用于公共理解和教育。LERA 不保证系统绝对安全,也不替代法律、 制度治理、领域专家、人类责任或社会治理。真实系统若要降低风险,仍必须依赖稳定、 正确、适当授权的人类判断,以及法律与社会治理结构。