风险不只是回答错误
更深的风险,出现在智能系统能够调用工具、移动资金、影响基础设施、 操作机器或推动不可逆行动的时候。
LERA研究院AGI 控制 · 执行治理
公共研究 · 教育 · 标准导向平台
当 AI 不只是回答问题,而开始调用工具、影响系统、推动现实行动时,真正的控制点 就不只在模型内部,而在执行之前。
LERA 将 AGI 控制重新理解为执行治理:高后果行动在进入执行前,必须经过判断、 授权、责任和规则。
AI 可以提出行动,但是否执行,必须先经过治理。
LERA 治理从“行动提案”到“被许可执行”之间的通道。
更深的风险,出现在智能系统能够调用工具、移动资金、影响基础设施、 操作机器或推动不可逆行动的时候。
系统能够生成答案、计划或命令,并不意味着它天然拥有执行这些行动的正当性。
在高后果系统中,判断、责任、授权和规则不能等到事后追责才出现, 而应当结构性地位于执行之前。
LERA = Linda Energy Reliability Architecture(琳达能源可靠性架构)
LERA 位于推理 / Agent 系统与现实执行之间。 它关注的不是系统“能不能”生成行动方案,而是这个行动方案“是否应当”进入执行。
在 LERA 中,一个行动提案要继续走向执行,需要面对判断、授权、责任和规则。 这也是 LERA 与普通提示、建议或事后审核不同的地方。
知识回答“系统知道什么”。
Agent 推理回答“系统可以做什么”。
LERA处理的是“哪些行动可以进入执行”。
LERA 不声称让模型内部完美,也不保证消除所有错误。它处理的是执行治理层面的问题: 当机器能力接近现实行动时,必须有判断、授权、责任、规则和执行许可站在执行之前。
因此,LERA 的重点不是压制智能,而是防止智能输出在缺少治理的情况下默认变成现实行动。
高后果执行不应在判断与治理缺位的情况下继续发生。
能够行动,不等于拥有行动的正当性。
当必要的判断、治理、责任或规则条件未满足时,高后果执行默认不应继续。
高后果执行不应绕过 LERA 判断—治理层。
以下内容帮助中文读者从定义、架构、研究、术语和常见问题等角度理解 LERA。 部分资料目前仍以英文原文呈现,中文页面将逐步完善。
LERA研究院中文页用于公共理解和教育。LERA 不保证系统绝对安全,也不替代法律、 制度治理、领域专家、人类责任或社会治理。真实系统若要降低风险,仍必须依赖稳定、 正确、适当授权的人类判断,以及法律与社会治理结构。