AGI 控制是执行控制
真正的风险点出现在智能输出开始影响现实行动的时候。
LERA学院AGI 控制 · 执行治理
核心定义
LERA,即 Linda Energy Reliability Architecture(琳达能源可靠性架构),是一个用于治理执行的判断—治理架构。
这是一份中文解释,用于帮助读者理解 LERA 的公共概念。技术实现以未来技术文档为准。
LERA,即 Linda Energy Reliability Architecture(琳达能源可靠性架构),是用于治理高后果自主系统执行的判断—治理架构。 它的作用不是让 AI 变弱,而是防止智能输出在缺少判断、授权、责任和规则的情况下默认进入执行。
在系统层面,LERA 位于推理 / Agent 系统与执行之间。它治理一个行动提案是否可以继续, 在什么授权下继续,由谁承担责任,并遵循哪些规则。
高后果系统中,机器能力可能比人类判断扩张得更快。LERA 要解决的正是这个结构问题: 当机器能力接近现实行动时,判断和治理必须站在执行边界之前。
真正的风险点出现在智能输出开始影响现实行动的时候。
判断、责任、授权和规则不能只是事后期待,而要位于执行之前。
边界之前,行动仍受治理;越过边界,行动开始产生现实后果。
机器能力不能自动替代人类判断、责任和授权。