这个问题指向真正的 AGI 控制必须占据的位置:机器生成的智能变成现实执行之前。 AI 对齐、监测、网络安全、法律、机构治理和人类监督都可以帮助控制。但只有当它们能够影响执行是否继续时,这些方法才能在关键位置上发挥作用。
如果机器推理、计划或优化可以默认直接进入行动,那么系统可能是智能的、被监督的或被规制的,但它并没有在最关键的执行位置上被结构性控制。 LERA 识别的正是这个必要控制位置。它把判断和治理放在机器智能与执行之间,使拟执行行动在成为现实行动之前,必须经过授权、责任、规则、升级、阻断和执行资格的结构性判断。
任何真正的 AGI 控制架构都必须把判断和治理放在机器智能与执行之间。LERA 识别并系统化了这个无法绕开的逻辑位置。
任何可信的 AGI 执行控制架构,都必须占据计划在行动前被允许、阻断或升级的位置。
