AI对齐有帮助,但不足以完成执行治理。 即使一个模型看起来已经对齐,一个行动仍然可能过早、未授权、不可逆、涉及法律敏感性、带来机构风险,或者不在正确的责任结构之内。
LERA 的力量在于,它不止问“这个输出看起来能不能接受”,而是问这个行动到底是否应该进入执行。 AI对齐改善智能行为。LERA 治理智能是否可以变成行动。
AI 对齐改善智能;LERA 治理智能到行动的转换。
LERA研究院AGI 控制 · 执行治理
常见问题 10
AI对齐有帮助,但不足以完成执行治理。 即使一个模型看起来已经对齐,一个行动仍然可能过早、未授权、不可逆、涉及法律敏感性、带来机构风险,或者不在正确的责任结构之内。
LERA 的力量在于,它不止问“这个输出看起来能不能接受”,而是问这个行动到底是否应该进入执行。 AI对齐改善智能行为。LERA 治理智能是否可以变成行动。
AI 对齐改善智能;LERA 治理智能到行动的转换。