伦理工程学资料.pdfVIP

伦理工程学：从休谟问题到AI安全

——一种基于信息系统存续的价值-道德-AI操作框架

价值的深层定义

价值是【事物】对于【主体】实现目标的帮助大小。

目标是意识从当前不确定的信息中选择的在想象中能通过自身行为达到的信息补全状态

在信息不确定的约束下，当前时刻的价值量是意识用来引导自身行为，以最大化“所选

终点状态”出现概率的即时边际条件权重。在价值量较大时，我们从直觉上会感受到

【应该/规范性】，只是这种感受并不应该是静态的规范，而是一种较高的可能性，在

当前信念状态和物理约束下，梯度指向何方。

意义是对价值的预期，也就是先验概率（目标/假设的初始信念）

到这里我们发现价值和意义可以放到一个熟悉的公式中：

（环境反馈能力）意义（先验）

价值（后验）

（主体当前存在状态）

好奇心、求知欲是