跳到正文
arXiv · AI· Stine Lyngs{\o} Beltoft, Jonas Vistrup, Peter Schneider-Kamp, Lukas Galke Poech·· 9 天前AI 评分40

主权基础模型的参与式对齐与“活宪法”框架

Living constitutions: Participatory alignment for sovereign foundation models

AI 导读

该研究提出通过参与式过程维护“活宪法”,以解决主权基础模型的对齐难题。 模型宪法被视为类似公民科学的迭代过程,确立了五项原则,允许在75%善意的参与者条件下抵御50%的恶意攻击者。 该方法确保宪法对治理对象保持响应,将持久性分歧记录在案而非强行消除。

来源:arXiv · AI · arxiv.org